<div dir="ltr">On 28 March 2013 09:58, Jiong Wang <span dir="ltr"><<a href="mailto:jiwang@tilera.com" target="_blank">jiwang@tilera.com</a>></span> wrote:<br><div class="gmail_extra"><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left-width:1px;border-left-color:rgb(204,204,204);border-left-style:solid;padding-left:1ex">


  
    
  
  <div text="#000000" bgcolor="#FFFFFF">
    <div>these minor differences accumulated, and thus cause the the final
    digit difference on TILE-Gx and X86/ARM.<br></div></div></blockquote><div><br></div><div>Yup, each architecture accumulates in a slightly different way. That's what's wrong with the code. ;)</div><div>
<br></div><div><br></div><div><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left-width:1px;border-left-color:rgb(204,204,204);border-left-style:solid;padding-left:1ex"><div text="#000000" bgcolor="#FFFFFF">

<div></div>
    And I found in your sqlite3.patch, you are trying to skip those
    tricky float point transformation to keep realvalue untouched. I
    guess it better to assign "temp" after the negative number
    processed. <br></div></blockquote><div></div></div><br></div><div class="gmail_extra">Good point.</div><div class="gmail_extra"><br></div><div class="gmail_extra">Anyway, I've applied both patches and I'm getting round errors like:</div>

<div class="gmail_extra"><br></div><div class="gmail_extra"><div class="gmail_extra">< 9|428249.777777</div><div class="gmail_extra">---</div><div class="gmail_extra">> 9|428249.777776999</div><div><br></div>
<div>Even when I specifically requested "round(avg(b), 6)". (that also happens when I round for 5, 6, 7, 8, etc). I guess the rounding code is expecting broken FP values to work, which I'm not willing to fix.</div>
<div><br></div><div style>Attached is the same patch again, rounding to 5 digits, works on x86 and ARM. Hopefully it'll also work on TILE-Gx.</div><div style><br></div><div style>cheers,</div><div style>--renato</div>

<div><br></div><div><br></div></div></div>