
<p class="MsoPlainText"><span lang="EN-US" style="color:#2F5597">Hello,<o:p></o:p></span></p>


<p class="MsoPlainText"><span lang="EN-US" style="color:#2F5597"> </span></p>


<p class="MsoPlainText"><span lang="EN-US" style="color:#2F5597">We have one

question about the clang compiler option: -fsanitize=address. (We want to use

the feature to detect potential bug in out c++ design.)<o:p></o:p></span></p>


<p class="MsoPlainText"><span lang="EN-US" style="color:#2F5597">However, when

using clang to compile our two cases with this option, one case error out with

following message:<o:p></o:p></span></p>


<p class="MsoPlainText"><span lang="EN-US"> </span></p>


<p class="MsoPlainText"><span lang="EN-US">==31183==ERROR: AddressSanitizer <b><span style="color:red">failed to allocate 0x400000000</span></b> (17179869184) bytes

at address 67fff8000 (errno: 12)<o:p></o:p></span></p>


<p class="MsoPlainText"><span lang="EN-US">==31183==ReserveShadowMemoryRange failed

while trying to map 0x400000000 bytes. Perhaps you're using ulimit </span><span lang="EN-US" style="font-family:"Courier New"">иC</span><span lang="EN-US">v<o:p></o:p></span></p>


<p class="MsoPlainText"><span lang="EN-US"> </span></p>


<p class="MsoPlainText"><span lang="EN-US" style="color:#2F5597">The other case

error out with following message:<o:p></o:p></span></p>


<p class="MsoPlainText"><span lang="EN-US">==30711==ERROR: AddressSanitizer: <b><span style="color:red">stack-buffer-overflow</span></b> on address 0x7fff8a931dcd at

pc 0x000000861eec bp 0x7fff8a9303f0 sp 0x7fff8a9303e8<o:p></o:p></span></p>


<p class="MsoPlainText"><span lang="EN-US">READ of size 1 at 0x7fff8a931dcd thread

T0<o:p></o:p></span></p>


<p class="MsoPlainText"><span lang="EN-US">    #0 0x861eeb in

ap_private<8, false, true>::RType<32, true>::mult ap_private<8,

false, true>::operator*<32, true>(ap_private<32, true,

(32)<=(64)> const&) const

(/wrk/xbj_vdi/fangqing/work/sprite/hls/BugSpray/crs/810730/hscale/solution1/csim/build/csim.exe+0x861eeb)<o:p></o:p></span></p>


<p class="MsoPlainText"><span lang="EN-US">    #1 0x7d717f in

ap_private<8, false, (8)<=(64)>::RType<32, true>::mult operator*<8,

false>(ap_private<8, false, (8)<=(64)> const&, int)

(/wrk/xbj_vdi/fangqing/work/sprite/hls/BugSpray/crs/810730/hscale/solution1/csim/build/csim.exe+0x7d717f)<o:p></o:p></span></p>


<p class="MsoPlainText"><span lang="EN-US">    </span><span lang="EN-US" style="font-family:"Courier New"">бн</span><span lang="EN-US"><o:p></o:p></span></p>


<p class="MsoPlainText"><span lang="EN-US">    #6 0x3099a1d9c3 in

__libc_start_main (/lib64/libc.so.6+0x3099a1d9c3)<o:p></o:p></span></p>


<p class="MsoPlainText"><span lang="EN-US">    #7 0x4c3648 in _start

(/wrk/xbj_vdi/fangqing/work/sprite/hls/BugSpray/crs/810730/hscale/solution1/csim/build/csim.exe+0x4c3648)<o:p></o:p></span></p>


<p class="MsoPlainText"><span lang="EN-US"> </span></p>


<p class="MsoPlainText"><span lang="EN-US">Address 0x7fff8a931dcd is located in

stack of thread T0 at offset 1549 in frame<o:p></o:p></span></p>


<p class="MsoPlainText"><span lang="EN-US">    #0 0x78628f in

hscale_core(hls::stream<HSC_MPIX_STRUCT>&, ap_uint<4>,

ap_uint<16>, ap_uint<16>, ap_uint<16>, ap_uint<32>,

ap_uint<2>, ap_int<16> (*) [8],

hls::stream<HSC_MPIX_STRUCT>&)

(/wrk/xbj_vdi/fangqing/work/sprite/hls/BugSpray/crs/810730/hscale/solution1/csim/build/csim.exe+0x78628f)<o:p></o:p></span></p>


<p class="MsoPlainText"><span lang="EN-US"> </span></p>


<p class="MsoPlainText"><span lang="EN-US">  This frame has 215 object(s):<o:p></o:p></span></p>


<p class="MsoPlainText" style="text-indent:21.6pt"><span lang="EN-US">[32, 33)

'RegSmplsPerClk'<o:p></o:p></span></p>


<p class="MsoPlainText" style="text-indent:21.6pt"><span lang="EN-US">[48, 49)

'RegBitsPerCol'<o:p></o:p></span></p>


<p class="MsoPlainText" style="text-indent:21.6pt"><span lang="EN-US">[64, 66)

'TotalLines'<o:p></o:p></span></p>


<p class="MsoPlainText" style="text-indent:21.6pt"><span lang="EN-US" style="font-family:"Courier New"">бн</span><span lang="EN-US"><o:p></o:p></span></p>


<p class="MsoPlainText" style="text-indent:15.75pt"><span lang="EN-US">[1552, 1553)

'ref.tmp65' <== Memory access at offset 1549 underflows this variable<o:p></o:p></span></p>


<p class="MsoPlainText" style="text-indent:21.0pt"><span lang="EN-US">[1568, 1569)

'ref.tmp68'<o:p></o:p></span></p>


<p class="MsoPlainText" style="text-indent:21.0pt"><span lang="EN-US" style="font-family:"Courier New"">бн</span><span lang="EN-US"><o:p></o:p></span></p>


<p class="MsoPlainText" style="text-indent:21.0pt"><span lang="EN-US"> </span></p>


<p class="MsoPlainText"><span lang="EN-US" style="color:#2F5597">Both of them can

be compiled successfully and run correctly when compiled with clang without

this addrsanitizer option. However both of them failed when add this option.<o:p></o:p></span></p>


<p class="MsoPlainText"><span lang="EN-US" style="color:#2F5597">From the error

message we can see AddressSanitizer need to allocate a very large memory (about

16G byte) from heap memory pool (1<sup>st</sup> case), or occupy large stack

memory and cause stack-buffer-overflow (2<sup>nd</sup> case). (ulimit </span><span lang="EN-US" style="font-family:"Courier New";color:#2F5597">иC</span><span lang="EN-US" style="color:#2F5597">v shows unlimited)<o:p></o:p></span></p>


<p class="MsoPlainText"><span lang="EN-US" style="color:#2F5597">So our question is

it is this feature</span><span lang="EN-US" style="font-family:"Courier New";

color:#2F5597">бп</span><span lang="EN-US" style="color:#2F5597">s shortcoming or

there is something wrong with our development environment?<o:p></o:p></span></p>


<p class="MsoPlainText"><span lang="EN-US" style="color:#2F5597">Thanks!</span></p><p class="MsoPlainText"><span lang="EN-US" style="color:#2F5597"><br></span></p><p class="MsoPlainText"><span lang="EN-US" style="color:#2F5597">Kang </span></p><br><br><br><br><br><br>