<div dir="ltr"><br><div class="gmail_extra"><br><br><div class="gmail_quote">On Thu, Oct 3, 2013 at 2:06 PM, David Blaikie <span dir="ltr"><<a href="mailto:dblaikie@gmail.com" target="_blank">dblaikie@gmail.com</a>></span> wrote:<br>
<blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr"><br><div class="gmail_extra"><div class="gmail_quote"><div class="im"><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">
<div dir="ltr"><div class="gmail_extra"><div class="gmail_quote">
<div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr"><div class="gmail_extra"><div class="gmail_quote"><div>3GB memory reduction for xalan built with lto -g (without removing DIE duplication, the memory usage is 7GB)</div>

</div></div></div></blockquote><div><br></div></div><div>OK, so you're looking at memory usage during LTO, not the size of the resulting debug info? (that's fine, just trying to understand exactly what metrics you're targeting)</div>

</div></div></div></blockquote><div><br></div></div><div>One thought I had (and just discussed with Eric - he seemed to think it was plausible, at least):<br><br>If you're interested in reducing peak memory usage of LLVM during LTO, have you considered modifying debug info generation not to cache all the compile_units before emitting them? If we emitted one CU at a time as they were created I imagine the memory footprint would be much lower.<br>
</div></div></div></div></blockquote><div><br></div><div>Yes, that is on my todo list after type uniquing is done. Right now, we don't release any memory and we have layers of memory usage related to debug info: MDNodes, DIEs and some data in MC layer.</div>
<div> All these layers exist for the whole program with LTO.</div><div><br></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr"><div class="gmail_extra">
<div class="gmail_quote"><div>
<br>(and we could still, potentially, add the type cross-referencing by just caching the section offsets or labels, etc, of the types emitted in prior units - though that wouldn't be perfect for types that contain some members (implicit special members) in one CU and a different set of members in another CU (and it'll be a bit trickier for type units - we'd need to cache any subgraph of potentially self-referencing type units until all the signatures are resolved, then they could all be emitted))<br>

<br>This isn't necessarily a place you should start with - I can appreciate that your current approach is probably higher value to you for lower engineering cost (and thus gets you closer sooner) but if it's still not going to be sufficient for your needs, especially if you're going to have to implement something like emit-CU-at-a-time as I describe above anyway, it might be more valuable to lay that foundation first.<br>
</div></div></div></div></blockquote><div><br></div><div>Even if we emit one CU at a time, it is still good to share the types across-CU so we don't waist time constructing the type DIEs for each CU, and this approach (remove DIE duplication) also reduces the raw DWARF size.</div>
<div> </div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr"><div class="gmail_extra"><div class="gmail_quote"><div>
<br>If not, I'd still probably like to discuss the design of the cross-CU referencing work you have here to decide on the right design in a normal patch review process rather than trying to think about how the current code can be morphed into a better design.</div>
</div></div></div></blockquote><div><br></div><div>What other designs do you have in mind?</div><div><br></div><div>Manman </div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">
<div dir="ltr"><div class="gmail_extra"><div class="gmail_quote"><div><span class="HOEnZb"><font color="#888888"><br>
<br>- David <br></font></span></div></div></div></div>
</blockquote></div><br></div></div>