<html><head><meta http-equiv="Content-Type" content="text/html charset=us-ascii"></head><body style="word-wrap: break-word; -webkit-nbsp-mode: space; -webkit-line-break: after-white-space;" class="">Hi Neil,<div class=""><br class=""><div><blockquote type="cite" class=""><div class="">On Apr 20, 2016, at 5:20 AM, Neil Henning via llvm-dev <<a href="mailto:llvm-dev@lists.llvm.org" class="">llvm-dev@lists.llvm.org</a>> wrote:</div><br class="Apple-interchange-newline"><div class="">
  

    <meta http-equiv="content-type" content="text/html; charset=utf-8" class="">
  
  <div text="#000000" bgcolor="#FFFFFF" class="">
    TL;DR - when linking from a lazily loaded module and using
    Linker::LinkOnlyNeeded, bodies of used functions aren't being copied
    during linking.<br class="">
    <br class="">
    Previously on one of our products, we would lazily load our runtime
    module (around 9000 functions), and link some user module into this
    (which is in all practical use cases much smaller).</div></div></blockquote><div><br class=""></div><div>It sounds reverse to what I would intuitively do (i.e. load the runtime into my module).</div><br class=""><blockquote type="cite" class=""><div class=""><div text="#000000" bgcolor="#FFFFFF" class=""> Then, post
    linking, we have a pass that runs over the module and rips out all
    the un-materialized functions that weren't being used in the
    original user module.<br class="">
    <br class="">
    I only just noticed that LinkModules has a flags parameter that can
    take a LinkOnlyNeeded flag, which made me wonder if I could reverse
    the link order (EG. link from the lazily loaded runtime module into
    the user module), set the LinkOnlyNeeded flag, and hey presto, we
    wouldn't need to have a cleanup pass that ran afterwards ripping out
    functions that weren't used.<br class="">
    <br class="">
    So I tried it, and it failed. Basically any function that was still
    to be materialized wasn't getting its body copied over during
    linking.<br class="">
    <br class="">
    The only line of code that differs when you set LinkOnlyNeeded is in
    LinkModules.cpp -> ModuleLinker::linkIfNeeded:<br class="">
    <br class="">
    <pre class="">if (shouldLinkOnlyNeeded() && !(DGV && DGV->isDeclaration()))
    return false;
</pre>
    <br class="">
    The isDeclaration() for functions has a call to isMaterializable().<br class="">
    <br class="">
    Things I've tried:<br class="">
    <ul class="">
      <li class="">If I don't pass LinkOnlyNeeded but still link from the lazily
        loaded runtime module into the user module, it works (albeit it
        is orders of magnitude slower like we'd expect).</li>
      <li class="">If I don't lazily load the runtime module, it works (but
        again, much slower).</li>
      <li class="">I tried doing the linking and then materializing the newly
        linked module, but the runtime functions were still missing
        their bodies (which implies the information was lost during
        linking).<br class="">
      </li>
      <li class="">If I hack the LinkModules.cpp code such that it checks if the
        DGV could be materialized, and if so materialize it, before
        checking for a declaration again, it works:</li>
    </ul>
    <pre class="">if (shouldLinkOnlyNeeded() && !(DGV && DGV->isDeclaration())) {
    if (DGV && DGV->isMaterializable())
        DGV->materialize();

    if (!(DGV && DGV->isDeclaration()))
        return false;
}
</pre></div></div></blockquote><div><br class=""></div><div>DGV is the GlobalValue in the *destination* Module, it is not clear to me how materializing has an effect on the *source* Module.</div><div>I am probably missing something here...</div><br class=""><blockquote type="cite" class=""><div class=""><div text="#000000" bgcolor="#FFFFFF" class=""><p class="">Even with the extra cost of the hack above - this has resulted in
      a 2x speedup in our total link time.<br class="">
    </p><p class="">So really here I am wondering - is this expected behaviour? A
      bug? And if so how best to go about fixing the issue would be some
      grand advice from people more in the know!<br class=""></p></div></div></blockquote><div>The linker was written before Module was lazy loaded I think. Many pieces in LLVM assume things their working on are materialized.</div><div>On a side note (a bit off-topic), I wonder if `isDeclaration()` should return false for materializable function?</div><div><br class=""></div><div>CC Rafael, who knows this code better.</div><div><br class=""></div><div>-- </div><div>Mehdi</div><div><br class=""></div><div><br class=""></div></div></div></body></html>