<div dir="ltr"><div class="gmail_extra"><div class="gmail_quote">On Fri, Dec 16, 2016 at 11:18 AM, Pete Cooper <span dir="ltr"><<a href="mailto:peter_cooper@apple.com" target="_blank">peter_cooper@apple.com</a>></span> wrote:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div style="word-wrap:break-word">Hi Rui<div><br></div><div>I agree separating the components out in to libraries only makes sense when there is a clear reason to do so.  However, just this year there was a very involved discussion about what it means to be a library.  Specifically, I don't think your current 'main-as-library' argument is valid while you call exit or (if you) rely on mutable global state.  Having a single entry point via a main function is fine, but that function cannot then kill the process which its linked in to.</div></div></blockquote><div><br></div><div>Our main function returns as long as input object files are not corrupted. If you are doing in-memory linking, I think it is unlikely that the object files in memory are corrupted (especially when you just created them using LLVM), so I think this satisfies most users needs in practice. Do you have a concern about that?</div><div><br></div><div>For the situation that you need to handle foreign object files in the same process (I'd recommend you to sandbox a process in that case though), we can write a verifier to check for file correctness rigorously so that we can guarantee that object files are as trustworthy as freshly-created object files. I think this feature is a reasonable addition to the linker.</div><div><br></div><div>As to the mutable shared state, my current (unproved) idea is to make them thread local variables. Since no one yet has come up to say "hey, we are actually trying to run multiple instances of the linker in the same process simultaneously but LLD doesn't allow that", that's not implemented yet, but technically I think it's doable, and that's needless to say a reasonable feature request.</div><div><br></div><div>As I repeatedly said in the thread that speed is not the only goal for us. Honestly, it's going to be the best selling point of LLD, because most people do not use that many linker features but just use it to create executables (and sometimes wait for a long period of time). I reported about the performance in this thread because I thought people would be happy to hear the speed improvement we've made this year. Also, because I was happy about that, I probably emphasized that too much. But that's not our single goal.</div><div><br></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div style="word-wrap:break-word"><div>If you want  context then the relevant piece of the thread is <a href="http://lists.llvm.org/pipermail/llvm-dev/2016-January/093760.html" target="_blank">http://lists.llvm.org/<wbr>pipermail/llvm-dev/2016-<wbr>January/093760.html</a>.</div><div><br></div><div>Arseny summarized things very well there, so i'll just quote him at the end here.  I understand that you and others want to first write a fast linker tool and i don't think anyone has any problem with that, but there is also a clear desire from folks to have it be usable as a library and I would hope any patches to do so are accepted, even if they make the code more complex, or slower.</div><div><br></div><div><pre style="white-space:pre-wrap;background-color:rgb(255,255,255)">>>><i> On Thu, Jan 7, 2016 at 7:03 AM, Arseny Kapoulkine via llvm-dev <
</i>>>><i> <a href="http://lists.llvm.org/cgi-bin/mailman/listinfo/llvm-dev" target="_blank">llvm-dev at lists.llvm.org</a>> wrote:
</i>>>><i>
</i>>>>><i> In the process of migrating from old lld ELF linker to new (previously
</i>>>>><i> ELF2) I noticed the interface lost several important features (ordered by
</i>>>>><i> importance for my use case):
</i>>>>><i>
</i>>>>><i> 1. Detecting errors in the first place. New linker seems to call
</i>>>>><i> exit(1) for any error.
</i>>>>><i>
</i>>>>><i> 2. Reporting messages to non-stderr outputs. Previously all link
</i>>>>><i> functions had a raw_ostream argument so it was possible to delay the error
</i>>>>><i> output, aggregate it for multiple linked files, output via a different
</i>>>>><i> format, etc.
</i>>>>><i>
</i>>>>><i> 3. Linking multiple outputs in parallel (useful for test drivers) in a
</i>>>>><i> single process. Not really an interface issue but there are at least two
</i>>>>><i> global pointers (Config & Driver) that refer to stack variables and are
</i>>>>><i> used in various places in the code.
</i>>>>><i>
</i>>>>><i> All of this seems to indicate a departure from the linker being useable
</i>>>>><i> as a library. To maintain the previous behavior you'd have to use a linker
</i>>>>><i> binary & popen.</i></pre><span class="HOEnZb"><font color="#888888"><div>Pete</div></font></span></div><div><div class="h5"><div><div><blockquote type="cite"><div>On Dec 16, 2016, at 10:15 AM, Rui Ueyama via llvm-dev <<a href="mailto:llvm-dev@lists.llvm.org" target="_blank">llvm-dev@lists.llvm.org</a>> wrote:</div><br class="m_4520725906270749047Apple-interchange-newline"><div><div dir="ltr"><div>I talked several people and found that this is more like a communication issue rather than a technical/philosophical issue. I believe communication problems won't solve themselves. As a person who is on the owners file of LLD, I think I need to say something about that issue. Also, I guess people who were just watching this thread wondered why my happy pre-holiday status report suddenly turned into a heated discussion, and they are probably still wondering what's wrong with LLD. I want to address that, too.</div><div><br></div><div>So, as a project, there is no anti-library policy in LLD. I think this is the misunderstanding one side had. We already provide main-as-a-library feature so that you can embed the linker to your program. We as a project welcome other ideas to export linker features at a well-defined boundary. For example, I think abstracting the file system access so that you can hook file operations could be a well-defined, useful API for those who want to do in-memory linking (I expressed that opinion already in this thread). Just like LLVM, we won't guarantee API compatibility between releases, and we are unlikely to be able to expose deep internals of the linker, but as long as you think you found a reasonable coarse API boundary, there should be nothing preventing you from bringing that to the table.</div><div><br></div><div>On the other hand, as far as I talked, no one who is on the "library" side requested LLD expose deep internals. This is the misunderstanding the other side had. If we as a project said that LLD should not support any library interface at all, they would be upset and speak out loudly, but again, that's not a project policy.</div><div><br></div><div>So, correct me if I'm wrong, but I don't see no serious conflicts here. The conflict I saw in the thread is I believe superficial, and I strongly believe that it could have been addressed calmly and nicely if we have used more words to explain thoughts instead of small number of strong words.</div><div><br></div><div>Hope this helps.</div><div><br></div><div>Rui</div></div><div class="gmail_extra"><br><div class="gmail_quote">On Fri, Dec 16, 2016 at 1:40 AM, George Rimar via llvm-dev <span dir="ltr"><<a href="mailto:llvm-dev@lists.llvm.org" target="_blank">llvm-dev@lists.llvm.org</a>></span> wrote:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><span>>I am on PTO, so slow to respond.<br>
><br>
>Some items that are left:<br>
><br>
>* Debug fission<br>
>* Single file debug fission<br>
>* Range extension thunks<br>
>* All of freebsd links and works<br>
>* Very good performance when all that is in<br>
<br>
</span>Looks we have initial version of debug fusion implemented.<br>
r289790, r289810 commits from yesterday did the rest of main job I believe.<br>
I do not know what is "Single file debug fission" ? (quick googling gives nothing and I never heard about that before I think)<br>
<br>
George.<br>
<div class="m_4520725906270749047HOEnZb"><div class="m_4520725906270749047h5">______________________________<wbr>_________________<br>
LLVM Developers mailing list<br>
<a href="mailto:llvm-dev@lists.llvm.org" target="_blank">llvm-dev@lists.llvm.org</a><br>
<a href="http://lists.llvm.org/cgi-bin/mailman/listinfo/llvm-dev" rel="noreferrer" target="_blank">http://lists.llvm.org/cgi-bin/<wbr>mailman/listinfo/llvm-dev</a><br>
</div></div></blockquote></div><br></div>
______________________________<wbr>_________________<br>LLVM Developers mailing list<br><a href="mailto:llvm-dev@lists.llvm.org" target="_blank">llvm-dev@lists.llvm.org</a><br><a href="http://lists.llvm.org/cgi-bin/mailman/listinfo/llvm-dev" target="_blank">http://lists.llvm.org/cgi-bin/<wbr>mailman/listinfo/llvm-dev</a><br></div></blockquote></div><br></div></div></div></div></blockquote></div><br></div></div>