<div dir="ltr"><div>> <span style="font-size:12.8px"> </span><span style="font-size:12.8px">If I were a user, I definitely want the former instead of the latter because the former just provides more.</span></div><div><span style="font-size:12.8px"><br></span></div><div><span style="font-size:12.8px">This is if you wanted to use the library (e.g. embed linker into clang, do parallel linking of many executables from the same process, etc.). For some use cases there's no difference because the only thing you'll do with a library is link it into a command-line executable and run it.</span></div><div><br></div>> <span style="font-size:12.8px">The current design is not the result of a short-sighted choice but the result of a deliberate trade-off.</span><div><span style="font-size:12.8px"><br></span></div><div><span style="font-size:12.8px">I don't really understand where this is coming from, honestly. I understand the frustration of dealing with layers of abstractions that do not fit perfectly within the established framework. I do not understand the resistance to not using global state and propagating errors to the top level.</span></div><div><span style="font-size:12.8px"><br></span></div><div><span style="font-size:12.8px">Arseny</span></div></div><div class="gmail_extra"><br><div class="gmail_quote">On Thu, Jan 21, 2016 at 2:54 PM, Rui Ueyama <span dir="ltr"><<a href="mailto:ruiu@google.com" target="_blank">ruiu@google.com</a>></span> wrote:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr"><div class="gmail_extra"><div class="gmail_quote"><span class="">On Thu, Jan 21, 2016 at 2:15 PM, Arseny Kapoulkine <span dir="ltr"><<a href="mailto:arseny.kapoulkine@gmail.com" target="_blank">arseny.kapoulkine@gmail.com</a>></span> wrote:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr">As a person who started this thread I should probably comment on the interface.<div><br></div><div>My needs only require a library-like version of a command-line interface. Just to be specific, the interface that would work okay is the old high-level lld interface:</div><div><br></div><div>bool link(ArrayRef<const char*> args, raw_ostream& diagnostics)</div><div><br></div><div>This would require round-tripping data through files which is not ideal but is not too bad.</div><div><br></div><div>The ideal version for my cases would be </div><div><br></div><div>bool link(ArrayRef<const char*> args, raw_ostream& diagnostics, ArrayRef<unique_ptr<MemoryBuffer>> inputs)<br></div><div><br></div><div>This is slightly harder to implement since you have to have a layer of argument parsing in the lld command-line driver that separates inputs from other args, but it's probably not too bad.</div><div><br></div><div>So note that the easiest interface that would satisfy my needs is similar to a command-line interface; it should not write errors to stderr and should return on errors instead of aborting. These requirements do not seem like they would severely complicate the design. They also do not seem contentious - there is no risk of overdesigning! I don't see a reason why having this interface would be bad. The only "challenge" really is error propagation, which is mostly an implementation concern and, as mentioned previously, there could be partial solutions where you rely on validity of inputs within reasonable boundaries and/or provide separate validation functions and keep the core of the linker lean.<br></div><div><br></div><div>Also, not all platforms have forking working, or fast process startup times, or any other things that may be used to suggest workarounds for the current situations. I can already invoke system linker using these facilities - lld is (was) attractive *exactly* because it does not require this! (plus it provides more consistent performance, it's way easier to debug/enhance/profile within one process etc. etc.) Honestly, old lld is very much like LLVM in that I can freely use it in my environment, whereas new lld reminds me of my experience integrating mcpp (a C preprocessor) a few years ago into an in-engine shader compiler with all the same issues (exit() on error, stdout, etc.) that had to be worked around by modifying the codebase.</div></div></blockquote><div><br></div></span><div>I'm not going to argue that we don't want to support the library use scenario as we discussed in this thread, but I'd like to point out that it is natural that all users want to have a linker that is usable both as a command and as a library, because if you compare a linker/linker-library with just a linker, the former is precisely a super set of the latter. If I were a user, I definitely want the former instead of the latter because the former just provides more. In that sense, only the developers would argue that there's a good reason to provide less (and that's the case as only Rafael and I were arguing that way). The current design is not the result of a short-sighted choice but the result of a deliberate trade-off. I worked on the old LLD for more than a year, and I made a decision based on that experience. I'm still thinking that that was a good design choice to not start writing the new LLD as a library. Again, we are open to future changes, but it is probably not the right time.</div><div><div class="h5"><div><br></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr"><span><font color="#888888"><div>Arseny</div></font></span></div><div><div><div class="gmail_extra"><br><div class="gmail_quote">On Thu, Jan 21, 2016 at 11:14 AM, Chandler Carruth <span dir="ltr"><<a href="mailto:chandlerc@gmail.com" target="_blank">chandlerc@gmail.com</a>></span> wrote:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><div dir="ltr"><div class="gmail_quote"><span><div dir="ltr">On Thu, Jan 21, 2016 at 10:49 AM Rafael Espíndola <<a href="mailto:rafael.espindola@gmail.com" target="_blank">rafael.espindola@gmail.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">> There are probably others, but this is the gist of it. Now, you could still<br>
> design everything with the simplest imaginable API, that is incredibly<br>
> narrow and specialized for a *single* user. But there are still fundamentals<br>
> of the style of code that are absolutely necessary to build a library. And<br>
> the only way to make sure we get this right, is to have the single user of<br>
> the code use it as a library and keep all the business logic inside the<br>
> library.<br>
><br>
> This pattern is fundamental to literally every part of LLVM, including<br>
> Clang, LLDB, and thus far LLD. I think it is a core principle of the project<br>
> as a whole. I think that unless LLD continues to follow this principle, it<br>
> doesn't really fit in the LLVM project at all.<br>
<br>
The single user so far is the one the people actually coding the<br>
project care for. I seems odd to say that it doesn't fit in the LLVM<br>
project when it has attracted a lot of contributors and hit some<br>
important milestones.<br></blockquote><div><br></div></span><div>I don't think that every open source effort relating to compilers belongs in the LLVM project. I think that they would have to fit with the overarching goals and design of the LLVM project as a whole. This includes, among other things, being modular and reusable.</div><span><div> <br></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">
<br>
> So, I encourage LLD to keep its interfaces highly specialized for the users<br>
> it actually has -- and indeed today that may be exactly one user, the<br>
> command line linker.<br>
<br>
We have a highly specialized api consisting of one function:<br>
elf2::link(ArrayRef<const char *> Args). That fits 100% of the uses we<br>
have. If there is ever another use we can evaluate the cost of<br>
supporting it, but first we need to actually write the linker.<br></blockquote><div><br></div></span><div>Note that I'm perfectly happy with this *interface* today, provided it is genuinely built as a library and can be used in that context. See below.</div><span><div> </div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">
<br>
Note that this is history replaying itself in a bigger scale. We used<br>
to have a fancy library to handle archives and llvm-ar was written on<br>
top of it. It was the worst ar implementation by far. It had horrible<br>
error handling, incompatible options and produced ar files with<br>
indexes that no linker could use.<br>
<br>
I nuked the library and wrote llvm-ar as the trivial program that it<br>
is. To the best of my knowledge it was then the fastest ar in<br>
existence, actually useful (linkers can use it's .a files) and far<br>
easier to maintain.<br></blockquote><div><br></div></span><div>The fact that it was in a library, IMO, is completely orthogonal from the fact that the design of that library ended up not working.</div><div><br></div><div>Bad library code is indeed bad. That doesn't mean that it is terrible hard to write good library code, as you say:</div><span><div><br></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">
<br>
When the effort to support windows came up, there was a need to create<br>
archives from within lld since link.exe can run lib.exe. The<br>
maintainable code was easy to refactor into one library function<br>
llvm::writeArchive. If another use ever show up, we evaluate it. If<br>
not, we keep the very narrow interface.<br></blockquote><div><br></div></span><div>Yes, +1 to narrow interface, but I think it should always be *in a library*. That impacts much more than just the interface.</div><span><div> </div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">
<br>
> Finally, I will directly state that we (Google) have a specific interest in<br>
> both linking LLD libraries into the Clang executable rather than having<br>
> separate binaries, and in invoking LLD to link many different executables<br>
> from a single process. So there is at least one concrete user here today.<br>
> Now, the API we would need for both of these is *exactly* the API that the<br>
> existing command line linker would need. But the functionality would have to<br>
> be reasonable to access via a library call.<br>
<br>
Given that clang can fork, I assume that this new clang+lld can fork.<br></blockquote><div><br></div></span><div>No, it cannot in all cases. We have genuine use cases where forking isn't realistically an option. As an example, imagine that you want to use something like ClangMR (which I presented ages ago) but actually *link* code massively at scale to do post-link analysis of the binaries? There are environments where we need to be able to run the linker on multiple different threads in a single address space and collect the linked object in an in-memory buffer.</div><div><br></div><div>Also, one of the other possible motivations of using LLD directly from Clang would be to avoid process overhead on operating systems where that is a much more significant part of the compile time cost. We could today actually take the fork out of the Clang driver because the Clang frontend *is* designed in this way. But we would also need LLD to work in this way.</div></div></div>
</blockquote></div><br></div>
</div></div></blockquote></div></div></div><br></div></div>
</blockquote></div><br></div>