<div dir="ltr"><br><div class="gmail_extra"><br><div class="gmail_quote">On Fri, Jun 30, 2017 at 7:10 PM, Rui Ueyama <span dir="ltr"><<a href="mailto:ruiu@google.com" target="_blank">ruiu@google.com</a>></span> wrote:<br><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div>Hi Sam,</div><div><br></div><div>First, I want to know the symbol resolution semantics. I can imagine that that is set in stone yet, but just that you guys are still discussing what would be the best semantics or file format for the linkable wasm object file. I think by knowing more about the format and semantics, we can give you guys valuable feedback, as we've been actively working on the linker for a few years now. (And we know a lot of issues in existing object file format, so I don't want you guys to copy these failures.)</div><div><br></div>As Sean pointed out, this looks very different from ELF or COFF in object construction. Does this mean the linker has to reconstruct everything? The ELF and COFF linkers are multi-threaded, as each thread can work on different sections simultaneously when writing to an output file. I wonder if it's still doable in wasm.<div><br></div><div>Also, I wonder if there's a way to parallelize symbol resolution. Since there's no linkable wasm programs, we can take a radical approach.</div></div></blockquote><div><br></div><div>Another question for Sam is how many "innovation tokens" the wasm folks are prepared to burn on the object format. E.g. do they not really care as long as it works, or are they willing to invest significant time in designing and optimizing it.</div><div><br></div><div>There's a lot of interesting directions when creating a new object format (this was actually one of the initial goals of LLD, way back at the project's inception!). There are lots of ideas but very little has actually been explored even to the point of knowing that making X change will give Y% speedup. So most (all?) of these things are definitely "research" type work.</div><div><br></div><div>Also, looking at LLD's profile, there actually aren't really many things that immediately stand out as major (order of magnitude) improvements that are possible. The only obvious major thing that sticks out to me would be that if the relocations don't affect "layout" (or the wasm equivalent; e.g. don't require allocating bss or GOT entries), then we do only a single scan over relocations, which is about 30% of the current </div><div><br></div><div>Ultimately we will be limited by disk IO (and if I remember from Rui's presentation, we're only like 4x slower than `cp`) as long as we don't go to a model that allows us to transcend writing the output file to disk in the critical path.</div><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div><br></div><div>Have you ever considered making the file format more efficiently than ELF or COFF so that they are linked really fast? For example, in order to avoid a lot of (possibly very long due to name mangling) symbols, you could store SHA hashes or something so that linkers are able to handle symbols as an array of fixed-size elements.</div><div><br></div></div></blockquote><div><br></div><div>For Sam's benefit, this is something that we've been thinking about for a while, but we don't really know how much speedup it will really give. (and IIRC Chandler said at one point that something like this had been tried at google but the extra per-TU time didn't pay off in the link time or something like that).</div><div><br></div><div>Also, strings are only a big bottleneck (last I checked the profile) in debug info builds and we already know that that's just a fundamental problem due to split dwarf not being ubiquitous for ELF at this point in time. </div><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div></div><div>That is just an example. There are a lot of possible improvements we can make for a completely new file format.</div></div></blockquote><div><br></div><div>I guess one thing that would be good to clarify is the design goal of this wasm linker. (and how interested you are in changing the format at this point)</div><div>If I had to guess, I would guess that ideally the wasm linker would be a drop-in replacement for a standard native linker, so that changes to user build systems is minimal.</div><div><br></div><div>E.g. the linker invocation would want to stay `ld main.o libfoo.a libbar.a ...` just like in the corresponding native link. (although how does wasm handle ar? for LLVM bitcode in LTO, that's always a stumbling block)</div><div><br></div><div>Sam, could you clarify?</div><div><br></div><div>If symbol resolution, "input section" selection, and archive semantics aren't close to that of native linkers, then it would make it difficult to port existing C/C++ apps (every app has e.g. an __attribute__((weak)) in there somewhere, or a C++ inline function so comdat/linkonce is needed, etc.).</div><div><br></div><div>-- Sean Silva</div><div> </div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div class="gmail-HOEnZb"><div class="gmail-h5"><div class="gmail_extra"><br><div class="gmail_quote">On Fri, Jun 30, 2017 at 5:19 PM, Sean Silva via llvm-dev <span dir="ltr"><<a href="mailto:llvm-dev@lists.llvm.org" target="_blank">llvm-dev@lists.llvm.org</a>></span> wrote:<br><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex"><div dir="ltr">Can you link to docs about the wasm object format? (both relocatable and executable)<div><br></div><div>Also, traditional object file linkers are primarily concerned with concatenating binary blobs with small amount of patching of said binary blobs based on computed virtual (memory) addresses. Or perhaps to put it another way, what traditional object file linkers do is construct program images meant to be mapped directly into memory.</div><div><br></div><div>My understanding is that wasm is pretty different from this (though "linker frontend" things like the symbol resolution process is presumably similar). Looking at Writer::run in your patch it seems like wasm is indeed very different. E.g. the linker is aware of things like "types" and knowing internal structure of functions (e.g. write_sig knows about how many parameters a function has)</div><div><br></div><div>Can you elaborate on semantically what the linker is actually doing for wasm?</div><div><br></div><div>-- Sean Silva</div></div><div class="gmail-m_-1159032974598899662HOEnZb"><div class="gmail-m_-1159032974598899662h5"><div class="gmail_extra"><br><div class="gmail_quote">On Fri, Jun 30, 2017 at 4:46 PM, Sam Clegg via llvm-dev <span dir="ltr"><<a href="mailto:llvm-dev@lists.llvm.org" target="_blank">llvm-dev@lists.llvm.org</a>></span> wrote:<br><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">Hi llvmers,<br>
<br>
As you may know, work has been progressing on the experimental<br>
WebAssembly backend in llvm.  However,  there is currently not a good<br>
linking story.  Most the of existing linking strategies (i.e. those in<br>
the emscripten toolchain) involve bitcode linking and whole program<br>
compilation at link time.<br>
<br>
To improve this situation I've been working on adding a wasm backend<br>
for lld.   My current work is here: <a href="https://reviews.llvm.org/D34851" rel="noreferrer" target="_blank">https://reviews.llvm.org/D3485<wbr>1</a><br>
<br>
Although this port is not ready for production use (its missing<br>
several key features such as comdat support and full support for weak<br>
aliases) its already getting a some testing on the wasm waterfall:<br>
<a href="https://wasm-stat.us/builders/linux" rel="noreferrer" target="_blank">https://wasm-stat.us/builders/<wbr>linux</a><br>
<br>
I'm hopeful that my patch may now be at an MVP stage that could be<br>
considered for merging into upstream lld.  Thoughts?  LLD maintainers,<br>
would you support the addition of a new backend?<br>
<br>
cheers,<br>
sam<br>
______________________________<wbr>_________________<br>
LLVM Developers mailing list<br>
<a href="mailto:llvm-dev@lists.llvm.org" target="_blank">llvm-dev@lists.llvm.org</a><br>
<a href="http://lists.llvm.org/cgi-bin/mailman/listinfo/llvm-dev" rel="noreferrer" target="_blank">http://lists.llvm.org/cgi-bin/<wbr>mailman/listinfo/llvm-dev</a><br>
</blockquote></div><br></div>
</div></div><br>______________________________<wbr>_________________<br>
LLVM Developers mailing list<br>
<a href="mailto:llvm-dev@lists.llvm.org" target="_blank">llvm-dev@lists.llvm.org</a><br>
<a href="http://lists.llvm.org/cgi-bin/mailman/listinfo/llvm-dev" rel="noreferrer" target="_blank">http://lists.llvm.org/cgi-bin/<wbr>mailman/listinfo/llvm-dev</a><br>
<br></blockquote></div><br></div>
</div></div></blockquote></div><br></div></div>