<div dir="ltr"><div dir="ltr"><div dir="ltr">On Tue, Feb 26, 2019 at 4:06 PM Rui Ueyama <<a href="mailto:ruiu@google.com">ruiu@google.com</a>> wrote:<br></div><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left-width:1px;border-left-style:solid;border-left-color:rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="ltr">On Tue, Feb 26, 2019 at 3:31 PM Michael Spencer <<a href="mailto:bigcheesegs@gmail.com" target="_blank">bigcheesegs@gmail.com</a>> wrote:<br></div><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left-width:1px;border-left-style:solid;border-left-color:rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="ltr"><div dir="ltr"><div><div dir="ltr" class="gmail-m_5685656658821512661gmail-m_1491778575332701705gmail_signature">On Tue, Feb 26, 2019 at 2:23 PM Rui Ueyama via llvm-dev <<a href="mailto:llvm-dev@lists.llvm.org" target="_blank">llvm-dev@lists.llvm.org</a>> wrote:<br></div></div></div><div class="gmail_quote"><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left-width:1px;border-left-style:solid;border-left-color:rgb(204,204,204);padding-left:1ex"><div dir="ltr">Hi,<div><br></div><div>I've heard people say that they want to analyze dependencies between object files at the linker level so that they can run a whole-program analysis which cannot be done at the compiler that works for one compilation unit at a time. I'd like to start a discussion as to what we can do with it and how to make it possible. I'm also sharing my idea about how to make it possible.<div><br></div><div><b>Dependency analyses</b></div><div>First, let me start with a few examples of analyses I'm heard of or thinking about. Dependencies between object files can be represented as a graph where vertices are input sections and edges are symbols and relocations. Analyses would work on the dependency graph. Examples of analyses include but not limited to the following:<div><br></div><div> - Figure out why some library or an object file gets linked.</div><div><br></div><div> - Finding a candidate to eliminate dependency by finding a "weak" link to a library. We can for example say the dependency to a library is <i>weak</i> if the library in the graph can be unreachable if we remove <i>N</i> edges from the graph (which is likely to correspond to removing <i>N</i> function calls from the code), where <i>N</i> is a small number.</div><div><br></div><div> - Understanding which of new dependencies increase the executable size the most, compare to a previous build.</div></div><div><br></div><div> - Finding bad or circular dependencies between sub-components.</div><div><br></div><div>There would be many more analyses you want to run at the linker input level. Currently, lld doesn't actively support such analyses. There are a few options to make the linker emit dependency information (e.g. --cref or -Map), but the output of the options is not comprehensive; you cannot reconstruct a dependency graph from the output of the options.</div><div><br></div><div><b>Dumping dependency graph</b></div><div>So, I'm thinking if it would be desirable to add a new feature to the linker to dump an entire dependency graph in such a way that a graph can be reconstructed by reading it back. Once we have such feature, we can link a program with the feature enabled and run any kind of dependency analysis on the output. You can save dumps to compare to previous builds. You can run any number of analyses on a dump, instead of invoking the linker for each analysis.</div><div><br></div><div>I don't have a concrete idea about the file output format, but I believe it is essentially enough to emit triplets of (<from input section>, <symbol>, <to input section>), which represents an edge, to reconstruct a graph.</div><div><br></div><div>Thoughts?</div></div></div></blockquote><div><br></div><div>Back when I worked on the linker I pretty much always had a way to dump a graphviz dot file to look at things.  Pretty much every graph library/tool can read dot files, and they are easy to hack up a parser for.  You can also add attributes to nodes and edges to store arbitrary data.</div></div></div></div></blockquote><div><br></div><div>That's an interesting idea.</div><div><br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left-width:1px;border-left-style:solid;border-left-color:rgb(204,204,204);padding-left:1ex"><div dir="ltr"><div dir="ltr"><div class="gmail_quote"><div>As for what to put it in, it really depends on how detailed it needs to be.  Should symbols and sections be collapsed together?  Should it include relocation types? Symbol types/binding/size/etc?</div></div></div></div></blockquote><div><br></div><div> Maybe everything? We can for example emit all symbols and input sections first, and then emit a graph as the second half of the output. E.g.</div><div><br></div><div>Symbols:</div><div>  <list of symbols></div><div>Sections:</div><div>  <list of sections></div><div>Graph:</div><div> 1 2 3  // 1st section depends on 3rd section via 2nd symbol</div><div> 5 1 4  // likewise</div></div></div></blockquote><div><br></div><div>I suppose it's a question of if we want users to need to also read the inputs if they want things like section size and other section/symbol attributes.  It would be pretty trivial to include that data as long as we have a format/syntax for it.</div><div><br></div><div>dot supports listing nodes first with attributes and then referring to them by name later when listing edges.</div><div><br></div><div>- Michael Spencer</div></div></div></div>