<div dir="ltr">+Iain Sandoe, who has been looking at C++ Modules implementation issues in Clang.<br><div><br></div><div>I think it would make sense to be able to emit a "cut-down" pcm file that omits information that an importer of the module never needs (such as definitions of non-inline functions), in order to keep the file sizes smaller. However, that alone won't be enough to avoid rebuilds when the .cppm files change -- we also encode source location information in the pcm file that would be invalidated whenever implementation details change -- or at least whenever they change size. In principle, there are techniques we could use here to avoid rebuilds when only those locations change, such as splitting the location information out into a separate file that is not listed as a dependency of downstream compilations (eg, according to -M), but that would need investigation.</div><div><br></div><div>Another promising idea that has not been investigated is the possibility of generating two different pcm's for each module: one containing only cut-down 'forward declaration'-level information (no class definitions, no inline function bodies, and so on), and one containing full information. The idea would be that we initially load only the cut-down version, and pull in the full information (and include the additional file as a dependency according to -M) only if the dependent compilation needs that information. Then we can avoid rebuilds if (for example) a class definition in a module interface changes but the consumers of that module interface didn't actually use the class definition.</div><div><br></div><div>But I don't think anyone has done any work to implement these approaches.</div></div><br><div class="gmail_quote"><div dir="ltr" class="gmail_attr">On Tue, 17 Nov 2020 at 13:46, David Blaikie <<a href="mailto:dblaikie@gmail.com">dblaikie@gmail.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0px 0px 0px 0.8ex;border-left:1px solid rgb(204,204,204);padding-left:1ex">I don't think anyone's actively looking at this right now - perhaps<br>
partly because there's still significant benefit to separating the<br>
interface and implementation, even when using modules (no extraneous<br>
rebuilds when you change the implementation - even if that rebuild<br>
only rebuilds the interface and then you have a hash (rather than<br>
timestamp) based build system that finds the interface to be identical<br>
and so nothing else downstream is touched). Also at least with Clang's<br>
model, I think the idea is to build the object file from the pcm<br>
rather than from the cppm file. Though the possibility of having two<br>
output files has some potential benefits, to be sure - I /think/ maybe<br>
MSVC is doing something more like that two file model, but I don't<br>
know for sure.<br>
<br>
On Tue, Nov 17, 2020 at 4:51 AM Büke Beyond via cfe-dev<br>
<<a href="mailto:cfe-dev@lists.llvm.org" target="_blank">cfe-dev@lists.llvm.org</a>> wrote:<br>
><br>
> Dear LLVM team,<br>
><br>
> I am new.  Please forgive me for a bit, if I bump into any established protocol.<br>
><br>
> I was referred to this mailing list to infer about the direction of the C++20 Modules, as we are considering an evolution of our codebase to the feature.<br>
><br>
> First let me reiterate some appreciation for what your team is doing for the world of computer science with the outstanding and pioneering work on clang.  We have successfully switched our codebase from MSVC to clang for the superior code generation and the most modern features of C++.  We have on average, doubled our compilation speed, tripled our execution speed, and halved the binary size. We have converted to C++20 Concepts from old SFINAE hacks, use direct builtins for modern instructions, and continue to marvel at the excellence of SIMD vectorization.<br>
><br>
> Our work is focused on exploring algorithmic frontiers in film and pro audio production.  Artistic quality, precision and execution speed are paramount.  This type of  algorithm research and development typically demands fast iteration of the implementation code, often a few formulaic pages of DSP, rapidly changing to meet the speed and quality needs of the production team.  The interface to consuming that code changes much less often.<br>
><br>
> Our question is about the current encoding of the pcm files generated from the module cppm files.  We envision accelerating and simplifying development by converging most h files and cpp files into single module files.  Currently, clang can compile a cppm file to a pcm file, to be consumed by the module importing code and the code editor enhancement clangd.<br>
><br>
> The implementation code is inside the module, inplace (not to be confused with the inline keyword for function inlining).  The cppm file can be independently compiled to an object file and normally linked to produce function calls from consumers.<br>
><br>
> The current naive build systems can use the pcm file as a dependency, when the interface and layout of the classes change inside the module, to trigger efficient recompilations of the consuming code.<br>
><br>
> However, we have observed that the pcm file is growing in size as the inplace implementation code is growing in size.  We envisioned the pcm would only extract the class interface and the memory layout, but that does not seem to be the case.  Perhaps, it would take more LLVM effort to extract and isolate that from the AST tree.<br>
><br>
> This of course has the unfortunate side effect of triggering redundant rebuilds of large portions of the codebase, making the iteration times unacceptable versus older conventions.  The older conventions of splitting .h and .cpp files involve repeating yourself, wasting developer focus on simultaneously editing and managing of 2 files at once, and often resorting to messy pimpl techniques that have to heap allocate a backend and manage 2 references throughout the formulas, etc.  Considering these overheads, there are 100s and an ever growing number of small and large plugins (modular effects) that can benefit from convergence to modules as single and succinct files focusing on clean formulation.<br>
><br>
> Are there any future plans at LLVM, the pcm files may encode the interface only?  Or are there any tools and functions you can recommend to extract the module interface to signal the build system more efficiently?<br>
><br>
> Thank you for your time.<br>
><br>
> Sincerely,<br>
> Büke Beyond<br>
> _______________________________________________<br>
> cfe-dev mailing list<br>
> <a href="mailto:cfe-dev@lists.llvm.org" target="_blank">cfe-dev@lists.llvm.org</a><br>
> <a href="https://lists.llvm.org/cgi-bin/mailman/listinfo/cfe-dev" rel="noreferrer" target="_blank">https://lists.llvm.org/cgi-bin/mailman/listinfo/cfe-dev</a><br>
</blockquote></div>