<html><head></head><body style="word-wrap: break-word; -webkit-nbsp-mode: space; -webkit-line-break: after-white-space; "><div><div>On Jul 12, 2011, at 10:07 PM, Evan Cheng wrote:</div><br class="Apple-interchange-newline"><blockquote type="cite"><div bgcolor="#FFFFFF"><div>If builtin expects may end up disabling some optimizations, that indicates llvm should lower than early in compilation before any optimization passes. </div><div><br></div><div>Evan<br><br>On Jul 12, 2011, at 4:01 PM, Andrew Trick <<a href="mailto:atrick@apple.com">atrick@apple.com</a>> wrote:<br><br></div><div></div><blockquote type="cite"><div><div><div>On Jul 12, 2011, at 2:24 PM, Jakub Staszak wrote:</div><br class="Apple-interchange-newline"><blockquote type="cite"><div style="word-wrap: break-word; -webkit-nbsp-mode: space; -webkit-line-break: after-white-space; ">Hi Andy,</div><div><br></div>Optimizations can always be harmed by intrinsics (e.g. Instruction Combiner). Because of that we remove expect intrinsics at the same beginning before any optimizations.<div><br><div>
<span class="Apple-style-span" style="border-collapse: separate; font-family: Helvetica; font-style: normal; font-variant: normal; font-weight: normal; letter-spacing: normal; line-height: normal; orphans: 2; text-align: -webkit-auto; text-indent: 0px; text-transform: none; white-space: normal; widows: 2; word-spacing: 0px; -webkit-border-horizontal-spacing: 0px; -webkit-border-vertical-spacing: 0px; -webkit-text-decorations-in-effect: none; -webkit-text-size-adjust: auto; -webkit-text-stroke-width: 0px; font-size: medium; "><div>-Kuba</div></span>
</div>
</div></blockquote><div><br></div><div>Part of the answer to my question is that the intrinsic replaces the uses of the original value. Naturally that's a serious problem for anyone following the def-use chain. I'm not sure why you wanted to define the intrinsic that way. Presumably because we can't pin it to a block?</div><div><br></div><div>Ideally you want a positional intrinsic interpreted as such: the value operand takes on the expected constant on any path dominated by the intrinsic. There should be no need to violate the def-use chain.</div><div><br></div><div>-Andy</div></div></div></blockquote></div></blockquote><div><br></div><div>My previous message was a bit abstract. Below is an example of what I</div><div>had assumed expect intrinsics would typically look like:</div><div><br></div><div>%value = ...</div><div>...</div><div>br i1 %predicate, label %block... ;</div><div><br></div><div>block:</div><div>  call void llvm.expect(%value, N)</div><div>  %cmp = icmp ne %value, N</div><div>  br %cmp ...</div><div><br></div><div>Interpretation: %value is expected to be N whenever %predicate is</div><div>true. The llvm.expect intrinsic should have an implicit control</div><div>dependence on %predicate, but should not affect code motion or</div><div>optimization in any other way. If defined this way, I would be curious</div><div>what optimizations are affected. Clearly some additional framework</div><div>would be helpful, such as recognizing these sort of intrinsics as</div><div>"phantom" uses that aren't themselves DCE'd but don't affect DCE of</div><div>their operands.</div><div><br></div><div><div>I have two reasons for bringing this up</div><div><br></div><div><div>1) branch_weight meta-data has a host of its own problems. It was not</div><div>   intended to be used by anyone except BranchProbability, and only</div><div>   proposed as a way to make information provided by the front-end</div><div>   persistent. Adding new intrinsics generally stinks, but it is much</div><div>   better than dealing with branch_weight meta-data. Using both</div><div>   results in the worst of both worlds and additionally requires a</div><div>   gratuitous new lowering pass (I'm already annoyed by the new</div><div>   -debug-pass output).</div></div><div><br></div><div>2) The need for intrinsics-as-meta-data is felt far beyond branch</div><div>   profiling, so it's a problem worth solving right. By "meta-data" I</div><div>   don't necessarilly mean optional data, but auxiliary information</div><div>   about another value that is tied to control flow.</div></div><div><br></div><div>-Andy</div><div><br></div><blockquote type="cite"><div bgcolor="#FFFFFF"><blockquote type="cite"><div><div><br><blockquote type="cite"><div style="word-wrap: break-word; -webkit-nbsp-mode: space; -webkit-line-break: after-white-space; ">On Jul 12, 2011, at 2:01 PM, Andrew Trick wrote:</div><br class="Apple-interchange-newline"><blockquote type="cite"><div style="word-wrap: break-word; -webkit-nbsp-mode: space; -webkit-line-break: after-white-space; "><br><div><div>On Jul 7, 2011, at 1:48 PM, Jakub Staszak wrote:</div><blockquote type="cite"><div style="word-wrap: break-word; -webkit-nbsp-mode: space; -webkit-line-break: after-white-space; ">Right now clang creates "expect" intrinsic for every __builtin_expect instruction. These intrinsics must be lowered early because in other case they can harm other optimizations. During the lowering we also create "branch_weight" metadata, which can be used by other optimizations using BranchProbability analysis.</div></blockquote><div><br></div><div>Kuba,</div><div><br></div><div>Which optimizations are harmed by expect intrinsics?</div><div><br></div><div>If this is just a temporary solution, that's fine. In the long term, we need to formalize the properties of intrinsics that serve as positional meta-data. This is needed for debug info, exception handling, lifetimes, profiling, and probably more to come. We should have a uniform framework for these that guarantee they maintain their association with a control flow edge without affecting any optimizations or heuristics. BasicBlock::getFirstNonPHIOrDbgOrLifetime is a glaring example of the need for a general solution.</div><div><br></div><div>Three representations of almost exactly the same information (intrinsics, meta-data, and analysis) is also evidence of a design shortcoming.</div><div><br></div><div>-Andy</div><br><blockquote type="cite"><div style="word-wrap: break-word; -webkit-nbsp-mode: space; -webkit-line-break: after-white-space; ">On Jul 6, 2011, at 5:31 PM, Chris Lattner wrote:</div><br class="Apple-interchange-newline"><blockquote type="cite"><div><br>On Jul 6, 2011, at 11:22 AM, Jakub Staszak wrote:<br><br><blockquote type="cite">Author: kuba<br></blockquote><blockquote type="cite">Date: Wed Jul  6 13:22:43 2011<br></blockquote><blockquote type="cite">New Revision: 134516<br></blockquote><blockquote type="cite"><br></blockquote><blockquote type="cite">URL: <a href="http://llvm.org/viewvc/llvm-project?rev=134516&view=rev"></a><a href="http://llvm.org/viewvc/llvm-project?rev=134516&view=rev">http://llvm.org/viewvc/llvm-project?rev=134516&view=rev</a><br></blockquote><blockquote type="cite">Log:<br></blockquote><blockquote type="cite">Introduce "expect" intrinsic instructions.<br></blockquote><blockquote type="cite"><br></blockquote><br>Hi Kuba,<br><br>Why is this introducing a new pass to do lowering?<br><br>-Chris<br></div></blockquote></blockquote></div></div></blockquote></blockquote></div></div></blockquote></div></blockquote></div><br></body></html>