<div dir="ltr">I have a patch at <a href="http://reviews.llvm.org/D16005">http://reviews.llvm.org/D16005</a> that implements this feature as part of 'show' command of the llvm-profdata. I think it'll be useful to implement this as part of show so that it can be tried on profiles of programs that people care about and refine it before getting this information into the header of the indexed profile. </div><div class="gmail_extra"><br><div class="gmail_quote">On Thu, Dec 17, 2015 at 11:17 AM, Xinliang David Li <span dir="ltr"><<a href="mailto:davidxl@google.com" target="_blank">davidxl@google.com</a>></span> wrote:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"><span class="">On Thu, Dec 17, 2015 at 9:21 AM, Andy Ayers <<a href="mailto:andya@microsoft.com">andya@microsoft.com</a>> wrote:<br>
> While your bb count distribution is extremely likely to be some kind of power-law like distribution, it's not guaranteed.<br>
><br>
> Also you might think about operations that can amplify (rerolling) or appear to amplify (TRE) or diminish BB counts, and how you'd go about reclassifying block hotness.<br>
<br>
</span>yes -- this is more of a problem for Sample based FDO because the<br>
samples are collected after such transformations. We have a paper<br>
discussing that (to appear cgo2016).<br>
<br>
thanks,<br>
<br>
Dvaid<br>
<div class="HOEnZb"><div class="h5"><br>
><br>
><br>
> -----Original Message-----<br>
> From: Xinliang David Li [mailto:<a href="mailto:davidxl@google.com">davidxl@google.com</a>]<br>
> Sent: Wednesday, December 16, 2015 9:47 PM<br>
> To: Andy Ayers <<a href="mailto:andya@microsoft.com">andya@microsoft.com</a>><br>
> Cc: Easwaran Raman <<a href="mailto:eraman@google.com">eraman@google.com</a>>; <a href="mailto:llvm-dev@lists.llvm.org">llvm-dev@lists.llvm.org</a><br>
> Subject: Re: [llvm-dev] RFC: Hotness thresholds in profile header<br>
><br>
> On Wed, Dec 16, 2015 at 6:00 PM, Andy Ayers <<a href="mailto:andya@microsoft.com">andya@microsoft.com</a>> wrote:<br>
>> I’ve done similar rankings with profile data and found it worked out<br>
>> pretty well.<br>
>><br>
>><br>
>><br>
>> In my case it was ranking function hotness but the idea was similar:<br>
>> sort by weight, compute various percentile cutoff points, and use those to classify.<br>
>> I put in some compensation for truly degenerate cases. Consider one<br>
>> super-hot function that is 100x the weight of all remaining functions<br>
>> – I’d just call that function hot and subtract it out of the<br>
>> distribution and so spread a bit of the hotness around elsewhere.<br>
>><br>
><br>
> This is probably more important if we only consider function entry count (to measure hotness). With Easwaran's proposal, the cut-off computation is based on sum of BB counts (sorted in descending order)<br>
> -- the BB count sum approximate the execution time spent in those BBs.<br>
>   For instance, if 99.9% of execution time is spent in top 10 BBs, the rest BBs are pretty much  irrelevant in terms of performance.<br>
><br>
> thanks,<br>
> David<br>
><br>
><br>
>><br>
>><br>
>> Also, you should think about how to handle ties, so your sorting &<br>
>> ranking is “stable” somehow.<br>
>><br>
>><br>
>><br>
>> From: llvm-dev [mailto:<a href="mailto:llvm-dev-bounces@lists.llvm.org">llvm-dev-bounces@lists.llvm.org</a>] On Behalf Of<br>
>> Easwaran Raman via llvm-dev<br>
>> Sent: Wednesday, December 16, 2015 2:43 PM<br>
>> To: <a href="mailto:llvm-dev@lists.llvm.org">llvm-dev@lists.llvm.org</a><br>
>> Cc: David Li <<a href="mailto:davidxl@google.com">davidxl@google.com</a>><br>
>> Subject: [llvm-dev] RFC: Hotness thresholds in profile header<br>
>><br>
>><br>
>><br>
>> Hi,<br>
>><br>
>> The problem we're trying to address:<br>
>><br>
>> PGO transforms that are based on block counts need some way to answer<br>
>> isHotBlock() query. A simple comparison of the form block_count > N,<br>
>> for some constant N is not useful since even for the same program<br>
>> different profile inputs can cause different answers for isHotBlock()<br>
>> on the same block. This can be addressed by comparing against a<br>
>> reference value that depends on the program and its input. For<br>
>> instance, the indexed profile header contains MaxFunctionCount and<br>
>> isHotBlock() could check if the block count exceeds a certain fraction of MaxFunctionCount.<br>
>><br>
>><br>
>><br>
>> The drawback of this approach is that it is difficult to come up with<br>
>> a single fraction that works both for programs with a few hot-spots<br>
>> and programs with a long tail of block execution counts. Consider the<br>
>> following two profiles both with a MaxFunctionCount of 1000. In the<br>
>> first case, there are many blocks with count 100 and those (along with<br>
>> the function with count<br>
>> 1000) account for 99% of execution time. In the second case, there are<br>
>> many blocks with count 1000 that together account for 99% of execution<br>
>> time, but there are also a non-trivial number of blocks with count<br>
>> 100. In the first case, we would like the hotness threshold to be 100<br>
>> (or 10% of MaxFunctionCount), but in the second case, we want it to be<br>
>> 1000 (100% of MaxFunctionCount).<br>
>><br>
>><br>
>> Our proposal:<br>
>><br>
>> We want to define hot blocks as those that account for a large<br>
>> percentage(P) of execution time of the program. We then make a<br>
>> simplistic assumption that all blocks take the same amount of time to<br>
>> execute. With this assumption, the execution time of the program can<br>
>> be approximated by the sum of execution counts of the blocks in the<br>
>> program. We can then compute a maximum threshold T(P) such that<br>
>> execution counts of blocks whose count is >= T(P) account for P percentage of total block count.<br>
>><br>
>> To illustrate, let {B1...B5} be the set of blocks whose counts are {1,<br>
>> 0, 2, 2, 5}. For this example:<br>
>><br>
>> T(50) = 5 since {B5} accounts for 50% of total block count.<br>
>> T(90) = 2 since {B3, B4, B5} has a cumulative count of 9 which is 90%<br>
>> of total block count.<br>
>> T(95) = 1 since all blocks with non-zero block counts are needed to<br>
>> account for >=95% of total block count.<br>
>><br>
>> We propose to record a vector of triples {P, T(P), B(P)}, where B(P)<br>
>> is the number of blocks with count >= T(P), for a set of pre-defined<br>
>> number of values of P into the header of the indexed profile. A<br>
>> possible set of values of P are 90, 95, 99, 99.9, 99.99, but this<br>
>> should be configurable through profdata tool.  The B(P) above could be<br>
>> useful to optimization passes in making size/performance tradeoffs.<br>
>> For example, if S is the average block size and S*B(95) fits well<br>
>> within cache, but S*B(99) well exceeds the cache size, an optimization<br>
>> like loop unroller could choose to use T(95) as the threshold to avoid heavy cache misses.<br>
>><br>
>> The {P, T(P), B(P)} triples have to be attached to the module. A<br>
>> common API would be added to retrieve the set of available Ps and<br>
>> {T(P), B(P)} pair for a given P for all flavors (front-end, IR level and sample) of profiles.<br>
>><br>
>> Thoughts?<br>
>><br>
>><br>
>><br>
>> Thanks,<br>
>><br>
>> Easwaran (with inputs from Teresa Johnson and David Li)<br>
</div></div></blockquote></div><br></div>