<div dir="ltr">Hi all,<div><br></div><div>Just a short feedback about my first impression of the llvm bugzilla. I just requested an account for bugzilla and I just did some browsing the bugs. I checked static analyzer related bugs and as I see almost all bugs are assigned, which is a bit strange to me. Also most of the assigned bugs were assigned to two assignees, so I expect that these two people don't actually work on that ~600 bugs.</div><div><br></div><div>So I'm a bit confused now what assigning means in llvm bugzilla. In general for me assigning means the bug is "locked", somebody is working on that issue, so I should not pick it up for working on it. Which means that by now almost every static analyzer related bugs are locked in bugzilla, so I need to find a task somewhere else.</div><div><br></div><div>In LibreOffice project we also use bugzilla and only assign a bug if the assignee is actually working on that issue or he/she is planning to work on it soon. Also we reset assignee back to "non" after some months of inactivity. Which means that most of the bugs are unassinged so new contributors can pick them up (also can filter for unassigned bugs). If a bug is related to an area which has an "owner" or expert, we add the expert to the "CC" list so he/she get notified.</div><div><br></div><div>I did not find any information about that what assigning means in llvm bugzilla, so I don't know whether it have a different meaning what I expected and described above.</div><div><br></div><div>Best Regards,</div><div>Tamás Zolnai</div><div><br></div></div><br><div class="gmail_quote"><div dir="ltr">Kristof Beyls via cfe-dev <<a href="mailto:cfe-dev@lists.llvm.org" target="_blank">cfe-dev@lists.llvm.org</a>> ezt írta (időpont: 2018. okt. 4., Cs, 11:55):<br></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">



<div style="word-wrap:break-word;line-break:after-white-space">
<span>Hi all,</span><br>
<div><font color="#5856d6"><span><br>
</span></font><span>I’d like to share a few thoughts and analysis results on the LLVM bug life cycle, especially the reporting/triaging part.</span><br>
<font color="#5856d6"><span><br>
</span></font><span>As one of the few people creating llvm bugzilla accounts when people request an account, I started to have a feel that many reported bugs, especially by first-time reporters, never get any reply or
 feedback, let alone be acted on.</span><br>
<span>If people go through the effort of requesting an account, and then reporting the bug, they show motivation to contribute to the project. However, if then they see zero return on their effort spent, even if it’s
 just a confirmation of the bug indeed being real or an explanation of what they thought to be a bug isn’t actually a bug, I fear as a community we disincentify a large number of potential long-term contributors.</span><br>
<font color="#5856d6"><span><br>
</span></font><span>The above was all based on gut feel, so I tried to gather a bit more data to see if my feel was correct or not.</span><br>
<span>I scraped the bugs in bugzilla and post-processed them a bit. Below is a chart showing, year by year, how long it takes for a reported bug to get any comment from anyone besides to original reporter. If the bug
 is still open and didn’t have any reaction after half a year the chart categorizes is as an “infinite” response time.</span><br>
<font color="#5856d6"><span><br>
</span></font><span> </span><img id="m_7715599912933527487m_5266135559379465777m_-7013002737400607865m_33407702869735875321E93BF73-F898-4729-A715-C867EEC4BD29"><br>
<span>It shows that in recent years the chance of never getting a response to a bug report has been increasing.</span><br>
<span>For some bugs - e.g. an experienced LLVM developer records a not-that-important bug in bugzilla - that may be just fine.</span><br>
<span>However, I assume that for people reporting a bug for the first time, the majority may look at least for confirmation that what they reported is actually a bug.</span><br>
<span>The chart shows (blue bars) that about 50% of first-time bug reporters never get any reply.</span><br>
<font color="#5856d6"><span><br>
</span></font><span>I also plotted which components get the most reported bugs that don’t get any reaction and remain open:</span><br>
<img id="m_7715599912933527487m_5266135559379465777m_-7013002737400607865m_3340770286973587532497C62EB-AA6C-41CE-9C59-E3738B9451FD"><br>
<span>The percentage at the top of the bars is the percentage of bugs against that component that never get any reaction. The bar height shows the absolute numbers.</span><br>
<font color="#5856d6"><br>
<span><br>
</span></font><span>I hope that at the “Lifecycle of LLVM bug reports” BoF at the upcoming dev meeting in San Jose (</span><a href="https://llvmdev18.sched.com/event/H2T3" target="_blank">https://llvmdev18.sched.com/event/H2T3</a><span>,
 17th of October, 10.30am), we can discuss what could be done to improve the experience for first-time reporters and also to reduce the number of bug reports that seemingly get ignored completely.</span><br>
<span>By sending this email, I hope to trigger discussion before the BoF, both by attendees and non-attendees, so that we have a more fruitful outcome.</span><br>
<font color="#5856d6"><span><br>
</span></font><span>At first sight, to me, it seems that the following actions would help:</span><br>
<ul>
<li><span>Let’s introduce some form of “triaged” state in bugzilla, to represent that a bug report has been accepted as describing a real problem; able to be acted on (e.g. has a suitable reproducer); and not
 being a duplicate of another bug report. Looking at </span><a href="https://bugzilla.readthedocs.io/en/5.0/using/editing.html#life-cycle-of-a-bug" target="_blank">https://bugzilla.readthedocs.io/en/5.0/using/editing.html#life-cycle-of-a-bug</a><span>,
 maybe the best way to achieve this would be for newly raised bugs to by default go to an “UNCONFIRMED” state instead of “NEW”? Moving the status to “NEW” or “CONFIRMED” would indicate the bug has been triaged.</span></li><li><span>Would it help to have one or multiple people per component that volunteer to triage new bugs?</span></li><li><span>With the majority of developers being part of a team working on a product based on LLVM, I would assume that it is in the interest of most that reported bugs at least get evaluated/triaged? What is
 stopping those developers to find the time to do some triaging? Would a better notification mechanism be useful to notify when new bugs on a specific component come in that you could triage? Maybe per component try to have a few people on the “default CC list”,
 which seems easy to set up as a bugzilla administrator.</span></li><li><span>Should we get rid of the "new-bugs/new bugs” component if we won’t have people triaging them?</span></li><li><span>Should we have some description of what a reasonable triage of a bug looks like?
</span><span>If we write such a page, we could also use that page to describe what we think should get recorded when closing bugs.</span></li></ul>
<font color="#5856d6"><span><br>
</span></font><span>Thanks,</span><br>
<font color="#5856d6"><span><br>
</span></font><span>Kristof</span></div>
<br>
</div>

_______________________________________________<br>
cfe-dev mailing list<br>
<a href="mailto:cfe-dev@lists.llvm.org" target="_blank">cfe-dev@lists.llvm.org</a><br>
<a href="http://lists.llvm.org/cgi-bin/mailman/listinfo/cfe-dev" rel="noreferrer" target="_blank">http://lists.llvm.org/cgi-bin/mailman/listinfo/cfe-dev</a><br>
</blockquote></div>