<div dir="ltr"><br><br><div class="gmail_quote"><div dir="ltr">On Thu, Sep 13, 2018 at 3:21 PM Jan Korous <<a href="mailto:jkorous@apple.com">jkorous@apple.com</a>> wrote:<br></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">Hi Sam,<br>
<br>
Thanks for the response.<br>
<br>
I think I understand your intentions better now. The Transport abstraction looks good enough to be used to me so let me just explain what I though are imperfections that I know about (no big deals though). If these are ok with you I’d go ahead and work on it. Another thing is that you guys already have another transport layer implementation so if this abstraction fits nicely 2 out of 3 implementations with XPC being kind of little less aligned I’d consider it still pragmatic to use it.<br></blockquote><div>So Transport isn't implemented or even really fully fleshed out. We should design it (or something else) to bridge the JSON/XPC divide well, though perfect is always hard.</div><div><br></div><div>Our "other transport layer" is really a different protocol, it doesn't use ClangdLSPServer but wraps ClangdServer instead. The protocol happens to follow LSP fairly closely (at least in spirit), but doesn't try to reuse any of our LSP code.</div><div><br></div><div>Not sure whether this was the right call, but they're not likely to switch to any Transport abstraction we add.</div><div>This is certainly an option for XCode too, but then the most obvious path is write a wrapper around ClangdServer, and ignore ClangdLSPServer/ClangdMain.</div><div><br></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">
Transport::MessageHandler<br>
<br>
I just wonder if this isn't actually the “reverse” of desired interface. It seems to me that MessageHandler is abstracting clangd implementation details when used in specific Transport implementation. For example it would help if we ever decide to swap clangd for another LSP implementation or clangd-ng. But it doesn’t abstract the transport layer itself. What benefit does it grant instead of calling for example ClangdLSPServer::notify() directly?<br></blockquote><div>Yeah, this is mostly just ad-hoc decoupling, not real abstraction. It buys us some things:</div><div> - transports can be tested without involving the behavior of all of clangd</div><div> - ClangdLSPServer's notify() can be private (using interface inheritance, or a nested class, or something)</div><div> - transports don't have to depend on ClangdLSPServer, if we decide to start caring more about layering (interesting for out-of-tree transports!)</div><div> </div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">
ClangdLSPServer::run()<br>
<br>
IIUIC purpose of this method is to have abstraction over different Transport implementations with common strategies for program return value (ShutdownRequestReceived) and error handling (return value of Transport.loop()).</blockquote><div>Well, the purpose of the *current* ClangdLSPServer::run() is set up the dispatcher right, and to put the error handling code somewhere.</div><div>Maybe it's totally redundant and main should just call Transport.loop().</div><div><br></div><div>(FWIW I think the error handling on exit isn't an important part of the protocol and we could take some shortcuts, especially in an XPC context).</div><div> <br></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex"> Yet since we can’t do this for XPC (as xpc_main doesn’t return) we’d have to duplicate the code (~10 LOC, no big deal) but it would mean that it wouldn’t be always possible to just blindly swap implementations of this interface.<br>
In other words it’s a violation of Liskov substitution principle which in itself doesn’t necessarily mean it’s a big deal - I am just wondering if it makes sense to have such abstraction.<br></blockquote><div>So I'm not sure how big a deal this is. It would indeed be cleaner not to have a loop() that sometimes returns and sometimes doesn't. Pragmatically, I think we can arrange to handle it calling exit instead, I guess.</div><div><br></div><div>How do you want clangd shutdown to work in an XPC context? Reading the XPC docs suggest services just run until they get SIGKILL. In which case a Transport::loop() that never returns seems completely appropriate to me: the transport dictates that the stream of events never ends.</div><div><br></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">
This is basically what I meant that it’s difficult to have common abstraction over the “input direction” of transport layer (since Transport::MessageHandler looks more like an abstraction over ClangdLSPServer input handling) and because of that I’d consider different dispatchers instead of Transport::loop().<br></blockquote><div>I'm not sure what distinction is being drawn here, I think we'll end up with some function like loop() that returns in JSON and not with XPC.</div><div>Where is my logic confused?</div><div> - JSONRPCDispatcher does some JSON stuff and some generic "message handling" stuff</div><div> - we want the "message handling" stuff to be common</div><div> - the JSON stuff needs to be split from the message handling stuff, so it can be replaced by XPC (in the sketch I called this part "Transport")</div><div> - we want a common abstraction (e.g. interface) over the XPC and JSON-specific code</div><div> - XPC needs somewhere to call xpc_main(), which doesn't return</div><div> - JSON needs every function to return, because it supports clean exit</div><div> - therefore some XPC function doesn't return, when the corresponding JSON one does</div><div>There are ways around this I guess (call xpc_main on a thread? have the JSON code clean up and call exit()?) but they seem bad worse than just having a transport that never stops looping...</div><div> <br></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">
<br>
WDYT?<br>
<br>
Cheers,<br>
<br>
Jan<br>
<br>
<br>
<br>
P. S. For the record (if it would matter in the future) XPC interface is callback-based:<br>
<br>
void XPCEntrypoint(xpc_connection_t connection) {<br>
  xpc_connection_set_event_handler(connection, <br>
    ^(xpc_object_t message) {/* C block handling the message */ }<br>
  );<br>
  xpc_connection_resume(connection);<br>
}<br>
<br>
int main() {<br>
  xpc_main(XPCEntrypoint);<br>
}<br>
<br>
<br>
<br>
> On Sep 12, 2018, at 11:17 PM, Sam McCall <<a href="mailto:sammccall@google.com" target="_blank">sammccall@google.com</a>> wrote:<br>
> <br>
> On Wed, Sep 12, 2018 at 6:20 PM Jan Korous via clangd-dev <<a href="mailto:clangd-dev@lists.llvm.org" target="_blank">clangd-dev@lists.llvm.org</a>> wrote:<br>
> Hi all,<br>
> <br>
> We had an internal discussion about XPC use with clangd and the result is that XPC-based transport layer in clangd is a hard requirement. This effectively means that the adapter approach is not feasible and I am looking into the transport layer abstraction Sam proposed earlier (<a href="https://reviews.llvm.org/D49389" rel="noreferrer" target="_blank">https://reviews.llvm.org/D49389</a>). Sorry for the trouble!<br>
> No problem! (And sorry if I've been a bit unresponsive!)<br>
> <br>
> There is a difficulty with designing an abstraction over transport layer due to XPC API requiring client code to hand control over. It's necessary for XPC server to call xpc_main() with a message handling callback:<br>
> xpc_main(connection_handler);<br>
> But XPC is running it's own message loop inside xpc_main() which is supposed to never return (in case of failure exit() is called) which makes it difficult to have common interface for JSON RPC and XPC.<br>
> Unless I am mistaken that means that the message loop (Transport::loop(), ClangdLSPServer::run()) can't be part of generic code.<br>
> <br>
> I am curious what are other people's thoughts on this?<br>
> That makes sense to me, but I don't think a common interface is impossible.<br>
> I noticed this in your patch, and in D49389 the idea (which I didn't spell out) was that the XPC transport's loop() would call xpc_main and never return.<br>
> Transport::loop() is specific to a transport, it doesn't need to be part of generic code. ClangdLSPServer::run() ends up calling Transport::loop(), so it could be common code.<br>
> <br>
> It'd look something like:<br>
> <br>
> static Transport::MessageHandler *IncomingXPCMessages; // XPC -> clangd<br>
> static xpc_connection_t *XPCConnection; // clangd -> XPC<br>
> <br>
> XPCTransport::loop(MessageHandler &M) {<br>
>   IncomingXPCMessages = &M;<br>
>   xpc_main(&XPCEntrypoint);<br>
> }<br>
> <br>
> static void XPCEntrypoint(xpc_connection_t Conn) {<br>
>   // I don't remember how an XPC server looks<br>
>   // i guess you're reading editor->clangd messages in a loop?<br>
>   for (;;) {<br>
>     // lets say you parsed a notification<br>
>     std::string name = ...;<br>
>     json::Value args = xpcToJSON(...);<br>
>     IncomingXPCMessages->notify(name, args); // send the notification to clangd<br>
>   }<br>
> }<br>
> <br>
> XPCTransport::notify(StringRef name, json::Value args) {<br>
>   xpc_object_t XPCNotification = encodeNotificationForXPCSomehow(name, jsonToXPC(args))<br>
>   xpc_connection_send(*XPCConnection, XPCNotification);<br>
> }<br>
> <br>
> WDYT?<br>
>  <br>
> I tried to come up with some reasonable abstraction but I am probably already anchored by my previous work (<a href="https://reviews.llvm.org/D48559" rel="noreferrer" target="_blank">https://reviews.llvm.org/D48559</a>) - all my design ideas tend to go in the direction of abstraction over JsonOutput and custom dispatchers (StdIoDispatcher/XPCDispatcher).<br>
> <br>
> Cheers,<br>
> <br>
> Jan<br>
> _______________________________________________<br>
> clangd-dev mailing list<br>
> <a href="mailto:clangd-dev@lists.llvm.org" target="_blank">clangd-dev@lists.llvm.org</a><br>
> <a href="http://lists.llvm.org/cgi-bin/mailman/listinfo/clangd-dev" rel="noreferrer" target="_blank">http://lists.llvm.org/cgi-bin/mailman/listinfo/clangd-dev</a><br>
<br>
</blockquote></div></div>