tensorlink icon indicating copy to clipboard operation
tensorlink copied to clipboard

[Request] 请问是否有Linux客户端开发计划

Open leeyiding opened this issue 1 year ago • 4 comments

开发者您好,目前我有Linux服务端+Linux客户端的需求,有以下疑问

  1. 请问是否有开发Linux客户端的计划
  2. 如果有Linux客户端,能否实现类似 clink 的客户端运行方式,通过设置环境变量+直接运行对应的CUDA程序,而不是需要先额外运行一个tensorlink客户端程序。
  3. 另外想请问一下相关的核心代码是否有开源计划。

非常感谢!

leeyiding avatar Jun 06 '24 07:06 leeyiding

感谢关注!

  1. 目前正在专注提升整体框架的性能,以及后续的集群版本,linux的客户端计划可能需要靠后排一些;
  2. 客户端的执行方式,tensorlink目前这样做是为了适配一些windows程序可能会创建多个子进程来执行cuda,比如SD,所以tensorlink采用了用一个独立的进程vcuda来收集系统所有的cuda请求,这样做是为了给第三方程序提供一个透明的使用环境,如果linux系统上的程序使用场景不一样,也可以考虑采用clink类似的方式,每个程序单独劫持单独对接服务端,这个问题不大;
  3. 目前代码还在不断完善中,没有开源计划,后续版本稳定后,会考虑继续开源部分源码;

nooodles2023 avatar Jun 06 '24 09:06 nooodles2023

感谢关注!

  1. 目前正在专注提升整体框架的性能,以及后续的集群版本,linux的客户端计划可能需要靠后排一些;
  2. 客户端的执行方式,tensorlink目前这样做是为了适配一些windows程序可能会创建多个子进程来执行cuda,比如SD,所以tensorlink采用了用一个独立的进程vcuda来收集系统所有的cuda请求,这样做是为了给第三方程序提供一个透明的使用环境,如果linux系统上的程序使用场景不一样,也可以考虑采用clink类似的方式,每个程序单独劫持单独对接服务端,这个问题不大;
  3. 目前代码还在不断完善中,没有开源计划,后续版本稳定后,会考虑继续开源部分源码;

感谢回复,会对此项目保持持续关注!

leeyiding avatar Jun 06 '24 09:06 leeyiding

有计划linux客户端吗?

1247862674 avatar Oct 07 '24 15:10 1247862674

非常期待linux的客户端。

1247862674 avatar Oct 07 '24 15:10 1247862674