prajna icon indicating copy to clipboard operation
prajna copied to clipboard

Published 20 hours ago • verified publisher icon prajna-lang

Nvidia GPU的JIT存在问题

Open zhangzhimin opened this issue 1 year ago • 0 comments

目前Nvidia GPU的CUDA Context是在产生ptx的时候打开, 且默认使用设备0, 这意味着我们无法在代码运行时动态切换设备(使用不同显卡), 且存在一些内存问题.

考虑重新设计JIT机制, 将PTX的产生挪到运行时, 或者其他的解决方案

zhangzhimin avatar Mar 29 '23 03:03 zhangzhimin