任京能

> 非常感谢这个PR，很棒！ 不过，提前说一下，我们可能需要比较久的时间进行Review以及讨论相关设计和实现。 一方面，多线程Job System是引擎比较核心的模块，需要考虑很多方面，比如线程池的管理，高效的任务调度，任务间的依赖等，对设计和实现都有比较高的要求； 另一方面，小引擎当前有很大的一个目标是作为[GAMES104](https://games104.boomingtech.com/en/)课程的教学引擎，协助同学们尽量简单的入门游戏引擎，希望功能上尽量保持简单，容易理解。实际上，小引擎的第一版是有一个多线程系统的，也实现了逻辑线程和渲染线程的分离，但由于不便于同学们学习理解，所以在上线前移除掉了。 理解=，=

假如要用vllm推理，两步就行了，很简单的 1. 编译制作好.whl文件 2. 基于英伟达官方的推理镜像上制作，载入编译好的文件,然后安装各种包 注意编译的主机的nvcc版本、driver版本和英伟达推理镜像对齐

> 假如要用vllm推理，两步就行了，很简单的 > > 1. 编译制作好.whl文件 > 2. 基于英伟达官方的推理镜像上制作，载入编译好的文件,然后安装各种包 > 注意编译的主机的nvcc版本、driver版本和英伟达推理镜像对齐 可以参考https://github.com/vllm-project/vllm/blob/main/Dockerfile 不过他这个是在镜像里编译的