不知道可否支持 MLX
Is your feature request related to a problem? Please describe. 您的特性请求是否与某个问题相关?请描述。 A clear and concise description of what the problem is. Ex. I'm always frustrated when [...] 对存在的问题进行清晰且简洁的描述。例如:我一直很困扰的是 [...]
昨晚试用 MinerU,转录一个 300 多页的 PDF,用时 30 分钟甚至以上。这么看,CPU 的执行效率不高。
Describe the solution you'd like 描述您期望的解决方案 A clear and concise description of what you want to happen. 清晰且简洁地描述您希望实现的内容。
苹果也针对大模型的加速方案,可以充分发挥 M 系列芯片的性能。 一个例子:https://github.com/vegaluisjose/mlx-rag/tree/main
Describe alternatives you've considered 描述您已考虑的替代方案 A clear and concise description of any alternative solutions or features you've considered. 清晰且简洁地描述您已经考虑过的任何替代解决方案。
暂时没更好的替代方案。
Additional context 提供更多细节 Add any other context or screenshots about the feature request here. 请附上任何相关截图、链接或文件,以帮助我们更好地理解您的请求。
我们曾经尝试过支持M系列,但是由于适配环境太多人不足放弃了。
我想问,之前的支持是怎么处理的?我看我能否贡献一点微薄之力