MiniCPM icon indicating copy to clipboard operation
MiniCPM copied to clipboard
verified publisher icon OpenBMB

如何使用ArkInfer？

Open tdtgi opened this issue 6 months ago • 4 comments

tdtgi avatar Jun 19 '25 07:06 tdtgi

您好，ArkInfer将于近期开源，敬请期待！

ZMXJJ avatar Jul 01 '25 23:07 ZMXJJ

您好，ArkInfer将于近期开源，敬请期待！

已经过一个月了，有正式消息吗？目前llama.cpp实现不了MoE加速，非cuda设备只能靠Arkinfer了。

Willian7004 avatar Aug 02 '25 02:08 Willian7004

您好，ArkInfer将于近期开源，敬请期待！

您好，请问ArkInfer开源时间确定了吗？

tdtgi avatar Aug 27 '25 06:08 tdtgi

您好，请问ArkInfer开源时间确定了吗？ @ZMXJJ

Fringsvon avatar Oct 09 '25 09:10 Fringsvon