chatglm.cpp icon indicating copy to clipboard operation
chatglm.cpp copied to clipboard

什么时候支持amd的gpu

Open youcanyouupsb opened this issue 11 months ago • 4 comments

如何支持amd硬件

youcanyouupsb avatar Mar 08 '24 13:03 youcanyouupsb

同问,或者说能将chatglm.cpp合并到llama.cpp就好了,挺希望能在AMD上跑的。

ZUIcat avatar Mar 09 '24 02:03 ZUIcat

我手上没有 amd gpu 所以没办法测试,有空会逐渐迁移到 llama.cpp 去的

li-plus avatar Mar 12 '24 03:03 li-plus

llama.cpp 支持 AMD上跑的,llama.cpp我跑AMD ok , 期待chatglm.cpp!!!!

youcanyouupsb avatar Mar 12 '24 10:03 youcanyouupsb

我手上没有 amd gpu 所以没办法测试,有空会逐渐迁移到 llama.cpp 去的

要不先把 ggml 升级到最新版本? 我看最新版本里面支持 hip 了,现在的版本里面好像代码里面有define,但是 cmake file 都没更新。

kxn avatar May 29 '24 14:05 kxn