ppl.pmx icon indicating copy to clipboard operation
ppl.pmx copied to clipboard

为什么使用llama脚本转换qwen1.5权重文件,转出来的文件是model.pth和opmx_params.json两个文件

Open Flynn-Zh opened this issue 1 year ago • 6 comments

Flynn-Zh avatar Jul 15 '24 03:07 Flynn-Zh

是两个文件,具体是什么问题呢?

FlamingoPg avatar Jul 16 '24 14:07 FlamingoPg

转换的目的是为了适配pmx自己的RoPE逻辑,然后后续会为了适配量化做这一步转换。

FlamingoPg avatar Jul 16 '24 16:07 FlamingoPg

是两个文件,具体是什么问题呢?

怎么进一步转换成 onnx 或者 pmx 格式?用 ppl.llm.serving 启动,提升 pmx 或者 onnx 文件不存在

Flynn-Zh avatar Jul 17 '24 01:07 Flynn-Zh

怎么进一步转换成 onnx 或者 pmx 格式?用 ppl.llm.serving 启动,提升 pmx 或者 onnx 文件不存在

继续Export.py导出模型,就能获得onnx格式的文件

FlamingoPg avatar Jul 17 '24 08:07 FlamingoPg

怎么进一步转换成 onnx 或者 pmx 格式?用 ppl.llm.serving 启动,提升 pmx 或者 onnx 文件不存在

继续Export.py导出模型,就能获得onnx格式的文件 试过了,继续 Export 导出模型,有大量的警告, Warning: The shape interface of opmx::XX(如 ParallelEmbedding、ColumnParallelLinear、Reshape等) type is missing,用转出来的 onnx 格式的文件启动 ppl_llm_server,提示 unsupported op: domain[opmx], type[ParallelEmbedding]

Flynn-Zh avatar Jul 22 '24 02:07 Flynn-Zh

@Flynn-Zh 更具体的可能需要问下 @Alcanderian or @Jzz24

FlamingoPg avatar Jul 22 '24 14:07 FlamingoPg