为什么使用llama脚本转换qwen1.5权重文件,转出来的文件是model.pth和opmx_params.json两个文件
是两个文件,具体是什么问题呢?
转换的目的是为了适配pmx自己的RoPE逻辑,然后后续会为了适配量化做这一步转换。
是两个文件,具体是什么问题呢?
怎么进一步转换成 onnx 或者 pmx 格式?用 ppl.llm.serving 启动,提升 pmx 或者 onnx 文件不存在
怎么进一步转换成 onnx 或者 pmx 格式?用 ppl.llm.serving 启动,提升 pmx 或者 onnx 文件不存在
继续Export.py导出模型,就能获得onnx格式的文件
怎么进一步转换成 onnx 或者 pmx 格式?用 ppl.llm.serving 启动,提升 pmx 或者 onnx 文件不存在
继续Export.py导出模型,就能获得onnx格式的文件 试过了,继续 Export 导出模型,有大量的警告, Warning: The shape interface of opmx::XX(如 ParallelEmbedding、ColumnParallelLinear、Reshape等) type is missing,用转出来的 onnx 格式的文件启动 ppl_llm_server,提示 unsupported op: domain[opmx], type[ParallelEmbedding]
@Flynn-Zh 更具体的可能需要问下 @Alcanderian or @Jzz24