zhangtian

Qwen2可以转onnx,转bmodel的时候出现以下问题

2

## sdk是v1.6.113-g7dc59c81-20240105, 转bmodel出现model_deploy.py: error: unrecognized arguments: --addr_mode io_alone ## 去掉--addr_mode 转bmodel报这个错误，我用的转模型命令是这个：./compile.sh --mode int8 --name qwen2-7b --seq_length 8192 Floating point exception (core dumped) Traceback (most recent call last): File "/workspace/tpu-mlir_v1.6.113-g7dc59c81-20240105/python/tools/model_deploy.py", line...

Qwen2-7b使用cuda运行输出结果不正常

2

# 平台(如果交叉编译请再附上交叉编译目标平台): # Platform(Include target platform as well if cross-compiling): Centos7.6 # Github版本: # Github Version: 2.9.2 直接下载ZIP包请提供下载日期以及压缩包注释里的git版本(可通过``7z l zip包路径``命令并在输出信息中搜索``Comment`` 获得，形如``Comment = bc80b11110cd440aacdabbf59658d630527a7f2b``)。 git clone请提供 ``git commit`` 第一行的commit id Provide...