chuxiaoyi2023

# 标准示例： ## 环境： soc环境 transformers：4.32.0 torch：2.0.1+cpu LLM-TPU：6fcc8bf/latest 2024.06.30 tpu-mlir：d0cbae7 2024.06.30 driver版本：0.5.1 libsophon：#1 SMP Sun Jun 16 05:39:19 CST 2024 ## 路径： /workspace/LLM-TPU/models/Qwen1_5/python_demo ## 操作： python3 pipeline.py --model_path ../compile/qwen1.5-1.8b_f16_seq4096_1dev.bmodel --tokenizer_path...