MiniCPM

MiniCPM copied to clipboard

### Feature request / 功能建议 能否在2B模型当中加入ocr能力

starkgao

[Bug]: Exception ValueError when running inference example

6

### Is there an existing issue ? / 是否已有相关的 issue ? - [X] I have searched, and there is no existing issue. / 我已经搜索过了，没有相关的 issue。 ### Describe the bug /...

bismack163

[Bad Case]: 手机运行多模态失败

6

### Description / 描述 ### 环境：  ### 问题 使用这里提供的apk：https://github.com/OpenBMB/mlc-MiniCPM 安装后下载完模型，按照说明操作到了ready to chat后上传图片就没有反应了，没有出现预期的“image process is done” 输入文字会直接报错：  详细报错： ``` MLCChat failed Stack trace: org.apache.tvm.Base$TVMError: InternalError: Check failed: (chat_ !=...

RiverFerry

[Bug]: 模型编译报错 TVMError

1

### Is there an existing issue ? / 是否已有相关的 issue ? - [X] I have searched, and there is no existing issue. / 我已经搜索过了，没有相关的 issue。 ### Describe the bug /...

zjloong

### Feature request / 功能建议 训练策略相关代码有计划开源吗？

xxw1995

### Feature request / 功能建议 lora训练文档里关于训练数据结构里，写的是 conversations，实际代码里用 message，也一并把这部分文档改一下。

dogvane

[Bug]: RuntimeError: CUDA 11.0 or higher is required to build the package

3

### Is there an existing issue ? / 是否已有相关的 issue ? - [X] I have searched, and there is no existing issue. / 我已经搜索过了，没有相关的 issue。 ### Describe the bug /...

Aruen24

[Bad Case]: RuntimeError: The detected CUDA version (11.8) mismatches the version that was used to compile PyTorch (12.1). Please make sure to use the same CUDA versions.

1

### Description / 描述 run: ``` pip install inference/vllm RuntimeError: The detected CUDA version (11.8) mismatches the version that was used to compile PyTorch (12.1). Please make sure to use...

sunbeibei-hub

### Feature request / 功能建议 仓库地址：https://github.com/mlc-ai/mlc-llm 类似 ONNXRuntime，但是对国产化模型的支持更好，可以通过 [web-llm](https://github.com/mlc-ai/web-llm) 在支持 WebGPU 的浏览器上直接跑大模型。

cxzx150133

### Feature request / 功能建议 仓库地址：https://github.com/microsoft/onnxruntime 官网：https://onnxruntime.ai/ 这个格式我了解的也不是很深，但是从描述上来看微软想在机器学习领域搞一个类似 3D 界的 GLTF 格式，让大模型平台无关化，最直接的好处我能想到的大概就是能在客户端用浏览器直接跑大模型。

cxzx150133