MAC本地ollama部署2.6版本,‘cblas.h’文件未找到
是否已有关于该错误的issue或讨论? | Is there an existing issue / discussion for this?
- [X] 我已经搜索过已有的issues和讨论 | I have searched the existing issues / discussions
该问题是否在FAQ中有解答? | Is there an existing answer for this in FAQ?
- [X] 我已经搜索过FAQ | I have searched FAQ
当前行为 | Current Behavior
1、git clone -b minicpm-v2.6 https://github.com/OpenBMB/ollama.git cd ollama/llm git clone -b minicpmv-main https://github.com/OpenBMB/llama.cpp.git cd ../ 2、brew install go cmake gcc 3、go generate ./... 就执行第三步的时候,报错:ollama/llm/llama.cpp/ggml-blas.cpp:12:13: fatal error: 'cblas.h' file not found 我已经安装了openblas,但是一直报这个错,无论怎么处理都不行,一直报这个错。
期望行为 | Expected Behavior
可以正常执行。
复现方法 | Steps To Reproduce
1、git clone -b minicpm-v2.6 https://github.com/OpenBMB/ollama.git cd ollama/llm git clone -b minicpmv-main https://github.com/OpenBMB/llama.cpp.git cd ../ 2、brew install go cmake gcc 3、go generate ./...
运行环境 | Environment
- OS:macOS 14.5
- Python:3.11
- Transformers:
- PyTorch:
- CUDA (`python -c 'import torch; print(torch.version.cuda)'`):
备注 | Anything else?
您可以创建一个干净的环境,按照文档步骤,拉取代码,安装cmake,然后执行go generate ./... 就会报这个错 No response
我自己用brew安装了openblas,还是报错
全局搜索下这个文件,复制这个文件夹路径。然后在llm/llama.cpp/CMakeLists.txt中添加
# Include directories
include_directories(/dir_path)
我按照你的方法,找到cblas.h文件,路径是:/opt/homebrew/Cellar/openblas/0.3.27/include,
然后在llm/llama.cpp/CMakeLists.txt中添加如下:
然后执行go generate ./... 还是报那个错,CMakeLists.txt中刚添加的两句话也没了,CMakeLists.txt这个文件是不是受其他文件影响会自动修改?
同情况。可能是fork的ollama版本的构建脚本问题,因为同环境下,单独编译minicpm-main分支的llama.cpp是成功的(make),单独clone 官方ollama(最新/连带submodule的llama.cpp)也是构建成功的(go generate与go build)
苹果准备添加自己的blas,所以拒绝了第三方的。感觉要更新到macos15试试。
MACOS版本:版本15.0 Beta版(24A5279h) || 版本15.1 Beta版(24B5009l) git版本:58a14c37
- go generate ./...问题的解决就是在CMakeLists.txt中include对应的文件就OK
- go build . 问题报错,export CGO_LDFLAGS="-framework Accelerate"这样就行
3.最后运行ollama版本的时候出现 llama_get_logits_ith: invalid logits id 10, reason: no logits
#432
还是不行,CMakeLists.txt中include对应的文件,一执行go generate ./...后,CMakeLists.txt刚加的那句include就自动没了,然后还是报这个错
还是不行,CMakeLists.txt中include对应的文件,一执行go generate ./...后,CMakeLists.txt刚加的那句include就自动没了,然后还是报这个错
奇了怪了,你试试webdemo吧,ollama最终都会报错invalid logits id 10, reason: no logits
是的,最终都会报错invalid logits id 10, reason: no logits,因为我一个月之前曾经跑起来2.5,后来更新代码之后,聊天就一直报这个,我看到bug链接了,只能等他们解决了
我当时就是因为报invalid logits id 10, reason: no logits这个错,才删掉之前编译好的,想重新拉取代码从头编译一次,结果就遇到了‘cblas.h’文件未找到这个问题,然后一直搞不定
MACOS版本:版本15.0 Beta版(24A5279h) || 版本15.1 Beta版(24B5009l) git版本:58a14c37
- go generate ./...问题的解决就是在CMakeLists.txt中include对应的文件就OK
- go build . 问题报错,export CGO_LDFLAGS="-framework Accelerate"这样就行 3.最后运行ollama版本的时候出现 llama_get_logits_ith: invalid logits id 10, reason: no logits
![]()
#432
我今天重新拉取了代码,按照你的方法,go generate ./...这一步已经通过了,go build .这一步报错了,报错信息为: /opt/homebrew/Cellar/go/1.22.6/libexec/pkg/tool/darwin_arm64/link: running cc failed: exit status 1 Undefined symbols for architecture arm64: "_openblas_set_num_threads", referenced from: ggml_backend_blas_graph_compute(ggml_backend*, ggml_cgraph*) in libllama.a9 ld: symbol(s) not found for architecture arm64 clang: error: linker command failed with exit code 1 (use -v to see invocation) 我执行了export CGO_LDFLAGS="-framework Accelerate"这个也不行。 #411 也有这个问题,希望解决一下
MACOS版本:版本15.0 Beta版(24A5279h) || 版本15.1 Beta版(24B5009l) git版本:58a14c37
- go generate ./...问题的解决就是在CMakeLists.txt中include对应的文件就OK
- go build . 问题报错,export CGO_LDFLAGS="-framework Accelerate"这样就行 3.最后运行ollama版本的时候出现 llama_get_logits_ith: invalid logits id 10, reason: no logits
![]()
#432
参考这个方式解决了,cblas.h不能用openblas里的,用的/Library/Developer/CommandLineTools/SDKs/MacOSX14.4.sdk/System/Library/Frameworks/Accelerate.framework/Versions/A/Frameworks/vecLib.framework/Versions/A/Headers
What is described in this picture? /Users/hupc/Downloads/IMG_1300.PNG Added image '/Users/hupc/Downloads/IMG_1300.PNG' Error: an unknown error was encountered while running the model 目前一样在chat时报错:llama_get_logits_ith: invalid logits id 13, reason: no logits
感谢 @BothSavage @HuPengCheng,通过你们的方法解决了这个问题,目前就剩invalid logits id 10, reason: no logits这个了
感谢 @BothSavage @HuPengCheng,通过你们的方法解决了这个问题,目前就剩invalid logits id 10, reason: no logits这个了
老兄,最后的 invalid logits id 10这个问题解决了没?
感谢 @BothSavage @HuPengCheng,通过你们的方法解决了这个问题,目前就剩invalid logits id 10, reason: no logits这个了
老兄,最后的 invalid logits id 10这个问题解决了没?
还没有