dayskk

Results 12 comments of dayskk

复现步骤如下 conda create -n llm-cpp python=3.11 conda activate llm-cpp pip install --pre --upgrade ipex-llm[cpp] mkdir llama-cpp cd llama-cpp init-llama-cpp.bat init-ollama.bat set OLLAMA_NUM_GPU=999 set no_proxy=localhost,127.0.0.1 set ZES_ENABLE_SYSMAN=1 set SYCL_CACHE_PERSISTENT=1 ollama serve...

![微信图片_20240716190344](https://github.com/user-attachments/assets/1ee0cfa3-bfcd-47c0-b75e-ccf8fb3b2b26)

重新安装后错误又变了 ![Uploading 微信图片_20240717090225.jpg…]()

安装oneapi 打开一个cmd窗口,用pip安装,这样安装的包约1.4G,比原来节省了20G+。 mkdir intel/dpct set PYTHONUSERBASE=c:/intel/dpct pip install --user mkl-dpcpp==2024.2 onednn==2024.2 dpcpp-cpp-rt==2024.2 然后到conda环境的窗口 conda activate your_env set PATH=c:\intel\dpct\Library\bin;%PATH% 此方法无效

ollama 使用igpu时,要拷贝哪些oneapi必要库到conda环境的什么地方?

安装oneapi 打开一个cmd窗口,用pip安装,这样安装的包约1.4G,比原来节省了20G+。 mkdir intel/dpct set PYTHONUSERBASE=c:/intel/dpct pip install --user mkl-dpcpp==2024.2 onednn==2024.2 dpcpp-cpp-rt==2024.2 然后到conda环境的窗口 conda activate your_env set PATH=c:\intel\dpct\Library\bin;%PATH% 此方法无效

ipex-llm之前是之前是2.1.0b20240625,目前按上面方法升级到2.1.0b20240626,可以运行了,但是运行途中,系统卡死 ![微信图片_20240627152902](https://github.com/intel-analytics/ipex-llm/assets/166265863/28768e81-070d-4d3a-8a12-fe3b3b32f3c2)

驱动使用5518版本,ipex使用0625 0626 0620都会卡死,是否和驱动有关系?

驱动升级到目前官网最新版本还是卡死

![微信图片_20240627181339](https://github.com/intel-analytics/ipex-llm/assets/166265863/2d40833e-55e5-4db3-90cb-d06bb97173af)