langserve_ollama
langserve_ollama copied to clipboard

Published 20 hours ago •

teddylee777

→

Metadata

무료로 한국어🇰🇷 파인튜닝 모델 받아서 로컬 LLM 호스팅. LangServe, Ollama, streamlit + RAG

Reame
Issues

Results 1 langserve_ollama issues

Sort by recently updated

llama3 70B 모델 실행시 이슈

안녕하세요, llama3 70B 모델을 실행시키려고 하고 있습니다! ollama 를 이용해서 create 하였고 우분투 환경에서 'ollama run 모델명 '을 해서 hello라고 하니까 답변이 제대로 생성되지 않는것 같습니다. 이런경우에는 Modelfile의 template을 수정하면...

dnmd-bg