basdonax-ai-rag icon indicating copy to clipboard operation
basdonax-ai-rag copied to clipboard

Published 20 hours ago • verified publisher icon fcori47

Problem when "ollama pull llama 3"

Open diegofazio opened this issue 10 months ago • 3 comments

Hola cuando trato de ejecutar el comando

docker exec "CONTAINERID" ollama pull llama 3 pulling 00e1317cbf74... 87% ▕█████████████ ▏ 4.0 GB/4.7 GB 39 MB/s 15s Error: write /ollama/models/blobs/sha256-00e1317cbf74d901080d7100f57580ba8dd8de57203072dc6f668324ba545f29-partial: no space left on device

Con phi-3 funciona pq la imagen pesa menos. Como hago para incrementar el tamaño del volumen donde descarga la imagen?

Graciass

diegofazio avatar Apr 30 '24 10:04 diegofazio

afaik es un tema de espacio, podrias intentar algo de esto...

phibrainDK avatar May 01 '24 02:05 phibrainDK

Me fije que en el docker la imagen de llama solo tiene 3.9gb para asignar el modelo y el modelo de llama3 pesa 4.7gb

image

Nicodmx avatar May 03 '24 16:05 Nicodmx

Modificando el archivo docker-compose por lo detallado abajo me dejo descargarlo.

  volumes:
    - /ollama/models:/home/models
  environment:
    - OLLAMA_MODELS=/home/models
  deploy:

diegofazio avatar May 03 '24 21:05 diegofazio