chatbot icon indicating copy to clipboard operation
chatbot copied to clipboard

Published 20 hours ago • verified publisher icon Koziev

Скорость ответа

Open littlecat-dev opened this issue 2 years ago • 5 comments

Скорость для генерации ответа на сообщение довольно долгая (1-2 минуты на привет, как дела и другие вопросы), ПК такой: AMD 3200 , Nvidia 1060/6, 16 Гб ОЗУ. Подозреваю что либо не используется видеокарта, либо не хватает ОЗУ. Использую докер с сайта, дистрибутив linux mint. Как можно ускорить выдачу ответа?

littlecat-dev avatar Nov 23 '22 21:11 littlecat-dev