Mailson Maia Alves

icon location Ceará icon location Nerd por natureza. Estou aqui para aprender de tudo um pouco e compartilhar conhecimento para iniciantes como eu.

Results 2 comments of Mailson Maia Alves

I do not know how to use some llm models with gpu some deprecated stuff

I have the same problem but on Linux GPU RTX 3050

AWQ model error: ERROR Failed to load the model. NotImplementedError: Cannot copy out of meta tensor; no data!

I have the same problem but on Linux, CPU: i7-11600H, GPU: RTX 3050