alps008

Traceback (most recent call last):RuntimeError: "addmm_impl_cpu_" not implemented for 'Half'

1

大神好，这个问题一帮忙看看是否有办法解决。thanks   Package Version Editable project location ---------------------------- -------------------- ---------------------------------------------------------------------- absl-py 1.4.0 accelerate 0.19.0 addict 2.4.0 aenum 3.1.12 aiofiles 23.1.0 aiohttp 3.8.4 aiosignal 1.3.1 aliyun-python-sdk-alimt 3.2.0 aliyun-python-sdk-core 2.13.10 altair...

 我的text prompt页面不能更换下方的示例图片，只能停留在dog 

目前的回复速度是每秒大概4-8个中文，包含标点符号。相问一下大神是否可以有一些提升，不量化的情况下会好一点吗？我的配置是RTX4090。