Chinese-CLIP icon indicating copy to clipboard operation
Chinese-CLIP copied to clipboard
verified publisher icon OFA-Sys

NameError: name 'FlashMHA' is not defined Killing subprocess 131988

Open L1Shupe1 opened this issue 2 years ago • 7 comments

报错NameError: name 'FlashMHA' is not defined Killing subprocess 131988 试图pip install flash_attn报错

L1Shupe1 avatar Aug 04 '23 02:08 L1Shupe1

您好，请问您是pip install flash_attn失败了吗，需要成功pip install flash_atten后才能通过--use-flash-attention启用FlashAttention。 另外，建议您注意下安装的flash-attn的版本，目前需要在2.0以下，如pip install flash-attn==0.2.8

DtYXs avatar Aug 05 '23 13:08 DtYXs

Running setup.py clean for flash-attn Failed to build flash-attn Installing collected packages: flash-attn Running setup.py install for flash-attn ... error

L1Shupe1 avatar Aug 07 '23 01:08 L1Shupe1

image

L1Shupe1 avatar Aug 07 '23 01:08 L1Shupe1

您好，请问可以提供下完整报错吗？

yangapku avatar Aug 08 '23 10:08 yangapku

完整报错太长了，截图截不全

L1Shupe1 avatar Aug 10 '23 03:08 L1Shupe1

您好，请问您的命令是pip install flash-attn==0.2.8吗，建议您升级Pytorch版本到1.12及以上，另外可以参考一下flash-attn官方仓库的installation部分

DtYXs avatar Aug 14 '23 15:08 DtYXs

@DtYXs 你好，

  1. 我成功的安装了高版本的flash -attn ，发现咱们预训练模型定义的clip 参数名字跟flash -attn 新版的参数名字不太一致
  2. 我看即使是低版本的flash -attn 也有这个问题

Syno8 avatar Nov 13 '23 03:11 Syno8