单张显卡的限制下，MOSS回答类似hello等简单问题最快可以到多少？用的什么卡？

[Gusicun]

如题，希望大佬能解答，目前是3090和3080上一句hello回答1m30s左右

[lucksufe]

triton你是怎么安装的？是得在linux环境下才有吗？

[lasedy]

triton你是怎么安装的？是得在linux环境下才有吗？

有大神编译了Windows下二进制 https://huggingface.co/r4ziel/xformers_pre_built/blob/main/triton-2.0.0-cp310-cp310-win_amd64.whl

[PangXitong]

有没有macOS版本啊，谢谢！