hazy217
Results
2
comments of
hazy217
> fixed。  后面我们发个修复版本,到时候您更新下 按照这儿第三步推理的例子运行,还是会出现OOM的问题,40GB内存,V100显卡。 https://github.com/FlagAI-Open/FlagAI/tree/master/examples/Aquila#3-%E6%8E%A8%E7%90%86inference
我也遇到了类似的问题,感觉输出大部分时间都不太符合预期