liufeiran
liufeiran
分析可能是由于域名解析的时候,会生成IPv6和IPv4地址,然后只取了IPv6地址
从代码上分析,的确是ipv6的问题,如果在代码中明确指定ipv4的话,就没问题了。
在ubuntu环境下,跑onebox时core掉,所有teracli操作都会core,应该是全局变量的析构顺序问题。
看之前的issue,这个问题已经解决,应该是我sofa版本的问题。
应该是库已经被废弃了。
@wangz1200 no solved
> 您好,您是否可以提供一个复现的例子呢?据我观察代码''FillLLMInputs方法似乎没有做前向的padding。 是的,没实现padding。所以batch输出结果不正确。
@ztxz16 有计划增加qwen的 batch推理 padding支持吗。
经过测试 baichuan2的 batch推理是正常的。
@Vindicator645 微调qwen-audio-chat的数据集格式能提供下吗