gqchen

请问是否支持langchain里的create_openai_tools_agent或者create_openai_functions_agent？

12

用qwen1.5-14b-chat进行测试，发现用langchain的这两个agent，均不能调用工具，所以请问一下qwen1.5支持langchain的这两个agent吗？如果支持，该如何使用呢

cli_demo.py 切换Baichuan-13B-Base 问答异常

2

加载模型方式 config = GenerationConfig.from_pretrained( "/data/model/Baichuan-13B-Base" ) model = AutoModelForCausalLM.from_pretrained( "/data/model/Baichuan-13B-Base", torch_dtype=torch.float16, device_map="auto", trust_remote_code=True ) model.generation_config = config tokenizer = AutoTokenizer.from_pretrained( "/data/model/Baichuan-13B-Base", use_fast=False, trust_remote_code=True ) 也按照其他人issues的问题进行了配置  但是还是会报如下错误  请问我该如何使用Baichuan-13B-Base做问答呢？

请问是否能提供一些公开数据集的评测方法？

5

 这里对HumanEval和GSM8K评测都比较低，请问能否提供一些公开数据集的方法吗？谢谢

Support qwen?

1

Thanks!

请问官网dashscope中的qwen1.5-14b-chat支持调用tools功能吗？

2

如题，测试了32b和72b模型，都支持调用tools功能，但是使用14b模型的时候不调用工具 32b/72b模型结果 ``` result: [{'function': {'name': 'query_weather_info', 'arguments': '{"city": "北京", "date": "今天"}'}, 'id': '', 'type': 'function'}] ``` 14b模型结果 ``` GenerationOutput(text=None, choices=[Choice(finish_reason='stop', message=Message({'role': 'assistant', 'content': '对不起，我无法获取实时的天气信息。你可以查看各大天气预报网站，或者使用专业的天气应用来查询北京的天气。'}))], finish_reason=None) ``` tools定义 ``` tools...

请问一下国产显卡Ascend 910 and Hygon DCU如何安装fastllm？

1

如题

https://github.com/PaddlePaddle/FastDeploy/blob/develop/serving/docs/zh_CN 看了文档好像仅支持XPU，如果使用晟腾系列的显卡该如何编译fastdeploy_serving？