JustinSong
JustinSong
### Question Validation - [X] I have searched both the documentation and discord for an answer. ### Question I want to set parameter device, but currently the system is set...
我的vllm部署命令 ```py python -m vllm.entrypoints.openai.api_server \ --model=/usr/local/models/Qwen/Qwen1.5-7B-Chat \ --trust-remote-code \ --served-model-name qwmiic \ --host 127.0.0.1 \ --port 9999 \ --dtype=half ``` 正常启动后，运行类似代码如下 ``` TOOLS = [ArxivQueryRun()] functions = [convert_to_openai_function(t) for...
`xinference-local --host 0.0.0.0 --port 8888` centos下如何设置后台启动（-d），我看`xinference-local --help`没有提供相应的说明参数
是否支持ElasticSearch v8.14.0版本的中文分词？我在release中没有找到？
**描述bug** 按照官方分布式部署指南的要求进行部署，但是启动的时候报错，我的java 版本是 ``` java -version java version "1.8.0_281" Java(TM) SE Runtime Environment (build 1.8.0_281-b09) Java HotSpot(TM) 64-Bit Server VM (build 25.281-b09, mixed mode) ``` 启动脚本 ``` [root@apollo scripts]# ./startup.sh...
pom.xml中有两个依赖包无法加载，报错， project.version=8.4.0 我的jdk 是JDK17 ```xml org.codelibs.elasticsearch.module analysis-common ${project.version} org.codelibs elasticsearch-cluster-runner ${project.version}.0 test ```
### System Info / 系統信息 Server error: 503 - [address=0.0.0.0:35434, pid=25922] No available slot found for the model ### Running Xinference with Docker? / 是否使用 Docker 运行 Xinfernece？ - [...
### Is there an existing issue for this? - [X] I have searched the existing issues ### Describe the bug ``` content_list=[ {"type":"概述","content":"""三十五载春秋的磨练，记录了机械工业信息中心的辉煌历史：国家部委中最先成立的计算中心，最先引进国外先进的大型计算机系统和数据库管理系统，开发了国家机械工业经济信息系统、机械工业统计信息系统、部办公自动化系统和机械工业政府网站，历经二十载开发了广东大亚湾核电站财务和企业综合管理系统。政府项目多次获得国家和行业项目奖。"""}, {"type":"发展历程","content":"""改革开放造就了机械工业信息中心勃勃生机的今天：开发机械行业门户网站--机械工业经济信息网和中小企业政府网站--中国中小企业信息网，完成中国机械工业联合会办公自动化系统，为世界银行和跨国集团提供行业投资咨询，为地方省市和企业提供行业规划研究和专项咨询，获得国家系统集成资质和ISO9001:2000质量管理体系认证证书。"""}, {"type":"发展历程","content":"""发展创新展现了机械工业信息中心美好的明天：拥有专业的有责任心的IT技术人才和信息咨询专家队伍，长期立足于机械行业，面向政府部门和社会企事业单位，提供系统集成、软件开发、在线服务、网站建设、电子商务平台建设等优质信息技术服务，提供行业研究、统计分析、市场调查、信息咨询和信息化培训服务，发布行业权威信息，打造强势资讯媒体，全方位服务于客户。"""}, {"type":"服务领域","content": """政府信息化 国家机械工业部——国家机械工业经济信息系统；企业信息化 广东大亚湾核电运营管理有限责任公司——财务和企业综合管理；办公自动化 北京京城机电控股有限责任公司——办公业务管理系统；网络应用（网站、电子商务）...
[Bug]: TypeError: Couldn't build proto file into descriptor pool: duplicate file name common.proto
### Is there an existing issue for this? - [X] I have searched the existing issues ### Describe the bug ``` from langchain_milvus import Milvus import phoenixdb if __name__=="__main__": pass...
### System Info / 系統信息 xinference transformer形式 目前不支持qwen的function call 之前老版本是支持的 报错：'str' object has no attribute 'get' ### Running Xinference with Docker? / 是否使用 Docker 运行 Xinfernece？ - [ ] docker...