eino
eino copied to clipboard
支持列出所有模型、绑定工具等查询接口
如题所示
有模型厂商提供了类似能力吗
有模型厂商提供了类似能力吗
主要是由框架层提供统一的封装聚合查询接口吧。 列出模型方面:OpenAI可以通过GET /v1/models,ollama则是get /api/tags等等。 列出绑定工具方面:目前eino分为了mcp-go连接的mcp-server和代码主动实现BaseTool接口的工具,倒是能通过Info函数返回的schema.ToolInfo获取到工具名和描述,但是工具的出入参和其他详情信息都存储在schema.ParamsOneOf里,这个结构唯一对外提供的可访问函数是ToJSONSchema
有模型厂商提供了类似能力吗
可能说的不尽全对,比如代码主动实现BaseTool接口的内容会通过NewParamsOneOfByParams存储在ParamsOneOf的params字段里,而mcp-go的则没有,感觉这个params如果能存储一份并暴露对外访问的接口就完美了
有模型厂商提供了类似能力吗
大部分模型厂商api都有自己的列出模型的方式,比如gemini就是list_models,如果有一个统一的聚合查询接口就好了,或者提供插件也行