liuhetian
liuhetian
ollama中， `ollama serve`之前`export OLLAMA_HOST=0.0.0.0:6006`可以修改端口，如果使用systemctl，查看`/etc/systemd/system/ollama.service`文件， ``` [Service] Environment="OLLAMA_HOST=0.0.0.0:6006" ``` 可以参考(ollama常见问题解答)[https://github.com/ollama/ollama/blob/main/docs/faq.md]
suno现在没有api，需要suno的接口服务建议以下两个项目 [Suno-API](https://github.com/SunoAI-API/Suno-API) [sunotoapi](https://github.com/disingn/sunotoapi)
场景很有意义，目前我部门就在用oneapi给各个项目分别使用不同的key，纯粹内部使用，所以发现很多功能并不需要 理想中的变化： 1. 可以给每个key设置用户组（指定假key使用哪个真key） 目前新增一个项目需要新注册一个用户，再把这个用户划分到一个新的用户组，比较麻烦也不直观， 所以希望root用户创建的key能直接设置用户组（不再和root用户的用户组绑定） 2. root用户可以看到其他用户所有的key（包括key的花费） 有时候希望和其他部门同事共同查看一个项目的token花费情况，需要用非root账号创建key 所以展示root用户能展示非root账号创建key的花费面板， 3. 去掉注册功能，充值和额度限制 都是自己的项目，不再需要兑换充值，所有的功能在root账户里直接就可以设置
> 场景很有意义，目前我部门就在用oneapi给各个项目分别使用不同的key，纯粹内部使用，所以发现很多功能并不需要 > > 理想中的变化： > > 1. 可以给每个key设置用户组（指定假key使用哪个真key） > 目前新增一个项目需要新注册一个用户，再把这个用户划分到一个新的用户组，比较麻烦也不直观， > 所以希望root用户创建的key能直接设置用户组（不再和root用户的用户组绑定） > 2. root用户可以看到其他用户所有的key（包括key的花费） > 有时候希望和其他部门同事共同查看一个项目的token花费情况，需要用非root账号创建key > 所以展示root用户能展示非root账号创建key的花费面板， > 3. 去掉注册功能，充值和额度限制 > 都是自己的项目，不再需要兑换充值，所有的功能在root账户里直接就可以设置 希望保留渠道概念，一个项目使用的key涉及负载均衡或者临时切换备用渠道，现在one-api的解耦是所有产品里做的最好的，不应该取消
比如我有一个Azure接口，只部署了gpt-3.5-turbo，但是添加模型是添加gpt-3.5-turbo-1106（一定要注意）  代码里是写的都是gpt-3.5-turbo-1106 
需求+1，AWS的bedrock 功能可以参考llm，https://docs.litellm.ai/docs/providers/bedrock
I had the same problem. I had to restart docker every two or three days, otherwise it would fill up the server's memory. 0.5.4.dev33