Ghostz

Results 23 comments of Ghostz

比如我想对于来自aws和claude官方的相同的opus进行不同的计费,这个添加渠道倍率就很方便了

也可以考虑下对于请求体里面可以加一个用户自己传的uuid,让用户考虑下自己传或者不传,把这个uuid存到logs里面,传了就记录,不传就是空。查询日志的时候利用token+uuid可以快速定位到某条日志,方便进行排查

主要总是由于某些网络问题,导致下级和我这边的扣费对不齐。刚好logs也缺是一个快速定位的接口,可以考虑下这个

为什么没有用oneapi内部的requestid呢?主要是因为有些情况,用户根本拿不到响应体,我这边就遇到了,就是再排查问题的同时方便更好的接入下级系统。所以可以让用户自己考虑传uuid

这个的意思就是,不但兼容成openai的渠道,同时也保留源路径的请求信息把

just fill channel name and fill what u want in channel key.If your system does not require a key

逆向的gpts应该不会考虑的

可以看看这个 https://github.com/Portkey-AI/gateway