higress
higress copied to clipboard
🤖 AI Gateway | AI Native API Gateway
## 描述 Higress使用基于[proxy-wasm-go-sdk](https://github.com/tetratelabs/proxy-wasm-go-sdk)项目fork了自己的WASM插件开发[SDK](https://github.com/higress-group/proxy-wasm-go-sdk),在此基础之上还用一层wrapper屏蔽了插件开发中很多重复性工作,使开发者可以将精力集中于功能开发。但是,wrapper层的加入使[proxy-wasm-go-sdk](https://github.com/tetratelabs/proxy-wasm-go-sdk)原生的单元测试框架变得不可用,在对使用了wrapper的插件进行单测时会报错。 ## 分析 - 测试框架调用了被wrapper封装的函数,比如OnPluginStart,如下图所示。因此插件里用了wrapper会导致测试时没法读取配置报错以及类似的其他问题。  - 因此需要对wrapper作出改动,使之支持除默认从envoy.yaml读取配置外还可以从测试代码传入插件配置。 - wrapper默认从配置文件读取配置  - 可以尝试在CommonVmCtx中增加一个字段testConfig(或者其他名字),当这个字段不为空且合法,则视为测试环境,将之用于解析配置,不再从envoy.yaml文件中读取。(不保证正确,除了配置读取外还可能存在别的问题。) - 结论:Wrapper和测试框架不兼容,需要对wrapper做出改进使之适配[proxy-wasm-go-sdk](https://github.com/tetratelabs/proxy-wasm-go-sdk)的测试框架。
**If you are reporting *any* crash or *any* potential security issue, *do not* open an issue in this repo. Please report the issue via [ASRC](https://security.alibaba.com/)(Alibaba Security Response Center) where the...
## Why do you need it?   ## How could it be? A clear and concise description of what you want to happen. You can explain more about input...
## Why do you need it? contextCache 可以大幅提升长上下文的响应速度。 可以通过 Higress AI 代理插件配置,快速提供有 RAG 能力的服务,并且可以通过 Higress 的 AI Cache 插件进一步降低成本。 ## How could it be? 支持配置 cacheid,可以参考 qwen fileId 的实现 ##...
moonshot 在获取基于文件的缓存内容时,可能出现潜在的token不匹配的情况,当提供了多个不属于同一个owner的api_key的时候,可能出现跨用户访问资源的情况。 需要在单次请求的时候使用相同的api_key。从业务角度出发,这可能也是一个让人疑惑的点,当配置了多个key的情况下,配置中是一个文件id的情况,在多次请求下,也会出现随机命中缓存的情况,这可能在配置了多api_key的情况下禁用内容缓存?
支持partial mode https://platform.moonshot.cn/docs/api/partial#partial-mode
## Why do you need it? NGINX 中proxy-next-upstream设置了timeout后并,nginx设置超时,会转发到正常的pod,higress的设置不一致 ## How could it be? higress与nginx需要保持一致 ## Other related information Add any other context or screenshots about the feature request here.
我看higress本身已经具备了免费ssl的功能,但是目前规划的configmap的全局配置颗粒度较大,没有考虑多站点型项目和多租户的场景,希望能在创建ingress时也支持这个功能。 以下是沟通记录: 
### Ⅰ. Describe what this PR did This PR introduces a new WASM plugin that enables tagging specific requests based on user-defined rules. The functionality is aimed at facilitating gateway-level...
Higress WasmPlugin CRD 不支持自签名证书的HTTPS镜像仓库