higress icon indicating copy to clipboard operation
higress copied to clipboard

🤖 AI Gateway | AI Native API Gateway

Results 337 higress issues
Sort by recently updated
recently updated
newest added

## 描述 Higress使用基于[proxy-wasm-go-sdk](https://github.com/tetratelabs/proxy-wasm-go-sdk)项目fork了自己的WASM插件开发[SDK](https://github.com/higress-group/proxy-wasm-go-sdk),在此基础之上还用一层wrapper屏蔽了插件开发中很多重复性工作,使开发者可以将精力集中于功能开发。但是,wrapper层的加入使[proxy-wasm-go-sdk](https://github.com/tetratelabs/proxy-wasm-go-sdk)原生的单元测试框架变得不可用,在对使用了wrapper的插件进行单测时会报错。 ## 分析 - 测试框架调用了被wrapper封装的函数,比如OnPluginStart,如下图所示。因此插件里用了wrapper会导致测试时没法读取配置报错以及类似的其他问题。 ![image](https://github.com/alibaba/higress/assets/34686317/c116fd30-88c1-4c70-866a-c65f59bc211a) - 因此需要对wrapper作出改动,使之支持除默认从envoy.yaml读取配置外还可以从测试代码传入插件配置。 - wrapper默认从配置文件读取配置 ![image](https://github.com/alibaba/higress/assets/34686317/0e629e8c-b127-4f7c-8b3a-27659c8575bd) - 可以尝试在CommonVmCtx中增加一个字段testConfig(或者其他名字),当这个字段不为空且合法,则视为测试环境,将之用于解析配置,不再从envoy.yaml文件中读取。(不保证正确,除了配置读取外还可能存在别的问题。) - 结论:Wrapper和测试框架不兼容,需要对wrapper做出改进使之适配[proxy-wasm-go-sdk](https://github.com/tetratelabs/proxy-wasm-go-sdk)的测试框架。

level/normal
area/ut

**If you are reporting *any* crash or *any* potential security issue, *do not* open an issue in this repo. Please report the issue via [ASRC](https://security.alibaba.com/)(Alibaba Security Response Center) where the...

area/observability

## Why do you need it? ![2a10b6c38b84189a914e5a84827afca3](https://github.com/alibaba/higress/assets/16079256/dc0313d4-1b22-4fd6-82ad-ce9127649507) ![979da3fbdea5449134e99d9adfdb9906](https://github.com/alibaba/higress/assets/16079256/032e8297-5b11-408f-825d-30bb056d5b04) ## How could it be? A clear and concise description of what you want to happen. You can explain more about input...

## Why do you need it? contextCache 可以大幅提升长上下文的响应速度。 可以通过 Higress AI 代理插件配置,快速提供有 RAG 能力的服务,并且可以通过 Higress 的 AI Cache 插件进一步降低成本。 ## How could it be? 支持配置 cacheid,可以参考 qwen fileId 的实现 ##...

level/normal
area/ai

moonshot 在获取基于文件的缓存内容时,可能出现潜在的token不匹配的情况,当提供了多个不属于同一个owner的api_key的时候,可能出现跨用户访问资源的情况。 需要在单次请求的时候使用相同的api_key。从业务角度出发,这可能也是一个让人疑惑的点,当配置了多个key的情况下,配置中是一个文件id的情况,在多次请求下,也会出现随机命中缓存的情况,这可能在配置了多api_key的情况下禁用内容缓存?

level/normal
area/ai

支持partial mode https://platform.moonshot.cn/docs/api/partial#partial-mode

## Why do you need it? NGINX 中proxy-next-upstream设置了timeout后并,nginx设置超时,会转发到正常的pod,higress的设置不一致 ## How could it be? higress与nginx需要保持一致 ## Other related information Add any other context or screenshots about the feature request here.

area/documentation
level/normal
sig/controller

我看higress本身已经具备了免费ssl的功能,但是目前规划的configmap的全局配置颗粒度较大,没有考虑多站点型项目和多租户的场景,希望能在创建ingress时也支持这个功能。 以下是沟通记录: ![IMG_5976(20240701-182448)](https://github.com/alibaba/higress/assets/4213382/6e22e463-91c1-48b4-91ec-b219eaee407f)

help wanted
level/challenge
sig/controller

### Ⅰ. Describe what this PR did This PR introduces a new WASM plugin that enables tagging specific requests based on user-defined rules. The functionality is aimed at facilitating gateway-level...

Higress WasmPlugin CRD 不支持自签名证书的HTTPS镜像仓库

help wanted
level/normal
sig/wasm