datalee
datalee
提示词里（prompt engineering）如何支持变量占位符？比如用户的问题输入{query}、或者rag的检索内容{search_content}
> 上下文-用户模式可以支持，相关功能还在开发优化。 > > 对，是想要这个东西
how to use local openai vllm serving
> 在什么情况下会需要当做 pypi 包用呀 直接使用源码可能会面临代码引用的问题
有没有一个可以直接适配openai协议的model接口？
前段会阻塞，有时候后端跑完了，前端还卡着
Yes, I also encountered this issue. Is this expected? but，i see “# Robyn's request.json() returns a dict, no need for await”， What went wrong?
Can I intervene in the output format of the responses? For example: like this ( ``` # Example: ## User Question: Check the xxx status of host xxxx from xx...