Anders Xiao

### Is your feature request related to a problem? - When we specify bytebase.registryMirrorHost, there is no configuration that supports us specifying an image pull secret ### Describe the solution...

如题

既然用了LLAMA, 多轮对话为什么不用 Alpaca ?

1

难得看到全参训练的 LLaMA 模型，既然全参训练了，按理扩充一下词表效果要比隔壁的民间羊驼好，但是由于聊天不是 alpaca 结构，开源生态很多项目就不太好用，加上腾讯那个训练库....他自己star那么少，所以基于它的东西star少也就能理解了，还有回答时候总是要重复问题..... 建议提供 lora 合并例子，脚本，lora 可复现训练代码，llama.cpp手动转换脚本，毕竟不是每个人都有条件全参的...再加上 LLaMA 开源的协议问题... 加油！

windows 平台不支持 release 编译？

5

运行如下命令： ```shell cmake -DCMAKE_BUILD_TYPE=Release .. -G "Visual Studio 17 2022" -DBUILD_SHARED_LIBS=0 -DCMAKE_CXX_FLAGS="/utf-8" cmake --build . --config Release ``` 出现错误: ``` error MSB6006: “CL.exe”已退出，代码为 -1073740791。 [F:\Works\WeTextProcessing\runtime\build\processor\processor.vcxproj] ``` 如果 build 时候使用DEBUG： ```shell...

n_gpu_layers 参数？

4

不支持 n_gpu_layers 参数控制装载的层数吗？多实例环境对推理速度要求不太高的场合，哪怕每个实例少装载 4~5 层也能节省很多 GPU

移动端支持如何？

1

还在更新吗？移动端是不是已经放弃了

希望像 FunASR 一样，提供 C++ 推理

4

最好能提供 ONNX， 这样可以在各种场景部署，这方面 FunASR 就非常优秀

SherpaOnnxOfflineTtsGenerateWithCallback 重复回调

1

使用 c api 调用 TTS 的 `SherpaOnnxOfflineTtsGenerateWithCallback` 函数会发生重复回调，而且这个问题只存在于 kokoro 中，同样的调用代码，如果是 vits-melo 没有问题，其他 TTS 没测试过。

Greate job！ How to use the `c++static` STL when compiling static libraries?

Paddelite 使用 Text to speech 问题

4

使用了 2.13rc 的 paddlite 编译了 windows 的包，并且已经调通，可以正常合成，希望可以解答一下这些问题： 1. 中文中不能夹杂任何英文，否则推理会失败。这个如何解决？ 2. paddelite 部署能支持流式合成吗？ 如果能够支持，有没有 C++ 流式合成的代码（非客户端）可以参考，主要是使用流式合成模型时候 PaddlePredictor 怎么用，不是 Paddle Inference 的 c++ 代码也行。 3. 从性能上说 windows 端侧部署，是不是 Paddle Inference 也可以用？ Paddle...