Less

Results 4 comments of Less

目前 TorchScript 到 TFLite 已经支持了,到 MNN 的转换可以一起搞一下 :)

This problem is difficult to solve in the current pruning architecture, in two to three weeks we will release a new pruning architecture that will fix this problem.

关于“如何不泄露秘密”我在最近的游戏中的方法和楼上的思路很像,让Chat LLM自己也不知道”秘密“就好了。通过额外的Decision LLM/ Program 来控制秘密信息的Retrieval: 1. 好感度,给每次聊天设置一个Emotion的增减,超过一定好感度才会解锁私密数据 2. 需要额外的一个KeyWord->Secret的召回机制,当用户说到了某些特定的话,会触发私密数据的召回