Sheen Huth
Sheen Huth
https://github.com/linyiLYi/bilibot/issues/28
研究了一下，应该RAG是更好的解决办法： https://github.com/infiniflow/ragflow
运行了ragflow，效果也是不太行的样子
> > **我只能说up主是一个很会讲故事的人。** > > 起初我对UP主在B站视频里讲的内容比较感兴趣，因为公司有资源，于是在Mac和Linux两个平台上将视频内容都实现了一遍，包括了up github中的默认训练参数，以及其他的一些自己调参。 > > 这里先说几个结论，再说让我很不爽的点。 > > **结论：** > > > > 1. 达到视频中最终效果的主要因素：每个问题前，加上了提示词：”你是一位B站老用户，请使用暴躁的语言风格，对以下问题给出简短、机智的回答：“。不用训练，直接用开源qwen模型，问题前面加上面说的提示词即可复现。 > > 2. 本项目提供的2万训练语料质量较差，并不是模型效果的主要贡献者，或者说对模型效果没有任何贡献。 > > 3. 要么不让模型学习到训练语料内容（或极小学习率假装学习下），模型但凡学习到训练语料内容，效果就会变差。 > > >...