HOTHOTCOOLCOOL
Results
1
comments of
HOTHOTCOOLCOOL
整个集成没有问题,Linux上挂docker安装顺利。inference 我用lmstudio,缺点没有ranker ,我后面会外挂。LLM是Q3-30B,每秒token做到65个,所以理论上不是太大问题。我用lightrag挂了11个整理好的Json,大致在3m以内。我用查询功能,如果针对一个JSON文件提问大致是5分钟返回,跨JSON文档在10分钟左右。看lmstudio后台有很多请求排队,因为lmstudio是单线程,不晓得你们在其他环境是否有类似情况。 获取Outlook for Android ________________________________ From: Wenjie Zhang ***@***.***> Sent: Tuesday, October 21, 2025 11:56:02 PM To: xerrors/Yuxi-Know ***@***.***> Cc: HOTHOTCOOLCOOL ***@***.***>; Author ***@***.***> Subject: Re: [xerrors/Yuxi-Know] Feat:...