请问调用到第三方软件如何强行切分再推理

Open sqsq37 opened this issue 1 year ago • 0 comments

调用API到第三方软件推理，但是漏字比直接在你们的GUI里推理严重很多，应该是没做切分，一段话几百字超过50字也直接推理了，请问一下怎么让调用的API也强行切分在推理

Feb 16 '24 18:02 sqsq37