QAnything icon indicating copy to clipboard operation
QAnything copied to clipboard

[BUG] <切换非QAnything页面后,原模型回答界面上停止回答,切换回来后会重新开始回答>

Open songchenlearning opened this issue 1 year ago • 4 comments

是否已有关于该错误的issue或讨论? | Is there an existing issue / discussion for this?

  • [X] 我已经搜索过已有的issues和讨论 | I have searched the existing issues / discussions

该问题是否在FAQ中有解答? | Is there an existing answer for this in FAQ?

  • [X] 我已经搜索过FAQ | I have searched FAQ

当前行为 | Current Behavior

切换非QAnything页面后,原模型回答界面上停止回答,切换回来后会重新开始新的回答, image

期望行为 | Expected Behavior

解决bug

运行环境 | Environment

- OS:Ubuntu 18.04
- NVIDIA Driver:525.105.17
- CUDA:12.0
- Docker Compose:2.24.5
- NVIDIA GPU Memory:80G

QAnything日志 | QAnything logs

INFO:root:prompt tokens: 3494 INFO:root:streaming: True INFO:root:[{'role': 'user', 'content': '参考信息:\n占60-70%,这个比例远低于西方国家如美国(85%以上),这说明我国很多乳腺癌病人未能在肿瘤处于早期时被发现或接受诊断和治疗。 乳腺癌的二级预防,也即乳腺癌筛查目前已被公认为是最有效的乳腺癌防控措施。 乳腺影像学检查仍是现阶段乳腺癌二级预防早期发现和诊断的主要手段,其中MAM和超声检查(Breast ultrasound,BUS)是最基本、应用最普遍的影像学方法。 MAM被认为是目前诊断乳腺疾病,发现早期乳腺癌的重要方法,同时也是世界卫生组织和多个发达国家开展人群乳腺癌筛查普遍推荐的方法,其有效性已在全球范围内获得广泛认可。 但由于检查设备昂贵和检查费用较高,尚不适于在发展中国家推广使用。 BUS在临床上多作为对MAM的补充,且价格较前者便宜,在临床诊断中广为使用,特别是在二级医院和一级医院常常作为乳腺检查的主要手段。 CBE既是乳腺检查不可或缺的手段,又是其他各项检查的基础,但其结果和诊断准确度与医生的经验有很大关系。 乳腺临床检查和超声检查由于价格低廉,在经济不发达地区有更大的推广潜力,但在人群中的筛查效果尚待研究。 一、当前国内外乳腺癌筛查的研究背景及现状 乳腺癌的二级预防,近年已被公认是恶性肿瘤中最能有效地提高患者生存率和降低死亡率的群防措施。 筛查是乳腺癌二级预防最重要的方法。 开展大规模人群乳腺癌筛查的必要性就是在于其持续增高的发病率及早期发现带来的生存益处。 西方发达国家在乳腺癌筛查方面已经取得了很多经验,并有效降低了死亡率。 包括美国、英国在内的多个西方国家早在1963年已开始对乳腺癌筛查效果的研究。 西方多个发达国家已经相继制定了乳腺癌筛查指南并付诸实施(表1)。 美国预防服务工作组(U. S. Preventive services task force,USPSTF)推荐对50岁以上女性每两年进行1次乳腺X线摄影检查; 美国癌症协会(American cancer society,ACS)推荐筛查起始年龄40岁并且每年1次的乳腺X线摄影检查。 此外,加拿大、英国和欧盟等国家或组 织推荐的筛查指南均以乳腺X线摄影检查作为主要的筛查手段。 亚洲女性乳腺癌的发病率低于西方国家,而且亚洲女性乳腺的生理结构如大小、致密度等也与西方女性不同,所以采用的筛查方法和效果也与其在西方女性中的乳腺癌筛查不同。 如韩国推行以手诊联合乳腺X线摄影检查的筛查模式,而新加坡的乳腺癌筛查指南以乳腺自检和乳腺X线摄影检查为主要方法。 在发病率较低的亚洲女性中进行乳腺癌筛查能否有效降低乳腺癌死亡率尚缺乏证据支持,有待进一步深入研究。 从上表可以看出, 乳腺影像学检查仍是现阶段乳腺癌二级预防早期发现和诊断的主要手段, 其中乳腺X线摄影检查(Mammography, MAM)和超声检查(Breast ultrasound, BUS)是最基本、应用最普遍的影像学方法。 MAM被认为是目前诊断乳腺疾病,发现早期乳腺癌的重要方法,同时也是世界卫生组织和多个发达国家开展人群乳腺癌筛查普遍推荐的方法,其有效性已在全球范围内获得广泛认可。 但由于检查设备昂贵和检查费用较高,尚不适于在发展中国家推广使用。 BUS在临床上多作为对MAM的补充,且价格较前者便宜,在临床诊断中广为使用,特别是在二级医院和一级医院常常作为乳腺检查的主要手段。 目前我国乳腺影像学检查主要用于临床疑诊病例的进一步检查,在乳腺癌筛查中尚未发挥主要作用。 临床触诊(Clinical breast examination,CBE)既是乳腺检查不可或缺的手段,又是其他各项检查的基础,但其结果和诊断准确度与医生的经验有很大关系。 乳腺临床检查和超声检查由于价格低廉,在经济不发达地区有更大的推广潜力,但在人群中的筛查效果尚待研究。 二、我国乳腺癌筛查的研究现状及主要问题 我国乳腺癌防治工作起步较晚,筛查技术尚处于探索阶段。 90年代对26万上海纺织女工开展的14年队列研究显示,对人群开展乳腺自检(Breast self-examination,BSE)教育和指导未能降低人群的乳腺癌死亡率。 之后在我国的某些地区(如安徽、南京、上海、成都等地)开展过小规模人群乳腺癌筛查或机会性筛查的研究为我国制订乳腺癌的预防策略提供了线索,但研究结果尚未得到重复验证和人群推广。 我国至今尚无一个全国性的乳腺癌筛查规范。 在过去的五年里,我国政府日益关注女性健康,加强肿瘤的防治工作。 自2008年开始,卫生部利用中央财政转移支付资金在全国30个省(区、市)的53个项目点开展了以主要城市妇女为主的乳腺癌筛查工作。 该项目针对35-69岁健康妇女,通过对妇女进行乳腺健康教育,为其提供免费、安全和专业的乳腺检查,以期使我国乳腺癌病人得到早期发现,早期治疗,提高生存率,降低死亡率。 由于经费的限制,项目专家组设计了一个最经济的技术方案,即为全部筛查人群首先接受临床体检,阳性和可疑者进一步做乳腺钼靶X线检查; 钼靶X线检查阳性者需进行病理诊断,可疑者进一步进行超声检查; 超声检查阳性和可疑者需进行病理诊断。 2012年8月,卫生部在全国9省份启动了“城市癌症早诊早治项目”,项目拟在城市人群中开展肺癌、女性乳腺癌、大肠癌、上消化道癌和肝癌的高危人群评估、筛查和早诊早治。 乳腺癌筛查方案主要包括对人群进行危险因素评估,初筛高危人群; 对筛出的高危人群进行彩色超声和/或钼靶检查。 同时,建议被筛查出的疑似癌症或癌前病变患者到医院进行规范化的诊治,并定期随访和干预。 尽管这几个项目所覆盖的筛查人群远远少于我国现有适龄妇女数,但以政府为主导的国家公共卫生服务项目确实能惠及部分地区,对基层肿瘤防控工作起到引导和示范的作用。 这些项目的筛查效果还有待评价。 目前尚缺乏我国人群乳腺癌筛查准确度的数据,以上项目由于所选筛查方法和执行时间的限制,无法进行不同筛查方法的比较,同时由于没有对全部研究对象采用金标准进行结果判断, 筛查准确度的数据也无从获得。 为此,本项目开展了大规模人群的乳腺癌筛查方法学研究,以期获得各种筛查方法的灵敏度、特异度等数据,为乳腺癌筛查效果的评价提供数据支持,为乳腺癌防治策略的制订提供科学依据。 乳腺癌筛查的成本效果在多数发达国家也已被接受。 如Ahern的研究显示:MAM和CBE隔年交替筛查的增量成本效果比(ICER)为3500美元/QALYs(质量调整寿命年); Klemen(2008)的研究显示斯洛文尼亚40-80岁女性每3年1次MAM筛查的ICER约为400欧元/QALYs。 根据国际通用的每个QALY成本5万美金以下的成本效果评价标准,所有这些结果均在可接受的范围之内。 目前,尚无研究可以直接回答我国女性的最优乳腺癌筛查策略分别是何种策略,也无法说明目前的乳腺癌筛查策略是否符合成本效果原则。 综上所述, 本研究的主要目的在于:通过比较各种乳腺癌检查方法的阳性检出率、灵敏度、特异度和阳性预测值等, 进一步随访目标人群, 结合肿瘤登记报告乳腺癌发病率和死亡率, 比较不同筛查方案的优劣, 并建立中国妇女乳腺健康档案信息数据库。 根据筛查的有效性、结合卫生经济学评价,确立一套适合我国社会经济条件和女性生理特点的最优的乳腺癌筛查方案,从而有效地建立提高乳腺癌患者生存率和降低死亡率的防治措施。 三、中国女性乳腺癌早诊早治方案研究研究背景 2008~2011年我国相继开展了主要针对城市妇女的中央财政转移支付乳腺癌筛查项目(简称“城市项目”)和针对农村妇女的乳腺癌检查项目(简称“农村项目”)。 在中央财政转移支付乳腺癌筛查项目开展的同时,中国抗癌协会同时选取了北京、天津、沈阳、南昌、肥城五个地区开展了中国多中心乳腺癌优化筛查方案项目(简称“多中心项目”)。 郝希山院士作为三项项目的首席科学家,组织专家团队负责项目的技术指导和具体实施工作。 迄今为止,该三项项目是我国唯一开展最大规模的国家层面的乳腺癌筛查项目。 人群入选标准:城市项目筛查的对象为35-69岁、在现住址居住3年以上的当地常住人口,并自愿参加并且能接受检查的女性。 除年龄分别选取在35-59岁及45-65岁之外,农村项目及多中心项目的人群纳入排除标准与城市项目人群纳入排除标准基本均一致。 筛查基本流程:首先,所有合格的女性接受邀请并答应参加筛查者,由社区卫生服务人员统一安排其筛查时间。 其次,筛查前,所有愿意参与筛查的女性将接受由经过严格培训的调查员进行的面对面的问卷调查,以获得流行病学相关信息,并签署《知情同意书》。 第三,筛查过程中,参与城市项目的女性在接受手诊检查后,先后进行钼靶及超声的检查,钼靶阳性或钼靶阴性但超声阳性的女性接受进一步的病理检查; 而参与农村项目的女性在接受手诊检查后,先后进行超声及钼靶检查,钼靶阳性的女性接受进一步的病理检查; 参与多中心项目的女性将同步盲法接受手诊检查、钼靶及B超检查,三项检查中任意一种检查方法阳性将建议接受病理检查,以确诊乳腺癌。 详细流程参考下图: 质量控制:(1)组织培训:三项项目均组织有严格的筛查启动时培训、筛查前期的二次强化培训,以及筛查过程中实时监控及反馈。 (2)数据收集:流行病学调查问卷,临床手诊、乳腺X线检查、乳腺超声检查的病例报告表均经过专家组反复讨论并预实验进行测试。 (3)乳腺筛查技术:不同筛查技术均根据国内相应检查方法制定严格的操作指南,并采用当前相对精准的设备,同时影像学资料(包括乳腺X线检查及超声检查)采用双人阅片,不一致地方采用高年资的医师进 行仲裁。 (详细研究方法参考附件) 一、不同人群乳腺癌检出率及影响因素分析 三项筛查项目最终纳入分析的有效人数为1259948人,其中城市项目398184人,农村项目828530人,多中心项目33234人。 发现的乳腺癌例数分别为223例,431例和102例,乳腺癌检出率分别为56. 0/10万,52. 0/10万,及306. 9/10万。 由图1可以看到, 除民族与常住人口数在三组筛查人群与乳腺癌的关联方向不一致之外, 以下因素在三组人群均增加乳腺癌检出率:年龄大、教育水平在小学及以下、无职业、无保险、非在婚(包括单身、离婚、分居、寡妇)、结婚年龄>25岁、有家族史、肥胖。 合并三组人群后,单因素分析(调整人群来源)能够显著增加乳腺癌检出率的因素,年龄大、收入高、无保险、非在婚、结婚年龄>25岁、有家族史、肥胖。 继续调整年龄后,除肥胖不具有显著差异外,其他因素仍能够显著增加乳腺癌检出率。 根据地区分层后,城市项目中,东北地区的乳腺癌检出率显著高于其他六个地区,同时与华北、华中及华南地区的乳腺癌检出率没有显著差异,但均高于华东、西北及西南地区。 农村项目中,华北地区的乳腺癌检出率最高,同时与华中及华东地区的乳腺癌检出率没有显著差异,但均高于华东、西北、华南及西南地区(表3)。 不同省份的乳腺癌检出率分布地区进一步显示我国乳腺癌的分布上存在明显的地区差异。 二、筛查发现乳腺癌的肿瘤特征分布及影响因素分析 多中心项目中,筛查发现102例乳腺癌患者中,原位癌15例、I期癌35例、II期癌31例、III期癌9例,期别不详者12例,无IV期癌病例。 如果将原位癌及I期癌视为早期癌,同时排除期别不详的乳腺癌患者,则多中心项目中,早期癌的比例为55. 6%。 在所有102例乳腺癌患者中,肿瘤最大直径小于2cm的肿瘤比例为67. 8%。 同时有淋巴结转移的肿瘤比例为18. 9%。 在有明确病理分型的乳腺癌患者中,导管原位癌及小叶原位癌的比例为18. 1%(图2)。 相比同期临床就诊的乳腺癌患者,多中心筛查项目中发现的乳腺癌患者肿瘤分期更早,早期癌的比例更多,肿瘤大小更小,淋巴结转移更少,原位癌比例更多。 筛查发现的肿瘤特征优势同时也见于城市筛查项目及农村筛查项目。 提示我国三项乳腺癌筛查项目已经初步取得了我们预期的结果(图2)。 根据不同的人口学特征进行分层分析的结果显示:在下列人口学特征下进行筛查, 相比各自对应的人口学特征, 会发现更多的早期癌患者:有职业(相对于没有职业)、有保险(相对于没有保险)、家庭常住人口数在三个以上(相对于三个以下), 以及有癌症家族史(相对于没有癌症家族史)。 多因素分析结果显示,即使在调整其他因素影响后,在有癌症家族史的女性中进行筛查,相比在没有癌症家族史的女性中进行筛查,更容易发现早期乳腺癌患者。 三、乳腺癌的自然史和实施筛查的必要性 乳腺癌同所有恶性肿瘤一样,其发生是多因素和多阶段的事件。 恶性肿瘤的形成过程可被分为三个不同阶段。 第一阶段为肿瘤的启动。 它是由于致癌剂暴露或胚系传递引起的突变所致。 第二阶段为肿瘤的促进。 如果在此阶段不暴露给促进剂或促进条件,被启动的细胞将不形成肿瘤,此阶段随着第一批肿瘤细胞的出现而结束,这两个阶段中早期异常的细胞被称之为肿瘤前或癌变前细胞。 第三个阶段为肿瘤的演进。 该阶段以癌变前的肿瘤结节形成浸润性生长为起点,以最终杀死宿主的高度浸润性和广泛转移性的癌为终点。 乳腺癌的发生也是多阶段事件,在乳腺癌发生过程中仅仅一个或两个基因的改变是远远不够的,在正常乳腺上皮恶性转化为乳腺癌的过程中,需要在不同阶段有秩序地发生多个相对独立的遗传物质的改变。 这些遗传改变的积累导致并贯穿于乳腺癌的发生和发展的整个过程。 目前的研究结果表明,乳腺癌起自正常终末导管小叶单位,进展为中间的增值阶段(非不典型增生和不典型增生),最终分化为原位癌和浸润性乳腺癌,而浸润性乳腺癌会由I、II、III、IV期逐步进展。 根据乳腺癌的自然史,如果能在临床前期或疾病早期检出肿瘤,遏制其向晚期进展,这就是筛查的主要目的所在。 乳腺癌的治疗效果与发现时的病期早晚有关。 I期乳腺癌95%以上能够临床治愈,II期乳腺癌5年生存率在75%以上,III期\n---\n我的问题或指令:\n请问乳腺癌的研究进展有哪些\n---\n请根据上述参考信息回答我的问题或回复我的指令。前面的参考信息可能有用,也可能没用,你需要从我给出的参考信息中选出与我的问题最相关的那些,来为你的回答提供依据。回答一定要忠于原文,简洁但不丢信息,不要胡乱编造。我的问题或指令是什么语种,你就用什么语种回复,\n你的回复:'}] INFO:httpx:HTTP Request: POST http://localhost:7802/v1/chat/completions "HTTP/1.1 200 OK" Exception ignored in: <generator object OpenAICustomLLM._call at 0x7fe6a3227ed0> Traceback (most recent call last): File "/workspace/qanything_local/qanything_kernel/core/local_doc_qa.py", line 249, in get_knowledge_based_answer yield response, history RuntimeError: generator ignored GeneratorExit

复现方法 | Steps To Reproduce

模型选yi-34B-chat,运行命令bash ./run.sh -c local -i 2,3,4,5 -b hf -m Yi-34b-chat -t Yi-34b-chat,界面随机上传一个文档提一个问题

备注 | Anything else?

No response

songchenlearning avatar Feb 18 '24 07:02 songchenlearning

同问,有时候不切换到别的页面也有此类问题,如下图。容器版本:qanything:v1.0.8(因为v1.1.1用不了,报错“Triton Inference Error (error_code: 4)”,所以切回此版本) image

fredfany avatar Feb 20 '24 09:02 fredfany

+1 感觉是异步没处理好还是什么

liuyijiang1994 avatar Mar 14 '24 03:03 liuyijiang1994

修改\qanything-master\front_end\src\components\Chat.vue fetchEventSource方法加入openWhenHidden: true,即可

truthsun22 avatar Apr 29 '24 08:04 truthsun22

修改\qanything-master\front_end\src\components\Chat.vue fetchEventSource方法加入openWhenHidden: true,即可

谢谢你 我的英雄

liuyijiang1994 avatar May 06 '24 01:05 liuyijiang1994