generative-ai-use-cases icon indicating copy to clipboard operation
generative-ai-use-cases copied to clipboard

【不具合フィードバック】出力が途中で途切れる

Open xtc-izou opened this issue 1 year ago • 9 comments

問題の概要

以下のような感じで「Web コンテンツ抽出」を利用すると出力が途切れます。

  1. 以下のような形で設定 image

  2. 途中で出力が途切れる image

  • 対象URL:https://www.crowdstrike.com/falcon-content-update-remediation-and-guidance-hub/

xtc-izou avatar Jul 24 '24 07:07 xtc-izou

追記(7/30)

  • 議事録生成でも本件発生しました。

但し、以下の一文を「整形」フェーズのコンテキストに追加することで、議事録作成の方は全て出力されるようになりましたので、共有させて頂きます。Claude 3.5でテストしております。

コンテキスト

  • 生成された文章を全て読み込んでから、抜け漏れなく整形してください。これが一番重要です。例外はありません。

image

xtc-izou avatar Jul 30 '24 05:07 xtc-izou

https://github.com/aws-samples/generative-ai-use-cases-jp/pull/576 こちらで最大出力トークン数の調整がされているのですが、最新の main ブランチでも発生するか確認していただけますでしょうか?

tbrand avatar Jul 30 '24 05:07 tbrand

@tbrand ご確認ありがとうございます。試してみます!

xtc-izou avatar Jul 30 '24 06:07 xtc-izou

@tbrand #576 で再度試してみました。

  1. Webコンテンツ抽出 こちらのページの翻訳は、最後まで出力されるようになりました。 https://www.crowdstrike.com/falcon-content-update-remediation-and-guidance-hub/

  2. 議事録作成 やはり途中で切れます。元ネタは、30分程度の会議のTeamsトランスクリプトですが、 30分弱の会議でも文書生成が途切れてしまいます。Teamsのトランスクリプトを途切れない範囲で分割して、 それを文書生成の下図の箇所で結合して議事録を作成してどうなるか試してみます。 image

xtc-izou avatar Jul 31 '24 04:07 xtc-izou

@tbrand Teamsから出力されたトランスクリプトを分割して整形、それを任意の範囲で繰り返し、 最後に分割した内容を議事録作成メニューでマージすることで議事録としては正常に出力されることを確認しました。

xtc-izou avatar Aug 01 '24 03:08 xtc-izou

ありがとうございます。最新の main ブランチに「続きを出力」ボタンを実装しました。お手隙でそちらもご検討ください。出力が途切れた際「クリア」「実行」ボタンの並びに「続きを出力」ボタンが出ます。

tbrand avatar Aug 01 '24 05:08 tbrand

@tbrand ありがとうございます!試させて頂きます!

xtc-izou avatar Aug 02 '24 00:08 xtc-izou

@tbrand 音声データの文字起こしの整形で「続きを出力」ボタンを試しています。問題なく続きが出力されるのですが、整形結果が2回出力されています。

わかりにくい説明で恐縮ですが、以下のイメージです。(①②③④を整形結果として記載します。) 1.文字起こし内容が多いため、max_tokenに引っかかり、整形の出力が途中で途切れる。(①②③で途切れて、④が出ない) 2.「続きを出力」で、途切れた部分から整形の続きが出力される。(①②③の続きに、④の結果が出力される) 3.出力中、内容的に整形が完了するが、その直後に再度最初から整形結果が出力される。(①②③④①②と出力され途切れる) 4.再度「続きを出力」で、処理が完了するが、整形内容が重複している。(①②③④①②③④)

chikaaki avatar Aug 15 '24 02:08 chikaaki

@tbrand 私の方も試してみましたが、「続きを出力」を押下すると、なぜか最初の文章の整形に戻ります。

xtc-izou avatar Sep 02 '24 03:09 xtc-izou

This issue is stale because it has been open for 30 days with no activity.

github-actions[bot] avatar Mar 18 '25 02:03 github-actions[bot]

This issue was closed because it has been inactive for 14 days since being marked as stale.

github-actions[bot] avatar Apr 01 '25 02:04 github-actions[bot]