API を Prompt Tuning した場合と、OSS を Fine Tuning した場合とでどちらがコスト効率が良いのか検証できる実装を提供する

[icoxfog417]

AWS で生成系 AI を使ったアプリケーションを開発する開発者として、想定しているユースケースに対し Amazon Bedrock のモデルを使い Prompt Tuning するのが良いのか、 OSS を Fine Tuning した方が良いのか、判断基準のポイントを知りたい。初手は実装が簡易な Amazon Bedrock がスムーズだが、ユーザーの実利用データが蓄積できより挙動を洗練させたい場合、どこまで Prompt Tuning / Few shot で進めどこから Fine Tuning に切り替えるか見通しが事前に把握できれば、切り替えポイントの見過ごしによる機会損失を最小化することができる。