sbv2-api
sbv2-api copied to clipboard
モデル読み込み上限を設定していた際、Vec<u8> と Session分でメモリをかなり消費することになるので、一時的にファイルに保存したりVec<u8>の代わりにsbv2ファイルへのパスを持つなどして減らせないか
機能追加の説明
モデル読み込み上限を設定していた際、メモリ消費を抑えるために sbv2_core の tts.rs の TTSModel の vits2: Option<Session>, が None になるようになっていますが、
読み込んだときに bytes: Option<Vec
メリット メモリ消費量を抑えられる
デメリット
PathBufを持つようにした際はTTSModelHandlerでloadしようとした際に Vec
ブラウザやno_std環境への対応も考えるとパスへのオフロードはできないため、新規でアンロード関数を追加するのが良さそう?