FunAudioLLM
现象表现
00%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:17<00:00, 17.41s/it] 16%|████████████████████████▎ | 16/100 [06:01<35:33, 25.40s/it2025-12-18 17:58:17,314 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s] 2025-12-18 17:58:32,879 INFO yield speech len 16.36, rtf 0.9514320450481984 100%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:16<00:00, 16.84s/it] 17%|█████████████████████████▊ | 17/100 [06:18<31:34, 22.83s/it2025-12-18 17:58:33,915 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s] 2025-12-18 17:59:12,791 INFO yield speech len 40.0, rtf 0.9719156086444855 100%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:39<00:00, 39.77s/it] 18%|███████████████████████████▎ | 18/100 [06:58<38:09, 27.92s/it2025-12-18 17:59:13,882 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s] 2025-12-18 17:59:44,324 INFO yield speech len 31.36, rtf 0.9707318884985787 100%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:31<00:00, 31.62s/it] 19%|████████████████████████████▉ | 19/100 [07:29<39:11, 29.03s/it2025-12-18 17:59:45,560 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s] 2025-12-18 18:00:08,296 INFO yield speech len 23.6, rtf 0.9633960764286881 100%|███████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 1/1 [00:24<00:00, 24.02s/it] 20%|██████████████████████████████▍ | 20/100 [07:53<36:42, 27.53s/it2025-12-18 18:00:09,398 INFO synthesis text 收到好友从远方寄来的生日礼物，那份意外的惊喜与深深的祝福让我心中充满了甜蜜的快乐，笑容如花儿般绽放。 | 0/1 [00:00<?, ?it/s]
用vllm_example 跑，rtf高出这么多？ 4090卡
不正常吧，我的是4080s比你这个小 100%|█████████████████████████████████████████████████████████████████████████████████| 1/1 [00:05<00:00, 5.10s/it] 2025-12-19 10:41:54,314 INFO 生成音频大小: 1104044 字节 2025-12-19 10:41:54,314 - uvicorn.access - INFO - 127.0.0.1:34370 - "POST /v1/tts HTTP/1.1" 200 2025-12-19 10:41:54,790 INFO 成功使用msgpack解析请求数据 2025-12-19 10:41:54,790 INFO 处理TTS请求: text=要是喝了三五天没啥效果，您就赶紧再来找我，咱再琢磨别的招儿。, reference_id=1766032068_tianjinguozi 0%| | 0/1 [00:00<?, ?it/s]2025-12-19 10:41:56,428 INFO synthesis text 要是喝了三五天没啥效果，您就赶紧再来找我，咱再琢磨别的招儿。 WARNING 12-19 10:41:56 [preprocess.py:63] Using None for EOS token id because tokenizer is not initialized 2025-12-19 10:41:57,857 INFO yield speech len 7.92, rtf 0.1804023077993682 100%|█████████████████████████████████████████████████████████████████████████████████| 1/1 [00:03<00:00, 3.04s/it] 2025-12-19 10:41:57,861 INFO 生成音频大小: 380204 字节 2025-12-19 10:41:57,861 - uvicorn.access - INFO - 127.0.0.1:34370 - "POST /v1/tts HTTP/1.1" 200 2025-12-19 10:41:57,996 INFO 成功使用msgpack解析请求数据 2025-12-19 10:41:57,996 INFO 处理TTS请求: text=反正啊，您就把心放肚子里，跟着我这祖传秘方走，准没错儿！, reference_id=1766032068_tianjinguozi 0%| | 0/1 [00:00<?, ?it/s]2025-12-19 10:41:59,619 INFO synthesis text 反正啊，您就把心放肚子里，跟着我这祖传秘方走，准没错儿！ WARNING 12-19 10:41:59 [preprocess.py:63] Using None for EOS token id because tokenizer is not initialized INFO 12-19 10:41:59 [metrics.py:486] Avg prompt throughput: 124.1 tokens/s, Avg generation throughput: 34.0 tokens/s, Running: 1 reqs, Swapped: 0 reqs, Pending: 0 reqs, GPU KV cache usage: 0.4%, CPU KV cache usage: 0.0%. 2025-12-19 10:42:01,022 INFO yield speech len 7.64, rtf 0.18361260753651565 100%|█████████████████████████████████████████████████████████████████████████████████| 1/1 [00:02<00:00, 3.00s/it] 2025-12-19 10:42:01,024 INFO 生成音频大小: 366764 字节 2025-12-19 10:42:01,024 - uvicorn.access - INFO - 127.0.0.1:34370 - "POST /v1/tts HTTP/1.1" 200 2025-12-19 11:27:44,123 - uvicorn.access - INFO - 127.0.0.1:59974 - "GET / HTTP/1.1" 404
