ryanyang125

Results 3 issues of ryanyang125

Hi there! I want to share that I've been enjoying using web-llm and its demo for some time now. However, I found that the demo didn't quite meet my needs...

项目地址: https://github.com/Ryan-yang125/ChatLLM-Web Demo: https://chat-llm-web.vercel.app ### 特点: - 🤖 一切都在浏览器内运行,无需服务器支持,并且使用 WebGPU 进行加速。 - ⚙️ 模型在 Web Worker 中运行,确保不会阻塞用户界面,提供无缝体验 - 🚀 通过在 Vercel 上单击一次即可轻松免费部署,不到 1 分钟,即可获得自己的 ChatLLM Web。 - 💾 支持模型缓存,只需要下载模型一次。 -...

weekly

use @mlc-ai/web-llm to refactor code