Web LLM浏览器里跑大语言模型

 ✒️ @halomaster 📅 15 Apr 2023, 10:51 GMT⋮ 【AI】 

Web LLM https://mlc.ai/web-llm/ 完全在浏览器里运行LLM https://github.com/mlc-ai/web-llm


[1] @halomaster • 15 Apr 2023, 11:00 GMT 
如果报错,一定要在 chrome://flags 或者 edge://flags 里搜索 webgpu,然后把相关选项enable。 并切换到 chrome://gpu 或 edge://gpu 检查 WebGPU是否是开启的。


[2] @halomaster • 15 Apr 2023, 11:01 GMT 
如还是有问题,可以安装最新版本的chrome https://www.google.com/chrome/canary/


1 of 1 pages  2 replies