三花快讯 · 2024, 5月10日

Phi-3 WebGPU 强大的 AI 聊天助手

Phi-3 WebGPU 所有内容都使用 Transformers.js 和 ONNX Runtime Web 直接在浏览器中运行,可以在浏览器中本地运行模型。

Phi-3 WebGPU 所有内容都使用 Transformers.js 和 ONNX Runtime Web 直接在浏览器中运行,可以在浏览器中本地运行模型。

加载 Phi-3-mini-4k-struct(3.8B的 LLM),Phi-3 是当前高质量开源大模型中最小、且最有潜力在终端侧运行的模型。

商业转载请联系三花微信公众号获得授权,非商业转载请注明本文出处及文章链接,您可以自由地在任何媒体以任何形式复制和分发作品,也可以修改和创作,但是分发衍生作品时必须采用相同的许可协议。

本文采用 CC BY-NC-SA 4.0 - 非商业性使用 - 相同方式共享 4.0 国际 进行许可。