webgpu-llm-chat

webgpu-llm-chat 的官方站点是 webgpu-llm-chat.vercel.app，从首页内容看，它主要提供模型 API 与开发平台相关的 AI 能力。它的首页标题写着“browser-llm-project”。

官方给出的一句话介绍是：该模型通过WebGPU在您的浏览器中完全运行。没有东西离开你的装置。（原文：The model runs entirely in your browser via WebGPU. Nothing leaves your device.）

官网进一步说明：最快的第一键，优秀的演示（ ~ 500 MB）

说明：本页内容基于 2026 年 10 月对 webgpu-llm-chat.vercel.app 首页的抓取整理，非官方文档，具体以官网为准。

• 私人 AI 聊天（Private AI Chat）
• WebGPU 自动检测到的 ^如果无法使用，则返回到 WASM。

从官网介绍来看，webgpu-llm-chat 比较适合：

• 大模型 API、推理、RAG 与开发框架
• 软件开发、原型搭建和技术集成

使用时可以注意：

• 不要把密钥、内部代码等敏感信息直接粘贴给第三方工具。
• 让 AI 生成代码后，先在本地或测试环境跑通，再合入正式项目。

主要面向：开发者、技术团队以及想快速做出原型的产品人员；需要 API 或二次开发的开发者。

未在官网首页找到公开价格信息，请以官网为准。