Selfhostllm.org

Selfhostllm.org 是一款归入「模型 API 与开发平台」方向的 AI 工具，官网为 selfhostllm.org。官网标题为“SelfHostLLM - GPU Memory Calculator for LLM Inference”。

官网对产品的描述是：计算 GPU 内存要求和最大并行请求，用于自行忏悔的 zxq6 推论这种说法。支持Llama，Quen，DeepSeek，Mistr忏悔等等）。高效规划你的AI基础设施。（原文：Calculate GPU memory requirements and max concurrent requests for self-hosted LLM inference. Support for Llama, Qwen, DeepSeek, Mistral and more. Plan your AI infrastructure efficiently.）

首页还提到：与其它用户共享此链接以加载相同的配置：示例：14GB（7B型）×0.5（Zxq忏悔））=7GB

说明：本页内容基于 2026 年 10 月对 selfhostllm.org 首页的抓取整理，非官方文档，具体以官网为准。

• QQ 共享配置（📤 Share Configuration）
• 最大并行请求如何计算（📊 How Max Concurrent Requests is Calculated）
• GPU性能如何估计（⚡ How GPU Performance is Estimated）
• 模型重量被装入一次，并留在记忆中。
• 官网链接了 GitHub 仓库（https://github.com/erans/selfhostllm）

如果你有以下需求，可以试试 Selfhostllm.org：

• 大模型 API、推理、RAG 与开发框架
• 软件开发、原型搭建和技术集成
• 示例：（8192×7GB×0.2）/1000=11.47忏悔每）。
• 每个主动请求的注意力缓存都需要这个内存。

使用建议：

• 不要把密钥、内部代码等敏感信息直接粘贴给第三方工具。
• 让 AI 生成代码后，先在本地或测试环境跑通，再合入正式项目。

主要面向：开发者、技术团队以及想快速做出原型的产品人员；需要 API 或二次开发的开发者。

未在官网首页找到公开价格信息，请以官网为准。