关于
我是 zhouy。这个博客记录我折腾自部署 AI 推理、网络与系统工程的实践笔记——架构、踩坑、成本,都尽量写得可以直接复用。
模型服务
博客之外,我在运营一个邀请制的 OpenAI 兼容推理 API:
- 入口与文档:https://chat.zhouy.vip/about(API base URL:
https://chat.zhouy.vip/v1,同域附赠一个聊天页) - 后端:家用机房的 RTX 5090(NInfer 推理引擎,NVFP4 量化,262K 上下文窗口)+ 海外 VPS 作为公网网关
- 仅向受邀者发放 API key,不公开注册、不收费;服务侧只保留元数据审计(请求体积/速率),不存储对话内容
- 使用条款见 https://chat.zhouy.vip/about
如果你对模型服务感兴趣,可以联系我(邀请制,联系渠道见博客更新)。
本站
- 静态站点:Astro + Astro Paper 主题(MIT),纯静态文件,无后端、无数据库
- 内容以技术笔记为主;涉及 AI 辅助撰写的内容会在文中注明
- 保留所有权利;技术事实欢迎讨论纠错