原始发布日期:2026-10-23。OpenAI发布Habitat存储架构系列第二篇,称该平台服务超过十亿用户,分布在40个区域,管理的数据超过500PB。最大的一组Azure Cosmos DB账户存放数十PB数据并承载每秒两千万级请求。上述规模来自OpenAI与微软的共同披露,属于运营方数据,并非独立测量。
Habitat最初在多租户账户中快速扩展,随后为隔离噪声邻居和热点把部分负载拆向单租户,再逐步回到以多租户为默认、以专用隔离处理异常热点的组合。文章强调,账户数量不是容量问题的唯一答案;分区键选择、访问模式和突发流量会决定热点是否落在少数物理分区,盲目拆账户可能把运维复杂度扩大。
一次2024年的区域故障暴露了恢复路径缺陷。团队发现,故障转移可能持续数小时,而在服务回切时,大量客户端同时重新连接,形成连接风暴并压垮Cosmos DB网关。也就是说,数据副本存在并不保证应用能在预期时间内恢复;控制面操作、连接建立和依赖服务的承载能力同样是恢复时间的一部分。
OpenAI与Azure随后建立共同仪表盘、联合演练和接近生产规模的非生产测试。架构上,团队只对最小且延迟敏感的数据做广泛复制,其余数据尽量与计算放在同一区域,并使用缓存降低跨区读取。一个以Rust编写的代理承担连接与协议层优化,变更数据捕获管道则需要按数据量与消费者增长独立扩容。
这份复盘没有给出可直接迁移到任意公司的统一参数,也没有证明所有故障模式已经消失。其价值在于把“数据库可用性”拆成热点、网关、客户端连接、故障转移和回切等不同阶段,并明确生产大小的演练是发现连接风暴的必要条件。对采用托管数据库的团队,云服务SLA不能替代应用侧恢复验证。
量仔观察
Habitat案例说明,AI产品扩展的瓶颈不只在GPU或推理吞吐,用户状态、会话和元数据同样会形成关键基础设施。本站判断,最值得复用的不是某个账户数量,而是把回切纳入灾难恢复测试,并观察客户端重连对网关和认证链路的冲击。容量规划还应区分长期数据量、瞬时QPS和热点集中度,避免用总体平均值掩盖局部分区风险。
