2026-10-28,Google Cloud发布AlloyDB AI中升级嵌入模型的完整操作路径。文章首先指出迁移的硬约束:不同模型生成的向量处在不同空间,旧库向量不能与新模型生成的查询向量直接比较。因此应用、存量数据和向量索引必须作为一个版本单元切换,不能只更改模型端点。

方案采用蓝绿思路。在原表增加新的嵌入列,旧列继续服务线上查询;通过模型端点管理把新列绑定到新模型,再用Auto Embeddings在后台回填全量数据。完成后为新列建立ScaNN索引,并用并发索引创建减少对读写的阻塞,最后通过视图、函数或原子列重命名切换查询路径。

增量一致性有两种模式。transactional模式在每次INSERT或UPDATE时同步调用嵌入模型,保证向量与源文本事务一致,但把在线推理延迟带进写路径;manual模式只记录发生变化的行,按计划调用`ai.refresh_embeddings()`批量追平。后者适合写入频繁且能容忍短时向量漂移的系统。

文章还给出并发权衡的具体口径。在一张1万行测试表上,默认`max_parallel_requests=400`时,最长并发写等待为5.1秒、回填总时长5.2秒;降到20后,最长等待降至0.39秒,但总时长增至7.6秒,增加46%。这组数字只说明该样本中的调参方向,不能外推到更大表、不同模型端点或网络条件。

Google称Auto Embeddings后台生成可达每秒3000条,AlloyDB ScaNN索引构建相对开源HNSW可快10倍。两项都是产品方数据,需要结合实例规格、向量维度、数据量、并发与召回参数复测。上线前还要设计回退:保留旧列和旧索引,确认新旧查询结果分布、延迟和业务指标,再删除旧资产。

量仔观察

嵌入模型换代最危险的错误不是停机,而是悄悄把两个向量空间混在一起,导致检索质量下降却没有明显报错。AlloyDB方案的可借鉴点是把模型、列、索引和应用查询都版本化,并在切换前追平增量。即使不用AlloyDB,团队也应复制这套控制面:双写或变更日志、独立索引、可观测回填、金丝雀评测和可逆切换,而不是直接覆盖向量列。