高性能、高可用,支持千亿级向量数据
一次语义检索,数据流是这样的:应用层向关系库发一条SELECT拿业务上下文,拿到结果后在应用代码里组装请求,再发给向量库做相似度匹配,向量库返回Top-K,应用...
搭过RAG的兄弟应该都经历过这种时刻:向量检索明明返回了Top-K最相似的文档,大模型基于这些文档生成的回答,业务方一看就说“口径错了”。
Embedding Model(嵌入模型)是一个把文本映射为数值向量的函数。输入一段文本,输出一个一维数组,例如 1536 个浮点数。这组数字本身没有人类可读的...
一家装备制造企业,年初上线了 RAG 知识库:4,000 多份文档,覆盖质量协议、管理制度、SOP、检测报告、客诉案例。演示很成功,问“差旅标准是多少”,答得又...
现在TDB更新到了 0.9.0 正好最近有空 跑了一下 ANN实测 做向量检索性能比较时,只看最高 QPS 很容易把不同召回率的结果放到一起。对需要把检索结果...
我没有从定义讲起。定义网上一搜就有,背下来也不难。难的是第二天上班,遇到一份报表、一条慢 SQL、一次告警,能不能想起它。
上个月参加一场方案评审。做合同审查的企业要接AI问答,数据在业务库,方案是把文档抽出去做向量化。安全部门看完只问了一句:数据能不能不出库。技术负责人当场答不上来...
更常见的两种误用:把向量数据库直接等同于 AI 数据库;把某个厂商的一站式平台当成这个品类的定义。
我重点实测了三个:Chroma(轻量嵌入式)、Milvus(专用向量数据库)、pgvector(PostgreSQL扩展)。
AI数据库这个词,现在有三拨人在用。做开发的说,不就是数据库加个向量插件。做架构的说,那不就是向量数据库。做采购的更直接:别管叫什么,先告诉我贵多少。三拨人,三...
去年帮一家制造企业做设备知识库。业务数据在KES里,向量库单独部署。上线三个月,同步链路晚高峰延迟40分钟。运维要维护两套备份,两套权限。真正难受的是审计。同一...
官方文档说:Milvus 把写入的实体存在段里,段一满就封存,封存了就新建一个段来装更多实体。
上周公司组织了一场 AI 应用实践分享会,十几个团队轮番上台。做智能客服的讲了 prompt 调优,做知识库的讲了文档切分策略,做代码助手的讲了 rerank ...
如果你用 Milvus 按主键删过数据,很可能撞见过这样一对组合:删除请求返回成功,delete_count 也给了一串数字——但刚删完,那条数据还能搜到;半小...
最近在折腾 Milvus 的实时检索,撞上一个怪问题:一批数据刚灌完库,insert 全部返回 success,紧接着 search,刚写进去的那条就是搜不到。
在 Milvus 上做检索后分析,一个常见动作是按字段分组——比如按品牌统计每个品牌命中了多少。这时如果某个确定存在的品牌在结果里没有 bucket:不是 co...
在开发 RAG(检索增强生成)或 AI Agent 系统时,后端检索模块的选型往往决定了整个系统的上限。很多初学者容易把精力放在 Prompt 工程或大模型微调...
上个月,一个做工业设备手册检索的团队找我。成员来自售后和 IT。他们要给工程师做知识库。选型会上,有人直接投屏 GitHub 星数榜。第一名是 Milvus,四...
前面几篇数据库家谱,我们讲了两个维度:按数据模型分(关系型、非关系型),按业务负载分(OLTP、OLAP)。