用 ChromaDB 存向量、喂上下文:给 LLM 加一层可检索的记忆
来源: realpython.com
98
大语言模型能聊天、能写代码,但它不记得你上周投进去的那份产品文档。把文本切成片段、转成向量、存进向量数据库,再在提问时把相关片段捞出来塞给模型——这套检索增强生成(RAG)的套路已经成了工程标配。ChromaDB 是目前最轻量的开源向量数据库之一,纯 Python 可跑,不需要 Docker 也不需要 GPU,适合从原型到中小规模生产。 下面从安装到完...