開源 embedding 資料庫 — chroma

Embedding 資料庫，顧名思義是專門儲存/檢索 embedding 的資料庫，其實也是一種向量資料庫(vector database)。

Embedding 資料庫對於以語言模型為核心的 RAG(Retrieval-Augmented Generation) 應用相當重要，能讓開發者將外部資料與語言模型進行連結，讓語言模型可以回答訓練資料以外的問題。

舉客服聊天機器人為例，我們可以將客服人員回答問題的各種樣板資料，轉成 embeddings 存到 embedding 資料庫。每次要給語言模型生成回答之前，先至 embedding 資料庫檢索相關的資料出來之後，再合併使用者的問題與檢索到的相關資料一併給語言模型生成最終答案。

這陣子閱讀 LangChain 文件時，發現 LangChain 文件範例使用不只 1 種 embedding 資料庫，除了 Meta 開發的 FAISS 之外，還有 chroma, 所以特別看了一下 chroma 有什麼特點。

chroma 除了開源之外，還有：

1. 支援 Python, JavaScript 2 種程式語言（但 Python 比 JS 完整很多）
2. 支援多種 embedding models, 包含 OpenAI, Google, Hugging Face 等等
3. 支援 multi-modal 可以同時儲存影像(image)與文字(text)在同 1 個 collection
4. 有與 LangChain, Streamlit, LlamaIndex 等知名框架整合

不過目前 chroma 提供的功能還是相對簡潔，在安全性、可擴展性(scalability)還力有未逮，適合單純較不複雜的應用使用。

最後，除了 chroma 的 vector database 解決方案，還有 Pinecone, Weaviate, Milvus, Qdrant, Elasticsearch, PGVector 等等，有興趣的人可以研究看看。