開源 embedding 資料庫 — chroma

Embedding 資料庫,顧名思義是專門儲存/檢索 embedding 的資料庫,其實也是一種向量資料庫(vector database)。

Embedding 資料庫對於以語言模型為核心的 RAG(Retrieval-Augmented Generation) 應用相當重要,能讓開發者將外部資料與語言模型進行連結,讓語言模型可以回答訓練資料以外的問題。

舉客服聊天機器人為例,我們可以將客服人員回答問題的各種樣板資料,轉成 embeddings 存到 embedding 資料庫。每次要給語言模型生成回答之前,先至 embedding 資料庫檢索相關的資料出來之後,再合併使用者的問題與檢索到的相關資料一併給語言模型生成最終答案。

rag.png

這陣子閱讀 LangChain 文件時,發現 LangChain 文件範例使用不只 1 種 embedding 資料庫,除了 Meta 開發的 FAISS 之外,還有 chroma, 所以特別看了一下 chroma 有什麼特點。

chroma 除了開源之外,還有:

  1. 支援 Python, JavaScript 2 種程式語言(但 Python 比 JS 完整很多)
  2. 支援多種 embedding models, 包含 OpenAI, Google, Hugging Face 等等
  3. 支援 multi-modal 可以同時儲存影像(image)與文字(text)在同 1 個 collection
  4. 有與 LangChain, Streamlit, LlamaIndex 等知名框架整合

不過目前 chroma 提供的功能還是相對簡潔,在安全性、可擴展性(scalability)還力有未逮,適合單純較不複雜的應用使用。

最後,除了 chroma 的 vector database 解決方案,還有 Pinecone, Weaviate, Milvus, Qdrant, Elasticsearch, PGVector 等等,有興趣的人可以研究看看。

對抗久坐職業傷害

研究指出每天增加 2 小時坐著的時間,會增加大腸癌、心臟疾病、肺癌的風險,也造成肩頸、腰背疼痛等常見問題。

然而對抗這些問題,卻只需要工作時定期休息跟伸展身體即可!

你想輕鬆改變現狀嗎?試試看我們的 PomodoRoll 番茄鐘吧! PomodoRoll 番茄鐘會根據你所設定的專注時間,定期建議你 1 項辦公族適用的伸展運動,幫助你打敗久坐所帶來的傷害!

追蹤新知

看完這篇文章了嗎?還意猶未盡的話,追蹤粉絲專頁吧!

我們每天至少分享 1 篇文章/新聞或者實用的軟體/工具,讓你輕鬆增廣見聞提升專業能力!如果你喜歡我們的文章,或是想了解更多特定主題的教學,歡迎到我們的粉絲專頁按讚、留言讓我們知道。你的鼓勵,是我們的原力!

贊助我們的創作

看完這篇文章了嗎? 休息一下,喝杯咖啡吧!

如果你覺得 MyApollo 有讓你獲得實用的資訊,希望能看到更多的技術分享,邀請你贊助我們一杯咖啡,讓我們有更多的動力與精力繼續提供高品質的文章,感謝你的支持!