Amo Chen

好文分享 — 80 行程式碼做出 1 個搜尋引擎

“A search engine in 80 lines of Python” 1 文分享怎麼用 80 行的 Python 程式碼做出搜尋引擎（含簡單的前端介面）。 其實搜尋在 AI 時代還是扮演很重要的角色，有時候我直

Posted on  Mar 12, 2024  by  Amo Chen  ‐ 2 min read

LangChain 怎麼玩？用 LangSmith 幫忙追查問題

LangChain 或其他語言模型框架的應用，先天上就相對不容易進行除錯，畢竟有太多步驟被包裝的相當好，一旦打開除錯模式(debug mode)，就會有相當多的資訊輸出，即使是專家也很難馬上從眾多資訊中迅速定位問題。

如果能藉由較好的 UI 介面或工具，肯定可以減輕在除錯上的困難度。

LangChain 也知道這些痛點，因此將資訊的收集、彙整、呈現都整合到 LangSmith 之中，可以幫助我們更輕鬆地開發 LangChain 應用！

本文將帶各位簡略地認識與學習使用 LangSmith 。

Posted on  Mar 11, 2024  in  LangChain , Python 程式設計 - 高階  by  Amo Chen  ‐ 3 min read

IBM Technology 彙整的 2024 年 AI 趨勢

IBM Technology 在 Youtube 影片 “The most important AI trends in 2024” 中提到他們認為 2024 AI 領域會有一些重要的趨勢、變化，包含： 監管(Regulation)問題，例如 AI 模型的

Posted on  Mar 9, 2024  by  Amo Chen  ‐ 1 min read

Codeium — GitHub Copilot 的競品

Codeium 是 1 個與 GitHub Copilot 功能相同的產品，兩者都提供 Code Autocomplete 的功能（包含 AI 助手），目前該公司已經進入 B 輪，可見其發展之迅速。 它最大的不同是： 提供個人免費使用

Posted on  Mar 8, 2024  by  Amo Chen  ‐ 1 min read

LangChain 怎麼玩？用 Document Loaders / Text Splitter 處理多種類型的資料

有一些 LLM 應用有提供上傳檔案並為使用者產生摘要、查詢答案的功能，譬如 ChatGPT Plus 與 ChatGPT Enterprise 可以上傳 PDF, CSV 檔等，除了能產生摘要、擷取重點資料之外，還可以進行一些數據分析，相當強大。

要做到這些強大的功能之前，有個前置作業是我們需要知道怎麼載入不同類型的資料，以及怎麼處理這些資料，而這些處理程序在 LangChain 的框架下，也有相對應的函式庫可以使用，並不需要從零開始打造。

本文將教導如何使用 LangChain 處理多種類型的資料。

Posted on  Mar 7, 2024  in  LangChain , Python 程式設計 - 高階  by  Amo Chen  ‐ 6 min read

LangChain 怎麼玩？為了荷包著想，管好你的 prompt 長度(size)

每 1 個語言模型都有其限制，而所有語言模型都會有的限制就是 tokens 上限，而 tokens 上限會影響能夠接受的 prompt 長度。

如果你使用的不是開源語言模型，那不控制 prompt 長度所帶來的影響還有伴隨而來的費用。

以 OpenAI 所提供的語言模型 GPT-4 為例，每輸入 1 百萬個 tokens 就需要收費 $30 美元，如果你的應用沒有注意使用者所輸入 prompt 長度，那你很可能會為不必要的 tokens 付出代價。

所以學會如何控制 prompt 長度也是一門重要的課題！因為會幫助你避免踩到語言模型的限制之外，也可以幫助你控制費用支出。

Posted on  Mar 5, 2024  in  LangChain , Python 程式設計 - 高階  by  Amo Chen  ‐ 5 min read