LangChain 或其他語言模型框架的應用，先天上就相對不容易進行除錯，畢竟有太多步驟被包裝的相當好，一旦打開除錯模式(debug mode)，就會有相當多的資訊輸出，即使是專家也很難馬上從眾多資訊中迅速定位問題。
如果能藉由較好的 UI 介面或工具，肯定可以減輕在除錯上的困難度。
LangChain 也知道這些痛點，因此將資訊的收集、彙整、呈現都整合到 LangSmith 之中，可以幫助我們更輕鬆地開發 LangChain 應用！
本文將帶各位簡略地認識與學習使用 LangSmith 。
Posted on Mar 11, 2024 in LangChain , Python 程式設計 - 高階 by Amo Chen ‐ 3 min read
“Building a self-corrective coding assistant from scratch” 是 LangChain 的開發者 Lance 在讀完 CodiumAI 所發表的 1 篇關於如何迭代生成程式碼的論文之後，透過 LangChain 實作出相同功能的影片。
Posted on Mar 10, 2024 by Amo Chen ‐ 1 min read
IBM Technology 在 Youtube 影片 “The most important AI trends in 2024” 中提到他們認為 2024 AI 領域會有一些重要的趨勢、變化，包含： 監管(Regulation)問題，例如 AI 模型的
Posted on Mar 9, 2024 by Amo Chen ‐ 1 min read
Codeium 是 1 個與 GitHub Copilot 功能相同的產品，兩者都提供 Code Autocomplete 的功能（包含 AI 助手），目前該公司已經進入 B 輪，可見其發展之迅速。 它最大的不同是： 提供個人免費使用
Posted on Mar 8, 2024 by Amo Chen ‐ 1 min read
有一些 LLM 應用有提供上傳檔案並為使用者產生摘要、查詢答案的功能，譬如 ChatGPT Plus 與 ChatGPT Enterprise 可以上傳 PDF, CSV 檔等，除了能產生摘要、擷取重點資料之外，還可以進行一些數據分析，相當強大。
要做到這些強大的功能之前，有個前置作業是我們需要知道怎麼載入不同類型的資料，以及怎麼處理這些資料，而這些處理程序在 LangChain 的框架下，也有相對應的函式庫可以使用，並不需要從零開始打造。
本文將教導如何使用 LangChain 處理多種類型的資料。
Posted on Mar 7, 2024 in LangChain , Python 程式設計 - 高階 by Amo Chen ‐ 6 min read
想不到吧！麥當勞也有 Technical Blog! “Reduce, reuse, recycle: McDonald’s reusable workflows” 1 文是由麥當勞的工程師分享他們怎麼透過可共用的 GitHub Actions 幫助
Posted on Mar 6, 2024 by Amo Chen ‐ 1 min read
每 1 個語言模型都有其限制，而所有語言模型都會有的限制就是 tokens 上限，而 tokens 上限會影響能夠接受的 prompt 長度。
如果你使用的不是開源語言模型，那不控制 prompt 長度所帶來的影響還有伴隨而來的費用。
以 OpenAI 所提供的語言模型 GPT-4 為例，每輸入 1 百萬個 tokens 就需要收費 $30 美元，如果你的應用沒有注意使用者所輸入 prompt 長度，那你很可能會為不必要的 tokens 付出代價。
所以學會如何控制 prompt 長度也是一門重要的課題！因為會幫助你避免踩到語言模型的限制之外，也可以幫助你控制費用支出。
Posted on Mar 5, 2024 in LangChain , Python 程式設計 - 高階 by Amo Chen ‐ 5 min read
The Hacker News 報導知名的 AI/ML 資源平台 Hugging Face 上面查出多達 100 個惡意 AI/ML 模型，這些惡意模型的種類包含載入惡意的 pickle 檔案、開啟後門、執行任意程式等等，攻擊手法主要是
Posted on Mar 4, 2024 by Amo Chen ‐ 1 min read