好文分享 — Build an AI Tool to Summarize Books Instantly

我們都知道大語言模型(LLM)對於摘要(summarize)相當在行,你可以給它一大串的文字讓它摘要重點,不過大語言模型受限於上下文的長度限制(或稱 context window),要讓它為 1 本書進行摘要是有點難度的,不過這個難度正在降低,最新的 GPT-4 Turbo 已經支援 128k tokens 的長度,大概可以支援 240 頁每頁 400 字的書。

不過如果超過 128k tokens 長度怎麼辦?

可以借鑑 ”Build an AI Tool to Summarize Books Instantly” 的作法,該文作者分享如何用更便宜的方式為 1 本書摘要,主要思路如下:

  1. 將書本內容分為多個區塊,並作成 embedding ,相當於把大問題拆解為小問題
  2. 把第 1 步的 embedding 用 K-means 做分群,讓相似的 embeddings 聚合成一群,找出其中最大的群,這代表這個部分的內容不斷被提及或重複出現,可能會是具代表性的內容,從這個群找出相關章節
  3. 把第 2 步找到的相關章節用 GPT-3.5 做摘要(省錢)
  4. 用 GPT-4 將第 3 步產生的摘要集合起來,再做 1 次最後的摘要作為書本的摘要

Build an AI Tool to Summarize Books Instantly

FOLLOW US

對抗久坐職業傷害

研究指出每天增加 2 小時坐著的時間,會增加大腸癌、心臟疾病、肺癌的風險,也造成肩頸、腰背疼痛等常見問題。

然而對抗這些問題,卻只需要工作時定期休息跟伸展身體即可!

你想輕鬆改變現狀嗎?試試看我們的 PomodoRoll 番茄鐘吧! PomodoRoll 番茄鐘會根據你所設定的專注時間,定期建議你 1 項辦公族適用的伸展運動,幫助你打敗久坐所帶來的傷害!

贊助我們的創作

看完這篇文章了嗎? 休息一下,喝杯咖啡吧!

如果你覺得 MyApollo 有讓你獲得實用的資訊,希望能看到更多的技術分享,邀請你贊助我們一杯咖啡,讓我們有更多的動力與精力繼續提供高品質的文章,感謝你的支持!