工具分享 — Tiktokenizer

自然語言處理(NLP, Natural Language Processing)與機器學習(machine learning)的相關技術中,有 1 個稱為 Tokenization (或稱斷詞)。該技術是指將一連串的文本(text)拆分成多個部分的方法,這個方法的拆分標準可以用字元(characters)為單位,或者以單字(words)為單位,舉 “I love LangChain.” 為例,若以單字為拆分單位, tokenization 之後會變成 “I”, “love”, “LangChain” 3 個 tokens 。

最近很夯的大語言模型(LLM),也有用到 tokenization 技術,不過它的 tokenization 並不是以單字為拆分單位,舉 OpenAI 系列的模型為例,大概是 4 個 English 字元為 1 個 token, 或者 3/4 的單字長度作為 1 個 token, 沒有絕對的切分方式,所以 1 個單字可能會被拆成多個 token, 另外還會有單字前的空格都會保留,甚至是單 1 個空格也可能作為 1 個 token 的情況,真的很有趣。

想知道 GPT-3.5-turbo, GPT-4 等的 tokenization 結果,可以用 Tiktokenizer 進行預覽(或者估算費用),使用方式是貼上一些文字或 prompt 到工具裡,就可以看到本文所說的結果喔!

Tiktokenizer

Tiktoken GitHub

對抗久坐職業傷害

研究指出每天增加 2 小時坐著的時間,會增加大腸癌、心臟疾病、肺癌的風險,也造成肩頸、腰背疼痛等常見問題。

然而對抗這些問題,卻只需要工作時定期休息跟伸展身體即可!

你想輕鬆改變現狀嗎?試試看我們的 PomodoRoll 番茄鐘吧! PomodoRoll 番茄鐘會根據你所設定的專注時間,定期建議你 1 項辦公族適用的伸展運動,幫助你打敗久坐所帶來的傷害!

追蹤新知

看完這篇文章了嗎?還意猶未盡的話,追蹤粉絲專頁吧!

我們每天至少分享 1 篇文章/新聞或者實用的軟體/工具,讓你輕鬆增廣見聞提升專業能力!如果你喜歡我們的文章,或是想了解更多特定主題的教學,歡迎到我們的粉絲專頁按讚、留言讓我們知道。你的鼓勵,是我們的原力!

贊助我們的創作

看完這篇文章了嗎? 休息一下,喝杯咖啡吧!

如果你覺得 MyApollo 有讓你獲得實用的資訊,希望能看到更多的技術分享,邀請你贊助我們一杯咖啡,讓我們有更多的動力與精力繼續提供高品質的文章,感謝你的支持!