好影片推薦 — Let's build the GPT Tokenizer

Let’s build the GPT Tokenizer” 是由前特斯拉 AI 部門高級總監 Andrej Karpathy 所錄製,全長 2 小時多,教你從頭到尾認識 GPT Tokenizer 的運作原理與實作,也讓我們知道它在大語言模型訓練中所扮演的角色以及為什麼語言模型對於簡單數學、拼單字等不在行、為什麼無法做到簡單的字串處理(例如反轉字串)等等,這一切都是因為 Tokenizer!

p.s. Tokenizer 其實也會影響語言模型的生成能力,譬如 GPT-2 進化到 GPT-4 的過程,對 Tokenizer 的改善,也最終改善 Python 程式碼生成能力不佳的缺點。

Facebook Threads X

對抗久坐職業傷害

研究指出每天增加 2 小時坐著的時間,會增加大腸癌、心臟疾病、肺癌的風險,也造成肩頸、腰背疼痛等常見問題。

然而對抗這些問題,卻只需要工作時定期休息跟伸展身體即可!

你想輕鬆改變現狀嗎?試試看我們的 PomodoRoll 番茄鐘吧! PomodoRoll 番茄鐘會根據你所設定的專注時間,定期建議你 1 項辦公族適用的伸展運動,幫助你打敗久坐所帶來的傷害!

贊助我們的創作

看完這篇文章了嗎? 休息一下,喝杯咖啡吧!

如果你覺得 MyApollo 有讓你獲得實用的資訊,希望能看到更多的技術分享,邀請你贊助我們一杯咖啡,讓我們有更多的動力與精力繼續提供高品質的文章,感謝你的支持!