基礎原理
AI 的食物：訓練數據
想讓 AI 學會説話，先要餵給它數以萬億計的文字。它讀了人類寫過的絕大多數內容。
數據規模與構成
~1B
Tokens（詞元）· 小模型訓練數據量級
讀了多少，就能説多少。
訓練數據的質素和多樣性，決定了模型世界觀的上限。
訓練數據的質素和多樣性，決定了模型世界觀的上限。
拖動滑條 · 感受不同參數量模型的能力差異
270M
幻覺
問：李知恩係邊個？介紹下佢生平同代表作品吖。