成本優化

語義層優化:不要把上下文窗口當垃圾桶

資訊密度越高 → 注意力越集中 → 效果越好。三個語義層策略,讓每個 Token 都有價值。

點解唔可以無限塞內容?
點解唔可以無限塞內容?
① 貴而慢:注意力複雜度 O(N²),Prompt 翻倍 → 計算翻四倍
② 效果差:模型對中間內容注意力最弱,關鍵資訊被淹沒
三個優化策略
互動演示
動態 Few-Shot:Text-to-SQL 演示