# Part 1｜記憶太用力：LLM 個人化為什麼開始讓人煩

Andrej Karpathy 最近在 X 上講了一句很準的話：現在很多 LLM 的 personalization memory，常常像是在 **trying too hard**。

他的意思不是模型記不住你，而是它太急著證明自己記得你。兩個月前你隨口問過一次的話題，之後它卻一直把那件事當成你的深層興趣，時不時就要拖回來，好像 continuity 本身就是價值。

這句話值得認真看，因為它點破了一個現在越來越常見、但很容易被誤診的問題。

大家平常談 LLM 記憶，焦點大多放在 forgetting：
- context window 不夠
- 多輪之後前文掉光
- 跨 session 就失憶
- agent 做久了沒有 continuity

這些都是真的。但另一個失敗模式正在變得一樣重要：**系統也會記得太用力。**

不是沒有記住，而是把不該長期保留的訊號留下來；不是沒有召回，而是過度召回；不是沒有個人化，而是把個人化做成一種持續干擾。

換句話說，很多讓人不舒服的 memory 體驗，不是 forgetting，而是 **over-remembering、over-applying、over-mentioning**。

## 這不是 base model 突然變油，而是產品層開始長期留住上下文
嚴格說，今天大部分 personalized memory 都不是 base model 自己長出了一套可靠的長期個人記憶，而是產品層在做這些事：

- 把對話或行為寫進 memory store
- 做分類、embedding、索引與 ranking
- 在下一輪或下一次 session 檢索回來
- 再把它塞進 prompt 或回答策略

所以 Karpathy 指到的問題，本質上不是某個模型突然太愛演，而是整條 memory orchestration 開始變得太積極。

這也是為什麼這個問題會在最近更明顯：
- persistent memory 越來越常見
- agent 越來越常跨 session 工作
- 產品越來越想做出「懂你」與 continuity 的感覺
- 大 context 讓人誤以為只要舊內容夠多，回答就會更好

最後就會踩到同一顆雷：**把能記住，誤當成該記住；把能提起，誤當成該提起。**

## 真正的問題不是一條 bug，而是整個 memory stack 都在偏向過度反應
如果只把它講成「沒有 decay 機制」，方向沒有錯，但太單薄。因為很多糟糕體驗不是單靠時間衰減就能救。

比較完整的診斷，我會拆成四層。

### 1. 寫入太寬
很多系統太容易把弱訊號寫成 durable memory。

例如：
- 使用者隨口問一次京都自由行
- 某週因為工作短暫研究一個冷門框架
- 某個主題剛好連問幾次，但其實不是長期偏好

這些內容一旦被寫成長期記憶，後面的每一層都要替這個決定付代價。

### 2. 分類太粗
很多系統把這些東西混成一桶：
- 穩定偏好
- 長期身份資訊
- 近期任務狀態
- 一次性對話痕跡
- 文件知識
- 原始工具輸出

一旦 storage class 本身是混的，後果很簡單：
- retention policy 沒法細分
- episodic 跟 durable 會搶同一個 recall budget
- 文件、事件、偏好會互相污染

### 3. 檢索太鬆
很多時候，系統不是「真的懂你」，只是只要語義上沾到一點邊，就把舊記憶拖回來。

於是兩個月前的日本旅遊提問，今天聊生活節奏、休假、咖啡店、任何地點，都可能被當成相近主題而召回。這不是深刻理解，而是相似度門檻太寬。

### 4. 表達太前台
這是最讓人煩的一層。

就算記憶是正確的、召回也有道理，系統還是要再過一道判斷：

> 現在把這件事說出口，是真的有幫助，還是在表演「我記得你」？

很多產品沒有這層。只要 recall 了，就默默進 prompt，甚至直接點名。結果 continuity 不是變貼心，而是變成存在感過強的角色扮演。

Karpathy 那句 **trying too hard**，打中的就是這一層。

## 所以問題不是記憶對不對，而是提起的比例對不對
這也是為什麼我很同意一句進一步的說法：

> 記憶內容是對的，不代表提起時機是對的。

很多人會把問題直覺分成兩種：
- 記對
- 記錯

但真實世界還有第三種，而且更常見：
- **記對，但用錯。**

這件事真正考驗的，不只是 retrieval correctness，而是 **context proportionality**。

## Decay 很重要，但它比較像垃圾回收，不是完整答案
Decay 能解的事：
- 舊訊號長期霸榜
- 一次性痕跡永遠不退場
- 記憶庫無限膨脹

Decay 解不了的事：
- 一開始就寫錯類型
- retrieval 規則太鬆
- recalled memory 沒有 mention gate
- 低信任內容也能重新進 prompt

所以比較完整的說法應該是：
問題不是只有「記憶不衰減」，而是 **寫入、分類、檢索、表達** 整條鏈都可能過度反應。

## 這也是為什麼可控，比自動更重要
黑盒 auto-memory 最糟的地方，不只是它會記什麼，而是你不知道：
- 它為什麼記這條
- 它為什麼現在提這條
- 它什麼時候才會不再提

相對地，可編輯文字記憶、daily notes、可審計 receipts，雖然不一定自動化最強，卻更容易建立信任。

原因不是它比較聰明，而是它比較誠實。你能看到它記了什麼，也能懷疑、修改、刪除它。這件事本身，就是治理的一部分。

## 先把這篇收成一句
如果只想記一件事，那就是：

> 現在 personalization memory 最常見的失敗，不是忘記你，而是太努力地表演自己記得你。

Claude 這次給的一句補刀我很喜歡：

> **A correct recall that the user didn't ask for is indistinguishable from a wrong recall.**

好的記憶系統，不是更會想起，而是更會克制。
它知道哪些東西不該寫成長期訊號，哪些東西雖然能召回卻不該占用這一輪 context，哪些東西 relevant 也不等於需要被直接說出口。

下一篇，我們就拆現有解法：大家都會列 decay、分級、檢索、dream，但每一招到底解的是哪一層，又是哪裡還不夠。
