AI 预测我下一步会做什么，我偏不这么做

有一次，AI 根据我过去的笔记预测：我下一步很可能会把“人的行为预测”做成一个项目。

我看到以后，第一反应是：那我偏不做。

这个反应有点幼稚，也很有意思。

如果它没有把预测告诉我，我或许真的会沿着那个方向继续。可预测一旦被我看见，就进入了我的决策。我可能因为被说中而顺势去做，也可能因为讨厌被定义而故意避开。

此后的行为，还能不能用来证明原来的预测准确？

预测被看见以后，世界已经变了

我们习惯把预测理解成天气预报。模型给出明天降雨概率，天气不会因为听见预报就赌气放晴。

人不一样。

当一个人知道别人如何判断自己，这个判断就成了新的信息。它可能改变自我理解、资源分配和下一步行动。

有些预测会自我实现。一个人被认为潜力高，于是得到更多机会、反馈和耐心，最后真的表现得更好。

有些预测会自我消除。系统判断一笔交易风险高，团队提前介入，风险没有发生。不能因为结果安全，就说预测错了。

还有一些预测会把人锁在原地。一个新人早期得分低，于是获得的曝光更少、反馈更少，系统继续收集不到他可能变好的证据，低分就越来越像一个稳定事实。

预测不是只站在世界外面观察。它有时会亲自加入因果链。

所以，“公开预测之后的行为”，不能直接拿来验证“公开之前的预测”。中间多了一次干预。

行为相同，不等于内心相同

即使预测真的说中了行为，也不代表它理解了人。

一个人继续留在一份工作里，可能是认同团队，可能是害怕变化，可能暂时没有其他机会，也可能只是想等一笔奖金。

行为数据只记录他留下了。

如果系统把“留下”直接解释成忠诚或者满意，它其实跳过了大量无法观察的东西。

这也是我对“AI 越来越懂你”这句话保持警惕的原因。它可能很擅长预测我在一个具体界面、具体激励和具体时间点会点什么，却未必知道我为什么点，更不知道换一个环境以后我还会不会这样做。

预测能力和理解能力有交集，但不是同一件事。

推荐系统不只猜偏好，也在训练偏好

这个问题在推荐系统里尤其明显。

系统根据过去行为判断我喜欢什么，再把相似内容送过来。我看得更多，新的行为数据又进一步证明我喜欢它。

从模型视角看，预测越来越准。

从人的视角看，也可能是可选择的世界越来越窄。

偏好并不总是一个早已存在、等待被发现的稳定变量。人会因为反复接触而熟悉，因为某种身份叙事而坚持，因为平台提供的选项而逐渐形成口味。

如果我最近连续看了很多关于职业焦虑的内容，系统可能正确预测我还会点下一条。但它没有回答：这是我长期想要的，还是最近被焦虑抓住了？继续推荐是在满足需求，还是在放大需求？

一个模型越能影响人的输入，就越需要区分两件事：

它预测的是人在历史策略下会怎么做，还是人在没有这次推荐时本来会怎么做？

前者可以帮助排序，后者才更接近因果判断。把两者混在一起，系统很容易把自己塑造出来的行为，当作用户天然的偏好。

命运更像会被观察改变的概率树

我后来没有真的完全放弃那个项目方向。

“我偏不做”只是看到预测后的即时反应。过了一段时间，我开始把它当作一个新的证据：为什么被看穿会让我不舒服？是我不想被规定，还是这个方向本来就不够重要？

这个停顿让我更喜欢“概率树”而不是“命运线”的说法。

过去会让某些分支概率更高。环境、资源和习惯也会不断调整概率。但当一个预测被说出来、被相信或者被反抗，树本身又会长出新的分支。

一个可靠的行为预测系统，不该只报出“你大概率会做什么”。它还需要说明数据停在什么时候，概率有多大，哪些人群上经常失效，以及这条预测一旦被使用，会不会改变原来的世界。

更重要的是，它要分清自己正在做预测，还是已经开始干预。

对我自己也是一样。

AI 可以根据过去给我一个很像未来的答案。但我不需要为了证明它准确而照着走，也不需要为了证明自己自由而反着走。

我可以把它当成一条新进入系统的信息。

然后重新选择。