一直想在 2025 年结束前，给自己留下一点这一年来对 AI 的思考。 这些想法更多来自真实业务里的反复踩坑，还在不断修正中，也未必成熟，但对我来说已经足够重要。 先记下来发到社区里，算是一个阶段性的标记吧。

过去一年，AI 在组织里的落地速度远远超过我的想象。
几乎所有团队都在做一件类似的事：
把模型接进来，让它“帮我们生成点东西”。

但越往真实业务深处走，我越频繁地遇到一种挫败感：
模型并不是真的不聪明，
而是它在并不知道自己遗漏了什么的情况下，
仍然表现得仿佛一切都已被纳入考虑。

这不是参数规模的问题，也不是 prompt 写得好不好的问题。
而是一个更底层、却被反复忽略的事实：

真实业务里的 AI，失败往往不是因为“不会生成”，
而是因为“不知道此刻哪些信息才重要”。

大多数 AI 工具，仍然活在一个“理想输入”的幻觉里

我们习惯于假设：

  • 需求是完整的

  • 上下文是显式的

  • 文档是最新的

  • 规则是统一的

于是我们设计的系统逻辑是：

只要我把 PRD / 规则文档 / 表格喂给模型，它就能生成正确结果。

但真实世界恰恰相反。

在高协作密度的组织里，
最关键的信息，往往不在“正式文档”中：

  • 它藏在群聊里的一句补充

  • 藏在会议中随口的一句“其实这里要注意”

  • 藏在某个历史问题留下的隐性约束里

这些信息对人类来说是“记忆”，
对 AI 来说却是完全不可见的盲区。

Prompt 并不能解决“上下文缺失”这个问题

这是我越来越确信的一点。

Prompt engineering 本质上解决的是：
如何把“你已经知道的信息”表达得更清楚。

但它无法解决另一个更难的问题：

当你并不知道哪些信息是关键时，系统该如何自救？

在真实业务中，
AI 的失败往往发生在这种场景：

  • 输出在形式上完全正确

  • 推理链看起来也合理

  • 但结果却违反了一个“老同事都知道”的业务约束

这不是生成能力的问题，
而是系统对组织记忆的访问失败。

我越来越觉得，RAG 的重点不在 Retrieval，而在 Governance

RAG 被广泛讨论，但多数实践仍停留在：

  • 我能不能把文档搜出来

  • 相似度够不够高

  • Chunk 切得细不细

但在真实场景下，更致命的问题其实是：

  • 哪些信息应该被记住

  • 哪些信息已经失效却仍在被检索

  • 哪些规则只在特定项目 / 特定阶段成立

如果没有治理，
RAG 只是在更快地把噪音塞进模型。

从这个角度看，
AI 落地的难点正在从“模型能力”，
转移到一个更不性感、但更决定成败的领域：

知识的生命周期管理。

而模型并不知道，
自己正在使用的是一个已经过期的现在。

当业务复杂度超过某个阈值，人类直觉会系统性失效

还有一个经常被忽略的事实：

在多角色、多权限、多状态组合的业务中，
人类并不擅长穷尽边界条件。

我们可以理解大概逻辑，
但在 30+、50+ 条规则叠加时，遗漏几乎是必然的。

这意味着一个残酷结论：

如果 AI 系统只是“执行人类已经想清楚的逻辑”，
那它注定只能继承人类的盲区。

真正有价值的 AI，
不是更快地照抄思路，
而是能在复杂组合中，
反过来暴露人类忽略的角落。

我开始把 AI 看成一种“协作风险缓冲层”

这改变了我对 AI 工具的判断标准。

我不再问：

  • 它生成得像不像人

  • 它能不能一把出结果

而是问：

  • 当输入是碎的、口头的、不完整的，它还能不能工作？

  • 当上下文存在冲突时，它会不会暴露不确定性？

  • 当人类漏掉边界时，它能不能提醒，而不是顺从？

换句话说：

AI 是否在替系统吸收复杂度，
还是在复杂度之上制造新的幻觉？

也许，AI 落地真正的分水岭，不是“更强的模型”

而是我们是否愿意正视一个事实：

组织的问题，本来就不是“信息不足”，
而是“信息无法被正确记住、更新和调用”。

如果我们继续假设输入会变干净，
那 AI 只会把现有的混乱放大。

如果我们开始承认混乱是常态，
那么系统设计的目标就会发生根本变化。

我想持续研究的，并不是某个模型或框架

而是这个更底层的问题：

当世界本身是模糊的，
AI 系统该如何成为“让协作不崩溃”的一部分，
而不是新的风险源？

因为一旦系统替人类掩盖了不确定性，
崩溃往往不是技术性的，
而是信任性的。

如果你也在真实业务里，
感受过那种
“模型看起来什么都懂，但就是差了那一点点”的时刻，
那我们大概在同一条线上。