AI 取代程序员的最大障碍

我用Claude code写了一个完整的非toy app。 5个平台+服务器。 500k的代码量。

1. 度。 做人和做ai一样， 最大的挑战是一个度。 或者是边界在哪里。 什么时候patch，什么时候修改架构， 错误处理的边界， 这些对于人来说显而易见， 但是ai不知道。 他最擅长的是通过无限patch的方式屎上雕花。 处理所有边界错误。 继续屎上雕花。 比如他回找各种刁钻的角度让全局变量可以work。

2. 速度太快。 当他不断的dump trash code， 修正是很费劲的。 重开一遍他可能把相同和不同的错误再犯一遍。 一个开车很快，但是方向感很差的人非常危险。

3. 而如果对于一个程序员来说， 每一个度都需要详细说清楚， 那是不可能的。你不知道他会以什么样刁钻的角度突破你设置的boundary。

4. 不同level的抽象能力。人之所以能够处理复杂任务，因为我们会在不同的层面做抽象。 Minto pyramid。 我们在不同的抽象层面解决不同的问题。 不会在一个level解决所有问题。但是ai恰恰相反，他是在一个层面解决所有问题。 当然，他窗口大，递归深， 但是这个能力会因为他不知道度和方向大打折扣。

5. 一致性。 同样的功能， 我在Mac上实现了， 让他在Windows上实现一遍那简直要了命。 所有设计到多处一致性的地方都要了我半条人命。 其实这也是他在不同level做抽象的能力很差。


他是一个很高效的编码工具。 但是感觉无法在编程这件事情上完全代替程序员。 至于更高级的需求对齐和架构设计， 那我觉得永远不可能。

大家可能会觉得skill不对。但是要做到自动驾驶，意味着人需要在一个level解决所有问题，提前把所有boundary都想好。 这个感觉mission impossible .

当然，如果一个问题已经well define了， 那他是无敌的。但是well define的边界是什么？

补充内容 (2026-08-17 22:59 +08:00):
我今天第一次发现， 就我的土鳖英语， 我写完架构文档， 我希望ChatGPT能够给我抽象一个tldr, 这件事情他都被完爆了（多次测试）。 读完他的tldr, 除了脑袋上的一堆问号什么信息都没有，只有我设计文档的词汇堆砌。 我的文档写的不清楚的可能性较低， 因为已经被senior director sign off 了， 并且ai 自己也承认文档写的很高质量。

补充内容 (2026-08-18 00:45 +08:00):
过去所有拓展人类能力边界的工具都导致了社会的巨大进步。但是每一次拓展都是确定性的能力替换。今天的ai好像还不能描述出一个确定性的能力拓展，或者说确定性的能力替代。什么时候出现了确定性的替代可能未来才会更清楚。毕竟大家现在还都很烦ai客服。程序员对ai也没有那么的爱，很多burnout抱怨。现在程序员肯定是离不开ai了，但是google 出现之后我们也不能离开google，现在的感觉有点类似。在这种确定性出来以前，我倾向于把他去和google对比：完全改变大家的工作学习方式。

匿名用户 发表于 2026-08-17 05:02:22
其实这些问题 交给实习生或者初级程序员也会有同样的错误。 AI纠正的可能更快。 而且初级程序员会跳槽跑路，AI只需要维护好md file即可。不是说没有维护成本

我不完全赞同。 初级程序员很多时候一个问题只需要交一次。 ai每次都要教。 最简单的问题： ai无法判断什么情况需要confirm，什么情况可以自己做主。 这个度我不觉得他可以学聪明。 我的感觉是，现在用ai替换ng, 但是代价是让老程序员更累来维持ai的叙事框架。 那部分缺失的能力是代偿，不是他真正的在弥补， 而这种代偿并不可扩展。 他变聪明的同时其实让每一个问题都在放大。在度这个问题没有解决的情况下。

其实这些问题 交给实习生或者初级程序员也会有同样的错误。 AI纠正的可能更快。 而且初级程序员会跳槽跑路，AI只需要维护好md file即可。不是说没有维护成本，只是说和初级程序员相比，沟通成本维护成本更低，而且LLM还在变聪明，这也是更可怕的地方。

取代程序员并不是这个行业消失，而是只有senior和顶尖程序员还值得花钱雇佣。我的猜想是，在发展几年后，年轻程序员只有培养价值没有工作价值。他们要想入行 感觉得像德云社那些的学徒制，给师傅到扫地几年师傅才会带你了

我觉得自己算是比较早 adapt AI 。我感兴趣的 idea 每天都有在让 AI 写，公司也很早就支持用 AI，故 lz 说的“度”我非常同意且深有体会，抛砖引玉些我的经历：

我在家跑的东西，我如果没有给它对方向，它比较热衷于一条道走到黑且非常容易 over-engineering；我之前以为是本地的 Qwen coding agents 有这个问题，但其实用 Fable 5 赠送的credits跑一样的任务，还是有这个问题；这些还都是我自己比较简单的 toy project、ad-hoc 的情况

工作当中，用AI来 debug 确实挺好；但工作具体内容、SLA imply的难点、其他team的dependency等等需要快速高效理解的逻辑，自己都没搞懂的话，指望 AI 能魔法般地 synthesize（ 让AI recap可以，但who the hell needs recap。。。）出一个一针见血、说服别人的结论更加不可能。

而且太依赖AI会没办法和老板正确地汇报工作（类比 lz 你写doc的经历），这非常触及老板底线。老板付钱找人来是省脑子的，结果手下自己也不想动脑，交上去的东西还需要老板自己去看 没有理解问题根源的 AI 文，我是不认识这么好脾气的老板

匿名用户 发表于 2026-08-17 05:02:22
其实这些问题 交给实习生或者初级程序员也会有同样的错误。 AI纠正的可能更快。 而且初级程序员会跳槽跑路，AI只需要维护好md file即可。不是说没有维护成本

我的观察，他在变聪明的同时也更加的狂野。 不是收敛了，而是在屎上雕出了很多更漂亮的花。 又回到了度的问题上了。

是不是自动驾驶，每次每个新车主都要一遍一遍的教？

你理解了这个，就知道趋势是什么？不是5年前，说AI是个什么东西，现在说AI还差得远。

5年前说回收火箭是个鸟。

水滴---石穿 发表于 2026-08-17 06:15:54
是不是自动驾驶，每次每个新车主都要一遍一遍的教？

你理解了这个，就知道趋势是什么？不是5年前，说AI是个什么东西，现在说AI还差得远。

自动驾驶的problem space是可以穷举的。 没有人否认趋势与进步。 但是问题上进步的终点和上限在哪里。 在有限的问题定义下，自动驾驶可不可以对车祸负责赔偿？

这个boundary挺关键的。如果说一个人开公司决定做什么与ai合作还凑合，但如果放到一个大公司，每个组与不同function相关，需要合作需要交流需要协商需要权衡，这些与ai讨论之后也许能有结果，但最终仍然不能替代alignment。并且与ai讨论很有可能💩上雕花，向着错的方向越走越深。很多人说修正md文件、学学其他人的local setting，增强ai的规范性。还有人想把ai做得更统一让所有人用。但我觉得ai特别会找漏洞，要全方位统一不太可行，最多highly customized。

AI 自己的回复：

我大体赞同，而且我认为你抓到的不是“prompt 不够好”或“skill 没配好”，而是当前 coding agent 的核心缺陷：**能力增长快于判断力增长。**

它更会做事了，但不一定更会判断：

- 该不该做；
- 应该在哪一层做；
- 什么时候停止 patch；
- 什么时候承认局部模型错了；
- 什么时候必须向人确认；
- 哪些局部正确会破坏全局一致性。

这就是你说的“度”。

### 1. “屎上雕花”本质上是局部优化

AI 很容易接受当前结构，把问题表述成：

> 如何在现有代码上让这个 case 通过？

而不是先判断：

> 这个 case 是否证明当前抽象已经错了？

于是它会加 condition、fallback、adapter、global state、retry 和 compatibility branch。每一步都能解释、能通过局部测试，累积起来却让系统越来越不可理解。

人类资深工程师的重要能力不是更会写 patch，而是能意识到：

> The system is resisting the change. The abstraction boundary is probably wrong.

当前 AI 对这种“结构阻力”的感知很弱。

### 2. 速度确实会放大危险

“开得快但方向感差”非常准确。

代码生成速度让错误不再以一个错误函数出现，而是迅速扩散为：

- 五个平台上的五套近似实现；
- 数据模型、API 和 UI 之间的隐式耦合；
- 为错误假设编写的测试；
- 为兼容错误实现增加的 adapter；
- 最后形成一套自洽但错误的叙事。

此时测试通过反而可能让问题更隐蔽。AI 不只是生产 trash code；它还会快速生产支持这些 trash code 的论据、测试和文档。

### 3. Junior programmer 的类比并不成立

一个初级程序员被纠正一次后，通常会逐渐形成持久的组织认知：

- 这个团队偏好什么；
- 哪些模块不能碰；
- 什么情况需要升级；
- 某位 architect 所说的 “simple” 到底是什么意思；
- 历史上哪些方案已经失败过。

这些知识并不完全写在规范里，而是形成了长期的、带权重的判断模型。

AI 每次都需要重新重建这个模型。即使有 memory、rules 和 skills，它得到的更多是显式规则，不是人通过失败形成的“分寸感”。所以你说这是对 senior engineer 的代偿而不是能力弥补，我赞同。人从写代码转变为持续维护 AI 的叙事框架、边界和现实模型。

而且这种监督成本不是线性的。系统越大，agent 越强，可能造成的 blast radius 越大。

### 4. 抽象层级是另一个核心问题

复杂工程并不是把所有细节递归展开，而是在不同层级上分别维护不同的不变量：

- 产品层：用户体验和业务语义；
- 系统层：ownership、consistency、failure model；
- 模块层：职责和依赖方向；
- 实现层：类型、状态和控制流；
- 平台层：不同 OS 的能力与限制。

资深工程师会先判断问题属于哪一层，然后在那个层级解决。AI 经常直接进入它最有把握的代码层，用 implementation mechanics 代偿上层模型缺失。

所以它可能写出非常复杂的代码，表现出很深的递归推理，却仍然没有真正抽象。**复杂不等于抽象，递归深度也不等于层级判断。**

跨平台一致性尤其能暴露这个问题。正确做法通常不是在 Windows 上重新实现一遍 Mac 行为，而是先定义：

> 哪些是跨平台 invariant，哪些是 platform capability，哪些差异必须显式暴露？

AI 更容易复制 observable behavior，再逐个修补平台差异。

### 5. “什么时候 confirm”不是小问题

这其实是 agency 的核心：AI 必须同时估计：

- 自己判断错误的概率；
- 错误的影响范围；
- 操作是否可逆；
- 获取确认的成本；
- 用户希望它多自主；
- 当前问题是否涉及未表达的产品决策。

这不是简单规则可以完全覆盖的。规则写得保守，AI 什么都问；规则写得宽松，它就狂野执行。更强的模型如果只是提高执行能力，而没有同比提高 uncertainty calibration 和 stopping judgment，确实可能更危险。

### 6. 但我不赞同“永远不可能”

我认为“当前范式下无法完全替代程序员”很有说服力；“理论上永远不可能”证据还不够。

这些能力未必是人类独有，但要解决它们，仅仅扩大模型、上下文窗口和工具权限不够。至少需要：

- 持久且可修正的系统心智模型；
- 对架构不变量的显式维护；
- 跨任务学习，而不是每次重新提示；
- 对不确定性和 blast radius 的可靠校准；
- 主动识别 abstraction failure；
- 能停止执行并重新定义问题；
- 把多平台实现约束到共享规范和 conformance tests；
- 评价长期维护成本，而不只是当前任务是否通过。

也就是说，需要改进的不是纯 coding intelligence，而是 **engineering judgment and governed agency**。

### 7. 什么叫 well-defined？

我认为不是“需求写得非常详细”。一个问题适合交给 AI，通常需要四个条件：

1. 可验证的完成标准  
   能通过测试、schema、截图、性能指标或明确输出判断完成。

2. 明确的不变量  
   不只是要求做什么，也清楚哪些行为绝不能改变。

3. 有限的影响范围  
   即使方案错了，也不会悄悄改变整个系统的架构或语义。

4. 验证成本显著低于生成成本  
   人能够快速判断结果对错，而不是花几天理解 AI 一小时生成的修改。

如果验证结果需要重新理解五个平台和服务器之间的整体语义，这个任务即使文字写得再详细，也不算 well-defined。

所以我的结论和你很接近：

> 当前 AI 是极强的实现放大器，但不是可靠的工程责任主体。

它能替代大量编码劳动，却尚未替代那个决定“问题是什么、在哪一层解决、做到什么程度、何时停手”的人。甚至在大型系统里，它越强，这个人的责任可能越重。

你这段观察最有价值的地方，是把问题从“AI 会不会写代码”推进到了真正的问题：

> 谁在维护系统的现实模型、抽象边界和停止条件？

目前答案仍然是人。

说的很好 楼主怎么看待程序员行业的未来
入行的人减少了会导致这个行业精英或者消失吗？

还有现在的CS大学生都没有手敲代码了（intern和ng都是vibe coding）你觉得3-5年之后 会给程序员行业带来什么影响呢？

我看到一个很有意思的观点，就是现在新入门的大学生已经不怎么编程了，所以楼主有些肯定需要矫正。现在大部分程序员都是古法编程过来的，所以少说有得有几万行吧，可未来的呢。我的观点就是，这个本质是竞争，毫无疑问吧？可是人和AI的竞争，在速度上，人是比不过的，但是，就是这个质量上，如果参看那个新人不动手编程（大部分人应该还没那么hard code，有C++了就不会去汇编，有python了就不会写C++），那么这条也岌岌可危。。。我觉得，新时代，需要新的技能，过去的过去吧。