如果十年后AI不能代替人类写代码，那它会卡在哪一步？

最近AI写码很火，我在思考如何衡量AI写码的发展速度，以及它未来发展的瓶颈可能在哪。一个metrics可能是AI收到详细指令后，它自己可以写出多少行production quality代码，最后只需要人简单review就可以通过。这和人类工程师的水平进阶也类似。Intern onboarding时就可以写一些短短几行的diff（10^0），上手以后可以加一些几十行的小东西（10^1），到了fulltime SWE，一次写个几百几千行的diff就比较普通了（10^2 ~ 10^3）。再厉害一些的技术大牛，可以独立主导上万行的project，甚至是几十万行、上百万行规模的系统设计（10^4 ~ 10^6）。相比之下，可能今天的AI水平还在Intern/NG的水平左右，要求明确的话，可以自己写出几十行、上百行production quality code（10^1 ～ 10^2）。那未来十年AI会如何继续发展呢？需要多久才能到达下一个数量级呢？会不会卡死在一个数量级上无法前进了呢？如果参考Sam Altman提出的万物摩尔定律，AI写码能力每3.3年可以提升一个数量级。不遇到瓶颈的话，AI或许六七年后就可以达到普通Senior水平了。感觉还是难以置信。这个问题我思考了一阵，好奇大家怎么看？

万物摩尔定律：https://moores.samaltman.com/

首先，您的假设，万物摩尔定律，就是有问题的，技术增长的曲线，短时间看可能是exponential，但是实际上是sigmoid函数。因为现实世界里，还有各种因素的交互作用。比如之前有人说radiologist都要失业了，但是现实是目前的ml还不能取代radiologist: https://www.youtube.com/watch?v=4-3jAJbA-sg

第二个，并不是想说目前ai是概率模型，所以一定就不行，但是概率模型确实是限制了它解决代码和逻辑问题的能力，我自己给gpt4喂过一些新造的逻辑题以及数学问题，它确实能给思路，但如果推理步骤一长，就变成了胡说八道，需要靠prompt提醒才能维持推理准确程度。但是我的经验是thread越长，它准确率下降的越明显。这说明概率模型的限制对gpt4还是存在的。

第三个，就是我们人类提的要求本身就有不确定性，这个不确定性再加上模型的不确定就足以限制模型的效果。如果想让模型生产大量的稳定代码，还是需要由人来提要求，由人来检验，至少对我目前的领域，我必须知道什么是好的什么，什么是对的，才能提出要求。这意味着对码农本身水平的要求可能是不变的。

第四个，就是成本和可解释性，我们不知道gpt如果达到足够的准确程度，会不会导致成本过高，而且现在openai是不是还在亏钱....。我们人在某种意义上讲其实比机器要便宜，而且至少出问题，有个人能解释，让人觉得知道问题怎么找。有的时候ai确实比人厉害，但解释上差很多，我比较关注国际象棋这块，ai确实下的好，但是如果你让他解释，他比人类老师差远了。

卡在不知道怎么用jira🐶

匿名用户 发表于 2023-4-14 14:38
我觉得跟无人驾驶差不多，AI写的代码出问题导致损失，谁负责解决修复？出过几次问题后，公司上下还能“待它 ...

我觉得就像现在的Tesla autopilot一样，很长一段时间内AI写的代码还是要人review的。我好奇的是，在review通过率和人类类似这个水平，AI一次可以写多少行代码。现在你让他写个100行，估计review一下可能就可以用了。让他写个1w行，估计就得需要自己重写了。

我觉得跟无人驾驶差不多，AI写的代码出问题导致损失，谁负责解决修复？出过几次问题后，公司上下还能“待它如初恋”吗？

取决于未来模型能训练多大。总是有极限的。那样输入输出的长度就有上限

阿三们先把你代替，然后你再想chatGPT怎么代替你吧？

ai写代码的难点在于如何正确理解复杂的业务需求，ai写的多好取决于你描述的是否清晰，很多时候如果你自己已经有清晰的思路，写出来的速度是要比让ai生成然后再review和debug要快的

匿名用户 发表于 2023-4-14 15:13
首先，您的假设，万物摩尔定律，就是有问题的，技术增长的曲线，短时间看可能是exponential，但是实际上是s ...

感谢耐心回复。
第一点，关于万物摩尔定律，我同意你的观点，长期来看都是sigmoid函数。我现在不确定的只是瓶颈，或者说是拐点，是会在AI到达Sr SWE水平之前到来，还是之后到来。现在我还没有答案。关于你说的radiologist，我觉得他们短时间之内是不会被取代，原因有二：一是总需要一个具体人类来承担责任的；二是医生总的来说是被很多regulation保护的，事实上比较简单的需要医生做的事儿，很多护士已经可以胜任了，但是因为regulation医生的饭碗还是很牢固。这也是为什么我认为如果AI将取代所有白领岗位的话，码农肯定走在律师前面，就因为律师有regulation保护。
第二点，LLM是概率模型的问题。我觉得这是问题，但是有可能被解决。特别是在编程这种高度结构化的领域。很多AI generate的code，让他们自己跑跑test case，self debugging一下质量就会好不少。这也是我预想未来码农的工作模式，先写明白spec，再依靠AI辅助写出大量test cases，然后AI生成代码，最后码农review/commit。其实就是基于现在TDD框架上的。
第三点，这个我同意，以后码农水平要求不会大变，毕竟还需要review AI-generated code。但可能team size和从业人数会有变化。
第四点，成本我比较乐观，很多软硬件的优化才刚刚起步。黄教主说的十年后AI效率会提高一百万倍，我觉得并非空谈。可解释性我也觉得问题不大，今天copilot写的代码一般都有很多comment，倒是人类SWE不一定有耐性写这么多…

匿名用户 发表于 2023-4-15 06:13
首先，您的假设，万物摩尔定律，就是有问题的，技术增长的曲线，短时间看可能是exponential，但是实际上是s ...

. Waral dи,如果是专用AI来写代码 成本无论如何都是不可能贵过美国码农的

匿名用户 发表于 2023-4-14 15:35
阿三们先把你代替，然后你再想chatGPT怎么代替你吧？

印度工程师其实对大厂L5威胁不大，薪水上倒可能会有一些影响。