深度程序员DeepCoder：AI自动编程系统能否取代程序员？探讨微软Robust Fill等最新研究

甚至有人给我想了一个名字，叫“DeepCoder = Deep Learning + Coder”。口号是：“有了DeepCoder，就不需要Top Coder了！”其他人向我指出了这个方向上最新且令人惊叹的研究，例如微软的 Robust Fill...

主页君补充了一条旧信息：“”

我很欣赏这些人的关心，但其实我并不关心，也不看好人工智能。现在我简单谈谈我的看法。

一颗心就像一台机器

很多人喜欢提倡人工智能、自动驾驶汽车、机器人等技术。然而，如果你仔细观察，就会发现，这些人不但不明白什么是人类智能，也不明白人工智能的局限性，反而这些“AI狂人”的思维已经变得严重机械化。他们或多或少失去了人性，仿佛忘记了自己是人，忘记了自己最需要的是什么，忘记了自己的价值。这些人就像卓别林在《大独裁者》的最后演讲中指出的那样：“人如机器，心如机器”。

每当提到人工智能，这些人一定雄心勃勃地宣称“替代人类工作”、“节省劳动力成本”。抛开这些目标能否实现的讨论不谈，它们从一开始就与我的价值观完全矛盾。一个伟大的企业应该为社会创造真正的、新的价值，而不是试图“节省”劳动力成本，让人们失业！想想就觉得可怕。我创建了一家公司，它最大的贡献就是让成千上万的人失业，为贪婪的人节省“劳务费”，加剧贫富分化，把权力集中到极少数人手中。最终将导致人们生活的被剥夺、社会的荒凉甚至崩溃……

我无法想象生活在那样的世界里，即使这会让我成为世界上最富有的人，那也是毫无意义的。世界上有太多的东西是金钱买不到的。走在大街上，看不到人们幸福的笑容，悠闲的脚步，亲切的问候，关怀和幽默，也看不到甜蜜浪漫的爱情。相反，我到处都看到无家可归的人，他们的鼻孔上有洞，很痛苦。当他们进来时，会留下一股浓烈的尿味。无论走到哪里，他们都害怕被抢劫，因为人们真的活不下去了。除了偷窃和抢劫，没有其他生存方法……

如果人工智能成功，这可能就是最终结果。幸运的是，有充分的证据表明人工智能永远不会成功。

我的人工智能梦

很多人可能不知道我曾经是一名“AI爱好者”。我也对人工智能感到疯狂，并将其视为我的“远大理想”。我嘴里还讲过“人类”，好像机器可以与人类平起平坐，甚至优于人类。当深蓝击败卡斯帕罗夫时，我曾感叹：“唉，我们人类完蛋了！”我还以为，有了“逻辑”和“学习”两大法宝，机器有一天会超越人类的智能。但我并没有想清楚如何实现这一目标，也没有想清楚实现这一目标的意义是什么。

故事要从十多年前说起，当时人工智能正处于冬天。在清华大学图书馆，我无意中发现了Peter Norvig的一本尘封已久的名著《人工智能编程范式》（PAIP）。像考古学家一样，我开始一一思考并实现各种经典的AI算法。 PAIP的算法注重逻辑和推理，因为在它的时代，许多AI研究人员认为人类智能最终是关于逻辑推理的。他们天真地认为，有了谓词逻辑和一阶逻辑，就可以表达“因为不仅且万物存在”，机器就能拥有智能。于是他们设计了各种基于逻辑的算法、专家系统，甚至还设计了基于逻辑的编程语言Prolog，称之为“第五代编程语言”。最终，他们遇到了难以逾越的障碍。许多人工智能公司无法实现他们吹嘘的目标。各种基于“神经元”的机器无法解决实际问题。政府和私人的巨额投资白费了。人工智能进入冬天。

就是在那个冬天，我认识了PAIP。虽然它没能让我全身心投入人工智能领域，但却让我迷上了Lisp和编程语言。也正是因为这本书，我第一次轻松、有条理地实现了A*这样的算法，并理解了它们的真正含义。也是因为PAIP，我第一次明白了什么是程序的“模块化”。我开始在自己的程序中使用小的“工具函数”，不再担心很多人担心的“函数调用开销”。 PAIP和SICP​​这两本书最终引导我投身于编程语言领域，并且我有幸得到了这个领域鼻祖的指导。

PAIP之后，我有一段时间对机器学习着迷，因为有人告诉我机器学习是人工智能的新篇章。然而，我逐渐意识到，所谓的人工智能和机器学习与真正的人类智能关系不大。与实际问题相比，PAIP中的经典算法实际上相当幼稚且非常复杂，无法解决大规模的实际问题。最重要的问题是，我没有看到PAIP中的算法与“智能”有任何关系。 “机器学习”这个名字完全是一个幌子。很多人都注意到，机器学习只是统计学中的“拟合函数”，但它却被赋予了一个令人困惑的名字。

在可怕的斗篷下

人工智能研究人员总喜欢用“神经元”这样的术语来吓唬人，告诉你他们的算法是受到人脑神经元工作原理的启发。请注意，“启蒙”是一个非常模糊的词。受某件事启发的结果可能与它无关。比如我也可以说殷语的设计灵感来自于九阴真经:P

世界上众多的人工智能研究人员中，有多少人真正研究过人脑、解剖过人脑、做过实验、读过脑科学研究成果的人有多少？最后，你会发现几乎没有人工智能研究人员真正对人脑或认知科学进行过研究。著名认知科学家Douglas Hofstadter在接受采访时指出，这些所谓的“人工智能专家”实际上对人类大脑和意识如何运作完全不感兴趣，也从未深入研究过，但他们声称要实现“通用人工智能”（AGI），这就是为什么人工智能直到今天还只是一个虚幻的梦想。

纵观历史，机器学习能做的都是字符识别（OCR）、语音识别和人脸识别。我将这些统称为“识别系统”。当然，识别系统是非常有价值的。我经常使用手机上的语音输入法。人脸识别对于警察和间谍机构显然具有重要意义。虽然非常重要，但识别系统距离真正的“智能”还很远，而且这些识别系统的普及导致了人工智能能力的严重神化。说白了，这些识别系统，也就是统计拟合函数能做什么：输出一堆像素或者音频，一个一个输出单词文本。很多人分不清“文本识别”和“语言理解”之间的区别。虽然 OCR 和语音识别系统可以依靠统计方法来知道你在说哪些单词，但它们无法真正理解你在说什么。

我们来谈谈一些有深度的话题。不明白的人可以跳过本节。 “识别”和“理解”之间的区别就像编程语言中“语法”和“语义”之间的区别一样。编程语言的文本首先要经过词法分析器（lexer）和语法分析器（parser），然后才被发送到解释器（interpreter）。只有解释器才能实现程序的语义。以此类推，自然语言语音识别系统实际上只相当于编程语言的词法分析器。大多数人工智能系统甚至没有解析器，因此无法清晰地分析主语、谓语、宾语和句子结构，更不用说理解含义了。 IBM的语音识别专家Frederick Jelinek曾开玩笑说：“每次我解雇一名语言学家，识别率就会上升。”原因是语音识别只相当于词法分析器，而语言学家研究的是解析器和解释器。 。当然，你做的事情太基础了，所以语言学家无法帮助你，但这并不意味着语言学家一文不值。

如今各大公司喊得最响亮的“AI技术”就是Siri、Cortana、Google Assistant、Amazon Echo等具有语音识别功能的工具，被称为“个人助理”。我想每个用过它们的人都应该明白，其中有多少东西可以称为“智能”。每次我尝试 Siri 时，我都对它的愚蠢印象深刻，它可以让你匆忙砸碎你的水果手机。其他几个同类也好不了多少。很多人都被“微软小冰”欺骗了。乍一看，他们确实能明白你在说什么。不过，聊了一会你就会发现，小冰无非是一个“互联网句子搜索引擎”。它只是根据你句子中的关键词随机搜索互联网上已有的句子。这些句子大部分来自问答网站，比如百度知乎、知乎等。一个很简单的实验就是反复发送同一个词给小冰，比如“聪明”，看看它返回什么内容。然后在谷歌或百度上搜索这段内容，你就会找到这句话的真正出处。人们喜欢欺骗自己，也喜欢欺骗别人。当他们看到几句话用“诗意”的方式回答时，他们以为他们在跟你说话，但实际上完全不正确，所以你觉得他们很“诗意”。大多数人喜欢只截取与小冰对话的“逻辑”部分，然后感叹：“哇，小冰真有趣！”他们没有告诉你的是，几乎所有未发布的对话都是“鸡同鸭讲”。

我并不是说这些产品完全没有价值。我使用过 Siri 和 Google Assistant，发现它们很有用，尤其是在开车时。由于开车时操作手机容易发生事故，所以我可以使用语音控制。例如，我可以对手机说：“导航到最近的加油站。”然而，要实现这种语音控制，根本不需要理解语言。你只需要使用语音识别来输入一个功能调用：导航（加油站）。私人助理在其他时候不太有用。我不想在家里或公共场所使用它们，原因很简单：我懒得说话，或者说话不方便。只需在屏幕上点击几下，我就可以准确地做我想做的事情，这比说话省力得多，而且精确得多。私人助理根本听不懂你在说什么。这种限制是可以理解的。然而各大公司利用这些私人助理来煽风点火，夸大并忽视其局限性，让外行人以为人工智能即将实现。是啊，所以我才不得不鄙视他们。

因为这些“私人助理”，有人声称类似的技术可以用来打造“机器客服”，用机器代替人担任客服。他们想不清楚的是，客服看似是一项“简单的工作”，但与这些语音控制的小玩意相比，难度却天壤之别。客服必须了解公司业务，必须能够准确理解客户在说什么，必须形成真正的对话，必须能够为客户解决真正的问题，而不是仅仅抓住一些关键词，胡乱回复。此外，客服还必须能够从对话信息中触发现实世界的变化，比如打电话给配送中心停止发货、请求上级满足客户的特殊要求、与客户争论退货政策、拒绝他们的退货请求、以及把握顾客心理。 ，向他们推销新服务等等，各种需要“人类经验”来处理的事情。因此，机器不仅要能够形成真实的对话、理解客户的话，还需要大量的现实世界经验和改变现实世界的能力，才能做好客户服务工作。由于这些私人助理都是假的，我看不到任何利用现有技术实现机器人客户服务的希望。

很多人看到AlphaGo的胜利，相信所谓的深度学习有一天会达到人类水平的智能。在之前的文章（）中，我指出这是一个误解。很多人认为人们觉得困难的事情（比如围棋）才是真正人类智慧的体现，但事实并非如此。请问你，心分很难吗（23423451345 / 729）？这对人类来说非常困难，但任何愚蠢的计算机都可以在 0.1 秒内计算出来。同样的原则也适用于围棋和国际象棋。这些机械化的问题根本不能反映真正的人类智慧，它们只需要蛮力。

看看人工智能领域发明的可怕术语，从人工智能到通用人工智能，从机器学习到深度学习，……我总结出这样的规律：人工智能研究人员特别喜欢创造可怕的术语。当人们对一个术语失去信心时，他们就会想出一个不同的、新的术语，以防止人们将对这个术语的失望转移到新的研究上。然而，在这些术语之间，药物并没有变化。因为没有人真正知道人类智能是什么，所以没有办法实现“人工智能”。

生活中的每一天，我这个“曾经的人工智能爱好者”都对“人类智能”所展现出的非凡能力印象深刻。它甚至不需要是人类，但任何高等动物（例如猫）的能力都让我感到惊讶。我从心底里尊重人和动物。我已经没有资格谈论“人类”了，因为任何机器在这个词面前都是那么的微不足道。

自动编程是不可能的

现在回到一些人最初提出的实现自动编程系统的建议。我现在可以非常简单地告诉你，这是不可能的。微软的Robust Fill之类的都是废话。我对微软最近煽动AI热潮的行为表示有点不屑。然而，微软的研究人员可能知道这些东西的局限性，但国内的编辑却夸大了它们的有效性。

如果你仔细看他们给出的例子，你就会知道这是一个玩具问题。一个人给出少量的例子并指望计算机准确地猜出他想要做什么，显然是不可能的。原因很简单，示例不太可能包含足够的信息来准确表达人们想要的内容。最简单的变换也许可行，但只要有一些例外，你就无法猜测他想做什么。即使人们看到这些例子，他们也不知道另一个人想做什么，那么机器怎么能知道呢？这基本上是试图实现“读心术”。甚至人们自己也会感到困惑，不知道自己想做什么。机器怎么能猜出来呢？所以这比读心术还要难！

对于这样的弱智问题，没有百分百正确的解法，哪怕是稍微合乎逻辑的事情就更没有希望了。论文最后更是“高瞻远瞩”，提到这种做法应该推广到有“控制流”的情况，完全是无稽之谈。那么RobustFill能做的就是让这个极度弱智的玩具问题达到“接近92%的准确率”。另外，这个92%的计算标准也值得商榷。

任何负责任的编程语言专家都会告诉你，自动生成程序根本不可能。因为“读心”是不可能的，为了让机器做某事，人们至少必须告诉机器“他们想要什么”。然而表达这个“自己想要的”的难度其实和编程相差无几。事实上，程序员工作的本质不就是告诉计算机他想让它做什么吗？最困难的工作（数据结构、算法、数据库系统）已经固化到库代码中。然而，表达“你想做什么”的任务永远无法自动完成，因为只有程序员自己知道他想要什么。他甚至思考了很久，才知道自己想要什么……

有句话说得好：编程只是一门失落艺术的别称，而这门艺术的名字就是“思考”。任何机器都无法取代人类的思维，所以程序员是一个机器无法取代的职业。虽然好的编程工具可以让程序员工作更加舒适高效，但任何试图取代程序员工作、节省编程人力成本、剥夺程序员待遇、试图将其变成“可替代原件”（如Agile、TDD）的行为，最终会背叛，导致雇主收到适得其反的后果。同样的原则也适用于其他创意工作：厨师、发型师、画家……

所以不要考虑自动编程。节省程序员开支的唯一办法就是邀请优秀的程序员，尊重他们，给他们良好的待遇，让他们生活和工作快乐、舒适。同时，摆脱那些胡言乱语“敏捷”、“Scrum”、“TDD”、“软件工程”，只说不做的管理者。它们是公司资源的真正浪费，也是降低开发效率和软件质量的祸根。

愚蠢机器的价值

我不反对继续投资有实用价值的人工智能研究。不过，我觉得我们不应该过分夸大它的用处，过分关注它，仿佛它是唯一能做的事情，仿佛它是一场划时代的革命。 ，仿佛它将取代所有人类劳动。我个人的兴趣其实并不是人工智能。那么我该如何创业呢？这很简单。我认为大多数人实际上并不需要非常“智能”的机器。 “愚蠢的机器”对人来说是最有价值的。因此，设计出新的、可靠的、愚蠢的、造福人类的机器应该是我创业的目标。当然，我这里所说的“机器”包括硬件和软件。

举个例子，一些人工智能公司想开发一种可以自动打扫卫生、做家务的“机器人仆人”。我认为这个问题几乎不可能解决。还不如直接请真正聪明的阿姨来帮忙。我可以搭建一个阿姨服务平台，方便需要服务的家庭和阿姨进行匹配。为阿姨配备更好的工具、通讯、日程、支付设施，让她工作不疲劳、收钱方便，家人也能安心，岂不是两全其美？凡是需要智能机器人的地方，它们都困难、昂贵且难以使用。显然，这样的阿姨服务平台，结合真正的人类智能，可以轻松地将那些机器人女佣公司扼杀在萌芽状态。

当然，我不会真正搭建一个阿姨服务平台，我只是举个例子。有很多对人类有用的傻机器，还在等待我们去发明。这些机器的设计虽然需要灵感，但实施起来并不困难，给人们带来了方便，并且产生了立竿见影的经济效益。这些东西不会对人们的工作岗位造成竞争，反而可能会创造更多的就业机会，可以说是利国利民。最合理的发展方向就是利用人类的智慧和机器的蛮力，让人们省力、赚钱。