SiS001! Board - [第一会所关闭注册]

标题: [转帖] 【科技】DeepMind开发AI程序员，称可达人类中等水平 [4P] [打印本页]

作者: druid169 时间: 2022-2-5 11:05 标题: 【科技】DeepMind开发AI程序员，称可达人类中等水平 [4P]

投递人 itwriter 发布于 2022-02-04 14:00

　　继开发了围棋机器人 AlphaGo 和人工智能预测蛋白折叠系统 AlphaFold 之后，谷歌旗下 AI 公司 DeepMind 日前又宣布创建了重磅编程机器人系统 AlphaCode，并且编程水平已经达到人类程序员的平均水平。

　　DeepMind 表示，AlphaCode 编写计算机程序的能力已经达到非常具有竞争力的水平。在与人类程序员的比赛中，AlphaCode 的排名可以达到中等水平，跻身前 54% 之列，标志着人类向自主编码迈出重要一步。

　　DeepMind 首席研究科学家 Oriol Vinyals 表示，该研究仍处于早期阶段，但初步结果显示出创建一个解决编码程序挑战的自主系统的可能性。“在这一领域，目前只有人类可以做到。”Vinyals 表示，“从长远来看，我们对 AlphaCode 在帮助程序员和非程序员编写代码、提高生产力或创造新的软件制作方式方面的潜力感到兴奋。”

　　AlphaCode 目前仍无法击败最好的人类程序员。批评者还警告，必须特别仔细地检查由机器生成的代码是否存在错误或不可预见的影响，包括易受网络攻击的脆弱性等。

　　但 DeepMind 最终希望这种人工智能工具可以解决需要批判性思维、逻辑和语言理解的开放式问题。Vinyals 表示，短期来看，AlphaCode 可以成为程序员的助手，而长期来看朝一日该系统将能够编写自己的软件。

　　对 AlphaCode 进行挑战测试的网站 Codeforces 创始人 Mike Mirzayanov 在一份与 DeepMind 的联合声明中表示：“我可以肯定地说 AlphaCode 的结果超出了我的预期，我认为 AlphaCode 已经达到了一个有前途的新竞争对手的水平。但实现算法并不是最困难的，发明算法才是。”

　　AlphaCode 并不是第一个生成计算机代码的 AI 工具，很多科技公司都在开发类似的应用程序。去年 6 月，微软和 AI 实验室 OpenAI 已将语言生成程序改编为能够完成代码字符串的自动化程序。对于终端用户来说，这些系统就像 Gmail 的智能编写功能一样，可以完成人们正在编写的任何内容。

　　“虽然人类程序员今天可能还是拥有优势，但是 AI 必将会在很多领域全面超越人类，这只是时间问题。”自动驾驶公司 AutoX 创始人、董事长肖健雄对第一财经记者表示。

　　AI 被认为是帮助人类了解周围世界最有效的工具，也是科技巨头的兵家必争之地。DeepMind 公司 2014 年被谷歌以 6 亿美元的价格收购，2019 年微软斥资 10 亿美元资助了 OpenAI 公司，Meta 公司也拥有强大的 AI Research 部门，这些实验室领导了全球最先进的 AI 研发工作。

　　DeepMind 联合创始人兼 CEO 丹密斯·哈萨比斯（Demis Hassabis）曾表示：“ DeepMind 的最终愿景一直是构建通用 AI，最大程度地加快科学发现和研究的步伐。”

　　但要靠 AI 盈利目前仍有困难。DeepMind 在 2019 年亏损 5 亿英镑后，在 2020 年首次实现盈利，利润约 4400 万英镑，但盈利来源未被公开。公司去年发布了用于预测蛋白折叠的 AlphaFold 算法，大举进入药物研发领域。

　　一位国内人工智能软件企业创始人对第一财经记者表示，DeepMind 的收入来源有限，且投入巨大。DeepMind 并不直接向消费者销售产品，也没有宣布与母公司 Alphabet 以外的私营公司达成任何交易。不过它确实向 Alphabet 旗下包括谷歌、YouTube 以及登月计划X等部门出售软件和服务。

　　但大部分专家认为，人脑能够实现的任务，理论上一个物理的系统都可能实现。“这只是一个时间和资金的问题。”计算机专家 Herbert Jaegar 对第一财经记者表示，“看谁愿意为此支付巨额来发展这些技术。”

　　DeepMind 目前拥有大约 1000 名员工。高薪是 DeepMind 吸引人才的重要手段，该公司聘请了来自世界领先的人工智能研究领域的科学家，这些顶尖人才大多拥有牛津、剑桥、斯坦福、麻省理工学院的文凭，他们的年薪通常超过百万美元。

来自: www.163.com

AI又对奥数下手，刷题刷出「模考」最好成绩

黑科技大揭秘

2022-02-04 13:41

行早发自凹非寺

量子位 | 公众号 QbitAI

AI在最不擅长的数学方面，这次大幅刷新了最好成绩。

其中关键角色是OpenAI给Lean做的一个定理证明器。

听起来有点耳熟？没错，就是去年参加国际数学奥林匹克竞赛（IMO）的“非人”选手Lean~

自从2013年微软研究院推出Lean以来，就一直尝试让AI在数学命题证明这方面取得进展。

而这次也确实得到了回报，OpenAI新做的这个定理证明器让它学会了解决一部分有难度的高中奥数题，包括美国的数学竞赛AMC12、AIME甚至是国际奥数竞赛中的题。

它首先会用语言模型将数学问题转化为另一种形式，列出隐藏的条件和已知信息，然后来推理求证。

虽然在刚开始效果并不明显，只能证明几个命题。但是在不断地搜索新的证明，经过八次迭代之后，在miniF2F测试中，成功地把分数从29.3%刷到了41.2%。

我们来看看这AI是怎么在奥数题上施展拳脚的。

AI如何做奥数题

先来看一个简单的问题热热身：

对于所有大于等于9的整数n，证明下图中的式子是一个完全平方数。

按照普通人的思考方式，可以先把式中分子提出一个n的阶乘，与分母约去。

然后分子化简为（n 1）2。这在形式上就是一个完全平方数，问题得证。

那AI是怎么做的呢？

它首先从文本中提取了条件和已知信息，例如n是整数、n大于等于9。

接下来，它把需要证明的问题换了一种说法，改为：

存在一个整数x，使x2和原式相等。

然后在解题的过程中，完全由模型直接生成了一个数学项“n 1”作为一个解：use n 1。接下来再去验证这个解是否成立。

如果没有语言模型，这是不可能做到的。

这么看来这模型能耐了，还有了一些数学想法，再拿一道国际奥赛的改编题来考考它：

设a、b、c是一个三角形的三条边，证明a2（b c-a） b2（c a-b） c2（a b-c）≤3abc。

同样地，AI还是先把条件都列出来。不过这次还列出了与三角形有关的隐藏条件：

a、b、c都是大于0的实数，并且有任意两边之和大于第三边。

然后模型还自创了一个方法，列出了（b-a）、（c-b）、（c-a），看起来好像不明所以。

但是如果把目标式子展开，你就会发现这三项正是舒尔不等式的几个对称项：

根据舒尔不等式，对所有非负实数x、y、z和正数t，都有：

当t=1时，这和奥数题中的形式完全一样，命题得证。

这么看来，AI这水平着实不简单啊，要构造出这种效果可绝非易事。

对奥数下手的难点

让AI来做奥数，确实比学生自己磕高数题难多了。

这第一个难点就是，模型不是从有限的选项中做选择。要是像下围棋那样，格点就那么多，选择空间有限，还好说一点。

但是做奥数，模型要从一组复杂的无限策略中做选择，期间还要生成一些数学中的术语，例如“存在”、“任意”等。

针对这个难点，OpenAI通过在搜索证明方法时从语言模型中采样来解决。

而第二点就是模型缺乏自我对抗和博弈。做奥数题和双人游戏不同，它不是和另一个玩家比赛，而是要证明一个数学命题。

这样一来在双人游戏上成功的算法就不能迁移过来。

为了解决这个问题，研究人员提供了一套不同难度“教辅资料”，用来辅助描述问题而不需要证明。

当这些辅助的描述难度越来越大时，模型就能解决越来越难的问题。

不过这两个难点，反倒可以成为它的优势。

一方面，因为这类数学命题的证明就是需要推理，需要无限的创造力和洞察力。

另一方面，这种辅助描述式的方法也有助于AI自动推理的发展。

说不好，将来深度学习模型还能征服奥数这座高山。

参考链接：

https://openai.com/blog/formal-math/

声明：该文观点仅代表作者本人，搜狐号系信息发布平台，搜狐仅提供信息存储空间服务。

《未来简史》作者尤瓦尔·赫拉利：未来几十亿的“无用阶级”将何去何从？

2017-07-11 17:25

编者注：本文是来自《未来简史》作者，希伯来大学历史系教授尤瓦尔·赫拉利（Yuval Noah Harari）在造就未来大会上发表的演讲全文，本次大会的主办方是剧院式演讲平台“造就”。以下为已授权刊出的演讲全文

我们将面对的不仅仅是人类历史上最重要的一次变革，而且也将是人类有史以来最伟大的关于生命本身的一场变革。

四十亿年来，地球生物进化的准则始终没有改变，那就是物竞天择。不管你是一个蘑菇、一只长颈鹿，还是一个智人，我们所有的生命进化都由该准则来决定。

但是，在接下来的一两百年，物竞天择的法则有可能被颠覆，我们不愿意再等几十万年，让自然来做这个选择。

我们将智能，转化成进化的基础原则，我们会用各类云计算来决定我们的“智能设计”，而这些“智能设计”又将会控制我们未来的生命体，那些生命体有可能突破现有有机世界的限制，可能会超越我们想象的极限。

变革将如何发生？

那么这场最伟大的变革将会如何发生？我们又会看到哪些生命本源上的变化？我们可以看到，会有三大主要方法去让我们控制生命，这三种方法并不冲突，而是相辅相成、齐头并进。

第一个方法是生物工程。通过生物工程加速自然选择，使之改变我们的外貌、我们的思考、我们的感觉、我们的行为方式……这是第一个也是最为保守的一个方式。

当下，我们已不愿意再等几十万年，甚至几百万年，来让自然的选择或者基因的变异来做进化，我们希望通过自己的设计来加速人类自身，我们要刻意的（主动的）去改变大脑内部的结构和 DNA，来改变整个身体的构造。

现在，有些人希望可以像升级手机、电脑那样，提高和升级人类。而我们也有了全新的技术可以去实现这些，比如说，从可以发荧光的水母当中提取一个基因，将它放到一只兔子身上，你就会看到一只可以发出荧光的兔子。

从技术上来说，这也可以在人类身上实现。你可以在一个人类的胚胎上植入一个会发荧光的水母的基因，你会得到一个发荧光的人。这听上去似乎像艺术，而不是一个可以改变世界的东西，但是这种根本的原则却可以为我们所用，以来改变其他那些更为重要的人类特质。

第二个方法更为激进，就是将生物与科技结合起来，将我们自己有机的身体，去和一些非有机的部分结合，比如说仿真的手、仿真的腿、仿真的眼睛等等，这听上去可能像科幻小说，但是已经实现了。

比如说这里大家可以看到一张真实的突变，由于遭遇事故，这个人失去了两个手臂，接下来他被装上了一双仿生手臂，而且可以通过意念来控制。他们只要脑子里想“举手”，手就会真的举起来。

这个信号来自于他们的大脑，再通过电脑对这些信号进行解读，再把它转化成机械手臂的各种活动。

第三个方法最为激进，就是打造一个完全非生物的形态，取代有机状态。

到目前为止，这些仿生的手臂，还不能够完全取代我们自己的有机手臂，但这也是一个开始。

人类的双手在几十万年、甚至是几百万年以来，形态和功能都没有什么改变和升级。

但是有了仿生手臂之后，你可以进行升级换代，你可以像换智能手机一样，每过几年换一次。而且这样子的手臂，它会更加有力量，能比我们自己的双手做更多的事情。

你可以有四个、六个、八个手臂，甚至是变成“千手观音”。

你可以将这个手臂从身体上撤下来，让它去做别的事情。比如我可以站在这里，但我的手臂待在旅馆，或者是在洗碗，或者在做任何其它的事情。

在半器械人的方式中，我们把有机和无机进行了结合，能够突破人类目前的很多生理限制但是这种方法还不是那么激进，因为控制中心依然在我们的有机大脑中。

打造完全独立的非有机生命体

而最为激进的方法是通过人工智能打造完全的非有机的生物形态，甚至，有机大脑的这个控制中心也可以完全取代，这能让我们更好地控制生命。

我们知道今天人工智能的发展速度已经非常惊人，很多东西在十年、二十年前，还被认为是电脑和 AI 永远不能够做到，或者没有办法做得比人做得更好的，像开车，或者是打败围棋冠军，但是现在他们都做到了。所以在接下来的一两个世纪当中，也完全有可能诞生由 AI 控制的、独立的、非有机的生命形态。

这将是我们 40 亿年的有机生命进化历史中一个全新的东西。他们不受有机生命化学这些大原则的控制，也不一定拥有意识。

在科幻作品当中我们通常会把意识和智能搞混。

很多科幻电影和小说都认为一旦电脑或者机器人有了足够的智能之后，他们也会产生意识、产生七情六欲，要不就是机器人爱上科学家，要不就是科学家爱上了机器人，最后还免不了有一场杀戮。

智能不等于意识

但真实的情况是，智能和意识其实是两个完全不同的东西。智能是解决问题的能力，而意识是感受事物的能力，是一种能够感受痛苦、快乐、爱情、仇恨、生气、恐惧的主观经验。

从这个层面上来说，人类和其它所有哺乳动物的智能和意识是在一起的，我们是通过各种感受去解决问题的。

虽然最近这几年，我们看到人工智能领域有这么大的发展，但是就目前来看，并没有任何的证据表明，他们会具备意识。

所以，我觉得接下来这些计算机，它可能会继续以一种非常不同的方式，相异于人类和哺乳动物的方式，继续发展它的智能，无论它有没有意识。

而一旦我们发展出了这些非有机的生物体，他们开始蔓延了，我们有可能会看到一场人类历史上前所未有的革命，那就是冲出地球。

40 亿年以来，我们所有的生命体都仅限于在地球上生存，没有任何一个有机体，有办法离开地球，去征服或者去殖民另外的任何行星。

自然选择使得我们具备了一种适应于地球这种生存环境的能力，但以我们的状况要去月球，要去别的空间，就很难发展出另外一种适应的能力。

而如果是非有机的生命体，那就简单得多了。比如说是一个高智能的机器人，把它放在另外的一个星球上，那要比把一个人放在那个星球上容易得多。

在一些科幻电影里，人类坐上了太空飞船冲出地球，去到另外一个星球，在那边生活下来，进行殖民，这个只是我们的想像而已。

我们可能在下一个世纪去到不同的星球去做一些探索，但是这件事不一定是由人类来完成的，很有可能是由人工智能来完成的。

永生将引发人类社会最大的不平等

最后呢，还有一场非常大的革命，死亡的性质在未来可能会有根本性的转变。

在整个人类的历史当中，死亡对人类来说是一种不可避免的命运，无论是何种神话学，都告诉我们人类会死，动物也会死，因为神是这么安排的。甚至，宇宙定律就是这样子的。我们只能服从。

但是在未来，科技很有可能重新定义死亡，它将不再是一个形而上学的宿命，因为上帝这么说，自然这么安排，所以我们一定会死，而很可能变成另外一种有望解决的技术性问题。

科学家经常说，每一种技术性的问题，都会有一种技术性的解决方案，只要一旦投入足够多的时间、人力和资金，我们必然有办法去解决这些技术性的问题。

所以 21 世纪最最重要的一个科研项目，可能就会是怎么样运用所有生物工程，人工智能等等这些新领域的技术去克服衰老和死亡这样的问题。

这样的想象已经不仅仅局限于科幻小说了。

谷歌成立了一个叫做 Calico 的分公司，它的使命就是解决人类死亡的问题，你用不着等着上帝的安排，等着牧师告诉你怎么去做，现在，你的命运，你的死亡，掌握在这些工程师的手里面，可能未来有一天他们会解决这样的一个技术性的难题。

到了那一天，死亡可能就不再是人类最大的平等条件，而会变成一个最大的分歧。

目前来说，死是人人平等的一件事。在整个历史的进程中，穷人是如何让自己心里稍微好受一些的呢？他们可以这么想：不管有钱人现在怎么样，总有一天大家都会死。即使是地球上最有钱有势的人，他们也会死。

但是你想象一下未来：再过五十年、一百年，我们的世界会怎样？

到那时我们医疗条件越来越好，我们可以解决所有衰老带来的问题，但是成本非常昂贵，绝大多数付不起钱的人还是会继续老去，但是有钱的人，他们可以保持富有，保持年轻，保持美貌，那么社会大众会不会愤怒？

如果愤怒的话，我相信这种情绪会相当的激烈。

如何避免沦为无用阶级？

上面讲到许多神奇的新技术，以及那会对我们人的生命带来何种影响。接下来我想讲讲技术给我们带来的社会文化和政治影响。

其实出现这么多的新技术，就会带来一种危险，那就是一些人可能成为超人，甚至是智神。但其他绝大部分的人，则沦为一种新的阶级，叫做无用阶级，就像 19 世纪工业革命创建了一个叫做城市无产者的新阶级一样。阶级斗争贯穿于整个 19 和 20 世纪的历史，尤其是城市无产阶级，他们的愤怒和恐惧导致了一系列的革命。

在未来，我相信会出现一个庞大的新阶级，即无用阶级。这个阶级的人，既没有经济价值，也没有政治话语权，他们做任何事情都比不过计算机和人工智能。比如出租车司机、卡车司机，会被无人驾驶汽车所取代。医生会被机器人医生所取代，甚至连老师也变成机器人。

那么这几十亿人到时候将何去何从？

这绝对是一个非常大的社会文化和政治问题。而且这个问题就出现在 21 世纪，我们现在就要思考如何应对它，而不是等到三四十年后再去想。

我们需要未雨绸缪，要思考自己的孩子这一代人，他们应该上哪些课，接受怎样的教育，才能在接下来的三四十年里避免失业。

可问题在于，我们根本不知道三十年后的劳动力市场会变成什么样子。

唯一能肯定的，就是 2050 年的劳动力市场将今非昔比，除此之外其他的全都是猜测。所以史上第一次，我们根本不知道将来需要掌握何种技能，不知道要怎样培养我们的孩子。

可能最保险的一种教育方式，或者说投资，就是让孩子们学会如何保持一种高的应变力。如果只让孩子专研一门技术，或者局限在某一个领域里，那将来他们的日子就会非常的难过。

将来最重要的一个教育方向就是要学会灵活，要懂得应变，要能够持续地学习，否则就会被淘汰。

人类向技术交权

人类社会很可能面临一种新的威胁，就是权力的转移。几千年来人类一直在积累自己的权势，并且把它牢牢攥在自己手里。但是在十几年或者几十年内，人类往日把持的这些权力将第一次移交出去，不再由我们来控制，而是由算法和人工智能去掌握。

一开始或许只是些非常简单的方面，比如说你想在城市里找到某一条道路，想知道怎么样去到某个地方。如果是几十年前的话，你会怎么做？你可能要靠自己的知识和认路的技能，还有自己的一些直觉，去判断该往左还是往右走。

但是现在呢，我们靠智能手机和 GPS 系统。可能你自己的直觉是往左走，但是最后还是按照手机告诉你的往右走，那你就把这个指路权就交给了手机。就这样，我们慢慢地把权力交了出去。

依靠人工智能来指路还是小事情。但是二三十后，他们会帮我们做出人生的一些重大抉择，比如去哪儿学习，要跟谁结婚，到时候人们可能第一时间就会把这个决定权交给大数据，交给人工智能和算法。

另外还有一个危险是我们无法忽视的。人类在历史上获得了巨大的权力，为此付出的代价就是破坏了环境，导致全球变暖、气候变化。地球过去的气候变化很多时候都可以归结成大自然的失误，但现在更大程度上是人为失误，包括我们使用的许多技术。

眼下如果要解决这个问题，只有一种比较现实的这个方法，就是停止经济增长。但是地球上没有一个国家政府愿意这么做，对吧？对于这些国家，对于这些政府来说，经济增长是他们所做的最大一项承诺，是他们要追求的首要目标。我相信全世界所有的国家和政府，最最重要的就是要发展经济。

如果一个政府故意去叫停经济的增长，这个政府很有可能就下台了。那么怎么办呢？怎么样才能够两者兼得？既要保持经济增长，又要减缓气候的变化，这将是 21 世纪最大的一个难题。

到时候，人类反过头来还是会求助技术，把它当成救命稻草，想要去继续研发出更好的技术来解决这些问题。

权力与幸福

最后我前面已经讲到了许多关于新的技术、新的能力、新的权力，是和人类息息相关的。那么我还想再来讲一个相关的话题。这个话题就是幸福和痛苦。因为这里面是有一层非常复杂的关系。

权力和幸福是复杂的关系。

人类通常都有这样子的一种印象，那就是权力是得到幸福的一个关键。权力可以让我们去解决各自所面临的问题，可以实现自己的梦想，从而获得幸福。这就是为什么人类几千年来一直在不断地追寻权力。

但是当我们真的去看一下历史的发展的话，我们会看到一个非常令人不安的现象，那就是人类的确是非常擅长获取和积累权力，但是却并不擅长将这种权力转化为幸福感。

我们现在已经比石器时代的人们有权力几千倍，但是我们的幸福指数却并没有比石器时代高这么多，这主要是由两大原则造成的。

首先人的幸福感取决于他的期待，而不是取决于他的条件。

你之所以满意和高兴，是因为你的期待得到了满足。但问题是，随着我们的生活条件越来越好，我们的期望值也会越来越高，因此虽然人们的生存的条件比以往要好得多，但却依然感到失落，因为他们有了新的期望，而这些期望还没有被满足。

从更深的层面来讲，人的大脑最为基础的一个反应是当他得到乐趣的时候，他不会觉得满足，而是会想要更多。无论我们取得了什么，无论我们现在感到多愉悦，我们对此的反应都是渴求更多。

在 21 世纪，只要这个欲望不断地持续下去，无论我们取得的成就有多大，无论我们所获得的权力有多大，都不会让我们感到更加的满意和快乐。因为我们不知道如何将这些权力转化为我们的满意感和幸福感。

所以到最后，即使我们成为了上帝，拥有了破坏和创造的权力，但是我们依然会感到非常不满意，我们将成为欲求不满、郁郁寡欢的上帝。

以上我讲了一些今后有可能的发展趋势，以及一些我们可能面临的挑战和危险，这都是在接下来的几世纪当中有可能会发生的。

但是我想要强调的是，我所说的这些东西并不都是决定论的。

技术从来都不是决定论的。

我们不能够停下技术发展的步伐，即使我们对人工智能的发展感到恐惧，害怕人工智能比人更有权力、更加聪明，我们不能够来停止对电脑或者是人工智能的研究。这是不会发生的。

就算是一个国家因为觉得危险而停止了所有对于 AI 的研究，其他的国家依然会这么去做。所以技术的进步和发展是无法阻止的。

我们开发出了某一个特定的技术，并不意味着我们必须用它来做特定的事情。你可以用相同的技术来做很多完全不同的事情，满足不同的目的。

在之前的历史当中，比如说 20 世纪，同样是火车、电力、无线电和汽车的技术，我们可以用来打造一个共产主义的社会，或者是资本主义的社会，或者是法西斯的社会，这些社会都使用火车，都使用电力，只是他们使用的方法是不同。

同样的，到了 21 世纪，我们不断去开发人工智能、生物技术和生物工程，但是我们可以用它们来打造各种各样完全不同的社会。

虽然人类社会有可能会不可避免地出现分层，出现只有少数的精英可以享受所有的权力、财富和由人工智能所带来的好处和福祉，占人口绝大部分的无用阶级会丧失经济价值和政治话语权的状况。

但我们也还是可以打造一个完全不同的社会，在这个社会当中，这些新技术带来的好处能得到尽可能平等的分享，人人都能够享有，而不仅仅是赋权于少数的精英阶层。

如果你不喜欢我刚才所说的，未来有可能会出现的这些情景，甚至感到有一点害怕的话，那么你依然可以做一些事情来改变未来。

谢谢~

声明：该文观点仅代表作者本人，搜狐号系信息发布平台，搜狐仅提供信息存储空间服务。

欢迎光临 SiS001! Board - [第一会所关闭注册] (http://67.220.92.15/luntan/)