|新一代信息技术 信息基础设施建设 互联网+ 大数据 人工智能 高端信息技术核心产业
|高端制造 航空航天 轨道交通装备 海洋工程装备 新材料
|生物产业 生物医药 生物农业 生物能源
|绿色低碳 清洁能源汽车 新能源 节能技术 环境保护
|数字创意 数创装备 内容创新 设计创新
您的位置:首页 > 深度阅读
普罗米修斯:被严格监控的秘密计划 | 悦读
2018-08-31 00:08
来源:中国战略新兴产业
字体: [   ]

  本文首发于2018年8月1日

  《中国战略新兴产业》

  栏目主持:卜文娟

 

  《生命 3.0》

  [美]迈克斯•泰格马克 著

  浙江教育出版社

  湛庐文化•财富汇

  作者迈克斯•泰格马克对人类的终极未来进行了全方位的畅想,从我们能活到的近未来穿行至 1 万年乃至 10 亿年及其以后,从可见的智能潜入不可见的意识,重新定义了“生命”“智能”“目标”“意识”,并澄清了常见的对人工智能的误解,构建应对人工智能时代动态的全新思维框架,抓住人类与人工智能共生演化的焦点。

  欧米茄启动普罗米修斯计划

  一个星期五的早晨 9 点钟整,欧米茄团队决定启动普罗米修斯这个计划。在一间闲人免进的巨大空调房间内,层层叠叠的架子排成长列。普罗米修斯就在这一排排为它“量身定制”的计算机集群中嗡嗡鸣响。为了安全起见,它没有接入互联网。不过,它在本地存储着一份包含互联网大部分内容的副本作为训练数据,以便从中学习,这些数据来自各大知识汇集网站及社交平台数据库。

  启动伊始,普罗米修斯在编写人工智能系统上的表现还是比人类略逊一筹,但很快,这个缺点就被它极快的速度所弥补了。当欧米茄团队正猛灌红牛时,普罗米修斯也在以破竹之势解决着问题。如果换算成人类需要的时间,那得几千年之久。到早上 10 点钟,普罗米修斯已经完成了对自身的第 1 次迭代。这个 2.0 版本虽然比过去稍微好一点,但还是比不上人类。然而,到了下午 2 点钟,当普罗米修斯迭代到 5.0 版本时,欧米茄团队惊呆了:它已经大大超越了他们的预期,而且它进步的速度似有加快的迹象。夜幕降临时,他们决定用普罗米修斯 10.0 版本来启动计划的第二阶段:赚钱。

  欧米茄团队的第 1 个目标是亚马逊的 MTurk。这是一个众包网络市场,于 2005 年上线后,发展十分迅速,很快就聚集了成千上万来自全球各地的人。他们夜以继日地奏出了一支支“HIT”奏鸣曲—— HIT 指的是“人类智力任务”,范围十分广泛,从音频录制到图像分类和网页描述撰写,应有尽有,但它们都有一个共同点:只要你完成得足够好,没人在乎你是不是人工智能。对于其中大约一半的任务,普罗米修斯 10.0 版本完成得都还算可以。欧米茄团队让普罗米修斯用狭义人工智能设计出了一个简洁的软件模块,专门用于处理这些任务,但除此之外,这个模块什么也干不了。接着,他们把这个模块上传到了亚马逊的网络服务器上,这是一个可以运行虚拟机的云计算平台。在这个云平台上,他们租了多少虚拟机,就可以运行多少虚拟机。欧米茄团队在亚马逊云计算服务上每花费一美元,都能从 MTurk 上赚回超过两美元的价值。亚马逊一点儿也没发现,自己公司内部竟然存在着这样惊人的套利机会。

  为了掩盖踪迹,在前几个月中,欧米茄团队小心谨慎地用假名创建了几千个 MTurk 账户。现在,普罗米修斯建造的软件模块正冒名顶替着这些账户的身份。MTurk 的客户通常会在事后 8 小时左右付款。一旦收款,欧米茄团队又将这些钱用来购买更多的云空间,供给普罗米修斯使用。在这个过程中,普罗米修斯不断升级,它的最新版本写出来的任务模块也变得越来越厉害。由于欧米茄团队的钱每 8 小时就能翻一番,因此在 MTurk 上的任务很快达到了峰值。同时,他们发现,如果不想引起过多的注意,最好把日收入控制在 100 万美元以下。不过,普罗米修斯已经为他们的下一步计划提供了足够多的钱,欧米茄团队已经无须向公司财务总监申请经费了。

  计划可能会带来可怕的风险

  启动普罗米修斯之后,除了在人工智能研究上取得突破之外,欧米茄团队最近还热衷于用它来赚钱:赚得越快越好。从本质上来说,整个数字经济的红利都是唾手可得的,但从哪里开始比较好呢?是开发计算机游戏,还是做音乐、电影或者软件?是写书、写文章,还是炒股,或者捣鼓和贩卖新发明?简单来说,这个问题归根结底是如何才能实现投资回报率的最大化,但一般的投资策略在欧米茄团队面前实属小巫见大巫:在通常情况下,如果年均回报率能达到 9%,投资者就会很满意了;然而,欧米茄团队在 MTurk 上的投资达到了每小时 9%的回报率,平均每天能赚到 8 倍多的钱。那么,他们的下一个目标是什么呢?

  欧米茄团队将重点转向了那些可以研发和销售的产品,其中,电子游戏看起来是个很不错的选择。普罗米修斯很快就具备了极为高超的技能,能够设计出引人入胜的游戏,还能轻易地应对程序、平面设计、光线追踪等成品所必需的任务。此外,它还分析了网络上关于人们偏好的所有数据,知晓了哪一类游戏是玩家的最爱,据此发展出了一种根据销售收入来优化游戏的超能力。

  尽管不愿意承认,但欧米茄团队的许多成员都曾夜以继日地泡在游戏《上古卷轴 5:天际》中。2011 年,这款游戏在刚发布的第 1 个星期,总销售额就超过了 4 亿美元。因此,欧米茄团队相信,在 100 万美元的云计算资源的支持下,普罗米修斯在 24 小时内一定能开发出一款像《上古卷轴》一样令人上瘾的游戏。他们可以在线销售这款游戏,并让普罗米修斯在博客圈里假扮玩家来大聊特聊,引爆热度。如果能在第 1 个星期入账 2.5 亿美元,他们就能在 8 天内将投资翻 8 倍,每小时的回报率高达 3%,虽然比他们在 MTurk 上的表现略显逊色,但更具可持续性:假如普罗米修斯能每天开发出一款游戏,不久之后,他们就能赚到 100 亿美元,而不用担心游戏市场饱和。

  但是,欧米茄团队中的一位网络安全专家坦率地表达了对这个游戏计划的不安。她指出,这个计划可能会带来一个可怕的风险:普罗米修斯可能会“逃脱”,并“抢夺自己命运的控制权”。过去,由于不清楚普罗米修斯的目标在自我提升的过程中会如何变化, 因此为了安全起见,欧米茄团队决定不遗余力地将普罗米修斯“关起来”,囿于“盒”中,让它无法“逃” 到互联网上。对运行在服务器机房中的普罗米修斯主机,他们采取了物理隔绝的手段:那里根本没有网络连接,普罗米修斯输出的所有数据都以信息和文件的形式传输给一台被欧米茄团队严格控制的计算机。

  将普罗米修斯开发的复杂程序放到联网的计算机上运行,是一件风险很大的事情:欧米茄团队根本不清楚它会做什么,也完全不知道它会不会做某些事情,比如在互联网上像病毒一样扩散自己。在测试普罗米修斯为 MTurk 上的任务写的软件时,为了谨慎地提防这种情况的发生,欧米茄团队只在虚拟机中运行这些软件。虚拟机是一个模拟计算机的程序,比如,苹果电脑的许多用户会购买虚拟机软件,通过“欺骗”苹果电脑这是一台 Windows 电脑,来让它们运行 Windows 程序。欧米茄团队建造了自己的虚拟机,其昵称叫“潘多拉魔盒”。它模拟的是一台超级简单的机器,去除了计算机通常拥有的所有附件,没有键盘,没有显示器,没有音箱,也没有网络连接,什么都没有。举个例子,对于 MTurk 上的音频誊录任务,欧米茄团队对虚拟机进行了设置,只允许一个音频文件输入潘多拉魔盒,也只允许一个文本文件输出,即誊录好的文字。这些规则之于魔盒内部的软件,就好像物理定律之于身处宇宙中的人类一样:软件无法冲出魔盒的藩篱,就好比人类再聪明,也无法实现超越光速的星际旅行。

 

关注微信公众号:

关于我们 | 联系我们 | 广告刊例 | 订阅服务 | 版权声明

地址(Address):北京市西城区广内大街315号信息大厦B座8-13层(8-13 Floor, IT Center B Block, No.315 GuangNei Street, Xicheng District, Beijing, China)

邮编:100053 电话:010-63691650 传真:010-63691514 Post Code:100053 Landline:86-010-63691655 Fax:010-63691514

Copyright 中国战略新兴产业网 京ICP备09051002号-3 技术支持:wicep