本篇文章6949字，读完约17分钟
编者按:在接下来的50年里，除了人工智能，很难想象我们周围还会有另一种技术能够如此深刻地影响我们的生活。
随着机器学习使计算机实现了自学，从医学诊断到自动驾驶汽车，技术突破如雨后春笋般涌现。然而，谁在控制人工智能呢？它会取代我们的工作吗？机器人威胁理论会成为现实吗？
作为美国总统，奥巴马也很关心这些问题。几天前，麻省理工学院媒体实验室主任伊藤忠和《连线》记者斯科特·达迪奇来到白宫，与总统坐下来讨论人工智能的未来、可能的炒作以及伴随而来的隐忧。这篇文章发源于《连线》，由司各特·达迪奇、易信、老卢伊奥和熊蒙编辑。雷锋。搜索“雷锋”的公开号码。com)并未根据采访内容改变初衷，未经允许不得转载。
今年8月24日，伊藤，斯科特·达迪奇，
美国总统巴拉克·奥巴马在白宫罗斯福会议室会面
人工智能如何给我们带来社会价值？
斯科特·达迪奇:首先，感谢你们两位邀请我来白宫。总统先生，我想问你最近过得怎么样。
奥巴马:很忙，但是我做了很多事情。你可能知道，目前世界上有许多政治问题需要解决。
斯科特·达迪奇:接下来，我们主要关注人工智能，它已经从科幻小说中脱颖而出，成为现实，并对我们的生活产生了深远的影响。我想问总统先生，你是什么时候开始意识到人工智能时代的到来的？
奥巴马:我知道人工智能，因为它开始以各种形式渗透到我们的生活中，但我们仍然不知道。部分原因是我们对人工智能的理解主要来自大众文化。事实上，广义人工智能和专业人工智能是有区别的，这可能与许多读者所知道的不同。在科幻小说中，我们所知道的都是广义的人工智能，不是吗？计算机变得比我们聪明，意识到人类并不总是那么有用，甚至把人类关在温室里，或者创造一个矩阵状的虚拟世界。
在和一些科学家讨论的过程中，我了解到这样的场景离我们还很远。然而，这些假设可以释放我们的思想，使我们认识到，我们仍然有足够的自由将专业人工智能应用于各种重要领域，即通过算法和计算机处理来解决日益复杂的问题。从医药到交通，甚至到电力分配，我们已经目睹了人工智能的作用，它专门用于工业、日常生活，它无疑可以提高生产力和经济水平的效率。如果使用得当，它肯定能使社会繁荣，并带来无数的机会。但随之而来的问题是工作岗位的减少，这可能加剧不平等并降低工资。
伊藤忠:这个问题也困扰着我所在的麻省理工学院实验室的学生，但我关心的是，能够接触到这些人工智能核心计算机技术的大多数人都是男孩，尤其是白人，显然他们谈论计算机问题比谈论种族问题容易得多。他们中的许多人认为，如果他们能使用人工智能来创造像科幻小说中那样的场景，我们就不必担心这么多政治和社会问题。学生们会觉得创造这样的机器也是解决这些问题的一种方法。
奥巴马:是的，没错。
伊藤忠:但他们也预见到了可能的困难。我认为我们已经进入了一个人工智能问题超越计算机问题的时代。每个人都需要理解人工智能是如何工作的，这一点非常重要。在媒体实验室中，我们使用术语“扩展智能”。因为我们面临的问题是，我们如何在人工智能上建立社会价值？
奥巴马:joi在午餐时间以自动驾驶为例。自动驾驶技术正在发展。这些装有自动驾驶技术的机器不仅可以代替人类快速做出决策，减少交通事故，大大提高交通效率，还可以帮助人类解决碳排放问题，缓解全球变暖。但是joi提到了一个关键点:在汽车中使用这些技术有什么意义？在自动驾驶的道路上，我们也面临着一系列的选择:如果汽车自动驾驶时发生了事故，你可以保证不撞上行人，但你可能会撞到墙上或把自己置于危险的境地。如果遇到这种困境，我该怎么办？这变成了一个道德和伦理问题，我们需要一些规则来解决这些问题。但是谁应该制定这些规则呢？
伊藤忠:我们做了“小车问题”(这个项目是麻省理工学院实验室的一项研究，研究主题是自动驾驶汽车遇到困难时的解决方案)。例如，在两难的情况下，我们应该牺牲五个乘客还是五个行人？)，在这项研究中，我们发现大多数调查者都认为应该牺牲乘客来挽救其他人的生命。在被问及这个问题后，一些调查人员说他们永远不会购买自动驾驶汽车。(笑声)
政府在科技进步中应该扮演什么角色？
斯科特·达迪奇:政府在解决这些道德和伦理问题时应该扮演什么角色？
奥巴马:自从人工智能技术出现以来，我一直在思考这个问题。我认为，在科学技术发展的初期，正是“百花齐放、百家争鸣”的时候。此时，政府应充分鼓励和支持技术开发，加大调查研究投入，确保基础研究和应用研究之间的良好沟通。随着技术的进步和成熟，我们应该思考技术与现有监管体系之间的关系。要使这种关系健康发展并不容易，所以我们面临着更加困难的挑战。这时，政府应该加强与科学技术领域的联系。我们应该首先确保政府的监管体系是有价值的，能够促进技术的发展，而不是强迫新技术与政府迅速挂钩。如果我们不这样做，政府将成为科技进步的障碍，这对一些人和团队是非常不利的。
伊藤忠:这种困境让我想起了自闭症，这在电影《坦普尔·葛兰汀》中提到过。女主人公说，如果莫扎特、爱因斯坦和特斯拉在当今时代，人们会认为他们患有自闭症。
奥巴马:他们确实在自闭症环境中长大。
伊藤忠:是的，没错。如果我们有能力治愈自闭症，让每个人都“正常”，我想许多麻省理工学院的孩子将会不同。无论我们谈论的是自闭症还是多样性，这些选择只有在我们能够实现的时候才会出现。即便如此，我们也不想要像爱因斯坦这样的孩子，因为尽管他非常聪明，但他似乎太独立了。但是如果没有爱因斯坦，我们的社会和科学就不会进步这么快。
奥巴马:这涉及到一个更大的问题，自从人工智能开发开始，这个问题就一直困扰着我们。我们的生活之所以有意义，很大程度上是因为生活的不完美。经常创造艺术或发明创造的人是极客。他们鹤立鸡群，与世界为敌。但正是这些不同于普通人的品质让他们变得聪明，并促进了社会进步。如果一个系统是完美的，它必须是静态的。我们之所以成为今天的我们，之所以如此充满活力，正是因为我们充满活力，不断发展，独一无二，我们对新事物的诞生感到惊讶。但从长远来看，我们必须适应这个世界。现在的问题是，我们何时、何地以及在何种情况下能够以和平的态度接受这种变化？
斯科特·达迪奇:当人工智能适应政府、私营企业和学术界时，人工智能必须发展到更高的水平。那么世界上什么是人工智能研究中心呢？或者，有这样的角色吗？
我想麻省理工学院肯定会说研究中心在这里(笑)。历史上，研究中心可能是政府支持的学术团队。但目前，大多数由数十亿美元支持的实验室已经商业化。
奥巴马:我知道一些人支持这些机构。如果你问拉里·佩奇或其他相关人士，不难想象他们会异口同声地说，他们最不希望看到的是官僚主义的多余拖延，以限制科学技术的发展。
我们现在面临的一些问题是，为社会服务的基础研究没有得到很好的落实，思想上的障碍使一些科技人员对政府的支持失去了信心。
每当我们谈论一项伟大的科技成就时，我们都会把它与第一次登上月球相比较，我想50年后也是如此。有人曾经告诉我，当时的登月计划只花费了国内生产总值的0.5%，听起来不算多。但是今天，这个数字是800亿美元。如果人工智能的发展可以与以前登月相比，我们应该每年投资800亿美元在人工智能上，但实际情况是，每年的投资不到10亿美元。毫无疑问，这个数字会增加。然后，政府应该加强支持。如果政府不支持，那么我们以后要讨论的所有事情都将无从谈起。
斯科特·达迪奇:你的想法让乔伊曾提到的问题变得更加严重:每个人都喜欢的技术不同于国家喜欢的技术(比如登月)。那么，我们怎样才能实现这两项技术的转变，并使它们惠及所有人呢？
奥巴马:我想强调的是，仅仅因为政府支持科学技术的发展，并不意味着政府会垄断这项技术，或者这项技术只能用于军事领域。例如，政府支持医学的发展，资助美国基因数据库的建立，但是每个美国公民都可以使用它。因此，政府支持的技术将与所有人共享，造福所有人。
斯科特·达迪奇:但是我们将面临一些风险。马斯克和尼克博斯特罗姆也担心人工智能的潜力会超过人类，对人类构成威胁。当我们前进时，我们不仅要保护自己，还要保护每个人。我们怎么做呢？
奥巴马:让我从让我更担心的事情开始。如果你有一台可以玩围棋的电脑，它有强大的算法能力，可以帮助你在纽约证券交易所获得最大的利润。如果有人或组织能让这项技术领先一步，它将迅速冷却股市。
此时，如果该算法被犯罪分子窃取，它可能会渗透到核计划中并学会如何发射核武器。如果这个算法是自学的并且非常有效，那么我们将处于危险之中。在我看来，国家安全局不应该担心将取代世界的机器，而应该担心可能渗透到国家机制中并威胁人类安全的技术。也就是说，我们目前迫切需要做得更好，因为给国家造成损害的队伍很可能走在我们前面。
伊藤忠:我基本同意。有人认为10年后，ai将军会出现。然而，深入的研究表明，如果要出现这种人工智能，我们必须在过去的10年里在人工智能技术上取得几项重大突破。所以如果有突破，你可以监督它。
奥巴马:所以你需要做的是把人们放在关键点上(笑)。当你预见到这种事情将要发生时，及时制止它。
伊藤忠:重要的是选择那些想利用人工智能造福人类的个人和团队，并给予他们实际的支持。
奥巴马:当我们以前谈论安全和保护时，我们总是想到军事镇压或修建高墙。慢慢地，我们对这两个词的理解开始改变。网络安全问题变得如此困难的部分原因是，这种威胁是无形的，而不像坦克那么有形。现在，我们需要改变安全的概念，调整我们的投资政策，保护每个人的安全。
网络攻击类似于流行病，这也是我经常担心的。不管墙有多高，都无助于阻止病毒进入我们的身体。我们需要建立健全公共卫生体系，建立健康保障机制，开发更有效的疫苗。因此，当我们面对人工智能的威胁时，我们应该采取相应的行动。
我认为另一件事很有趣。当我观察微生物时，我发现可以引入好的细菌来对抗坏的细菌。
奥巴马:我完全同意。但是我还是不会让桑尼和博舔我，因为每次我遛狗的时候，当我看到他们咬或嚼东西的时候，我还是会觉得不舒服。(笑声)
伊藤忠:所以，我们必须重新思考什么是干净的。无论是网络安全还是国家安全，我们都应该重新思考对策。很难制定出有效的对策。
斯科特·达迪奇:网络安全方面会出现新一轮的军备竞赛吗？
奥巴马:毫无疑问，今天关于网络安全和人工智能的国际标准、协议和验证机制仍处于初级阶段。现在，人们仍然不信任政府，这将成为网络安全措施的障碍。如果世界上有些国家认为美国是一个优越的网络大国，我们会说:如果你愿意约束自己，我们也会。现在的挑战是，一些成熟国家(如俄罗斯、中国和伊朗)持有与我们不同的价值观和规范。我们将把它视为一个国际问题，以便我们能够更好地处理这些问题。
社会契约和经济模式应与科学技术相适应
伊藤忠:我们正处于黄金时代，每个人都很乐意交流。如果我们能确保金钱和精力被用来支持开放和分享，那么每个人都可以保持积极的态度。世界是一个大家庭。恐怕我一个人去不能得到最好的结果。
奥巴马:伊藤说得很对，这就是为什么我们每天在一轮会议中忙于把感兴趣的人带进小组。此外，我想说，虽然每个人在谈论这个话题时都会定下一个很高的调子，但事实上，我们必须考虑它对经济的影响。毕竟，在大多数人眼里，他们不在乎奇点是否会到来，但他们更担心机器是否会抢走他们的工作。
在这个问题上，我倾向于采取积极的态度，因为从历史的角度来看，人类已经更新了无数次技术，但最终的结果表明，我们并没有饿死，而是新技术创造了更多的就业机会，提高了我们的生活质量。当然，有些人的担心不是没有理由的。毕竟，当人工智能的浪潮袭来时，真正能迅速从中受益的是高技能人才。在机器的帮助下，他们可以利用自己的才能拓展自己的市场、销售、产品和服务。
那些低薪低技能的人可能会越来越多余，他们的工作可能会保留，但他们的工资可能会减少。如果我们想实现平稳过渡，整个社会应该进行广泛的对话，讨论如何处理这一过渡时期的尖锐矛盾，以及如何通过培训确保持续和包容性的经济增长。我们的生产效率越来越高，但如果我们放任不管，大多数产品仍会流入上层的小群体口袋。因此，我们如何解决这个问题，确保每个人都能获得有尊严的收入？另外，在人工智能“统治”了一切之后，人类的艺术和文化应该如何保存？谁来照顾那些为国家献身的老兵？我们引以为豪的社会契约需要与时俱进，以适应这些新技术，我们的经济模式也将随之改变。
伊藤忠:讨论人工智能将被空.取代的职业实际上是不直观的例如，如果计算机足够先进，能够理解整个医疗系统，那么诊断疾病对它来说可能就是小菜一碟。因此，有经验的医生可能会被医院取代，而不是护士和药剂师，因为前者太贵了。与此同时，一些熟悉的高级职位，如律师和审计师，可能会因为人工智能的兴起而消失。相反，在许多计算机无能为力的行业，如服务业，人类将继续发光发热。我不知道总统怎么看待社会基本收入的概念，但我认为社会可以为那些被机器取代的人找到新的工作，就像那些从事学术和艺术的人一样，他们的工作不再与金钱直接相关。然而，如果我们想改变这种模式，就必须改变我们固有的社会认知，即没钱的人是白痴。但事实是，学术界有许多非常聪明的人并不十分富有。
奥巴马:伊藤真的很犀利，这就是为什么我说我想重新设计社会契约。社会基本收入政策是否仍能适应社会的发展，可能要在未来10-20年内由每个人来讨论。伊藤对人工智能取代工作的趋势分析也非常合理。高级作业可能会被计算机取代，但是这些作业有一个特点，那就是它们是高度可重复的。此外，一个不争的事实是，随着人工智能技术的进一步融合，我们的社会将变得越来越健康。生产和分配、工作和收入之间的联系将变得越来越弱，因为计算机已经做了大量的工作。面对这样的情况，我们不得不做出一个艰难的决定:老师的工作很难让电脑完成，但我们不得不降低他们的工资。因此，教人们珍惜自己的工作，重新审视自己的收入水平，可能是这封信要讨论的一个重要问题。
我们有很多工作要做，政府逐渐变得对人民友好，将来报税的过程就像点披萨或买机票一样简单。但现实是，联邦政府、州政府和地方政府同时进入21世纪并不容易。虽然政府精英的能力可与私营企业相比，但在技术设备的整体水平方面存在着不可逾越的差距。以我自己为例。当我第一次进入白宫作战室时，我认为我可以使用《不可能的任务》中的先进设备，但现实让我感到惊讶。即使是我们追捕恐怖分子的实时视频也是如此模糊，所以现在是白宫改变其技术设备的时候了。
至于更大的问题，我坚信，只要人类能够解决气候变化问题，阻止海平面上升，那么其他一切都不是问题。我对这个问题非常乐观，尽管我们还有很长的路要走。
此外，安全透明地管理互联网也是当务之急。只有这样，政府才能在不越权的情况下及时抓到坏人，否则互联网将成为政府压迫公众的工具。然而，从技术角度来看，这样的目标并不容易实现。以加密为例，技术人员和人民教会不止一次地进行加密，但没有人能给出一个符合各方利益的答案。
由于这是一次高端采访，我想再补充一点。作为一个痴迷于宇宙的总统，我认为如何让我们的下一代尽快享受星际旅行也是一个重要的问题。在这方面，我们的私营企业起了带头作用。他们不需要政府资助，只依靠他们疯狂的想法来制造我们不敢想象的东西。政府的想法已经落后了。每次我们谈论飞行太空，我们的道路仍然停留在阿波罗登月时代。是时候找到新的突破了。
浅谈《星际迷航》
斯科特·达迪奇:总统先生，我知道你是《星际迷航》的粉丝。但说实话，戏剧只是一层技术，其核心是乌托邦思想。它如何塑造你对未来的愿景？
奥巴马:我小时候是《星际迷航》里的脑粉。这个系列看起来很有趣。事实上，让《星际迷航》经久不衰的不是技术元素，而是真正吸引人们的价值观和友谊。因此，尽管这个系列在过去使用了50美分的特效，我们还是非常喜欢看。它教会我们什么是人性，并给我们解决问题的信心。
在我看来，《黑客帝国》赢得了《星际迷航》的真正传记，并不是说这部电影宏大而复杂的背景打动了我，相反，它向我们展示了许多人应该认真做好自己的工作的态度，坚持这种态度，他们就会前进，这是我一直强调的美国梦的精神核心。不管我们能否成功一次，我们都将大胆尝试，并根据自己的失败经验达到顶峰。如果我们失去了这个精神核心，我们所依赖的一切都会在一瞬间崩溃。
伊藤忠:总统说的很好。我也喜欢《星际迷航》传达的乐观精神。然而，我仍然主张百花齐放。我认为电影中的坏人在某种程度上还是脸谱网。他们可能不坏，有些人只是被误导了。
奥巴马:“星际迷航”，像其他好故事一样，帮助我们认识到我们是一个复杂的动物，在我们的性格中有光明和黑暗的一面。我前面提到的大胆方法正是主题。没有这种精神，我们当然无法消除障碍和分歧。理性和人性之间必然会有冲突，人工智能的问题也是如此。虽然我们谈论了很多关于人工智能的未来，但事实上，人类对这项技术只知道一点点。因此，我们必须保持一颗敬畏的心，大胆尝试。
viawired
推荐阅读:
马克·安德森访谈(一):大江赌人工智能是一个功能，我们赌它是一个具有新架构的颠覆性产品
马克·安德森访谈(下):软件能颠覆传统教育产业吗
