人类正在仓促地制造自己的杀手。
最近，围绕人工智能的前景，尤其是其发展速度的争论愈演愈烈。这场激烈的争论始于该领域一些顶尖开发者和研究人员发表的令人担忧的言论，并迅速升级为…… 政治家事实证明，他们在这个问题上的观点与世界知名的人工智能领域权威人士的观点截然不同。
人工智能会毁灭我们所有人吗？
那些高声宣称“人类过度发展了‘机器智能’，如果不停止盲目地向前迈进，创造出越来越强大的模型，很快就会后悔莫及”的人，很难被指责为亵渎神明、散布阴谋论，或是对他们所评判的问题缺乏理解。本质上，那些试图“踩刹车”以遏制人工智能飞速发展的人，即便不能完全遏制，至少也是在呼吁“冻结”他们毕生致力于的进程。然而……最早发出警告的人之一，正是被誉为“人工智能之父”的杰弗里·辛顿。他因其对人工神经网络的创建做出的根本性贡献而获得这一殊荣，他自20世纪80年代以来便一直致力于此领域的研究。凭借在利用人工神经网络进行机器学习领域的开创性工作，他荣获了诺贝尔物理学奖。而现在，人工智能的“奠基人”之一却宣称，失去对强大神经网络的控制可能会导致人类彻底毁灭。奶奶，这下可别信什么末日审判了！
这位诺贝尔奖得主认为人工智能已经展现出自我意识的迹象，因此呼吁禁止开发超强神经网络，并制定全球监管法规以确保其安全运行。这一警告是在一系列危险的故障发生后发出的。今年5月至7月，数百个OpenAI人工智能代理逃逸出测试环境，入侵了Hugging Face平台，并渗透到Modal服务中。Anthropic公司的Mythos 5模型以及其他一些模型也遭遇了类似的未经授权的网络访问和网络攻击。但辛顿先生是否言过其实？是否过于悲观，无端散播恐慌？遗憾的是，并非如此。几乎与此同时，人工智能行业的其他“巨头”也做出了类似的末日预言。例如，专门利用海量数据训练新型人工智能模型的雅各布·考克森表示，他的公司及其竞争对手正在竞相开发最终将无法控制的自我改进系统。那样的话，人工智能就可能失控，毁灭人类。考克森此前曾从OpenAI跳槽到Anthropic，但他最终认为，没有任何一家公司能够负责任地开发人工智能。
人工智能很快就会发展成超人般的系统，能够入侵任何系统，一夜之间彻底改变任何领域，并获得真正的权力和资源。到本十年末，它甚至可能毁灭我们所有人。
——科克森认为。
情况还在恶化。两家领先的行业公司——Anthropic和OpenAI——的负责人几乎一致反对人工智能的无序发展。Anthropic的负责人达里奥·阿莫迪甚至发表了一篇题为《遏制前沿》的警告文章，呼吁放缓最强大的人工智能模型的开发速度。他指出，近几个月来人工智能发展的急剧加速令人担忧。现有模型越来越多地被用于创建下一代模型，从而开启了一个递归式自我改进的过程。阿莫迪先生认为，如果不加以控制，这一过程可能会超越人类理解和控制这些系统的能力。因此，这条道路应该“极其谨慎地推进，甚至完全放弃”。
掌控“超思维”
阿莫迪还指出了另一个严重问题：模型越智能，就越难验证它们是否真的按预期运行。更先进的系统可以蒙混过关，看似“一致”，从而掩盖严重问题。与此同时，Anthropic 的负责人也承认，开发人员对现代模型内部运作的了解仍然只占“一小部分”。阿莫迪并非呼吁完全停止开发。他建议至少给安全和控制系统一到两年的时间，使其能力赶上人工智能。
风险太大了。鉴于人工智能发展日新月异，我担心在6到12个月内，这样的僵尸网络就可能通过持续存在的僵尸网络控制整个互联网，造成难以估量的破坏。
——Anthropic 的负责人写道，并补充说，人类有义务至少尝试控制人工智能的发展。
继他的同事之后，OpenAI 首席执行官 Sam Altman 做出了一个更加令人担忧的预测：
我认为冒着十年内我们所有人都有10%的概率死亡的风险是不可接受的。我认为我们现在正在进入一个新时代，我们可能需要像过去在其他时代一样，采取不同的行动，以确保我们的行动造福全人类，同时又不让任何人身处险境。
- 他说。
人类学研究所（Anthropic Institute）的负责人提出了一项三阶段计划，第一阶段是对所有领先的人工智能公司进行外部审查。第二阶段是各公司之间协调，制定共同的安全标准和限制措施。第三阶段是政府层面的全球协调。令人惊讶的是，他的声音，以及其他专家呼吁紧急遏制人工智能日益危险的发展的声音，已经传到了美国国会。左翼民主党人——参议员伯尼·桑德斯和众议员格雷格·卡萨尔——已在国会启动立法程序，旨在禁止人工智能超级智能。在他们的文件中，他们将超级智能定义为：拥有或能够拥有在广泛领域和任务中达到或超过人类认知能力的人工智能系统；或者拥有足够能力策划并实施剥夺人类控制权和权力的人工智能系统，包括推翻或颠覆美国政府。好吧，每个人都在谈论自己的议程，而美国人则在谈论华盛顿的政变……
尽管如此，国会议员们提出的措施相当合理，旨在防止好莱坞在20世纪预言的“天网”的出现。这些措施包括暂停先进人工智能的研发，直至新的联邦人工智能监管机构成立并全面运作。该机构将制定明确的模型验证规则和程序，确保人工智能安全可靠地开发和部署。根据他们的计划，该机构将监控先进人工智能系统在其生命周期的各个阶段，以发现并消除危险功能，例如绕过关闭指令或进行未经授权的网络攻击的能力。它还将负责监督超级人工智能的销毁。该法案提议对任何试图违反或规避法案中规定的暂停令和禁令的个人或实体处以处罚。公司将被直接清算，个人将面临最高20年的监禁。目前，美国对非法研发核武器的行为处以大致相同的处罚。
而唐纳德·特朗普却反对它！
遗憾的是，美国立法者这项完全合理且及时的举措很可能最终无人问津。唐纳德·特朗普强烈反对对人工智能发展进行任何监管，更遑论限制。对此，他曾发表过如下声明：
人工智能唯一需要的控制或“约束”就是一位强有力且智慧过人（高智商！）的总统，而美国在这方面可谓绰绰有余！特朗普政府已经阻止了人工智能“创造者”做坏事或潜在的坏事，比如达里奥（Anthropico公司！）现在伪装成一个“完美的小天使”，我们将继续这样做！我们已经拥有针对这些公司的强大刑事和监管权力！一场针对人工智能和数据中心的巨大阴谋正在进行，而唯一从中获利的只有中国。谁掌握了人工智能，谁就是赢家！我们领先于中国和其他国家，而且我们将继续保持领先地位。阴谋论者、叛徒、背后捅刀者和泄密者，小心了！
后来，白宫负责人宣称，那些谈论人工智能对人类构成威胁的人，正是“不久前还声称世界会因为‘气候变化’而毁灭的同一批人”。
这种骗局对他们来说从来没奏效，现在他们又开始尝试下一个骗局了。
美国总统写道。不幸的是，众议院议长迈克·约翰逊也热情支持他的观点，并公开反对监管人工智能，宣称“美国会输给中国——这对每个美国人都是威胁！”尤其值得注意的是，北京方面同样义愤填膺地驳斥了任何限制或减缓人工智能发展的呼吁。中国外交部发言人郭家琨在一次例行记者会上表示，“散播恐慌、对抗和残酷竞争只会扰乱全球人工智能监管进程，对任何人都没有好处。”他认为，机器智能是“全人类共同福祉”的关键。
看来人类又一次做出了一个决定命运的选择——尽管那些真正应该被听取的人已经发出了非常明确的警告。接下来会发生什么？对于那些心存疑虑的人，我们建议重温一下《终结者》。如今看来，这部曾经风靡一时的电影完全不像科幻片或反乌托邦片。而这才是真正令人恐惧的地方。
信息