“人工心智”将会成为人类的生存性威胁吗?

自AI兴起以来,就有不少学者提出了“AI威胁论”。人们想象,当AI被完全应用时,AI将会成为一种源自人类却优于人类的独立自主的生命形态,具有与自然人一样的人性构建。

20190415

当然,还是有不少人提出了反对意见,人们对AI发展的忧虑说明他们很大程度上在于混淆了智能与心智这两个概念。一般而言,心智是由三个功能相对独立但又全面整合的系统——情感系统(感受和动机)、意志系统(意志和行动)和智能系统(感知和思维)构成的。显然,智能只是心智的一个子系统。

AI虽有感知和思维,但如果没有情感系统的引导,智能系统就不能发挥它应有的作用。心智一直被认为是AI无法掌握的能力,然而,在科研机构DeepMind的一篇论文Machine Theory of Mind中,研究人员提出了一种新型神经网络ToMnet,其具备理解自己及周围智能体心理状态的能力。

AI被开发出了心智,我们在高兴的同时也感到了一丝担忧。AI越来越拟人化,究竟是好是坏?面对此项研究,AI威胁论是否有了新的证据?

AI的“心智”,从理解信念开始

所谓信念,是指人的愿望、想法、知识、理念、意图及需要等。信念与人的愿望、情绪、行为等都有很大的关系。在日常生活中,人们都是通过推测别人的信念来估计他人的情绪、心态及下一步行为的。

信念分为真实信念和错误信念,例如你看到一个书包,自然会去猜测里面装有书籍。如果书包里确实装的是书籍,即人的想法与现实情况相符合,这就是真实信念。而错误信念就是,你认为书包里有书,但书包里装的是一件衣服,即想法与现实不符合。

一般来说,AI能够通过大数据、图像识别等技术,基于概率推论预测出人们或智能体的真实信念。但绝大部分的AI都难以通过简单的错误信念测验。即使AI很可能以很高的准确率完成错误信念任务,但它依旧不能理解这其中的原因。

有一个经典的初级信念测试——Sally-Anne测试。Sally有一个篮子和一个球,Anne有一个盒子。Sally将球放进自己的篮子里,然后便出去了。Anne将篮子里的球拿出来,放进她的盒子里。后来,Sally回来了,她想玩球。信念问题是,Sally会去哪里找球?

4~5岁的孩子都能够答对这个问题,但AI就不具有这样的认知。人类在大约4岁的时候就会开始理解错误信念,即开始知道现实生活中可能有一些情景与自己的想法是不一致的。

理解错误信念对于机器人的心智开发而言,有至关重要的作用。因为对错误信念的理解是推测他人对事件的判断、预测他人下一步行为、了解他人心态的基础。这是训练AI掌握心智理论的关键阶段。

在DeepMind的研究中,最终结果证明,ToMnet学会了对来自不同群体的智能体进行建模,包括随机、规则系统和深度强化学习智能体等。该网络通过了经典的Sally-Anne测试,可以理解持有错误信念的智能体,也就是说,AI已经可以达到4岁儿童的理解水平了。

AI的心智开发,总算有了坚实的基础。

AI心智开发后,“AI威胁论”为何再次兴起?

毋庸置疑,AI对错误信念的理解有利于其心智的形成,具备理解能力的机器人也将改善人机之间的合作。然而,技术的发展也是双刃剑,AI再次升级,也引发了人们的担忧。

1.AI“骗术”再升级,难以被人类信任

AI“欺骗”人类已久,比如在2017年,Facebook的聊天机器人就创造了一种新的表达方式进行对话。机器人自创“行话”,让人类不解其意。

工作人员将这次“意外”解释成没有设置英语语法的激励机制,但AI背着人们交流,还是让人类产生了担忧。

在“欺骗”人类的道路上,AI可能会越走越远。从语言合成到图像生成再到模拟人类的对话,AI正在许多领域逼近甚至超越人类的水平。

有研究人员指出,如果一台计算机能够理解错误信念,那它就可能知道如何诱导人类去相信它,进而实现机器对人的“欺骗”。

设想一下,在聊天机器人学会谈判之后——它依靠机器学习和先进的策略,试图改善谈判的结果。随着时间的推移,这些机器人谈判变得相当熟练,甚至开始假装对某件事情感兴趣,便于在谈判的后期做出“牺牲”。

2. “人工心智”的威胁

以前,AI的威胁可能仅仅在于技术的工具性威胁和人们的适应性威胁,这也是出现各种取代论调的原因。

AI作为人类使用的工具、技术,人们害怕因使用不当造成危害或引发失业风险,例如弱AI系统可能因人的恶意操控而造成导航错误、金融市场崩盘等。在这些想象中,AI并不具有自主威胁人类的意图。

但是,“人工心智”的出现引起人类对AI最深层的恐惧,那就是AI具有主观的感受后,会给人类带来生存性威胁。

霍金曾这样描述过AI:“一旦人类开发了AI,它将以一种持续增加的速率不断进行自我更新,并最终脱离我们的掌控……AI未来还将发展出自己的意志,这种意志将与人类的意志产生冲突。”

事实上,能带来这种威胁的AI更确切地说不是AI而是人工心智——一个尽管是人工的,但却是独立自主的、能够感受周围智能体的主体。当AI有了心智,就会具有能对智能加以规范的自治的情感系统,这样,它与人类的区别又会缩小。

就目前来看,AI为我们解决了许多难题,在未来在AI的帮助下,人类社会的生产力将会大幅度提高。至于AI的发展是否会威胁到人类,我们持中立态度。

在观察了许多人对AI的担忧后,我们发现,一切生存性威胁都来源于人类的臆想——人类往往设想AI的动机和意图一定是邪恶的,它会凭借自己的超能力控制、奴役甚至灭绝人类。

而在现实中,AI其实并没有我们想象的那么坏。

未经允许不得转载:涨姿势 » “人工心智”将会成为人类的生存性威胁吗?

赞 (0) 打赏

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

微信扫一扫打赏