首页 > 学院概况 > 新闻动态 > 教授观点 > 任颋 : 人类与AI互动的未来

任颋 : 人类与AI互动的未来

发布时间:2017-04-17 14:20:20   浏览:[] 发布人:shengxc
作者:禹心郭(北京大学汇丰商学院博士研究生),任颋(北京大学汇丰商学院教授、博士生导师)
 
  计算机和人工智能的急速发展,让我们看到了前所未有的世界,在完全信息博弈下AlphaGo战胜了李世石、在不完全信息博弈下人类德扑牌手龙之队不敌冷扑大师。我们依旧期待2017年5月柯洁与AlphaGo的约战,在充满智慧的围棋对局中,疑惑人类能否扳回一城?

  当然,无论输赢,技术进步都让我们大开眼界,对其未来在无人机、语音识别、健康医疗等领域的机器人应用也令人兴奋。不过,兴奋之余,对于机器人可能带来的负面影响,人类却始终没有少操心,机器人是否会取代大量工作,人类是否会大范围的失业?人类与机器人共存的社会,如何保持自身优势?机器人若具有了意识,还会听从人类的命令,与人为敌还是为友?机器人会不会与人类发生冲突,会怎样对待人类?

机器换人,征税只是缓兵之计!

  2015年,比尔·盖茨曾公开表示对于人工智能的担忧,他认为善用机器可以替代人类做很多事情,并没有很大的风险,但当强大的超级智能出现,则需要小心警惕。2017年,再次面对未来机器人取代人类工作岗位的讨论,企业家盖茨提出在人机互换浪潮下,一些机器人需要缴纳相当于工人所得税的款项,社会向采用机器人的公司征税,并用以培训被自动化取代的人类,让失业者有机会进入其他行业。不难想象,对机器人征税或许是缓兵之计,是现有社会经济运行下所讨论的再分配方案,也是对破坏性创新技术的临时处理。

  诺贝尔经济学家罗伯特·席勒对此也表示值得考虑,他认为机器人的生产投入,在某种程度上,会令社会的收入不平等状况扩大,机器人使用存在外部性,也需要政府出面干预。显然,随着技术的不断进步,生产机器人的成本降低,投入使用增多,便造成了对人类劳力和工资的挤压,造成部分人类福利的损失,而那些真正制造和拥有机器人的人类,无疑会成为大赢家,如此一来,不平等和两极化的情况会越发严重。

人工智能终将超越人类?

注:该图来源于《阿童木》2017年4月版,讲述人工智能发展和机器人阿童木的起源。

  之前,未来学家雷·库兹韦尔的奇点理论预测,到2045年,人工智能机器将和人脑媲美,以后的世界会是人机共存的时代。而许多人所期待出现的智慧机器,正是社会进步的生产工具和可供人类使用的完美仆人。自1997年IBM开发的电脑Deep Blue在国际象棋领域崭露头角,到如今生活中的语音和人脸识别、无人驾驶应用,神经网络的技术发展,人工智能的学习能力不断攀升。人类社会中,那些需要大量储存、迅速计算、高精确性的工作任务也都交由电脑完成。

  可见,除了工业生产中,大量重复性、高风险的工作会由机器人完成;法律、财会、咨询和医疗等专业领域的初期工作,如搜索、整理、计算、统计和辅助判断的任务也可以由机器人完成。人类的家庭生活也可能得到机器人的辅助和服务,从此将人类从家务和低技能劳动中解放出来,去实现自我,做一些更有创造性的工作,活出更有价值的人生。藉此,大多数人会进入福利社会,领取国家统一标准的收入,享受休闲和爱好,冗杂和繁琐的任务交给机器人和极少数的人类完成,生活在理想的乌托邦。

  或许人类天生的不安在提示我们,如此一来,部分人可能会过着类似圈养的生活,绝对自由真的会有吗,乌托邦真的会存在吗?机械式工作留给机器人,人类更有创造力,但是,除了天才,许多创新也是基于经验和重复性工作上的渐悟和顿悟,彼时人类还有较好的创新吗,或者又是什么质量的创新呢?和机器人相比,人类拥有高级的情感,但是,在工作上的决策和判断,完全理性会不会更优呢?

  物理学家霍金在2014年谈到,人类会受限于缓慢的生物学进化,我们所创造的智慧机器人不会。他们学习能力超群,会成为超越人类的存在。终有一天,机器人要跨越和人类主仆的关系界限,可能会成为人类的威胁,“AI could spell end of the human race”。实际上,我们也并不想制造出和自己几乎一样的机器人,“恐怖谷理论”对此有所解释,我们想要的是可以便捷使用的生产工具。我们会惧怕在人类认知范围内完全理性的、全知全能的物种。

AI也需要伦理规范!

  人们获益于机器人生产所带来的正面效应,也会忧虑人工智能的进步。一方面,许多影视作品中常现的桥段正是机器人拥有了意识,中毒感染、开始失控、统治人类、意图毁灭世界。另一方面,机器人若具有了意识之后,人类和机器人之间会否产生感情,成为朋友,机器人应该具有哪些权力,那么人类再强迫他们成为奴仆是否违背了现有的伦理道德。

注:2003年4月7日是故事中阿童木的生日,日本新座市为机器人阿童木登记为市民,发出住民登录证,监护人为茶水博士;该图来源于《阿童木》2003年4月版。

  苹果公司的联合创始人Steve Wozniak在2015年就坦言对人类未来生活的悲观预期,他谈到人类会从自然界的王座上退位,机器人会接管世界,人类会像宠物一样被机器人圈养,机器人会保护大自然,全方位的照料人类。人类希望,人工智能会是一个仁慈的主人。

  “如果人类足够幸运,我们将会像宠物一样”,这也是特斯拉公司和SpaceX创始人Elon Musk的观点,他对于超级人工智能十分担忧,认为人类可能正在“召唤恶魔”,放任人工智能的发展有招致人类毁灭的危险。为此,一方面,他正在创办新公司Neuralink,积极开发Neural-Lace神经织网,用脑机接口让人类拥有超级智能。他另一方面计划“让AI力量民主化”,避免垄断专制,否则人类不免怀疑“谁在奴役机器,谁在圈养人类?”

  实际上,智能机器人应该和生物克隆技术一样,受到道德伦理和法律的规范,防止盲目扩张发展。尤其是投入战争使用的人工智能,机器人可以自行对人进行攻击,倘若机器萌生反人类反社会的倾向,其后果都是致命的。

  许多发达国家,已经在广泛讨论研究如何处理人机的伦理关系。但发展中国家对此的伦理认识和法规管理似乎还没有跟上技术的脚步。

注:作者根据资料收集和整理。

  BSI英国标准协会在2016年出台了《BSI 8611:2016机器人与机器系统的伦理设计与应用指南》,让机器人能融入现今的社会道德规范中。其中的基本原则,便是机器人的设计不应以杀害或伤害人类为唯一或首要目的,相关责任人亦应该是人类。

  2016年,国际组织IEEE也出版了《伦理准则设计:人工智能及自主系统以人类福祉为先的愿景(第一版)》,正式提出对人工智能及自主系统的伦理考虑的全球倡议。其一般原则即点明了要体现人权的最高理想;排列出对人类和自然环境最大利益的优先顺序;随着人工智能及自主系统逐渐演化成为社会技术系统,缓解其带来的风险和负面影响。另外,为发展有益于社会的自主智能系统,倡议计划将价值观嵌入自主智能系统,令其相容于人类社会的规范。

  可被编程的道德值得期待。为了面对比人类更聪明的人工智能,为了不被奴役、不被圈养,为了自由和进化的可能不被限制,我们需要比阿西莫夫所预想的“机器人三定律”更完备更细致的治理规则,来防止脱缰的技术反噬人类。

 

点击排行