江晓原主讲科学史与科学文化研究院“SHC春秋讲堂”第三讲[图]
4月26日晚,科学史与科学文化研究院“SHC春秋讲堂”第三讲开讲,院长江晓原教授做题为“为什么人工智能必将威胁我们的文明”的学术讲座。现场座无虚席,还有不少听众站着听完了整场报告。
人工智能(Artificial Intelligence,AI)的崛起带来了深刻的社会变化,江晓原教授首先阐明了“所有人都有资格谈论人工智能”的基本观点,并对“人工智能还很弱小,所以应当推进研究与开发”的想法作出澄清。
江晓原教授从三个层次分期讲述了人工智能将给人类带来的威胁。人工智能的近期威胁是大批失业和军事化,当人工智能可以取代大部分工作岗位的时候,社会将变得非常不稳定,酝酿危机。而研发军事用途的人工智能,就是研发更先进的杀人武器,当然不是人类之福。
人工智能的中期威胁是人工智能的反叛和失控。这种威胁媒体早有报道,在各类影视、文学作品中也多有表现。江晓原教授指出,一些人工智能专家提出的设定道德戒律的方法,其实是不可行的。人工智能会比人类更聪明,人类尚且不能保证让自己的后代不学坏,又如何保证人工智能不学坏呢?而一旦人工智能与互联网结合后出现失控,将产生更为可怕的后果。
人工智能远期威胁更值得深思。人们熟知阿西莫夫著名的“机器人三定律”,却常常忽视他的另一个告诫——所有依赖于人工智能的文明都是要灭亡的。从根本上来说,人工智能像人们现在所希望、所想象的那样无所不能,听话,不学坏,但是这样的人工智能将最终消除人类生存的意义。
江晓原教授认为,人工智能绝不仅仅是一场比赛、一个应用这么简单,它给人类带来的变革是非常深远的。面对人工智能,人们必须思考人类生存的意义,而中国今天应有的态度是:首先,不要盲目歌颂人工智能;其次,要以搞两弹一星的心态来搞人工智能。
本场讲座引发了在场听众的思考和共鸣,激起热烈讨论。演讲结束后,大家还就人工智能的定义、人工智能的伦理问题、科学乐观主义与悲观主义等多个问题与江晓原教授进行了深入交流与探讨。