位置:科技资讯 > 业界 > “强人工智能”伦理困境:假如有一天你爱上AI咋办?

“强人工智能”伦理困境:假如有一天你爱上AI咋办?

科技资讯  2017年9月5日 03:40  来源:新浪科技
摘要:[编者按]8月25日至27日,由太和智库发起主办,每日经济新闻战略合作的首届“太和文明论坛”在北京举行。在人工智能分论坛的讨论中,多位专家、学者和从业人员均认为,随着人工智能(AI)的快速发展,基于人工智能的“万物互联”时代正在到来,包括无人驾驶、智能家居、自动诊疗、智慧城市等。人工智能的应用似乎呈现一片欣...

  [编者按]8月25日至27日,由太和智库发起主办,每日经济新闻战略合作的首届“太和文明论坛”在北京举行。在人工智能分论坛的讨论中,多位专家、学者和从业人员均认为,随着人工智能(AI)的快速发展,基于人工智能的“万物互联”时代正在到来,包括无人驾驶、智能家居、自动诊疗、智慧城市等。人工智能的应用似乎呈现一片欣欣向荣的景象。

  然而,人工智能势不可挡的发展趋势,也给人们带来了一连串隐忧,人工智能未来会无所不能?人工智能是否会挑战人类伦理,冲击社会制度,威胁人类生存甚至取代人类?人类到底该何去何从?针对上述疑问,《每日经济新闻》记者从上述与会人士的发言中总结出一些精彩片段,并采访了部分业内人士,为读者打开AI的一扇窗。

  每经记者 张斯 实习记者 刘春山 每经编辑 卢祥勇

  在科幻影片里面,人工智能机器人不止一次地实现了自我意识觉醒。以AI为主题的美剧《西部世界》中,男主角虽然知道心爱之人是机器人,仍然义无反顾的爱上了它,而机器人也找寻到了“在这个世界唯一的真实的东西”——自由意识。

  在关于人工智能的一系列忧虑中,伦理问题是最主要的一个。在首届“太和文明论坛”举行期间,多位行业人士表示,从目前技术来看,人工智能还没有面临失控的局面,人工智能所呈现出来的感情是虚假的。科学家尚未研究清晰人类自我意识为何物,实现机器人真正的自我意识很遥远也很渺茫。

  带来新的情感和隐私问题

  新技术的出现一次次实现人类能力的外延,但是历史上从未有某一技术直接和人类大脑进行竞争。

  科学家把“强人工智能”定义为出现真正有自主意识、且可确证其主体资格的“智能”,而不是AlphaGo这样仅仅比机械计算发展了更多层次的推理能力和学习能力的程序。与强人工智能所对应的,是遵循人类计算机算法的弱人工智能。

  在微软亚太研发集团副总裁商容看来,人工智能需要有理性,也需要有感性,涉及感性就会涉及到伦理和隐私等问题。而联想创投董事总经理王光熙则认为,未来人工智能或许具备情感,这就牵扯到未来人类智慧和机器智能之间的界限在哪,或者是界限会被抹去。

  当人工智能具备了情感,就会与人类出现恋人、亲人等关系,这将拷问现代伦理规范。信帧机器人创始人贺江涛认为,在实际工作当中,曾遇到人类对机器人产生感情的事件。“公司旗下的一款娱乐机器人,其视频在网络方面有亿次多的点击量,视频中这个机器人的头部被拍打了一下,一位母亲在看直播后就愤怒了,她说这是我女儿公司做的机器人,你怎么能打他呢?”这时候贺江涛发现,人类对这台机器人产生了感情,与这台机器人有了某些联系。

  除了情感,人工智能还涉及到隐私安全问题。之前发生过美国两夫妻吵架,而家中智能音响在察觉环境信息之后,做了自动报警处理事件。这其中,智能音响一直在“窃听”夫妻的对话,以做出合适的应对,很显然其反馈结果并非这对夫妻所愿。

  拥有自我意识还很遥远

  在今年6月份,一份论文透露了这样一项实验:Facebook的研究人员希望通过训练一对聊天机器人,让它带着“目的”和人类对话。研究人员发现,人工智能甚至能够对不想要的东西伪装出兴趣。虽然后来Facebook进行了澄清,这也不得不启发我们去思考人工智能会不会有失控的那一天?

  微软亚洲研究院副院长潘天佑在接受《每日经济新闻》记者专访时表示,当前人工智能的发展不见得失控,失控听起来很恐怖。作为一名计算机科技工作者,经常向人解释真实的科学和科幻电影的差距还十分大。

  “很多时候,我们觉得人工智能的某些应用呈现出好像有感情、好像有情商,其实这个依然是虚拟的。例如语音聊天,它从互联网上面学习很多人类的聊天方式,它回答的某一句话,可能让人觉得有感情。但这个感情,还是通过机器学习而实现的,尚未自我意识的发生。”潘天佑说道,我们自己尚未探讨清楚人类的意识是什么?怎么去设计出一个东西有感情呢?

  根据专家的观点,无论当前人工智能系统如何模仿人脑“神经网络”,对话、行动等方面如何像人,只要人类心智现象的最终解释没有取得突破性进展,关于人工智能是否逼近人类的设问就缺少必要的前提。

  从发展程度上来说,目前我们发展的还是弱人工智能,强人工智能技术是否能实现还没有可知。潘天佑对《每日经济新闻》记者表示,未来的事情没有人真的知道,从现在的状态来看,人工智能的感情还仅仅是虚拟的,不用担心人工智能可以做到像人类一样拥有自我意识、个人感情。

  《互联网进化论》作者、计算机博士刘锋对《每日经济新闻》记者表示,如果人工智能被看作与人类同等地位的智慧生命体,它与人类社会的关系存在伦理道德问题。如果人工智能本质上与菜刀一样属于工具,那么工具本身并不存在伦理问题。

  但有一点不可否认,人工智能已经悄然影响着人类的思维方式。正如太和智库副理事长兼秘书长伊迪所说,人工智能在某一个领域或者是某种程度上来说已经超越了人类大脑,可以做到人所不能的事情,对人类的思维方式产生影响。例如,人类思考问题的方式主要为因果关系,未来人工智能包括大数据的发展更强调相关性。