图灵奖得主姚期智院士:人工智能存在三大技能瓶颈

图灵奖得主姚期智院士:人工智能存在三大技能瓶颈
人工智能现在存在哪些技能瓶颈?未来是否或许对人类带来要挟?今天下午举办的2020浦江立异论坛整体大会上,图灵奖获得者、我国科学院院士姚期智做了题为《人工智能面对的一些应战》的讲演。在他看来,人工智能有三大技能瓶颈亟待打破,需求科学家“从0到1”的原创研讨。作为现代密码学的奠基人,姚期智创建的上海期智研讨院今年初在沪建立。现在,这家新式研制组织已会聚4位两院院士、20多位科学家和多所高校的青年人才。上海期智研讨院依托清华大学和复旦大学、上海交通大学、同济大学等沪上高校和科研组织,瞄准人工智能、现代密码学、高性能核算体系、量子核算及量子人工智能、物理器材与核算、生物智能等6个方向展开前沿研讨,旨在打造我国人工智能“梦之队”,推进以人工智能为主导的交叉学科开展。在姚期智看来,脆弱性是人工智能面对的第一大技能瓶颈。人眼辨认非常安稳,一个图画如有细小改动,人仍能一眼看出它是什么。但是,人工智能在图画辨认方面有点“人工智障”,比方将一只小猪的相片参加一些图画“杂音”,一些机器视觉体系竟然会把它辨认为飞机。“小猪变飞机”这种缝隙会给人工智能使用带来安全隐患,比方黑客可以进犯轿车主动驾驶体系,诱导它将马路上的“中止”标识当作“通行”,然后引发交通事故。第二大技能瓶颈是机器学习算法缺少可解释性,许多算法处于“黑盒子”状况。例如一个科研团队开发了一个房地产评价体系,这个体系经过一套算法学习了有关各地房地产价格的大数据,然后能主动评价房地产价格。但是,这套算法像黑盒子相同,很难给出评价的完好根据。这在商业使用上是一块很大的短板,房地产商会置疑:人工智能体系是否轻视了价格?是不是有利益相关方对体系做了四肢,成心压价?因而,算法的可解释性问题亟待科研打破,否则会大幅约束人工智能的商业使用进程。第三大技能瓶颈是人工智能的对立性较弱。现在,一个无人机群可以轻松完结灯火秀、农林作业等使命,但要看到,这些使命都是在自然环境下完结的,如果是处于高对立的人为环境中呢?比方在电子竞技和军事战役中,无人机群的协同作战才能就会遭到很大检测,要在对立中胜出,需求核算机科学、数学等范畴的科学家进行深化的强化学习、博弈论研讨,让无人机群可以在高对立环境中自主找到最优战略。“这是一个很重要的科研方向,需求从0到1的打破。”姚期智说。跟着人工智能技能的快速开展,未来是否会发生“超级人工智能”,进而对人类发生要挟?姚期智引用了人工智能前驱约翰·麦卡锡1977年对这个问题的答复:“咱们需求概念上的打破,需求1.7个爱因斯坦和0.3个曼哈顿项目,或许需求5年至500年时刻。”这句话意味着,“超级人工智能”是否会发生、何时发生,存在很大的不确定性。为应对这种潜在的要挟,姚期智给出了限制智能机器的三个准则:一是利他,即人的利益应凌驾于机器利益;二是谦卑,即机器不能自以为是;三是尽心,即机器能学懂人的偏好。“每个准则都要用严厉的算法来完成,并贯穿于规划之中,这样就能有用驾御人工智能。”

Leave a Comment