健康码收集了大量敏感数据,怎么保证各类信息的安全?人脸识别技术进入课堂,是不是侵犯了老师和同学的隐私?随着人工智能技术的发展和应用,诸如此类的问题常常引发人们的担忧。在利用人工智能技术造福人类的同时,应该怎样规范人工智能的发展?
(世界互联网大会科技发展与创新驱动主论坛上,五位嘉宾就人工智能治理的路径与挑战进行专题讨论)
11月23日下午,在世界互联网大会科技发展与创新驱动主论坛上,清华大学智能社会治理研究院院长、之江实验室人工智能社会实验研究中心首席科学家苏竣,中国工程院院士、传染病诊治国家重点实验室主任李兰娟等五位嘉宾,就人工智能治理的路径与挑战进行了专题讨论。
苏竣说,人工智能在发展的同时也带来了很多挑战,涉及法律、伦理、道德、安全、隐私等方面。苏竣认为,这些问题都是发展中的问题,是人工智能技术在发展过程中的不确定性带来的社会风险。
苏竣把人工智能带来的风险分为四类:技术系统越来越复杂,导致的技术风险;智能技术扩大规模,带来的垄断性的市场风险;精准算法推送,带来的社会撕裂、偏激的社会风险;人类不适应新兴技术的冲击和挑战,带来的认知方面的风险。
怎么对待这些风险?苏竣认为,还是要用发展来解决发展中的问题,用更多地发展,更好地发展,去破解在发展过程中遇到的困难。并由此提出三点建议:建立有人文温度的智能化社会,推动人工智能社会实验,塑造人类智能社会的精神文明。
对苏竣的说法,航天科工网络信息发展有限公司董事长王宁表示认同。她认为,对人工智能,要用发展的眼光看,用技术手段治理。她说,人工智能的应用释放了大量人力资源,但另一方面,新技术也带来了新型的犯罪,比如利用声音、图像诈骗。对这些问题,要从立法的方面进行限制,找到平衡点。
对人工智能在医疗卫生领域的应用,李兰娟说,人工智能将改变医疗卫生事业的发展,让医疗更加精准、方便、有效,人民更加健康。李兰娟说,在今年1月初,抗疫开始阶段,我国就提出了用大数据人工智能的手段,来发现和控制传染源。在抗疫中,也通过人工智能手段来研发诊断试剂。李兰娟说,通过互联网手段,她人在武汉,还能跟全国的专家在线讨论,人工智能在疫情防控中得到了非常好的应用。
在网络教育方面,人工智能也有广泛应用。北京师范大学智慧学习研究院院长、互联网教育智能技术及应用国家工程实验室主任黄荣怀说,在线教育的背后,人工智能大数据起了非常大的作用。但在相关治理上,还存在一些问题。比如,人工智能进入教育领域是否要有准入制度。黄荣怀说,现在有一些以人工智能为噱头的教育机构,但是这些“假”人工智能对教育并没有帮助。此外,他认为,人工智能所应用的教育场景有待规范,人工智能应用中的隐私安全问题也需注意。
在商业服务领域,贝壳找房高级副总裁李文杰说,人工智能、大数据、AI等技术的应用,能让消费者的买房体验升级,同时也便于提升销售者的职业素养。他说,买房对消费者来说,经验积累少、商品总价高,常让消费者感觉体验差。通过大数据和AI的应用,贝壳找房对房屋进行了标准化和数据化描述,实现了智能化找房,并应用VR看房、在线签约等方式,提升消费者买房体验。同时,对于房产销售者存在的素质参差不齐、培训难度大等问题,贝壳找房在服务人员培训中应用人工智能技术,给服务人员智能化打分,促进服务人员技能的提升。