人工智能需要在隐私保护和AI能力之间找到平衡点

人工智能需要在隐私保护和AI能力之间找到平衡点

新华网首页 时政 国际 财经 高层 理论 论坛 思客 信息化 房产 军事 港澳 台湾 图片 视频 娱乐 时尚 体育 汽车 科技 食品
2021中关村论坛9月24日至28日在北京举行,论坛首次推出年度主题“智慧·健康·碳中和”,聚焦人工智能、生命健康、清洁能源等热点话题。新华网在论坛期间专访到北京智源人工智能研究院安全创新中心执行主任、瑞莱智慧CEO田天,他认为人工智能作为一项基础技术,已经与金融、工业、公共治理等多领域交叉协同。然而,人工智能也为人类带来一些科技伦理、信息安全等方面的问题,未来发展需要在隐私保护和AI能力之间找到平衡点。
精彩观点
1
田天
在人工智能时代,个人隐私、信息安全受到广泛关注,我们的信息应该如何更好地保护?
https://vodpub1.v.news.cn/original/20210929/cfe75f9c3398488eaa3c8f0cbc67eea9.mp4

现在人工智能处于快速发展的过程中,绝大多数的系统还是基于大数据。最近我们也看到新出台的《个人信息保护法》和《数据安全法》,都提到个人以及企业数据的保护,这是对整个人工智能产业未来影响深远的新法规,也是为了适应新的监管以及整个行业发展趋势的要求,我们在人工智能安全平台里面也集成了隐私计算的子平台。

最近瑞莱智慧的“安全可控可靠的新一代人工智能平台”获得乌镇世界互联网大会的成果奖项,里面非常关键的部分就是隐私计算子平台。平台一方面是考虑了前面所提到的人工智能的伦理问题、安全问题,另外很关键的隐私计算子平台,基于密码学分布式等多方面技术的融合,在确保数据可用不可见的情况下,支持人工智能模型的训练和预测。简单来说它实现的就是说在确保隐私保护的同时,不影响原来的效果,在隐私保护和AI能力之间找到一种平衡。目前基于这样的系统,我们已经在包括金融等不同领域研发了新型的AI决策的解决方案,大幅提升了AI的能力。

1
田天
人工智能有哪些安全问题,如何解决?
https://vodpub1.v.news.cn/original/20210929/2b97d30eb0fe4072af8a4beed0d6b992.mp4

人工智能是新的技术,也可能存在着一些漏洞,或者说“黑箱”问题。现在所使用的人脸识别,或者说自动驾驶里面的目标检测系统,就存在大家所看到的对抗样本。人类有时候没有办法理解,但可能对AI产生影响的一些图案,比如在人脸识别里可以通过加装对抗我们的眼镜,让系统把我识别成其他人,可能对现在大家用到的身份认证或者刷脸支付的场景产生很大的影响。对于自动驾驶场景,也可能存在这种新的危害。

要解决人工智能的安全问题,我认为一方面是要对各类关键场景应用的AI的系统进行安全性加固。在网络时代,我们会使用杀毒软件和防火墙来增强网络系统的安全性。在AI时代也需要专门针对人工智能的安全平台和防火墙,确保AI系统安全运行。另一方面,我们也需要不断提升研发人员和普通用户对于AI自身的理解,提高AI的可解释性,让大家知道AI的决策原理,了解AI的能力边界,这样我们才可以更好地让AI真正能够去发挥作用,把它用在适合的场景。

1
田天
在论坛上,多位专家谈到人工智能伦理问题,目前遇到哪些伦理问题?
https://vodpub1.v.news.cn/original/20210929/97d6ec81991a47ef9ae9b4395087e4c8.mp4

由于AI的能力非常强大,会被一些人用于恶意场景,或者说是对社会有危害的场景。比如说,现在我们可以通过AI技术制作以假乱真的换脸视频,如果被很好利用的话,可以大幅度降低影视编辑的成本,降低电视剧电影研发开发的成本,但是如果说人脸被用于在不知情的视频上,就涉及侵害个人肖像权、名誉权。

在智慧决策或者说智慧营销的场景,系统基于大数据加AI所研发完成的,很多情况下会出现算法对特定人群的歧视,或者说叫大数据杀熟现象,技术会导致对于特定的人群给予特别高的定价,对于这部分人群的利益是非常大的损害。人脸识别系统在很多公共场所像超市、售楼处等地方部署,被采集人脸信息的人都是不知情的,在这种情况下技术对个人信息是一种侵害。

1
田天
在本届中关村论坛上,北京智源人工智能研究院承办了“人工智能与多学科协同创新”平行论坛。人工智能与哪些学科可以协同创新,有哪些具体案例?
https://vodpub1.v.news.cn/original/20210929/37e7988c9ddd43dca30d6d47f42037f9.mp4

人工智能作为一项基础性的技术,其实和非常多领域有交叉,包括与计算机学科里面的密码学分布式系统等等,以及其他计算机学科外领域,包括像金融、工业、公共治理等。比如说在金融领域,大家非常关注金融的系统性风险防范,基于对于大量金融数据的分析以及AI的强大预测能力,人工智能可以去判断是否将来会有潜在金融风险,从而提高金融系统的安全性,也提高金融系统的资产配置效率。

在民生领域,在日常生活中大家也经常会碰到说电动车进电梯、电动车进楼等情况,基于AI的视频分析能力,就可以判断是否有电动车或者其他危险物品进入到电梯或者消防通道,从而提升小区治理的安全性。

田天
北京智源人工智能研究院安全创新中心执行主任、瑞莱智慧CEO
010070060010000000000000011200000000000000