算法偏见、技术滥用，人工智能如何安全可控发展？

科技日报采访人员付丽丽
作为引领第四次科技革命的战略性技术，人工智能给社会建设和经济发展带来了重大而深远的影响，但数据隐私、算法偏见、技术滥用等安全问题也正给社会公共治理与产业智能化转型带来严峻挑战。未来人工智能如何兼顾创新发展与安全可控？6月3日，作为北京智源大会重要内容之一，在由北京瑞莱智慧科技有限公司与阿里安全联合举办的“AI安全与产业治理”论坛上，专家们直击问题、建言献策。

本文插图
“未来人工智能产业发展在扩大应用场景的同时，必须实现数据、算法与应用层的安全可控。 ”中国科学院院士、清华大学人工智能研究院院长张钹说。
【算法偏见、技术滥用，人工智能如何安全可控发展？】
张钹表示， AI的发展引发了新一轮的产业变革，一方面带来传统产业的智能化，但也带来了新的风险和安全隐患。从算法层面看，现有的AI算法很脆弱，泛化能力差。这意味着，如果将算法运用到与训练场景区别很大的实际场景中，就会存在安全问题。以无人驾驶为例，人工智能训练的时候不可能穷尽所有的情境，当遇到新的突发事件便无法处理了，造成AI技术的误用。同时，这种脆弱性还使人工智能系统容易被攻击、被欺骗，给AI技术的滥用造成可乘之机。
从数据层面看，现在人工智能应用效果很大程度上依赖数据质量，但由此会带来隐私泄漏、数据确权等问题。如果解决不好数据安全的问题，人工智能产业也不可能健康地发展。
“以上事例说明， AI的发展与治理之间存在很多的矛盾。因此，人工智能的安全可控问题要同步从技术层面来解决。 ”张钹说，在具体的实现路径上，他提出发展“第三代人工智能” ，即融合了第一代的知识驱动和第二代的数据驱动的人工智能，利用知识、数据、算法和算力四个要素，建立新的可解释和鲁棒的AI理论与方法，发展安全、可信、可靠和可扩展的AI技术。
作为第三代人工智能的践行者与引领者，瑞莱智慧CEO田天表示，现阶段人工智能产业正经历从高速增长向高质量发展的转变，产业期待的提升让金融、医疗等更复杂的高价值场景的应用需求不断增加，安全性的重视程度也不断提升，但由于传统技术范式存在天然的算法漏洞和缺陷，难以支撑人工智能的长久高质量发展，为此田天提出，需加快发展第三代人工智能，发展“安全、可控”核心能力。
如何定义人工智能的“安全可控”？田天阐述道， “安全”是指打造数据安全与算法安全两大核心能力，解决数据强依赖带来的隐私泄漏与数据投毒等隐患，同时提升算法的鲁棒性与可靠性， “可控”既指应用层面的合规可控，更指核心技术的自主可控，以自主可控为根基，通过理论创新、技术突破形成核心竞争力。安全可控是发展第三代人工智能的核心基准，也是加快人工智能高质量发展的有力支撑。