出差是全国政协委员、奇安信集团董事长齐向东生活的常态。他记得，过去坐火车是一件繁琐的事——排长队买票、检票、验票，但现在“刷脸”“刷身份证”就可以让出行一路畅通，城市正变得越来越“智慧”。

“这种变化，正是智慧城市的一个缩影，它为人们带来了便捷，但背后也隐藏着巨大的安全风险。”齐向东向 《中国经济周刊》记者直言。

作为网络安全专家，齐向东深知，随着人工智能等创新科技融入千行百业，平衡技术创新与安全风险必会成为重要课题。今年全国两会，他围绕人工智能安全和软件产业健康发展等议题建言献策。

人工智能安全隐患引关注，三大风险需警惕

近年来，我国人工智能创新成果不断涌现，能力边界不断扩展，加速赋能千行百业。

“人工智能是引领未来发展的颠覆性技术和前沿技术，也是注定要走进千家万户的关键共性技术。”齐向东说，在传统产业数字化转型进程中，人工智能已在研发、生产、管理全环节广泛应用，涌现出上百种场景和模式。但人工智能也大幅提升了网络攻击的烈度和广度，网络攻击窗口扩大、网络攻击手段革新、网络犯罪门槛降低等问题，给传统产业发展带来新风险、新挑战。

在他看来，人工智能快速发展的同时也暴露出诸多安全隐患，主要集中在三大类风险。

齐向东说，第一类是人工智能大模型自身的安全问题，“其中开发风险、数据风险、应用风险和基础环境风险尤为突出”。

他举例称，如在开发方面，开源大模型需重点防范代码缺陷和预留后门等问题；在应用方面要警惕“内鬼”对训练数据“投毒”、模型篡改以及配置篡改的风险；在数据方面，需小心因内部配置错误和弱口令等造成的数据库暴露；在基础环境方面，则要重点关注云、API、传统设备漏洞等。