18日，2023中国互联网大会AI安全论坛召开，记者会上获悉，北京人工智能核心企业数量和人工智能算力发展水平高居全国第一。
近年来，全球人工智能产业呈现蓬勃发展势头，一场难以阻挡的AI浪潮席卷而来，AI在安全领域的应用也将带来一系列颠覆性的改变。
“我国目前已建成全球规模最大，技术领先的网络基础设施，数据资源价值加快释放，技术创新能力加速提升。”中国互联网协会副理事长黄澄清表示，当前的互联网不仅进入了万物互联的3.0时代，也进入了到了一个万物皆可AI的时代。
从政策上来看，国家已陆续出台一系列的政策文件，为人工智能的发展提供更多的依据和制度保障。国务院出台的《新一代人工智能发展规划》，明确将人工智能作为国家的战略。工信部等部委紧跟出台文件落实，具体到技术创新、产业生态融合应用等方面也取得积极的进展，尤其是随着大模型带来的产业发展变革，我国已经进入了全球第一梯队。
北京市通信管理局党组成员、副局长王晖表示，截止到2022年北京拥有人工智能核心企业数量，人工智能算力发展水平，人工智能领域核心技术的人才占比和人工智能论文发表数量在全国均列第一。
然而，人工智能在赋能产业应用，提高生产效率、降低成本的同时，也给带来了一系列新的安全应用风险与挑战。在数据安全方面，人工智能依赖大规模数据，数据中包含了有害和敏感信息，在实际应用中会导致数据隐私泄露，违规信息生成等安全风险。
在算法安全方面，人工智能研发需要更大规模的算力及更专业的人才，目前国内缺少相关理论研究与实践经验。应用安全方面，人工智能技术快速发展的同时虚假内容侵害个人隐私，传播违规信息和偏见歧视等问题也在不断发生，真实性、合法性是人工智能应用不可逃避的监管难题。
从行业安全来看，目前各行业的人工智能程度不尽相同，某些行业已经形成了规模化的应用，还有一些行业仍旧处于信息化转型时期，各个行业对技术的安全监管能力参差不齐。
中国电信集团网络和信息安全管理部总经理谷红勋表示，随着AI和大模型的广泛应用，数据泄露等风险日益凸显，过度采集歧视性算法，滥用深度伪造等问题需要引起注意。
“当前中国电信广泛在网信安全领域应用AI，主要集中在云网安全的防护以及反诈方面。”谷红勋直言道，未来的网络安全防守体系最终极有可能是比拼AI能力和算法。
根据中国科学技术信息研究院《中国人工智能大模型地图研究报告》，截至5月28日，国内10亿级参数规模以上基础大模型，至少已经发布了79个。
大模型将会给网络安全领域带来哪些影响？清华大学教授李丹列举出了三个大模型助力网络安全领域的应用场景，如代码的漏洞挖掘和通过大语言模型的能力做网络安全运维机器人、自主进化攻防演练等。
为了推动AI安全产业的发展，论坛还发起《共建安全大模型高质量数据集》的倡议，鼓励安全领域的组织共享其积累的高质量安全数据集，将"数据共享、质量为先、有效流通、合法合规"作为整体指导方针，通过共建安全大模型高质量数据集，促进AI安全产业的合理有序发展。(记者 夏骅)
