2月29日消息，奇安信集团发布《2024人工智能安全报告》(以下简称《报告》)。《报告》认为，人工智能技术的恶意使用将快速增长，在政治安全、网络安全、物理安全和军事安全等方面构成严重威胁。

《报告》认为，“ai是一种通用技术，通用就意味着既可以用来做好事，也可以被用来干坏事”。具有巨大潜力的ai技术同时带来两大主要挑战：一是放大现有威胁，另一个是引入新型威胁。

奇安信预计，未来十年，人工智能技术的恶意使用将快速增长，将在政治安全、网络安全、物理安全和军事安全等方面构成严重威胁。

报告数据显示，2023年基于ai的深度伪造欺诈暴增了3000%，基于ai的钓鱼邮件数量增长了1000%；奇安信威胁情报中心监测发现，已有多个有国家背景的apt组织利用ai实施了十余起网络攻击事件。各类基于ai的新型攻击种类与手段不断出现，甚至出现泛滥，包括深度伪造(deepfake)、黑产大语言模型、恶意ai机器人、自动化攻击等，在全球造成了严重危害。

同时，《报告》深入研究了基于ai的深度伪造(deepfake)、黑产大语言模型基础设施、利用ai的自动化攻击、ai武器化、llm自身安全风险、恶意软件、钓鱼邮件、虚假内容和活动生成、硬件传感器安全等12种重要威胁，对其技术原理、危害情况、真实案例等进行了深入的剖析，旨在让业界更全面的认识到ai普及带来的两大主要挑战：一方面放大了现有威胁，比如钓鱼邮件、恶意软件和社会工程学等；另一方面是引入了新型威胁，如ai自动化攻击、ai深度伪造等。

面对ai网络攻击、ai武器化等日益严峻的安全威胁，《报告》认为，ai技术将会推动安全领域发生范式变革，全行业需启动人工智能网络防御推进计划。新一代ai技术与大语言模型改变安全对抗格局，将会对地缘政治竞争和国家安全造成深远的影响，各国正在竞相加强在人工智能领域的竞争，以获得面向未来的战略优势。全行业需启动人工智能网络防御推进计划，包括利用防御人工智能对抗恶意人工智能，扭转“防御者困境”。

以上是网络信息转载，信息真实性自行斟酌。