风君子博客12月11日消息，近日，Gartner预测了2025年的十大技术趋势，其中，Gartner 预测，到2028年，至少15%的日常工作决策将由代理型AI自主做出，而2024年这一比例为0%。随着AI的迅猛发展，其衍生带来的信息安全风险管理需求更是与日俱增。Gartner预测，到2028年，将有50%的企业开始采用专为应对虚假信息安全用例而设计的产品、服务或功能，而目前这一比例还不到 5%。
无独有偶，近日，Akamai亚太地区和日本安全技术总监Reuben Koh在《Akamai2024年度回顾与未来展望》博客中就指出：随着 AI 越来越深地融入业务运营之中，保护 AI 安全必须成为各企业战略的重中之重。从 2025 年开始，人们将越来越关注 AI 安全的两个方面：保护 AI 系统和防范 AI 驱动的攻击。
Akamai亚太地区和日本安全技术总监Reuben Koh
Reuben Koh称，和全球其他地区一样，2025 年，亚太地区和日本每个行业的企业都会以更疯狂的速度采用 AI 技术，以促进业务发展并提高盈利能力。但在争相采用 AI 技术的同时，必须确保他们并未忽略必要的安全保护措施。十几年前，在各企业争相采用云计算和网络安全技术时，我们就看到过类似的情况。由于注重采用速度，企业往往会忽视安全性，这不可避免地导致了几起备受瞩目的数据泄露事件。
Reuben Koh表示，目前，我们只是粗浅地了解了 AI 能实现什么，而企业可能并不完全了解底层潜在的安全影响。随着 AI 越来越深地融入业务运营之中，保护 AI 安全必须成为各企业战略的重中之重。遗憾的是，如果从过去的活动来看，发生这种情况的可能性相对较低——直到发生重大数据泄露事件，突然促使企业和监管机构关注相关的安全框架和法规。
Reuben Koh认为，从 2025 年开始，会看到人们将越来越关注 AI 安全的两个方面：保护 AI 系统和防范 AI 驱动的攻击。毕竟，网络犯罪分子都在学习如何利用 AI 来提高攻击的隐蔽性、效率和有效性。AI 将降低攻击者的准入门槛，并提高他们发现和利用漏洞的能力。Akamai 已在未雨绸缪，不仅构建了自己的 AI 模型、探索攻击它们的方式，还确定了需要采取哪些保护措施来改进我们的安全解决方案，其中也可能包括 AI 增强功能的各种实施。2025 年及以后，Akamai 将在这一领域继续提升能力。
Reuben Koh强调，当人们被 AI 这种最新奇的事物所吸引时，必须确保他们并未忽略坚实的安全基础。2025 年，攻击者仍然会以 API 端点为目标，并且仍然会发动网络钓鱼攻击。我们仍然需要确保及时部署补丁，确保我们的保护措施始终开启，并确保对相关人员开展持续培训，以识别和减少恶意活动。因为无论是否采用 AI 技术，这些威胁都不会消失。（宜月）