人工智能模型已经取得了长足的进步，从能够完成高中生作业的工具，到能够在人类开发者所需时间的一小部分内构建整个应用程序的"氛围编程"助手，这已经不是什么秘密了。
但除了在学校作弊和让担心被解雇的员工感到恐惧之外，人工智能也可以被用于邪恶的目的。"氛围黑客"是"氛围编程"的邪恶双胞胎，它已经迅速变成了网络安全噩梦，人工智能系统在多个黑客相关的漏洞赏金排行榜上名列前茅。
例如，就在上周，一名黑客使用了Anthropic Claude聊天机器人的越狱版本，发现了墨西哥政府网络中的漏洞，并成功自动化窃取了高度敏感的纳税人和选民记录，据彭博社报道。在人工智能的帮助下，这名黑客窃取了与1.95亿纳税人相关的150千兆字节政府数据。
网络安全初创公司Gambit Security在一份关于墨西哥最新黑客攻击的报告中表示，肇事者可能与任何特定组织或外国敌对政府无关。研究人员还告诉彭博社，他们发现了至少20个被利用的具体漏洞。换句话说，人工智能意味着真正黑客的入门门槛从未如此之低。
上个月，亚马逊安全研究团队透露，黑客——或者可能只是一个——突破了数十个国家600多个防火墙系统，同时配备了现成可用的人工智能工具，攻破了薄弱的安全措施，并提取了凭据数据库，可能为未来的勒索软件部署奠定了基础。
"这就像一条人工智能驱动的网络犯罪装配线，帮助技术较差的工人规模化生产，"亚马逊安全工程和运营负责人CJ摩西在一份声明中表示。
这些漏洞是一个更广泛趋势的一部分，因为人工智能正在加速网络安全攻击，从诱骗受害者进入钓鱼陷阱的深度伪造视频，到人工智能支持的密码破解。
IBM的一份新报告发现，"利用面向公众的软件或系统应用程序"同比增长了44%，"活跃勒索软件组织"增加了近50%。
"攻击者没有重写剧本，他们正在用人工智能加速它们，"IBM网络安全服务全球管理合伙人马克休斯在一份声明中表示。"核心问题是一样的：企业被软件漏洞所淹没。不同之处在于现在的速度。"
谷歌安全研究人员也在今年年初的一份报告中指出，威胁行为者与目标"访问相同类别强大人工智能模型和自动化过程"之间的"激烈战斗"即将"以重大且不可预测的方式"改变。
"如果人工智能在勒索软件工具包中被武器化并在地下销售，事件发生率可能会增加，"谷歌安全工程副总裁希瑟阿金斯在一份声明中表示。"但如果它被一个具有非常具体目标的威胁行为者紧密控制，我们可能甚至无法知道另一端有一个完全自动化的平台。我们可能只有在它实际落入某人手中时才会知道。"
发表评论 取消回复