微软利用AI工具捕获来自中国、俄罗斯和伊朗的黑客

据微软公司周三（2月14日）发布的一份报告，来自俄罗斯、中国和伊朗的国家支持的黑客一直在使用微软支持的 OpenAI 的工具来磨练他们的技能并欺骗他们的目标。

微软在报告中表示，它追踪了隶属于俄罗斯军事情报部门、伊朗革命卫队以及中国和朝鲜政府的黑客组织，因为他们试图使用大型语言模型来完善他们的黑客活动。这些计算机程序通常被称为人工智能，利用大量文本来生成听起来像人类的响应。

该公司在全面禁止国家支持的黑客组织使用其人工智能产品时宣布了这一发现。

“无论是否存在任何违反法律或任何违反服务条款的行为，我们只是不希望那些我们已识别的行为者 – 我们跟踪并知道是各种威胁行为者 – 我们不希望他们微软客户安全副总裁 Tom Burt 在报告发布前接受路透社采访时表示：

俄罗斯、朝鲜和伊朗外交官员没有立即回复寻求对这些指控发表评论的信息。

中国驻美国大使馆发言人刘鹏宇表示，反对“对中国的无端抹黑和指责”，主张“安全、可靠、可控”部署人工智能技术，“增进全人类的共同福祉”。

有关国家支持的黑客被发现使用人工智能工具来帮助提高间谍能力的指控可能会突显人们对该技术快速扩散及其滥用可能性的担忧。自去年以来，西方高级网络安全官员一直在警告流氓行为者正在滥用此类工具，尽管到目前为止，具体细节还很少。

OpenAI 网络安全威胁情报负责人鲍勃·罗斯特德 (Bob Rotsted) 表示：“这即使不是第一家，也是人工智能公司公开讨论网络安全威胁行为者如何使用人工智能技术的第一例。”

OpenAI 和微软将黑客对其人工智能工具的使用描述为“早期”和“渐进”。伯特表示，两人都没有看到网络间谍取得任何突破。

“我们确实看到他们像其他用户一样使用这项技术，”他说。

该报告描述了黑客组织以不同的方式使用大型语言模型。

微软表示，据称代表俄罗斯军事间谍机构（广泛称为 GRU）工作的黑客利用这些模型来研究“可能与乌克兰常规军事行动有关的各种卫星和雷达技术”。

微软表示，朝鲜黑客利用这些模型生成“可能用于针对地区专家的鱼叉式网络钓鱼活动”的内容。微软表示，伊朗黑客还利用这些模型编写更具说服力的电子邮件，一度使用它们起草一条消息，试图引诱“杰出女权主义者”访问一个陷阱网站。

这家软件巨头表示，中国国家支持的黑客也在试验大型语言模型，例如询问有关竞争对手情报机构、网络安全问题和“知名人士”的问题。

伯特和罗斯特德都不愿透露活动量或有多少账户被暂停。伯特通过指出人工智能的新颖性和对其部署的担忧，为对黑客组织的零容忍禁令进行了辩护，该禁令不适用于微软的搜索引擎 Bing 等产品。

（本文依据了路透社的消息）