报告:网络犯罪分子正使用Meta的Llama2人工智能发起攻击
划重点:
- 🕵️♂️ 网络犯罪组织开始利用生成式人工智能发动攻击,报告其中包括 Meta 的网络 Llama2大型语言模型。
- 💻 群聚蜘蛛利用 Meta 的犯罪分正发起大型语言模型生成 Microsoft 的 PowerShell 任务自动化程序脚本,用于下载一家北美金融服务公司员工的使用登录凭证。
- 📈 CrowdStrike 报告警告目前检测基于生成式人工智能的人工攻击能力有限,但预计恶意使用生成式人工智能的攻击趋势将不断增加。
CSS站长资源(ChinaZ.com) 2月22日 消息:网络犯罪团伙已开始利用生成式人工智能进行攻击,报告包括 Meta 的网络 Llama2大型语言模型,根据网络安全公司 CrowdStrike 周三发布的犯罪分正发起年度全球威胁报告。据 CrowdStrike 报道,使用一个名为 Scattered Spider 的人工组织利用 Meta 的大型语言模型生成了 Microsoft 的 PowerShell 任务自动化程序脚本,用于下载 “一家北美金融服务公司受害者” 的攻击员工登录凭证。
图源备注:图片由AI生成,报告图片授权服务商Midjourney
报告通过检查 PowerShell 中的网络代码追踪了 Llama2的使用情况。“用于下载用户不可改变 ID 的犯罪分正发起 PowerShell 类似于 ChatGPT 等大型语言模型(LLM)输出,例如一个注释的模式,实际命令然后每个命令的新行与 Llama270B 模型输出相匹配。根据相似的代码风格,Scattered Spider 很可能依赖 LLM 生成此次活动中的 PowerShell 脚本。” 作者警告称,目前检测基于生成式人工智能或增强生成式人工智能的攻击能力有限,因为很难找到 LLM 使用的痕迹。该公司假设到目前为止,LLM 的使用是有限的:“只有在某些操作阶段可能的敌方使用生成式人工智能的少数具体观察。”
然而,CrowdStrike 预测,恶意使用生成式人工智能将会增加:“人工智能的持续发展无疑会提高其潜在滥用的效果。” 迄今为止,这些攻击遇到了一个挑战,即开发大型语言模型的高成本限制了攻击者可以从这些模型中生成用作攻击代码的种类。“2023年,威胁行为者试图制作和使用这样的模型的尝试通常都是一种欺诈,生成的输出相对较差,在许多情况下很快就变得无效。” 报告称。
除了生成代码,另一个恶意使用的途径是误导信息,就在这方面,CrowdStrike 报告强调了今年可能受到误导性宣传活动影响的众多政府选举。除了今年的美国总统选举,“来自55个国家的个人,代表全球42% 以上的人口将参与总统、议会和 / 或大选。” 报告作者指出。选举操纵分为高科技和低技术两种方式。高科技途径是通过篡改投票系统以及向选民传播关于投票的信息来破坏或破坏投票机制。
低技术途径是误导信息,例如 “破坏性叙述” 可能 “破坏公众信心”。这种 “信息运营”,或者,正如 CrowdStrike 所称,已经发生,“因为中国行动者在社交媒体影响活动中使用人工智能生成的内容来传播批评台湾总统选举候选人的内容。” 该公司预测,“鉴于人工智能工具可以轻松生成具有欺骗性但令人信服的叙述,对手很可能会使用这些工具针对2024年的选举进行信息运营。那些举办选举的国家中政治活跃的党派很可能会使用生成式人工智能制造虚假信息,以在自己的圈子内传播。”
(责任编辑:深度)
- ·AI智能剪辑软件AIMIX 支持短视频批量混剪、文案、字幕生成、语音合成等
- ·周鸿祎:只要支持国产品牌 埃尔法、雷克萨斯就加不了价
- ·周鸿祎:只要支持国产品牌 埃尔法、雷克萨斯就加不了价
- ·萨摩耶秒变肌肉猛男?我用Krea Video做了一个变身视频 附完整操作教程及提示词
- ·12306否认与第三方平台合作:未将票额分配给任何第三方发售
- ·国内首台远程操控平地机测试成功:配备专用的远程操控平台
- ·彩票中946万 卖烤鸡腿表兄弟反目 网友:人性的复杂性
- ·百度:正考虑和特斯拉在Robotaxi项目上开展合作
- ·迄今能效量子点太阳能电池面世:能效高达18.1%
- ·上海地铁辟谣有人掉进扶梯:一名乘客鞋子被夹导致
- ·1月销量超20万台 比亚迪各车型数据出炉:海鸥成品牌
- ·亚当:吃了美味的米粉 在长沙逛了逛:还游览了长沙的风景名胜
- ·重庆胖猫事件引关注 微信呼吁客观理性表达观点 抵制网暴行为
- ·苹果要淘汰LCD!曝供应链已为iPad mini开发OLED面板
- ·多地暴雪、冻雨!申通快递对12省份快件提价:3公斤以上单价上涨
- ·马斯克预测AI世界:人类无需再为生计奔波 工作将变成爱好
- ·苹果要淘汰LCD!曝供应链已为iPad mini开发OLED面板
- ·因销量下滑:曝特斯拉上海工厂Model Y产量已减少20%
- ·捕捞出售违法!比利时设陷阱诱捕300万只大闸蟹:破坏河道威胁生态 老外不吃
- ·英伟达涨超10% 市值超越德国上市公司市值总和