GPT-4惨遭黑客利用！勒索软件20分钟加密100GB数据，竟被ta阻止了

AIGC动态欢迎阅读

原标题：GPT-4惨遭黑客利用！勒索软件20分钟加密100GB数据，竟被ta阻止了
关键字：模型,报告,能力,中枢,数据
文章来源：新智元
内容字数：15131字

内容摘要：

新智元报道编辑：编辑部
【新智元导读】黑客已经用大模型把自己全面武装起来了！ChatGPT曾多次被黑客利用编写恶意代码、攻击网络，以获取个人信息。在这个大模型并不安全的时代，国内一家同时深耕安全和AI的公司出手了。没有人会怀疑，2024年是大模型落地应用元年，各行各业都在被大模型加速改造。
但是没想到，最先用大模型提升生产力的，居然是网络黑客！
不久前，外媒报道，OpenAI和微软发现，黑客已经在不断地使用ChatGPT等大模型来完善和改进他们现有的网络攻击。
「Thallium」和「Curium」利用LLM研究公开报告的漏洞和目标组织，生成网络钓鱼邮件和代码。
「Forest Blizzard」组织使用GPT-4研究卫星通信和雷达成像技术。
「Emerald Sleet」组织利用GPT-4识别亚太地区防御问题专家和组织，探查公开漏洞，完成脚本任务，起草网络钓鱼邮件。
当然，OpenAI在检测出这些黑客账号之后就把他们都停了，但是在OpenAI关停相关账户之前，他们已经利用GPT-4进行了海量的攻击行为。
而且OpenAI也承认，他们没有办法完全提前阻止黑客将ChatGPT用于网络攻

原文链接：GPT-4惨遭黑客利用！勒索软件20分钟加密100GB数据，竟被ta阻止了