惊天大瓜!字节实习生往GPU集群注入病毒,导致模型都白训…

惊天大瓜!字节实习生往GPU集群注入病毒,导致模型都白训…

AIGC动态欢迎阅读

原标题:惊天大瓜!字节实习生往GPU集群注入病毒,导致模型都白训…
关键字:字节跳动,实习生,集群,事件,受害者
文章来源:夕小瑶科技说
内容字数:0字

内容摘要:


夕小瑶科技说 原创作者 | 小鹿就在昨天,微信群里出现了一个消息,迅速攀升至热榜第二名:一名字节实习生攻击GPU集群。
随着大家的不断讨论、挖料,这起事件的传播愈发激烈,事件和最开始爆料的不一样了,现在的情况比最初所知的更加恐怖。。。。
事情的起源最早可以追溯到今年6月,字节AI Lab实习生A对团队分配给组内资源感到不满。他认为资源分配不公。
因此,这位实习生设计了一个详尽的“集群投毒攻击方案”,目的是破坏其他技术团队的模型训练工作:
实习生A鸡贼地地利用了Huggingface平台的安全漏洞,在公司共享的模型Checkpoint中植入了恶意代码。此外,他还设计了参数梯度截断的方向,干扰模型训练的收敛。然后,还为了限时攻击范围,设置了攻击条件:使得只有当任务在256张或更多GPU卡上运行时,才会触发这个隐蔽的Bug。
实习生A还潜伏在集群调试的群组中,一旦有迹象表明问题被发现,他就会迅速进行修改,以极限的方式进行攻防。
根据脉脉上前字节跳动的员工透露,AILab的实习生的权限几乎与正式员工相同,为此次事件的发生提供了可乘之机。
事件曝光后,实习生A虽然想甩锅,但是没成功。。。
网上自


原文链接:惊天大瓜!字节实习生往GPU集群注入病毒,导致模型都白训…

联系作者

文章来源:夕小瑶科技说
作者微信:
作者简介:

阅读原文
© 版权声明

相关文章

暂无评论

暂无评论...