AI生图太诡异？马里兰&NYU合力解剖神经网络，CLIP模型神经元形似骷髅头

AIGC动态欢迎阅读

原标题：AI生图太诡异？马里兰&NYU合力解剖神经网络，CLIP模型神经元形似骷髅头

关键字：模型,图像,方法,架构,研究人员

文章来源：新智元

内容字数：4920字

内容摘要：新智元报道编辑：桃子【新智元导读】神经网络黑盒怎么解释？马里兰大学和NYU研究人员开启了新的尝试。AI黑盒如何才能解？神经网络模型在训练的时，会有些ReLU节点「死亡」，也就是永远输出0，不再有用。它们往往会被被删除或者忽略。恰好赶上了模糊了生与死的界限的节日——万圣节，所以这是探索那些「死节点」的好时机。对于大多数图像生成模型来说，会输出正面的图像。但是优化算法，可以让模型生成更多诡异、恐怖的图…

原文链接：点此阅读原文：AI生图太诡异？马里兰&NYU合力解剖神经网络，CLIP模型神经元形似骷髅头

联系作者

文章来源：新智元

作者微信：AI_era

作者简介：智能+中国主平台，致力于推动中国从互联网+迈向智能+新纪元。重点关注人工智能、机器人等前沿领域发展，关注人机融合、人工智能和机器人革命对人类社会与文明进化的影响，领航中国新智能时代。