AI教父背书，OpenAI与谷歌员工联合签署公开信，呼吁公司重视AI安全

AIGC动态欢迎阅读

原标题：AI教父背书，OpenAI与谷歌员工联合签署公开信，呼吁公司重视AI安全
关键字：员工,知识产权,公司,公开信,风险
文章来源：夕小瑶科技说
内容字数：0字

内容摘要：

夕小瑶科技说 原创作者 | 海野
OpenAI又双叒叕因为AI安全问题被炮轰了，怎么回事呢？
数小时前，多名OpenAI、谷歌DeepMind的现任及前任员工联合签署公开信，警示AI的潜在安全隐患，呼吁AI公司提供匿名上诉渠道，唾弃OpenAI对安全问题吹哨人的报复。
这封公开信的内容阐明，人工智能的发展可能会带来诸多安全风险，例如加剧社会不平等发展、引发虚假信息的恶意操纵与传播，以及失控的自主AI可能灭绝人类等。
而为公开信背书的几位大能，分别是图灵奖得主Yoshua Bengio、人类兼容人工智能中心主任Stuart Russell、以及“人工智能教父”Geoffrey Hinton ……
AI公司的商业化追求导致安全监督不足在这封联合签署的公开信中，列出了一系列AI的安全隐患。这些隐患包括但不限于：导致社会不平等加剧、虚假信息的恶意传播、威胁人类生存等。而无论是政府、AI公司还是AI专家等等，都意识到了这些隐患。
问题在于，根据签署公开信的OpenAI前任员工介绍，该AI顶流公司的内部文化极为商业：为争取成为把最强AI投向市场的第一名而不计后果。 在此文化影响下，AI的风险在很大

原文链接：AI教父背书，OpenAI与谷歌员工联合签署公开信，呼吁公司重视AI安全

联系作者

文章来源：夕小瑶科技说
作者微信：xixiaoyaoQAQ
作者简介：专业、有趣、深度价值导向的科技媒体。聚集30万AI工程师、研究员，覆盖500多家海内外机构投资人，互联网大厂中高管和AI公司创始人。一线作者来自清北、国内外顶级AI实验室和大厂，兼备敏锐的行业嗅觉和洞察深度。商务合作：zym5189