“AI原生”骗局江湖：真的真视频、假的真视频、真的假视频、假的假视频｜甲子光年

AIGC动态欢迎阅读

原标题：“AI原生”骗局江湖：真的真视频、假的真视频、真的假视频、假的假视频｜甲子光年
关键字：报告,人工智能,政策,视频,技术
文章来源：甲子光年
内容字数：12349字

内容摘要：

生成式AI正在“重塑”诈骗产业链。作者｜刘杨楠‍‍
编辑｜王博
“Sora的出现超乎所有人的预期，我们在2021年制定的部分防御策略，今天可能已经不适用了。”
瑞莱智慧RealAI联合创始人&算法科学家萧子豪告诉「甲子光年」。
虽然Sora还未对普通用户公开测试，但是Sora生成视频的逼真效果，不得不让人“未雨绸缪”。
试想一下，如果骗子利用Sora生成一个人被抢救或者被绑架的视频，再用“AI换脸”技术换成目标当事人亲友的形象，同时利用特殊方法切断当事人与亲友之间的联系，进而实施诈骗。如果在没有各方安全防护措施的情况下，是有可能成功的。
即使没有诈骗，虚假新闻、谣言也会对社会产生不良影响。
“人工智能进入爆发式发展的关键阶段。我们主张发展与安全并重，既要拥抱新事物新机遇，也要装好刹车再上路，共同推进人工智能全球治理。”3月7日，中共中央政治局委员、外交部长王毅在回答记者有关人工智能的提问时明确表态。
据不完全统计，在今年的全国两会上，已有20多位代表、委员围绕“人工智能”提出了相关建议。其中，“安全”与“合规”是他们关注的焦点。
早在ChatGPT出现之初，「甲子光年」就曾在《第一批因

原文链接：“AI原生”骗局江湖：真的真视频、假的真视频、真的假视频、假的假视频｜甲子光年

联系作者

文章来源：甲子光年
作者微信：jazzyear
作者简介：甲子光年是一家科技智库，包含智库、社群、企业服务版块，立足中国科技创新前沿阵地，动态跟踪头部科技企业发展和传统产业技术升级案例，推动人工智能、大数据、物联网、云计算、新能源、新材料、信息安全、大健康等科技创新在产业中的应用与落地。