中国新法规宣布,打击Deepfake技术创建的虚假新闻
从2020年开始,将需要识别使用VR和AI技术创建的视频。
为了阻止“假新闻”的广泛传播,代表中国网络空间管理局(CAC)工作的中国监管机构宣布了新规则,该规则将禁止使用“ deepfake”技术制作和散布的虚构新闻。即将颁布的法规还将要求标记使用VR或AI技术创建的任何视频和音频内容。
CAC表示:“随着在线视频和音频行业采用Deepfake等新技术,存在使用此类内容破坏社会秩序和侵犯人们利益的情况,更带来政治风险并给国家安全和社会稳定带来负面影响的风险。 ”
Deepfake被称为合成媒体,其中使用人工神经网络将现有人的面部表情和面部表情实际替换为其他人的面部表情。由于流行的人脸滤镜应用程序(例如Snapchat)以及一些病毒视频,该技术已赢得了主流媒体的关注,而大多数用例都围绕着交换名人的面孔而进行,中国对此迅速发展的现状深切关注。
9月,换脸应用Zao在中国风靡一时,成为App Store上排名第一的免费应用,并激起了CAC对深造假的最初焦虑。令人担忧的是,deepfake技术可用于创建已建立的人物的超现实再现,然后可用于传播,此技术存在潜在有害的错误信息。根据发表在CAC网站上的记录,deepfake技术可能“危害国家安全,破坏社会稳定,破坏社会秩序,并侵犯他人的合法权益。”
中国政府机构发布的新规定将于2020年1月1日生效。