目前，许多司法辖区在处理利用人工智能生成的深度伪造内容案件时，主要依赖保护数据隐私、打击网络犯罪方面的现行法律。下文将阐述罗思国际所涉部分主要业务市场在这个领域的法律发展现状。
中国
中国方面在制定人工智能监管框架时的考虑因素，与其在制定线上内容整体监管框架时的考虑因素相同。也即，人工智能及相关技术不应危害公共安全和个人隐私，不应损害个人数据的完整性。
2019 年，一款名为“ZAO
–
逢脸造戏”换脸应用在中国上市，瞬间火爆全网。这款应用的用户可以利用深度伪造技术，将自己的脸覆盖到
30
秒电影片段中的明星脸上。“ZAO
–
逢脸造戏”迅速登上苹果应用商店榜首。
“ZAO –
逢脸造戏”收集了大量个人数据的事实被曝光以后，引发了人们的普遍担忧。用户向该应用授予了对其图像及创作内容的广泛使用权。这引发了对数据安全和人工智能伦理的关注，随后“ZAO
–
逢脸造戏”修订了其用户协议。
2023
年，中国《互联网信息服务深度合成管理规定》施行。该法要求深度合成技术服务提供者确保技术的使用不违反法律，也不对公众造成危害。该法要求对深度伪造内容进行标记，以遏制虚假信息的传播。
欧盟
深度伪造内容的提供者和管理者须遵循
《数字服务法案》和新出台的
欧盟《人工智能法案》。
根据欧盟《人工智能法案》，生成或合成图像、音频或视频内容的系统必须符合最低透明度标准。服务提供者须向用户告知他们正在与人工智能系统互动，除非这种情况不言自明。人工生成或深度伪造的内容也必须符合透明度标准。
《数字服务法案》规定，管理用户生成内容（包括深度伪造内容）的服务提供者必须保持管理规则和执行机制的公开透明，同时还须提供通知下架程序。
The GCC Region
