Share on LinkedInShare on LinkedIn

ARTICLE · 26 MARCH 2025

AI深度合成技术——是"魔"是"仙",多维度监管机制说了才算

AnJie Broad Law Firm
AnJie Broad Law Firm
Contributor
AnJie Broad Law Firm

AnJie Broad Law Firm

AnJie Broad is a full-service law firm with a wide range of practice areas. We are committed to...

View firm profile
Explore more from AnJie Broad Law Firm

AI深度合成技术近几年发展迅猛,其中AI深度合成音视频的技术,更是已突破技术门槛,使得大众能够以极低的时间和金钱成本,定制AI深度合成௚

ChinaTechnology

前 言

AI深度合成技术近几年发展迅猛,其中AI深度合成音视频的技术,更是已突破技术门槛,使得大众能够以极低的时间和金钱成本,定制AI深度合成的音视频。随之而来的,便是日趋严重的通过AI深度合成技术伪造音视频的侵权现象。根据奇安信近期发布的《2024人工智能安全报告》显示,在2023年,基于AI的深度伪造(Deepfake)欺诈暴增了3000%。

网络中比较常见的通过AI深度合成音视频侵权牟利的情形,包括(1)擅自利用知名人士的声音和人脸,通过AI深度合成制作名人声音和换脸视频,为其销售的商品推广"带货",例如某商家AI深度合成知名医生"带货"某保健品;(2)拼凑名人演唱会、访谈等视频素材,通过AI深度合成音视频,虚构名人演唱会信息、进行虚假宣传、并进而实施诈骗行为,例如某知名歌星影像被AI深度合成并提供虚假演唱会购票信息,诱使其大量粉丝付款购买并不存在的演唱会门票。

AI深度合成技术的滥用,使得大众曾经所认知的"有图有真相"的常识,一去不复返,取而代之的,是如今的"有图有视频,就是没有真相"的无奈调侃。而与真相一起变得模糊的,是个人肖像、名誉、人格等权益的保护边界。

本文通过浅析滥用AI深度合成技术所涉及的侵权法律责任,拟探讨如何从法律、平台、及社会等层面,构建多维度监管机制,从而促进AI深度合成技术健康发展。

一、针对"深度合成技术"的法律规范

目前我国针对"深度合成技术"发布或实施的法律法规及规范性法律文件,主要包括《互联网信息服务深度合成管理规定》("《深度合成管理规定》")、《生成式人工智能服务管理暂行办法》、《互联网信息服务算法推荐管理规定》、《生成式人工智能服务安全基本要求》及《人工智能生成合成内容标识办法(征求意见稿)》("《标识办法(征求意见稿)》")。除此之外,我们的《民法典.人格权编》、《个人信息保护法》及《数据安全保护法》的相关条款,对于深度合成技术使用过程中所涉及的个人人格权益、个人信息及数据安全等方面,也提供了法律层面的规范与保障。

We operate a free-to-view policy, asking only that you register in order to read all of our content. Please login or register to view the rest of this article.

See more popular content from