Share on LinkedInShare on LinkedIn

ARTICLE · 18 SEPTEMBER 2026

汉坤具身智能数据合规与治理系列(四):AI治理

Han Kun Law Offices
Han Kun Law Offices
Contributor
Han Kun Law Offices

Han Kun Law Offices

Han Kun is a leading full-service law firm in China. Over the years, Han Kun has been widely...

View firm profile
Explore more from Han Kun Law Offices

具身智能系统通过Agent规划、工具调用和设备控制将模型判断转化为现实行动,使模型偏差、幻觉、越权调用和身份误认等风险可能直接导致财产损失&#

ChinaCorporate/Commercial Law

摘要

本系列第一篇将具身智能治理划分为隐私保护、重要数据、AI治理与生态治理四个层次,并将AI治理的对象界定为基础模型、世界模型、动作模型与智能体(Agent)的全生命周期,核心是判断模型与Agent在具体产品中是否安全、可信、可控。本文沿用这一框架,讨论具身智能AI治理如何从“输出内容是否安全”进一步延伸至“系统行为是否安全”。

模型偏差、模型幻觉、Agent越权调用以及身份误认与拟人化,并非具身智能独有。其特殊性在于,模型判断可能经由Agent规划、工具调用和设备控制,直接转化为移动、抓取、开门、支付或生产控制等现实行动,并由此引发产品质量、消费者权益、合同履行、侵权责任、科技伦理及行业监管等问题。

本文首先说明四类风险如何沿“感知—判断—规划—调用—执行”链条传导;继而从模型、Agent和人机交互三个层面,讨论训练数据、版本溯源、场景化评测、工具与动作权限、长期记忆、人工确认、身份标识及拟人化边界;最后分析上线、变更、事件处置与停用阶段的持续治理。

一、从内容输出到现实行动:具身智能AI治理的特殊性

具身智能AI治理的对象并非单一大模型,而是基础模型、世界模型、动作模型与Agent共同构成的决策和行动体系。在部分系统中,基础模型承担语言、视觉和多模态信息理解;世界模型理解周围环境并预测行动后果;动作模型将任务目标转化为设备可以执行的动作方案;Agent则通过记忆、规划和工具调用连接上述能力。本文讨论的四类风险,正是这些治理对象在具体场景中的主要风险表现。

(一)风险传导方式的改变

单纯的大模型产品同样可能出现偏差、幻觉、越权调用或拟人化问题,这些风险通常先表现为错误、失实或不当内容,现实后果还需经过用户采信、平台传播或人员执行。具身智能则将模型嵌入传感器、Agent、业务接口和设备控制器,模型输出可能直接进入执行环节。

We operate a free-to-view policy, asking only that you register in order to read all of our content. Please login or register to view the rest of this article.

The content of this article is intended to provide a general guide to the subject matter. Specialist advice should be sought about your specific circumstances.

See more popular content from