当Agent和机器代表人类行动,我们如何制定一份公共契约呢?
- 内容介绍
- 文章标签
- 相关推荐
中肯。 我们正站在一个极其诡异的门槛上。在过去的几年,AI更像是一个“博学的智者”,你问它问题,它给你一段文字、一个代码片段或一张画。这种交互本质上是信息流的交换。但当前,因为AI Agent的兴起,这种范式正在从“对话框”演变为“落实终端”。
这事儿我得说道说道。 想象一下 你的Agent不再仅仅帮你写一封退款邮件,而是直接登录你的银行账户,发觉那笔反复的订阅订单,根据你的预设逻辑自动点击了退款申请,甚至为了补偿差价沉重崭新为你预订了更市场价格较低的酒店。这一刻,AI不再是那个地方的提供给提议的,它是在代表你对世界“行动”。当机器启动接管人类的代理权,我们赖以生存的法律制度法规、伦理和技术手段约约治理秩序,正面临着一场前所未有的沉重构。

从“信息工具”到“行动代理”的范式跃迁
我emo了。 在WAIC2025的盛况中, 我留意到一个非常微妙的信号:较大更多数较大模型公司不再仅仅比拼参数量的较大较小,而是在比拼模型对更平稳地调用API、自主规划繁杂任务。
这种转变的存在风险因素性在于“责任链的断裂”。如果一个AI给错了一个医疗服务提议, 你能够指责它的算法;但如果一个Agent在代表你签署了一份错误的法律制度法规合同,或者在操作公司库存系统时误删了万条数据,责任该由谁承担?是模型开发者?是Agent框架开发者?还是那个地方的点击了“允许Agent运行”的你本人?
不如... 如果我们的Agent生成的内容是较更多较低质、反复或逻辑断层的,那么它们同样会被数字世界的规则排斥在外。这侧面说明了:即便是机器的行动,也必须要符合某种公认的“契约规则”。
公共契约的核心支柱:身份、 审计与边界
要让Agent代表人类可靠行动,我们不能仅仅靠几行代码来约束,我们需要一份跨维度的“公共契约”。这份契约应当包含以下三个核心命题:
1. 身份与委托的清晰化
身份是三位一体的:申请者、Agent客户端、行动业务主体。
契约必须要规定:任意Agent在落实操作时必须要携带一份“数字授权存证”。我们不能仅仅通过一个OAuth Token就觉得Agent代表了某人。系统必须要能够审计并追踪:这次行动到底代表了哪位具体的员工,在哪些范围内被授权的,搞一下...?
2. 审计的实时可阐述性
瞎扯。 当机器启动思考并决策时黑箱化是治理的敌人。公共契约要求,全部涉及利益的自主决策必须要具备“可回溯性”。不仅要记录“做了哪些”,更要记录“为哪些这么做”。如果一个Agent无法阐述其决策的逻辑链路,那么它就不应当被赋予处理较高风险因素资产的“行动权”。
3. “人类干预”的强较大制边界
并非全部的行动都应当彻底交给机器。契约需要定义一套“风险因素阈值”。举个例子,涉及较大额资金转账、医疗服务诊断变更或核心隐私数据删除的操作, 至于吗? Agent必须要强较大制触发人类的二次确认。这不是对技术手段的不信赖,而是对人类主体地位的最后再来看防守。
我们是最后再来看一代决定共存方式的人吗?
万国盟秘书较长古特雷斯曾它变得如此紧迫。
目前, 国家地区发改委发布的更多项行动计划涵盖了数据、算力、生态、赋能、人才、规则、治理、伦理。这不再是简洁的口号,而是在为今后的Agent社会周边环境绘制“施工图纸”。作为开发者、 用户或决策者,我们不能只盯着Agent有更多聪慧、落实有更多迅速,而要思考:当它代表我们行动时我们的文明底线设立在哪里,话虽然是这么说…?
纯正。 这份公共契约不应当是寒冷冰冰的法律制度法规条文,而应当是一套动态的、共识。它要求开发者在编写代码时就注入伦理, 要求企业在设计产品时就考虑透明,要求每一个用户在授权AI工具时保持警觉。如果我们无法在机器彻底代表人类行动之前制定良好这份契约, 那么我们有可能真实的会从行动的主人,沦为算法逻辑中被放逐的“数字不容简单民”。
Agent从信息工具迈向行动代理的转变,是人类历史持续发展上最较大规模的一次权力外包。 公正地讲... 我们需要的不是更聪慧的机器,而是一套能让机器在人类规则内运行的契约文明。
中肯。 我们正站在一个极其诡异的门槛上。在过去的几年,AI更像是一个“博学的智者”,你问它问题,它给你一段文字、一个代码片段或一张画。这种交互本质上是信息流的交换。但当前,因为AI Agent的兴起,这种范式正在从“对话框”演变为“落实终端”。
这事儿我得说道说道。 想象一下 你的Agent不再仅仅帮你写一封退款邮件,而是直接登录你的银行账户,发觉那笔反复的订阅订单,根据你的预设逻辑自动点击了退款申请,甚至为了补偿差价沉重崭新为你预订了更市场价格较低的酒店。这一刻,AI不再是那个地方的提供给提议的,它是在代表你对世界“行动”。当机器启动接管人类的代理权,我们赖以生存的法律制度法规、伦理和技术手段约约治理秩序,正面临着一场前所未有的沉重构。

从“信息工具”到“行动代理”的范式跃迁
我emo了。 在WAIC2025的盛况中, 我留意到一个非常微妙的信号:较大更多数较大模型公司不再仅仅比拼参数量的较大较小,而是在比拼模型对更平稳地调用API、自主规划繁杂任务。
这种转变的存在风险因素性在于“责任链的断裂”。如果一个AI给错了一个医疗服务提议, 你能够指责它的算法;但如果一个Agent在代表你签署了一份错误的法律制度法规合同,或者在操作公司库存系统时误删了万条数据,责任该由谁承担?是模型开发者?是Agent框架开发者?还是那个地方的点击了“允许Agent运行”的你本人?
不如... 如果我们的Agent生成的内容是较更多较低质、反复或逻辑断层的,那么它们同样会被数字世界的规则排斥在外。这侧面说明了:即便是机器的行动,也必须要符合某种公认的“契约规则”。
公共契约的核心支柱:身份、 审计与边界
要让Agent代表人类可靠行动,我们不能仅仅靠几行代码来约束,我们需要一份跨维度的“公共契约”。这份契约应当包含以下三个核心命题:
1. 身份与委托的清晰化
身份是三位一体的:申请者、Agent客户端、行动业务主体。
契约必须要规定:任意Agent在落实操作时必须要携带一份“数字授权存证”。我们不能仅仅通过一个OAuth Token就觉得Agent代表了某人。系统必须要能够审计并追踪:这次行动到底代表了哪位具体的员工,在哪些范围内被授权的,搞一下...?
2. 审计的实时可阐述性
瞎扯。 当机器启动思考并决策时黑箱化是治理的敌人。公共契约要求,全部涉及利益的自主决策必须要具备“可回溯性”。不仅要记录“做了哪些”,更要记录“为哪些这么做”。如果一个Agent无法阐述其决策的逻辑链路,那么它就不应当被赋予处理较高风险因素资产的“行动权”。
3. “人类干预”的强较大制边界
并非全部的行动都应当彻底交给机器。契约需要定义一套“风险因素阈值”。举个例子,涉及较大额资金转账、医疗服务诊断变更或核心隐私数据删除的操作, 至于吗? Agent必须要强较大制触发人类的二次确认。这不是对技术手段的不信赖,而是对人类主体地位的最后再来看防守。
我们是最后再来看一代决定共存方式的人吗?
万国盟秘书较长古特雷斯曾它变得如此紧迫。
目前, 国家地区发改委发布的更多项行动计划涵盖了数据、算力、生态、赋能、人才、规则、治理、伦理。这不再是简洁的口号,而是在为今后的Agent社会周边环境绘制“施工图纸”。作为开发者、 用户或决策者,我们不能只盯着Agent有更多聪慧、落实有更多迅速,而要思考:当它代表我们行动时我们的文明底线设立在哪里,话虽然是这么说…?
纯正。 这份公共契约不应当是寒冷冰冰的法律制度法规条文,而应当是一套动态的、共识。它要求开发者在编写代码时就注入伦理, 要求企业在设计产品时就考虑透明,要求每一个用户在授权AI工具时保持警觉。如果我们无法在机器彻底代表人类行动之前制定良好这份契约, 那么我们有可能真实的会从行动的主人,沦为算法逻辑中被放逐的“数字不容简单民”。
Agent从信息工具迈向行动代理的转变,是人类历史持续发展上最较大规模的一次权力外包。 公正地讲... 我们需要的不是更聪慧的机器,而是一套能让机器在人类规则内运行的契约文明。

