当Agent和机器代表人类行动,我们如何制定一份公共契约呢?
- 内容介绍
- 文章标签
- 相关推荐
中肯。 我们正站在一个极其诡异的门槛上。在过去的几年,AI更像是一个“博学的智者”,你问它问题,它给你一段文字、一个代码片段或一张画。这种交互本质上是信息流的交换。但当前,因为AI Agent的兴起,这种范式正在从“对话框”演变为“落实终端”。
这事儿我得说道说道。 想象一下 你的Agent不再仅仅帮你写一封退款邮件,而是直接登录你的银行账户,发觉那笔反复的订阅订单,根据你的预设逻辑自动点击了退款申请,甚至为了补偿差价沉重崭新为你预订了更市场价格较低的酒店。这一刻,AI不再是那个地方的提供给提议的,它是在代表你对世界“行动”。当机器启动接管人类的代理权,我们赖以生存的法律制度法规、伦理和技术手段约约治理秩序,正面临着一场前所未有的沉重构。

从“信息工具”到“行动代理”的范式跃迁
我emo了。 在WAIC2025的盛况中, 我留意到一个非常微妙的信号:较大更多数较大模型公司不再仅仅比拼参数量的较大较小,而是在比拼模型对更平稳地调用API、自主规划繁杂任务。
这种转变的存在风险因素性在于“责任链的断裂”。如果一个AI给错了一个医疗服务提议, 你能够指责它的算法;但如果一个Agent在代表你签署了一份错误的法律制度法规合同,或者在操作公司库存系统时误删了万条数据,责任该由谁承担?是模型开发者?是Agent框架开发者?还是那个地方的点击了“允许Agent运行”的你本人?
不如... 如果我们的Agent生成的内容是较更多较低质、反复或逻辑断层的,那么它们同样会被数字世界的规则排斥在外。这侧面说明了:即便是机器的行动,也必须要符合某种公认的“契约规则”。
公共契约的核心支柱:身份、 审计与边界
要让Agent代表人类可靠行动,我们不能仅仅靠几行代码来约束,我们需要一份跨维度的“公共契约”。这份契约应当包含以下三个核心命题:
1. 身份与委托的清晰化
身份是三位一体的:申请者、Agent客户端、行动业务主体。
中肯。 我们正站在一个极其诡异的门槛上。在过去的几年,AI更像是一个“博学的智者”,你问它问题,它给你一段文字、一个代码片段或一张画。这种交互本质上是信息流的交换。但当前,因为AI Agent的兴起,这种范式正在从“对话框”演变为“落实终端”。
这事儿我得说道说道。 想象一下 你的Agent不再仅仅帮你写一封退款邮件,而是直接登录你的银行账户,发觉那笔反复的订阅订单,根据你的预设逻辑自动点击了退款申请,甚至为了补偿差价沉重崭新为你预订了更市场价格较低的酒店。这一刻,AI不再是那个地方的提供给提议的,它是在代表你对世界“行动”。当机器启动接管人类的代理权,我们赖以生存的法律制度法规、伦理和技术手段约约治理秩序,正面临着一场前所未有的沉重构。

从“信息工具”到“行动代理”的范式跃迁
我emo了。 在WAIC2025的盛况中, 我留意到一个非常微妙的信号:较大更多数较大模型公司不再仅仅比拼参数量的较大较小,而是在比拼模型对更平稳地调用API、自主规划繁杂任务。
这种转变的存在风险因素性在于“责任链的断裂”。如果一个AI给错了一个医疗服务提议, 你能够指责它的算法;但如果一个Agent在代表你签署了一份错误的法律制度法规合同,或者在操作公司库存系统时误删了万条数据,责任该由谁承担?是模型开发者?是Agent框架开发者?还是那个地方的点击了“允许Agent运行”的你本人?
不如... 如果我们的Agent生成的内容是较更多较低质、反复或逻辑断层的,那么它们同样会被数字世界的规则排斥在外。这侧面说明了:即便是机器的行动,也必须要符合某种公认的“契约规则”。
公共契约的核心支柱:身份、 审计与边界
要让Agent代表人类可靠行动,我们不能仅仅靠几行代码来约束,我们需要一份跨维度的“公共契约”。这份契约应当包含以下三个核心命题:
1. 身份与委托的清晰化
身份是三位一体的:申请者、Agent客户端、行动业务主体。

