潘德成博客
潘德成

Build in public , Know by doing.

AI Agent 大爆发

今天来聊聊 AI Agent。

首先,我们先弄清楚AI、大模型、LLM 这三个概念的区别。在日常的沟通中,这三个名称经常混着用,我自己在很多时候也拿不准要用哪个。AI 是最大的范畴,普通人都能理解。大模型是多个AI技术路线中的一个,而LLM则是大模型中最主流的一种具体形态。从包含关系上来看,AI > 大模型 > LLM。

今天我们要聊的 AI Agent 则是以LLM为大脑,再加上Context 和 Harness 构建出来的任务系统。从这个定义的内容来看,一个成熟的AI Agent需要具备三个要素:一是有推理和决策能力的模型;二是精心组织和动态更新的上下文;三是一个能稳定执行、反馈、纠错的运行闭环。

我看好多人都把网页版AI认为就是大模型本身。其实并不是,网页版AI是个有状态的 Chatbot 应用,它本质上是个有记忆的多轮对话系统。它会在每次有新输入时,都会把历史对话一并重组之后发给模型去处理。模型本身没有记忆功能,对模型来说每次对话都是一个全新的问题。

在大模型刚出来的时候,写好提示词是用好AI的前提条件。谁的提示词写得好,AI给出的结果也就越好。随着大模型的能力增强,可以一次性处理特别长的文本。处理复杂任务时,只靠手写提示词已经完全不够用了。

Context 工程的概念出来之后,它就用来重组信息,并塑造模型的行为。Context的来源有系统指令、对话历史、RAG、记忆、工具反馈和当前输入。信息的组织方式有五个步骤,分别是选择、排序、压缩、格式化和动态拼装。

看起来有点复杂哈!其实,Context 本质上是在有限 Token 预算内,围绕任务目标,动态组装信息与行为约束,让模型看到该看的、按该做的方式行动,并与记忆和状态保持读写闭环。

Harness 出来之后,大模型才具备长时间执行复杂任务的能力。Harness 的中文翻译有马具的意思。应用到AI的场景中,像是给一匹能力很强但不受控的马,套上马具,让它拉磨。

Harness 是Agent的调度系统,它具有分配工具调用权限、执行操作、记录任务状态、处理异常、自主重试、动态重规划、校验任务结果、判断终止时机等能力。

现在各家大模型公司都越来越重视 AI Agent了,例如腾讯的 WorkBuddy、字节的豆包工作、阿里的千问办公等。 大厂们都在砸重金做推广自己的Agent,创业者也在开发垂直领域的Agent。有点Agent大爆发的迹象了。

标签:

#随笔