AI 智能体的核心概念
AI 智能体的核心概念
AI 智能体已经从被动聊天机器人发展为能够推理、使用企业工具和执行复杂工作流的自主系统。
为了充分发挥其巨大潜力，并从实验性应用场景和原型转向能够推动实现可衡量投资回报率的强大企业级系统，了解智能模块会有所帮助。在此，我们将分解 AI 智能体的核心概念，包括：
- 模型：智能体用来思考的推理引擎
- 接地：知识库，成为事实准确性和知识检索的机制
- 工具：用于执行任务的已定义功能，决定了智能体可以做什么
- 数据架构：智能体存储记忆和数据的位置
- 编排：智能体如何规划多步骤任务并连接所有部分
- 运行时：智能体运行和大规模执行的环境
模型
您可以将模型视为智能体的“大脑”。它能读取并理解您的请求，确定需要执行的操作，并生成智能回答。
选择合适的模型需要根据您的应用场景，在功能、速度和成本之间取得平衡。目标不是最大限度地提高原始功率，而是优化效率。最常见的错误是，在应用场景不需要时过度投资于功能，导致支出效率低下，性能提升缓慢。
强大的认知架构采用多个专业化智能体，这些智能体可以动态选择最精简的模型来处理特定的子任务。这就像拥有一个专家团队，可以根据任务智能地将工作路由给不同的专家。例如，强大的模型用于处理复杂的规划和推理等繁重任务，而分类用户意图等更简单、批量大的任务则路由到更快、更经济的模型。这种动态模型路由是优化性能和成本的关键。
通过提供丰富的模型供选择，以及可配置的推理模式，开发者可以获得一套动态的优化工具，实现精细的优化。这一切都有助于他们根据特定的业务和技术需求，调整整个多智能体系统的成本和性能。
选择满足成本、延迟时间和质量需求的模型后，您可能可以选择对模型进行微调。这会根据您的特定业务需求来专门定制知识和风格，并且使用您自己精选的高质量示例数据集来完成。如需了解模型是否允许并支持微调，请查看其文档和许可协议。
专业提示
使用集中式平台来发现、自定义和部署基础模型。寻找一个提供精心挑选的全球最佳模型、支持一键部署并从一开始就提供企业级安全保障的平台。
落地
智能体的可信度和实用性取决于其根据可验证的事实提供准确、可信答案的能力。这就是接地发挥作用的地方。它将智能体转变为真正的工作流自动化工具，能够根据您的业务数据进行深入而准确的接地。
在接地方面，有三个层面需要考虑。
1. RAG：基础的第一步
智能体的可信度取决于其能否根据可验证的事实提供答案。检索增强生成 (RAG) 将智能体连接到可验证的实时数据源，从而确保智能体基于真实信息而非幻觉采取行动。
这种简单的检索并生成流程可应用于文本、图像和其他类型的数据。它能够以极快的速度搜索海量数据集，从而帮助企业及时做出响应决策。
虽然 RAG 可以帮助回答问题，但对于需要深入了解数据点之间关系的复杂查询，它就显得力不从心了。
2. GraphRAG：更智能的接地
GraphRAG 通过理解知识图谱中数据点之间的显式关系来丰富接地，并检索能够更好地反映其与其他数据源之间互连的情境数据。因此，您的智能体不仅能匹配相似的短语，还能理解概念之间的关系。
重要的是，知识图谱让您可以直接控制业务逻辑。标准 RAG 依赖于模型生成的模式，而知识图谱允许您定义和管理实体之间的特定关系，从而确保智能体遵循您组织特有的分类法和规则。为了获得最大的可靠性，领先的组织会采用混合方法，将标准 RAG 的广泛检索与 GraphRAG 的精确性和控制力相结合。
应用场景
以结构化视图呈现来自不同来源的数据
金融服务公司使用知识图谱为分析师提供分析师报告、财报电话会议、风险评估等信息的统一视图。这种丰富且相互关联的数据网络有助于分析师发现以前隐藏的洞见，例如复杂的供应链依赖关系、竞争对手之间重叠的董事会成员，以及面临复杂地缘政治风险的情况。
3. 智能体式 RAG：动态推理和检索
接地最有效的方法是 Agentic RAG，在这种方法中，智能体不再是被动的信息接收者，而是检索过程本身中积极推理的参与者。借助智能体 RAG，智能体可以分析复杂的查询，制定多步骤计划，并按顺序执行多个工具调用，以找到尽可能最佳的信息。这并不是传统搜索的替代方案，而是在现有 RAG 和知识图谱基础设施的基础上叠加了高级推理功能，用于解决多跳查询。
这种感知和推理不同数据类型的能力使智能体从数据处理器转变为问题解决工具，能够以更完整的方式理解世界并与世界互动。通过让智能体成为积极推理的参与者，开发者可以构建能够执行复杂的多步骤查询和长时程任务的系统，从而定义新一代智能体功能。
专业提示
使用“检索并重排序”方法
使用“检索并重排序”方法，在召回率（找到所有相关文档）和准确率（确保检索到的文档相关）之间进行权衡，该方法会扩大召回范围，以检索比所需数量更多的文档。这个更大的集合会传递给 LLM 或专门的重排序服务，由它们来识别最相关的文档，并舍弃任何不相关或语义相反的文档。
Note
微调不是接地。微调可以调整模型的风格，并完善模型在特定任务方面的知识。接地机制可将模型连接到实时、可验证的数据源，确保其回答符合事实。
工具
工具是已定义的功能，可让智能体执行超出其核心推理模型原生功能的操作。从执行简单的内部计算到使用 API 调用与外部系统互动，工具弥合了智能体的推理能力与行动能力之间的差距。由于接地是智能体检索新信息的主要方式，因此从技术上讲，它是智能体工具包中最基础的工具。
工具包括：
- 内部函数和服务：由您自己的团队编写的专有逻辑或专用代码，用于解决特定业务问题。
- 外部 API：与第三方服务建立安全连接，让智能体能够在现实世界中执行任务。
- 数据检索和接地：能够动态查询数据库（包括自然语言到 SQL）、搜索向量存储区或访问企业知识库。无论是简单的搜索还是复杂的数据库查询，这些工具都能确保智能体的操作基于可验证的数据。
- 智能体协作：在更复杂的系统中，一个智能体可以与另一个专业智能体协作来解决问题。虽然智能体可以作为特定任务的“工具”，但最强大的企业系统会将智能体视为协作者，让它们安全地协调不同领域的操作。
数据架构
智能体使用不同类型的记忆来完成不同的任务。稳健的企业数据架构必须满足三种不同的需求：用于长期知识检索的永久性存储、用于短期对话上下文的低延迟访问，以及用于事务审核的持久账本。
1. 长期知识库（接地和记忆）
长期记忆是智能体智能、接地和个性化的基础，与实时对话的快速短期上下文不同。其架构包含三个核心组件：
- 用于基于事实的检索增强生成 (RAG) 的结构化知识库
- 用于存储提炼后的用户记忆的永久性存储区。该智能体不会存储所有历史互动，而是生成并存储有关用户、团队或任务的显著事实，从而实现持续的个性化体验
- 一个用于存储原始材料（如对话转写和工作流状态）的运营数据湖，可实现更复杂的认知流程和未来的分析
应用场景
获取所有相关信息
法律智能体即时检索案例法、内部政策文件和培训手册，生成符合法律要求的合同初稿。
2. 工作记忆（对话上下文和短期状态）
这一层管理正在进行的任务或对话所需的瞬态信息（LLM 上下文窗口）。为了保持响应迅速的用户体验，它必须为正在进行的迭代操作和观察序列提供极低的延迟访问。
应用场景
进行有帮助的对话
客户支持人员会维护多步问题排查流程的状态，记住用户之前提供的序列号或诊断步骤，以避免重复。
3. 事务性内存（状态管理和操作审核）
这一层负责以强一致性和完整性记录操作和状态变化。它充当持久的记录系统，这从安全角度来看至关重要，并且可以为每个智能体驱动的操作提供不可否认的审核跟踪。
应用场景
维护持久的账本
供应链智能体记录复杂的多方采购订单的成功执行情况，从而确保交易在整个财务系统中得到永久跟踪和验证。
编排
编排是指导智能体完成多步骤任务的运营核心。对于需要执行多个操作的任何流程，它会确定需要哪些工具、这些工具的执行顺序，以及如何组合这些工具的输出以实现最终目标。
作为智能体的执行功能，编排是创建可自动化复杂业务流程的复杂系统的关键利用该功能，您可以解决以前在技术上不可行的问题，最终解锁新一类应用和用户体验。
一种常见且有效的编排模式是 ReAct（推理 + 行动）。该框架协同大语言模型的推理和行动能力，建立了一个动态的多轮循环，模型在其中以交错的方式生成推理轨迹（想法）和特定于任务的操作。
借助 ReAct，推理过程可帮助模型跟踪和更新行动计划，而行动过程则可从外部工具收集信息，为推理过程提供依据。具体操作过程如下：
- 原因：智能体评估目标和当前状态，形成关于下一步最佳行动的假设，并确定是否需要使用工具。
- 行动：智能体选择并调用适当的工具。
- 观察：智能体接收来自工具的输出。这些新信息会整合到智能体的上下文中，并为循环的下一个“推理”步骤提供依据。
应用场景
跨部门 HR 自动化
为了让新员工顺利入职，该智能体需要跨多个系统按顺序执行操作。首先，它会在系统中创建员工记录；然后，它会触发对 IT 智能体的 API 调用，以预配硬件和网络凭证；最后，它会将员工注册到所需的区域合规性培训模块中。
主动修复供应链
为了自动检测和解决运输中断问题，系统会编排一个智能体来执行关键步骤。首先，监控提醒触发一个工具来查询替代供应商。然后，它运行一个模拟工具，计算更换供应商与延迟发货的成本效益。最后，如果获得人机协同 (human-in-the-loop) 的批准，它会执行操作，向物流智能体提交新的采购订单。
运行时
如需将功能性智能体原型大规模部署到生产环境中，您需要一个强大的运行时基础设施，并集成一个连贯的服务系统，用于接地、工具、内存、会话等。这可确保您的智能体能够在安全、高性能的生态系统中运行，从而能够应对全球企业发展带来的复杂需求。
生产级运行时环境需要：
可伸缩性：基础设施必须能够自动扩缩，以处理从零到数百万个请求的各种负载。其中包括基于请求的负载均衡和基于资源的自动扩缩，可有效管理计算需求。
安全性和控制：平台必须提供安全执行环境，管理用户和智能体的身份、组织政策、工具和智能体注册表、网络访问控制以及安全通信渠道（例如 TLS），以保护智能体及其访问的数据。
可靠性和可观测性：系统必须包含错误处理和持续监控的机制。对于复杂的调试，运行时必须捕获高保真执行跟踪记录，即智能体推理和工具调用的分步记录。这会公开决策的整个轨迹，让您的团队能够在发生意外故障时明确回答“为什么？”。为了实现高层监督，系统必须包含任务完成情况和用户反馈等指标。通过模拟和评估实现自动化，让您在部署到生产环境之前和之后都能充满信心。
