Meta 打造“组织第二大脑”智能体的设计思路

Meta公司推出了其首款个人智能体Muse,旨在通过AI技术捕捉领域专家的逻辑和专业知识,而非仅仅存储文档或检索信息。这一设计思路被命名为“组织的第二大脑”,适用于安全、金融、工程和采购等领域。Muse的构建过程包括一个结构化的知识系统、一个分离推理逻辑的推理管道、一个自动化评估框架以及一个自改进闭环。该方案的独特之处在于将结构化、可审计的知识架构与自改进闭环相结合,能够将专家反馈编译为经过验证、通过回归测试的更新内容,无需重新训练模型。

--91likeyou---

知识系统使用了从 200 多个按严格分类法组织的结构化文件中提炼的专家知识。这些文件包括:立场文件,用于捕获权威的专门知识;分类法与词汇文件,作为实体类型、活动类别、分类层级以及组织内其他术语的词汇表;路由索引,将输入映射到相关文件,不单纯依赖向量嵌入相似度;以及_网关文件_,定义用于确定智能体何时可以安全应用专业知识的校验规则。

推理层采用“配方”来定义智能体应如何分析问题。配方是可组合的,它规定智能体应先检查什么、每一步应加载哪些知识、遵循哪种决策程序,以及如何确定分析何时完成。配方还能够判断故障源于知识缺失,还是推理流程本身存在缺陷。

Meta 这个方案的一个关键特性是在分析中设置预定义检查点,这些检查点需要人工介入控制,并将模糊案例上报给领域专家。当专家发现错误时,无论问题根源是知识缺失、推理程序缺陷,还是专家之间真实存在歧义,修正记录都会被永久记录。

使这个_自改进飞轮_得以实现的关键思想是将机构知识保留在模型权重之外,存储在由显式推理程序访问并经过严格测试的版本控制文本文件中:

专家的修正会被追溯定位到根源,编译为最小已验证修改项,并在审查和落地之前还需通过回放测试和回归测试。随后,每一项修正都会被纳入回归测试套件,因此改进效果是永久性的。

根据 Meta 自身评估,这个利用智能体构建组织专家知识的方法将单项评估所需的时间从数天缩短到数分钟,领域专家认为其输出结果几乎全部具备实用价值。此外,该系统还实现了知识改进的自动化——这些改进过去需要通过工程迭代冲刺才能完成——并且在多个改进周期中实现了零回归。

Meta 这个用于打造可充当组织专家的智能体方案还有大量内容无法在此尽数阐述。如需了解完整细节,请阅读原文。

查看英文原文:

🔥 热词:#agent智能体组成 · #智能体三大模块 · #Meta推出其首款个人智能体Muse · #智能体的构建过程 · #智能体的核心大脑是以下哪项 · #piagent构建智能体 · #是智能体的大脑 · #什么是智能体的大脑