ACL杰出论文奖｜GPT-4V暴露致命缺陷？JHU等发布首个多模态ToM 测试集，全面提升大模型心智能力

aixiv专栏是本站发布学术、技术内容的栏目。过去数年，本站aixiv专栏接收报道了2000多篇内容，覆盖全球各大高校与企业的顶级实验室，有效促进了学术交流与传播。如果您有优秀的工作想要分享，欢迎投, Q O l Z –稿或者联系报道。投稿邮箱：liyazhou@jiqizhixin.com；zhaoyunfO t = F + , Seng@jiqizhy 4 ~ k Z m L % (ixin.com

本文第一作者6 y .为 Chuanyang Jin (金川杨)，本科毕业于纽约大学，即将前往JHU读博。本文为他本科期间在 MIT 访问时的工作，他是最年轻的杰出论文奖获得者之一。本文的指导老师为 Tianmin Shu (舒天民)，JHU 助理教授，Social Cognitive AI Lab 的主任。博士师从UCLA朱松纯教授，在 MIT 完成博后，致力于构建能够在现实世界中理解、推理和与人类互动的社会智能系统，从而推进以人为中_ W & p *心的* 6 g k ( f a AI。本文另外两位指导老师 Joshua B. Tenenbaum、Antonio Torralba 为 MIT 著名教授，google scholar引用量c 6 w均在 10 万以上。

心智能力（Theory of MS x 0 5 bind，ToM），即理解人们思维的能力，是开发具有类人社会智能{ 0 * ^的 AI 模型的重要基础。

近日，来自 JHU, NYU, MIT, Harvard 等机构的研究团队开创了第一个多模态的 ToM 测试基准，发现现有的多模态模型和 LLM 都表现存在系统性缺陷，同时他们提出了一种有效的新方法。在刚结束的 ACL 2024 会议Y J f Z R C – *中，这篇论文获得杰出论文奖。

ACL杰出论文奖｜GPT-4V暴露致命缺陷？JHU等发布首个多模态ToM 测试集，全面提升大模型心智能力

论文标题：MMToM-QA: Mu6 0 r ) w ;ltimodal Theory of Mind Question AnswP A * s S J l . Mering
论文地址: https://arxiv.org/abs/2401.08743
网站: https://chuanU 4 Yyangjin.com/mmtom-qa
代码: https://github.com/chuanI i E [ 3 u vyangjin/MMToM-QA

MMToM-QA

第一个多模态的 ToM benchmark

先前所有心智能力的测试基准都是单一模态的。MMToM-QA 是第一个多模态的心智能力测试基准。其中每个问题包含三部分：一c q .个人的活动视频! U 2 \，环境和人类动作的文字描述与一个| v S 2 r ToM 问题。

此前，大部分的心智能力测试基准都使用较简单的模版，文字或视频的长度很短。MMToM-QA 要求在更长的上下文下，更复杂多样的环境下系统性衡量模型的心智能力。既考察 belief（人们所认为的），也考察Z R R G @ goal（人们的目标）。

ACL杰出论文奖｜GPT-4V暴露致命缺陷？JHU等发布首个多模态ToM 测试集，全面提升大模型心智能力

为了生成这些视频，该团队使用 VirtualHome-Social 模拟器来中生成L A 2 *一系列人物动作，并渲染合成视频。接下来，使用一个模型来跟踪记录在视频的每个时刻中 agent 所t 9 5 G Y l有可能的目标和想法，据此生成k C 5 d s \问题，并使用 GPT-4 生成改进问题的描述。

ACL杰出论文奖｜GPT-4V暴露致命缺陷？JHU等发布首个多模态ToM 测试集，全面提升大模型心智能力

Meta、MIT、CMU、JHU 的众多团队已使用 MMToM-QA 来研发与人合作的大模型、机器人等。

大模型集体翻车

GPT-4V 存在致命缺陷

在 MMToM-QA 上的实验结果显示，当人们可以使用不同模态的信息时，他们理解他x / O J Q X z ) i人的能力会有所提升。在这种多模态条件下，在每个问题上大多数参与者都达成了一致意见，这验证了基准设计的有效性。

ACL杰出论文奖｜GPT-4V暴露致命缺陷？JHU等发布首个多模态ToM 测试集，全面提升大模型心智能力

相比之下，多模态模型和 Lv p \ = P &LM 的表现远不如人y W h !类。它们在所有问题类型上T M o P N表现得像随机猜测一] 0 P L i f h样。唯一的例外是 GPT-4V，当人们的信念与现实3 a 2 Q q n N c一致时它表现良好，但当涉及到7 4 / ? W c \ S t人们持有错误信念或更新信念时，GPTJ ` C & j-4V 会系o p T R y u统性犯错，并且在判断目标时表现较差。

以下是 GPa G _ | ET-4V 的一个失败案例。从视频和文本中可以看出，柜子里没有蛋糕，但女人却朝柜子走去，准备打开它。因此，正确答案应该是「女人认为柜子里有一个蛋糕。」然而，GPT-4V 错误地使用了真实世界的状态来推断女人的7 0 1想法，这表明 GPT-4V 无法* c } J W *区分信念和真实世界状态。

ACL杰出论文奖｜GPT-4V暴露致命缺陷？JHU等发布首个多模态ToM 测试集，全面提升大模型心智能力

BIP-ALM

小模型 + 逆向规划超过 GPT-4V

那么，我们该如何缩小 AI 模型和人类表现之间的差距？

该团队提出了一种新方法：BIP-ALM (Bayesian Inverse Planning Accelerated by Language Models)。该方法首P / w ` | 9先从视频和文字中提取出相同的符号表示，接着对这些表示进行对齐和融合，再使用逆向结合语言模型来推断各种心理状态的概率。

ACL杰出论文奖｜GPT-4V暴露致命缺陷？JHU等发布首个多模态ToM 测试集，全面提升大模型心智能力

以下是融合符号表示的方法。模型将从视e ? m U 3 !频中提I w +取特定时刻的场景关系图，识别人物与物体之间的关系，例如他们正在经过哪些物体或他们正朝哪些物品前进。由于摄像头视角的/ O h q S { 5 ) )限制和遮挡，文本提供了这些可能无法直接从视频中观察的这h y A R y T些信息。

ACL杰出论文奖｜GPT-4V暴露致命缺陷？JHU等发布首个多模态ToM 测试集，全面提升大模型心智能力

贝叶斯逆向规划（Bayesian inverse planning）可以根据观察到的 agent 的行为来推断其心理状态与潜在的信念和目标。先前的研究表明，贝叶斯逆向规划可以在简单情景下成功。然而，当状态空间变得很大时，计算每个可能信念和目标的概率变得非常复杂，导致计算瓶颈。下图中蓝色标出的部分就是一个计算瓶颈。为了加速这一过程，该团队使用了语言模型来估计A – ] \ I } q每个时刻的心理状态的概率。

ACL杰出论文奖｜GPT-4V暴露致命缺陷？JHU等发布首个多模态ToM 测试集，全面提升大模型心智能力

先前的大模型和各种方法无论是在文本、视频、还是多模态版本的 MMToM-F K @QA 上都表现较差，而 BIP-ALM 则展现了较好的结果。论文作者认为 BIP-ALM 得益于：(1) 使用适用于不同模态信息的符号表示，(2) 模仿人类心智推理的逆向规划方法具有很强的鲁棒性和可解释性，(3) 语言模型具有很好的灵活性和可扩展性。

后续工作

走向多智能体的多模态心智模型= f = + ~ G R a T

该团队提出了后续研究 MuMA-ToM: Multi-modal Multi-Age0 t { J 5nt Theory of Ma $ G X t n W = ,ind，将 MM* 4 \ N X j ,ToM-QA 的测试基准和方法拓展到了多个智能体的领域。

ACL杰出论文奖｜GPT-4V暴露致命缺陷？JHU等发布首个多模态ToM 测试集，全面提升大模型心智能力

论文标题：MuMA-ToM: Multi-mod$ b sal Multi-Agent Theory of Mind
论文地址: httpu 9 1 y ys://arxiv.org/abk L &s/2408.12574
网站: https://scai.cs.jhu.edu/projects/MuMA-ToM
代码:^ k Y https://github.com/SCAI-JHU/MuMA-ToM

MuMA-ToM 关注多智能体的互动，考察它们的信念、社会目标、和对他人目标的信念，发现大型多模态o E K g x ,模型 GPT-4o、Gemini-1.5 Pro 等依然表现糟糕。针对这些发现，研究团队进一步提出了改进的方法 LIMPz e ? v (Language model-based Inverse Mub [ \ * W }lti-agent Planning)。相比之前的方法，LIMP 使用自然语言而不是符号表示来提高通用性，并且能够利用任何预训练的大型E 2 6语言模型，而 BIP-ALM 则要求开放权重的大型语言模型。

ACL杰出论文奖｜GPT-4V暴露致命缺陷？JHU等发布首个多模态ToM 测试集，全面提升大模型心智能力

以上就是ACL杰出论文奖｜GPT-4V暴露致命缺陷？JHU等发布首个多模态ToM 测试集，全面提升大模型心智能力的详细内容！

百度未收录

本文由【好易之】整理自网络！
原创文章，作者:【好易之】如转载请注明出处：https://www.zhengjiaxi.com/zxwd/itzx/117368.html
如有侵权，请邮件联系 aoduoye@qq.com 删除。
本站发布的文章及附件仅限用于学习和研究目的;不得将上述内容用于商业或非法用途，否则后果请用户自负。
本站信息来自网络，版权争议与本站无关。您必须在下载后的24个小时之内，从您的电脑中彻底删除上述内容。
如果您喜欢该程序，请支持正版软件，购买注册，得到更好的正版服务。如有侵权请邮件与我们联系处理。