Gemini在大考终于赢了GPT-4o！Jeff Dean连续转发三次！Video-MME首个视频多模态基准来了！

CV君

发布于 2024-06-17 14:08:42

1950

发布于 2024-06-17 14:08:42

近日，中科大、厦大、港中文等高校联合推出多模态大模型视频分析综合评估基准Video-MME，全面评估多模态大模型的综合视频理解能力，填补了这一领域的空白。Gemini 1.5 Pro在这份榜单中遥遥领先，证明其在视频理解领域的霸主地位。Video-MME一经推出，更是被谷歌首席科学家Jeff Dean连续转发了三次！目前已有近30万的浏览量，热度很高。

GPT-4o的伟大已无需多言，而谷歌的Gemini 1.5 Pro作为挑战者，其标榜的视频推理能力终于在全新的、更复杂的多模态基准Video-MME上首次得到了验证，并全面超越了GPT-4o！同时，各大公司以及研究机构，例如NVIDIA、ByteDance等模型也加入了混战：

榜单一经放出，Jeff Dean也在第一时间进行了转发表示称赞，共连续转发了三次。

在先前的研究中，缺少可以全面评估大模型视频推理能力的基准。而在现实世界中，处理视频能力至关重要。为了填补这一空白，来自中科大、厦大，港中文等六大高校的研究者联合推出世界上首个多模态大模型视频分析综合评估基准Video-MME。

论文链接：https://arxiv.org/pdf/2405.21075
项目主页：https://video-mme.github.io
项目仓库：https://github.com/BradyFU/Video-MME

该基准由全人工标注，具有区别于现有数据集显著的特点。在以下的例子中，准确回答该问题需要同时从视觉、字幕以及音频中同时获取信息，有效信息直接横跨30分钟的间隔：

Video-MME具有以下显著特点：

时间维度的广泛性：视频时长从11秒到1小时不等，涵盖短（<2分钟）、中（4-15分钟）、长（30-60分钟）三种不同的视频时长，全面评估模型在不同时间跨度下的上下文多模态理解能力；
数据模态的丰富性：除了视频帧，Video-MME还整合了字幕和音频模态输入，全面评估大模型的多模态处理能力；
视频类型的多样性：覆盖了知识、影视、体育、艺术、生活记录和多语言6个主要领域，涉及30个细粒度子领域；
注释质量的高标准：900个视频，共254小时的内容由具备大模型背景的专业人员手动标注与验证，产生了2,700个问答对。问题类型涵盖感知、认知和总结概括等12种类型；

可靠的有效时长（Certificate Length准确回答问题所需的最短时长）：对于短视频、中视频和长视频，Video-MME数据集的有效时长中位数分别为26.0秒、164.7秒和890.7秒，要求模型消化更长的视频内容才能回答问题；

全面的实验评估：文章选取了6种代表性的开源视频语言模型以及闭源模型Gemini 1.5 Pro和GPT-4V/o进行全面的实验分析。同时文章还选取了基于图片的多模态大模型进行评测（泛化到多图输入），证明其同时适用于图片&视频多模态大模型。

文章选取了多种代表性的开源视频多模态大模型，包括ST-LLM、VideoChat2-Mistral、Chat-UniVi-V1.5、LLaVA-NeXT-Video和VILA-1.5，以及闭源模型Gemini和GPT-4V/o 。同时，基于图片的多模态大模型包括Qwen-VL-Chat、Qwen-VL-Max和InternVL-Chat-V1.5。

在商业模型中，Gemini 1.5 Pro在视频理解方面表现突出，在加以字幕辅助的情况下以81.3%的准确率领先，并在与GPT-4V和GPT-o的对比中分别超出18%和4.1%。尽管随着视频时长增加，其表现略有下降，但在长视频上的表现（加字幕）优于所有开源模型在短视频上的表现。同时，Gemini 1.5 Pro还支持音频模态的输入，模态支持的更广。而在开源模型中，来自NVIDIA的VILA-1.5以59.4%的准确率表现最佳。然而，相比Gemini 1.5 Pro，VILA-1.5在计数问题、动作识别和时间感知方面仍然存在显著差距。