搜索 猫眼电影 融媒体矩阵
  • 山东手机报

  • 猫眼电影

  • 大众网官方微信

  • 大众网官方微博

  • 抖音

  • 人民号

  • 全国党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

迎接「万物皆可RAG」时代:最新综述展示50多种多模态组合

2025-12-23 05:16:26
来源:

猫眼电影

作者:

李开周

手机查看

  猫眼电影记者 蔡宝磊 报道首次登录送91元红包

大模型最广泛的应用如 ChatGPT、Deepseek、千问、豆包、Gemini 等通常会连接互联网进行检索增强生成(RAG)来产生用户问题的答案。随着多模态大模型(MLLMs)的崛起,大模型的主流技术之一 RAG 迅速向多模态发展,形成多模态检索增强生成(MM-RAG)这个新兴领域。ChatGPT、千问、豆包、Gemini 都开始允许用户提供文字、图片等多种模态的输入。

然而,目前对于 MM-RAG 的应用和研究都还处于非常初级的阶段,现有的 MM-RAG 研究以及综述论文主要聚焦于文本和图像等少数模态组合;音频、视频、代码、表格、知识图谱、3D 对象等多种模态的组合均可用于检索增强生成,却仅有很少的探索和研究。这使得研究者和开发者难以全面把握 MM-RAG 的技术脉络和广阔的应用空间。

来自华中科技大学、复旦大学、中国电信、美国伊利诺伊大学芝加哥分校的研究者们共同发布了一篇全面覆盖几乎所有模态作为输入和输出组合的MM-RAG综述来全面且系统化地阐述这个广阔的研究和应用空间。

论文标题:A Comprehensive Survey on Multimodal RAG: All Combinations of Modalities as Input and OutputTechRxiv: https://doi.org/10.36227/techrxiv.176341513.38473003/v2GitHub 项目主页: https://github.com/INTREBID/Awesome-MM-RAG

该论文的最大亮点在于其前所未有的广度:

它首次覆盖了几乎所有可能使用的模态组合作为输入和输出,包括文本、图像、音频、视频、代码、表格、知识图谱、3D 对象等。

通过这种全面的梳理,作者们首先揭示了 MM-RAG 领域中庞大的潜在输入 - 输出模态组合空间,并指出了其中尚未被充分探索的空白(如表 1 所示)。在作者提出的 54 种潜在组合中,目前只有 18 种组合存在已有研究(表 1 中绿色对勾的格子),许多极具应用价值的组合 —— 例如 “文本 + 视频作为输入,生成视频作为输出”—— 仍是一片亟待开拓的蓝海。

表 1:基于输入 - 输出模态组合的 MM-RAG 分类法

在此基础上,作者们构建了一个基于输入 - 输出模态组合的全新 MM-RAG 分类法,不仅系统性地组织了现有研究,还清晰展示了不同 MM-RAG 系统的核心技术组件(如表 2 所示),为后续研究提供了统一框架和方法参考。

表 2不同输入输出模态下多模态 RAG 的核心技术组件、任务和应用

四大关键阶段剖析 MM-RAG 工作流

基于这个新的分类法,该综述深入分析了MM-RAG系统的工作流程,并将其划分为四个关键阶段(如图 1 所示):

图 1 MM-RAG 的工作流

a)预检索 (Pre-retrieval): 数据组织和查询的准备工作。

b)检索 (Retrieval): 高效准确地从海量多模态知识库中找到相关信息。

c)增强 (Augmentation): 将检索到的多模态信息有效地融入到大模型中。

d)生成 (Generation): 根据输入和增强信息生成高质量的多模态输出。

论文详细总结了每个阶段的常用方法,并讨论了对于不同模态针对性的优化策略,为构建高性能的MM-RAG系统提供了实用的技术指导。

一站式指南:

训练、评估与应用前瞻

除了技术流程,该综述还提供了构建 MM-RAG 系统的一站式指南:

训练策略: 讨论了 MM-RAG 系统的训练方法,以最大化其检索和生成能力。评估方法: 总结了现有的MM-RAG 评估指标和 Benchmark,帮助研究者评估系统性能。应用与未来: 探讨了 MM-RAG 在多个领域的潜在应用,并指出了未来的重要研究方向。

作为首个覆盖所有常见输入 - 输出模态组合、并系统化解析了 MM-RAG 的工作流、组件、训练、评估等核心技术的综述,该论文不仅为研究者提供了索引式的知识入口,也为产业应用提供了全面的技术参考。论文作者还提供了持续更新的资源库,方便读者追踪最新进展。

 时事1:凤凰彩票网平台

  12月23日,“中医万里行”公益活动走进贵州毕节 为民众解决慢病迫切需求,首都经济贸易大学京津冀房地产研究院院长、北京市房地产法学会副会长兼秘书长赵秀池持相近态度。她告诉记者,从计量口径上取消公摊,会导致整套房的住房面积减少,而房屋总价不会发生变化,因此总价不会改变,以住房面积计量的单价会上涨。,体育足球bet。

  12月23日,中国驻菲律宾使馆外交官祭奠抗日英烈,通过天眼查查询,汪绪金、张青莲、汪文燕的营业执照,分别登记于2011年8月、2012年6月1日。,斗牛游戏上分,365bet体育官网APP,必赢网站网址多少。

 时事2:凯时官方娱乐

  12月23日,国际编号336877号小行星被命名为“戚发轫星”,斯诺登还发文暗指美国政府说:“整个系统围绕这样一个想法,即只要经常大声重复,就可以让大多数人相信。而且这样做奏效了。”,大满贯麻将,完美国际休闲俱乐部,ag九游会官网网址。

  12月23日,中国绿色低碳发展释红利 机遇共享通世界,德国汽车工业协会也认为,现在宣布的这些措施不会解决欧洲和德国汽车产业面临的挑战。相反,欧委会征收反补贴税的意图在贸易冲突中可能很快产生负面影响,重点必须放在欧洲作为工业基地的吸引力和竞争力上。这是成功转型和在国际竞争中占据领先地位的最佳前提。因此,需要积极的工业战略,包括积极的贸易政策。,可以玩斗牛的游戏,线上真钱彩票,万博官网手机网页。

 时事3:线上游戏直营

  12月23日,天问三号载荷“激光外差光谱仪”研制启动,英国《金融时报》指出,土耳其这次“百年一遇”的大地震或进一步影响即将在5月中旬举行的总统及国会选举。灾难发生前,土耳其就面临着严重的通货膨胀、经济危机,执政近20年的埃尔多安声望有所下降。今年早些时候,该国六个反对派政党首次组成“六方圆桌”联盟,承诺要逆转埃尔多安的多项经济政策,收紧货币政策,并恢复央行的独立性。,pg电子免费版,完美世界电竞平台,亚洲彩票下载平台。

  12月23日,第十一届集美·阿尔勒国际摄影季开幕,孔杰:男,1975年12月出生。2018年4月加入国任保险,先后任国任保险湖南分公司党委书记、总经理,国任保险贵州分公司党委书记等职务。2025年5月27日起任总裁助理。曾任阳光财险湖南省分公司总经理助理、西藏分公司副总经理(主持工作)、湖南省分公司副总经理。,必发集团游戏平台,188体育足球即时比分,线上赌博官网。

 时事4:天博app手机在线

  12月23日,“00后”中国青年行走黄河畔 剪刀声里觅传承,[环球网报道]据台湾《联合报》报道,岛内不仅鸡蛋价格上涨,台“农委会”畜产行情资讯网显示,生猪交易价格每公斤已破90元(新台币,下同,约合20.15元人民币),也创历史新高。随着夏天供应吃紧,日后交易价恐破百元新台币。有养猪业者称,饲料价格暴涨一倍长达一年多,猪农都快撑不住,现在涨价只是反映成本,若民进党当局再打压价格,到时候猪农都不养猪了,大家不仅没鸡蛋吃,也会没猪肉吃。,银河娱乐场苹果app,真钱二八杠网站,188宝金博全站APP。

  12月23日,千万粉丝网红办展,4斤重黄金凤冠被男童损毁,在文章最后“战区”栏目强调,在未来任何高端冲突中,太空都很可能成为战场,比如美国和中国之间的冲突。无论如何,LeoLabs公司的数据为中国反卫星能力不断增强的能力提供了新的证据。,188亚洲体育官网,真人百人牛牛,永利轮盘登录。

责编:秦龙

审核:朱全忠

责编:卢力

相关推荐 换一换