猫眼电影
猫眼电影记者 库尔温达 报道首次登录送91元红包
大模型最广泛的应用如 ChatGPT、Deepseek、千问、豆包、Gemini 等通常会连接互联网进行检索增强生成(RAG)来产生用户问题的答案。随着多模态大模型(MLLMs)的崛起,大模型的主流技术之一 RAG 迅速向多模态发展,形成多模态检索增强生成(MM-RAG)这个新兴领域。ChatGPT、千问、豆包、Gemini 都开始允许用户提供文字、图片等多种模态的输入。
然而,目前对于 MM-RAG 的应用和研究都还处于非常初级的阶段,现有的 MM-RAG 研究以及综述论文主要聚焦于文本和图像等少数模态组合;音频、视频、代码、表格、知识图谱、3D 对象等多种模态的组合均可用于检索增强生成,却仅有很少的探索和研究。这使得研究者和开发者难以全面把握 MM-RAG 的技术脉络和广阔的应用空间。
来自华中科技大学、复旦大学、中国电信、美国伊利诺伊大学芝加哥分校的研究者们共同发布了一篇全面覆盖几乎所有模态作为输入和输出组合的MM-RAG综述来全面且系统化地阐述这个广阔的研究和应用空间。
论文标题:A Comprehensive Survey on Multimodal RAG: All Combinations of Modalities as Input and OutputTechRxiv: https://doi.org/10.36227/techrxiv.176341513.38473003/v2GitHub 项目主页: https://github.com/INTREBID/Awesome-MM-RAG
该论文的最大亮点在于其前所未有的广度:
它首次覆盖了几乎所有可能使用的模态组合作为输入和输出,包括文本、图像、音频、视频、代码、表格、知识图谱、3D 对象等。
通过这种全面的梳理,作者们首先揭示了 MM-RAG 领域中庞大的潜在输入 - 输出模态组合空间,并指出了其中尚未被充分探索的空白(如表 1 所示)。在作者提出的 54 种潜在组合中,目前只有 18 种组合存在已有研究(表 1 中绿色对勾的格子),许多极具应用价值的组合 —— 例如 “文本 + 视频作为输入,生成视频作为输出”—— 仍是一片亟待开拓的蓝海。
表 1:基于输入 - 输出模态组合的 MM-RAG 分类法
在此基础上,作者们构建了一个基于输入 - 输出模态组合的全新 MM-RAG 分类法,不仅系统性地组织了现有研究,还清晰展示了不同 MM-RAG 系统的核心技术组件(如表 2 所示),为后续研究提供了统一框架和方法参考。
表 2不同输入输出模态下多模态 RAG 的核心技术组件、任务和应用
四大关键阶段剖析 MM-RAG 工作流
基于这个新的分类法,该综述深入分析了MM-RAG系统的工作流程,并将其划分为四个关键阶段(如图 1 所示):
图 1 MM-RAG 的工作流
a)预检索 (Pre-retrieval): 数据组织和查询的准备工作。
b)检索 (Retrieval): 高效准确地从海量多模态知识库中找到相关信息。
c)增强 (Augmentation): 将检索到的多模态信息有效地融入到大模型中。
d)生成 (Generation): 根据输入和增强信息生成高质量的多模态输出。
论文详细总结了每个阶段的常用方法,并讨论了对于不同模态针对性的优化策略,为构建高性能的MM-RAG系统提供了实用的技术指导。
一站式指南:
训练、评估与应用前瞻
除了技术流程,该综述还提供了构建 MM-RAG 系统的一站式指南:
训练策略: 讨论了 MM-RAG 系统的训练方法,以最大化其检索和生成能力。评估方法: 总结了现有的MM-RAG 评估指标和 Benchmark,帮助研究者评估系统性能。应用与未来: 探讨了 MM-RAG 在多个领域的潜在应用,并指出了未来的重要研究方向。
作为首个覆盖所有常见输入 - 输出模态组合、并系统化解析了 MM-RAG 的工作流、组件、训练、评估等核心技术的综述,该论文不仅为研究者提供了索引式的知识入口,也为产业应用提供了全面的技术参考。论文作者还提供了持续更新的资源库,方便读者追踪最新进展。
时事1:看世界杯比赛的网站
12月25日,外贸一线观察 广东:共建“一带一路”国家订单增长明显,在加入国任保险之前,邓可的职业生涯长期在阳光保险集团度过,积累了从地方到总部、从前线销售到后台运营的全面经验。,体育平台网址谁有。
12月25日,《中国对外开放报告(2025)》在对外经济贸易大学发布,谈到任职港交所董事会主席期间让史美伦最深刻的时刻,便是参与30年前H股上市。H股指内地注册、香港上市的中资企业股票,而H股的历史性推出为香港成为一个国际化的市场奠定了坚实基础。,纬来体育官网App下载,金沙bb电子手机端,老宝马娱乐世界顶级。
时事2:新濠天地棋牌游戏网址
12月25日,专家:湿度并非越高越好,加湿器使用时注意5个关键细节,据中国证券报,市场人士表示,此次深沪两所召开上市委会议,是落实发行上市新规,持续平稳推进发行上市审核的具体体现。,云顶娱乐手机版本登录,皇冠在线官网,金沙棋牌js6666。
12月25日,“AI泔水”成年度热词,带来什么警示,中方敦促日方从双边经贸关系大局出发,及时纠正错误做法,共同维护全球产业链供应链稳定,中方将采取必要措施,坚决维护企业正当权益。,澳门十大正规平台网站,立博官方网址,必博注册App。
时事3:ku娱乐网站
12月25日,北京石景山街道实现社区法援服务全覆盖,中国足球下落的速度,大概和辽宁足球的衰落是一致的。辽足解散后,辽宁再无中超球队,只有几支中甲球队苦苦支撑。本赛季,沈阳奥体中心作为辽宁铁人主场,如今辽宁铁人联赛排名倒数第四。,百度博雅德克萨斯扑克下载,银河网址注册,世界杯买球用什么软件。
12月25日,【央广时评·坚定信心②】苦练内功 应对外部挑战,2018年7月,经原银保监会批复,两江金融将其4亿股股份转让给联美量子,两江金融退出,联美量子持股5.8亿股,比例上升至19.333%,为历年来国任保险民营股权最大占比。,金沙官网手机网,世界杯买球予fc3典tv,kok外围官网。
时事4:亿博体育在线开户
12月25日,航拍印尼苏门答腊岛洪灾,“佛山大学”的诞生,意味着继广州、汕头、深圳之后,佛山也终于如愿拥有了以城市命名的大学。同时“升本更名”成功的肇庆医专,则成为广东目前唯一一所以“医学院”命名的高校,也是继湛江的广东医科大学之后,非广州地区又一所医学本科高校。,正规网投平台百老汇,半岛官网链接,下载送38元彩金平台。
12月25日,国内首次!夏尔希里自然保护区发现菊科新物种“橙黄细毛菊”,决心虽坚,但挑战也不小。中信建投面临的首要问题就是缺少鸿蒙开发人才,而鸿蒙团队也迅速响应、提供了诸多支持,为中信建投开发团队组织专项培训,帮助他们用时三个月就推出了首个Beta版本,跑出了传统金融业拥抱新生态的“鸿蒙速度”。,正规买球app,云顶集团网站,现在最正规的娱乐平台。
责编:文一云
审核:靳总理
责编:盖煜












