分享

大模型检索增强生成(RAG)高质量报告

 黄爸爸好 2024-03-21 发布于上海

大语言模型的局限性和实际应用面临的问题

图片

RAG指的就是检索相关信息来辅助大模型回答

图片

优化大模型的性能通常可以从提示工程、RAG或者微调入手

图片

RAG对比微调

图片

RAG的应用场景

图片

Naive RAG就是建索引、召回、生成三步走

图片

进阶的做法还会考虑索引优化、召回前后做一些额外处理

图片

模块化RAG考虑了更多更全的模块

图片

三类RAG的对比

图片

做RAG经常考虑的三个问题,召回什么、什么时候召回、如何利用召回的信息

图片
图片
图片
图片

RAG的发展总览

图片

数据索引怎么优化

图片

结构化语料库

图片

对召回的来源进行优化

图片

知识图谱作为召回的数据源

图片

对查询进行优化

图片

对文本嵌入进行优化

图片

对检索的过程进行优化,比如可以迭代召回

图片

还可以把RAG跟微调进行结合

图片

相关研究总结

图片

评价RAG的有效性

图片

一些常用的RAG框架

图片

工业应用

图片

RAG总结

图片

三大趋势

图片存在的挑战

图片

扩展到多模态

图片

生态发展

图片

    本站是提供个人知识管理的网络存储空间,所有内容均由用户发布,不代表本站观点。请注意甄别内容中的联系方式、诱导购买等信息,谨防诈骗。如发现有害或侵权内容,请点击一键举报。
    转藏 分享 献花(0

    0条评论

    发表

    请遵守用户 评论公约

    类似文章 更多