likes
comments
collection
share

又一大模型技术开源!有道自研RAG引擎QAnything正式开放下载

作者站长头像
站长
· 阅读数 5

很开心和大家宣布,我们自研的知识库问答引擎QAnything正式开源!

除了可以调用云端大模型服务,还支持纯本地部署,大家可免费在开源社区Github内进行下载(地址:github.com/netease-you…)一键部署即可使用!系统支持word、ppt、excel、pdf、图片等多种文档格式,直接导入进去即可像"ChatGPT"一样问答。

如果你有大量的文档需要问答,又对隐私比较关心,且有个带Nvidia显卡(推荐3090及以上)的电脑,都可以下载QAnything使用哦~

又一大模型技术开源!有道自研RAG引擎QAnything正式开放下载

(QAnything 系统架构图)

QAnything的主要原理是基于检索增强的生成(Retrieval Augmented Generation,简称RAG)。RAG是目前很火的一种技术框架,它能够利用检索外部内容的方式增强大语言模型的准确度、专业能力和个性化等各方面的性能。

通用大模型能力很强,但无法使用用户的私有数据,且存在胡乱编造的幻觉问题。而QAnything作为有道自研的RAG引擎,结合了用户私有数据和大模型的优势——用户的任何内容,以任意的形式存在,比如各种格式的文档,音频,数据库等,都可以在QAnything的支持下,变成可以针对其内容进行问答的使用方式,通过这个技术框架用户可以很方便地搭建自己的智能知识助手。正如它的名字一样,Q是question,A是answer,QAnything的目标就是万物皆可问!

以日常的文件处理为例,QAnything会理解用户的意图,在全库中寻找相关的内容,理解、提取用户关心的要点,并加以总结后呈现给用户👇

(QAnything 演示)

值得一提的是,本次我们开源的QAnything是一套完整的RAG系统,包括专门优化的自研的embedding和rerank模型,微调后的LLM,优化后的推理代码,向量数据库,以及一个立即上手可用的前端。所有的算法模型(包括7B大模型+embedding/rerank+OCR)占用显存不超过16G。

如今,QAnything已在我们的多个产品中应用,包括有道翻译文档问答、有道速读及有道内部业务的客服系统等。

以子曰教育大模型最新应用成果——有道速读read.youdao.com/)为例,目前该功能已上线在有道翻译中。相信大家在日常生活中都面临非常多的阅读文档的需求,有的时候是观其大略,有的时候是精读,或者是查询一个具体的信息。而针对这些需求,有道速读上线了文档问答、文章摘要、要点解读、引文口碑和领域综述五大功能,能够帮大家更快更准地获得信息和对文档的理解。

而它背后的驱动,就是我们自研的RAG引擎QAnything。在大模型技术的加持下,用户能够实现快速理解文档、定位要点,帮助你1分钟读完万字长文!

又一大模型技术开源!有道自研RAG引擎QAnything正式开放下载

借此机会,我们也邀请您了解和探索我们的更多酷炫的AI应用👇

有道自研的真人数字人(点击即可跳转),只要几分钟数据即可定制形象和音色,真假难辨。通过和Qanything结合,有道数字人可以用于客服、大屏交互、直播等各种场景。

  • 有道智云体验中心

有道智云体验中心(点击蓝字即可跳转),在这里可以访问我们已经对开发者通过API等形式开放的文本和图像翻译、文字和各类图片识别、作文批改等各类AI技术。

目前,QAnything项目还在不断迭代,欢迎大家参与开发,并给予我们更多反馈。我们希望能帮助有需要的开发者们,和更多伙伴一起推动大模型的落地!

又一大模型技术开源!有道自研RAG引擎QAnything正式开放下载

关于有道智云 

有道智云AI开放平台,是网易有道旗下一站式人工智能服务提供商,为开发者、企业和政府机构等提供自然语言翻译、文字识别、OCR、语音识别等服务以及行业解决方案,致力于提供安全、可靠和高效的云服务。 联系电话:010-8255-8901;商务合作:AIcloud_Business@corp.youdao.com.

想了解更多关于有道人工智能的内容,可访问“有道智云”官网👉ai.youdao.com.

转载自:https://juejin.cn/post/7324736507016396826
评论
请登录