以“RAG+向量数据库”打法支撑生成式AI有效落地 伊克罗德信息与墨奇科技战略合作

【】4月7日消息，近期，伊克罗德信息与墨奇科技正式官宣双方达成战略合作，合作旨在通过双方的AI大模型领域的技术融合和创新力量，推动前沿科技的快速发展。双方将利用大语言模型LLM、向量数据库构建生成式AI应用解决方案，再通过RAG提升性能并降低模型成本，进而加速以大模型为基础的生成式AI的落地应用。

大模型热潮已经涌动一年多，在这期间，越来越多的企业将目光聚焦在了将大模型技术落地、用生成式AI解决具体问题、提升效率上。

作为亚马逊云科技全球核心级合作伙伴，伊克罗德信息拥有10年云服务经验，服务全球企业数千家，客户横跨互联网、媒体、游戏、电商零售、制造、汽车、金融科技、社交应用等行业。伊克罗德信息执行长黄国华表示，目前企业落地生成式AI的主要挑战有：第一、算力能力有限，限制技术落地；第二、开发成本高，商业化回报有限；第三、商业化场景、产品、服务模糊；第四、企业用好生成式AI会碰到人才短缺的挑战。

伊克罗德信息将携手墨奇科技、亚马逊云科技解决最后三公里的工程化挑战。其解决方案架构师、生成式人工智能专家和客户一起寻找场景、打磨算法、构建产品原型、寻找技术解决方案，致力于与更多企业客户、初创企业在生成式AI这个领域合作共赢。

墨奇科技打造了旗舰产品SQL向量数据库MyScale，它是一种新型AI数据库，统一的方式来表示和处理非结构化数据和 AI 知识数据，在复杂查询的性能和性价比上具有优异表现。

向量数据库专门用来存储、管理、查询和检索向量化的非结构化数据，通常被称为AI时代的信息检索技术，是检索增强生成（Retrieval-Augmented Generation, RAG）内核技术之一。对大模型应用开发而言，向量数据库是非常重要的基础设施，在一定程度上影响着大模型的性能表现。

墨奇科技向表示，墨奇科技在去年 8 月份正式上线了全球市场MyScale产品的SaaS版本，截止目前已经覆盖了数千名来自北美、欧洲、东南亚、南美洲的开发者和企业用户，付费用户也覆盖了美国、德国、加拿大、阿根廷、新加坡等十几个国家和地区。

RAG+向量数据库 大模型制胜法宝

伊克罗德信息与墨奇科技选定的大模型落地路线是：通过RAG+向量数据库，来低成本快速定制高质量大模型 。

过去一年中，LLM的发展以及生成式AI浪潮在全球范围内引起了广泛关注。但是在商业化路上面临许多挑战，例如，数据更新问题-LLM无法实时掌握最新信息；对于某些领域需要高度准确专业知识，例如，医学，法律，科学，定制标准高、容错率低；高昂的训练成本。

因而RAG技术应运而生。RAG能从大规模的知识库中精确地抽取信息，并生成富有洞察力的答案，RAG系统的检索组件向量数据库是核心功能，采用了特殊的数据结构和索引策略，来有效组织和检索向量数据，成为解决低成本快速定制大模型问题的关键所在，LLM技术结合RAG不仅提高了答案的质量，还为特定行业的应用带来了新的机会，向量数据库不仅仅是一种技术工具，更是连接数据与AI的桥梁。

墨奇科技副总裁孟卓飞认为：“RAG是目前生成式AI可见的最有效、最实在、最不玩虚的一个落地方式，对企业而言，试错成本很低、效果会出得很快、时间成本也很低。”

在孟卓飞看来，MyScale是目前市面上唯一一个有高性能向量计算以及SQL全兼容的数据库，对于开发者的开发习惯、复杂数据场景的迁移成本以及更灵活的数据查询方式来说，都是企业客户不可替代的一个选型考虑。在复杂查询的性能和性价比上做了非常多的调优，取得了最佳的平衡点。这些都成为国内外用户选择MyScale的原因。

黄国华则从商务角度进一步表示，“目前，企业看到了生成式AI的价值，但大部分还处在试错的过程，所以高性价比的RAG方案更容易被接受，客户可以低成本、短周期地收获一些小的亮点。这些小亮点，一个接一个地串联起来，最终能够汇集成线、聚合成面。所以我们认为，RAG是很好的推动方式。”

借助亚马逊云科技Marketplace（海外区）

据悉，伊克罗德信息和墨奇科技团队将RAG+向量数据库推向了一个新的水平，发布2.0版大语言模型-Ask Myscale ，实现了比专用向量数据库更高的性能和可扩展性。

近期内Ask Myscale将上架亚马逊云科技Marketplace（海外区），并提供用户咨询、测试、上线、运营等全生命周期服务。

亚马逊云科技Marketplace是一个精挑细选的数字化产品目录，客户通过它可以轻松地查找、购买、部署和管理构建解决方案及运营其业务所需的第三方软件和服务。

亚马逊云科技Marketplace也将成为伊克罗德信息和墨奇科技合作产品国际化的一个重要跳板。

孟卓飞强调：“生成式AI的机会是一个前所未有的、现象级的、时代级机会，对于每个人、每个行业都是。在这个浪潮中，没有一家公司可以独自获得胜利。”

黄国华强调，墨奇有技术，伊克罗德有客户；墨奇有产品，伊克罗德有渠道；墨奇有算法，伊克罗德有服务，双方的合作是把更加模块化并且清晰化的业务场景落地的方法呈现给客户，让客户能够在更短的时间内做出决策，找到最适合自己的解决方案。