Martian发布智能模型路由器，实现LLM动态切换以降低成本_路由器动态模式

11月16日 消息:在人工智能领域，一家名为Martian的初创公司近日从隐秘状态中脱颖而出，成功获得了来自NEA、Prosus Ventures、Carya Venture Partners和General Catalyst等投资者的900万美元融资。该公司的创新产品是一款智能模型路由器，有望在高风险商业场景中服务，降低公司使用大型语言模型（LLM）的成本。

Martian的创始人Shriyash Upadhyay和Etan Ginsberg表示，他们公司的目标是解决人工智能研究难以盈利的问题，通过建立一家产品受益于可解释性的公司。与此同时，他们分享了Martian公司的融资计划，包括用于产品开发、对模型内部运营的研究以及扩大公司团队规模。

官网地址:https://withmartian.com/

这家初创公司的关键创新在于他们提出的智能模型路由器，能够在不实际运行模型的情况下估计模型的表现。Upadhyay和Ginsberg解释说，Martian可以根据特定的任务要求动态切换到更便宜的型号，其性能与最昂贵的型号相媲美，仅在必要时才切换到昂贵的型号。这种智能切换可以实现比完全依赖高端LLM模型更高的性能和更低的成本。

对于很多公司而言，完全依赖高端LLM模型的成本可能过高。市场情报公司Permutable.ai的首席执行官透露，使用OpenAI的高端模型每天处理约200万篇文章，每年的成本超过100万美元。因此，Martian的智能模型路由器为公司提供了一种在不牺牲性能的前提下降低人工智能成本的创新方法。

Upadhyay和Ginsberg补充说，已经有一些公司开始采用Martian的技术，其中包括“价值数十亿美元”的公司。他们认为，建立一个真正有效的模型路由器是非常困难的，因为它需要深入了解各种模型的基本工作原理。然而，Martian的创新在于他们成功克服了这一挑战，为公司提供了更灵活、高效且成本更低的人工智能解决方案。

在人工智能领域，Martian的智能模型路由器的推出标志着该行业的进一步发展，为公司提供了在不同任务需求下实现LLM动态切换的先进工具。这一创新有望推动人工智能领域朝着更加可持续、经济高效的方向发展。