Bedrock上新专有模型导入、模型评估等功能 Amazon_amazon movers and shakers

【】4月24日消息，美东时间23日，亚马逊云科技宣布推出Amazon Bedrock的全新功能，为客户提供了一种更简单、更快捷、更安全的方法，帮助客户开发先进的生成式AI应用。

同时，Amazon Bedrock还上新了更多模型选择：包括针对使用RAG的应用场景优化后的Amazon Titan Text Embeddings V2、正式可用的Titan Image Generator，以及Meta Llama 3基础模型已正式可用，Cohere的Command R和Command R+模型也即将推出。

这次Amazon Bedrock上新的功能包括：

1、全新的专有模型导入功能让客户更轻松地将其专属模型导入到Amazon Bedrock中，减少运营成本并加速应用程序的开发。

据介绍，现在，借助全新的Amazon Bedrock专有模型导入功能，企业现在能够将自己的定制模型导入到Amazon Bedrock中，以完全托管的API形式进行访问。

只需点击几下，企业用户即可将他们使用Amazon SageMaker或其他工具开发的模型集成到Amazon Bedrock平台上。

模型通过自动化验证流程后，企业用户便可像访问平台上其他模型一样，访问自己的定制模型，同时享受到目前Amazon Bedrock所具备的所有服务——包括无缝的可扩展性、强大的应用保护能力、遵循负责任的AI原则、利用检索增强生成（RAG）扩充模型知识库、轻松创建用于完成多步任务的代理（Agents）、进行微调以持续训练和优化模型，且无需管理底层基础设施。

这一新功能让企业能够轻松地通过同一API访问Amazon Bedrock的模型与自己的定制模型。

据悉，Amazon Bedrock专有模型导入功能现已推出预览版并支持三种最受欢迎的开放模型架构：Flan-T5、Llama和Mistral，并计划未来支持更多模型。

2、全新的模型评估功能使企业用户能够广泛且便捷地选择完全托管模型，让评估模型的时间从几个星期缩短到几个小时。

构建生成式AI应用程序的关键一步是找到合适的模型，而选择特定应用场景的最佳模型则需要客户在准确性和性能之间达成微妙的平衡。现在，企业还需要花费大量时间分析每个新模型如何满足他们的应用场景。

今天，Amazon Bedrock的模型评估功能已正式可用，亚马逊云科技表示它是企业快速分析和比较Amazon Bedrock上模型的最快方式，让评估模型的时间从几个星期缩短到几个小时。

企业用户通过选择预定义的评估标准（例如准确性和鲁棒性）并上传自有数据集/提示词库，或者从内置的、公开可用的资源中进行选择。对于主观标准或需要细致判断的内容，Amazon Bedrock使客户能够将人工审核融入工作流程中，以根据特定应用场景的指标（如相关性、风格和品牌声音）对模型进行评估。

一旦设置完成，Amazon Bedrock将运行评估并生成报告，使客户能够轻松了解模型在关键指标上的表现，并迅速选择最适合其应用场景的模型。

3、Amazon Bedrock Guardrails功能正式可用，企业用户可以利用该功能轻松实施防护措施，去除个人信息和敏感信息、亵渎语言、特定词汇并屏蔽有害内容。

许多模型使用内置控制来过滤不良和有害内容，亚马逊云科技表示，其大多数客户希望进一步定制他们的生成式AI应用程序，以确保生成结果更具相关性，在符合公司政策的同时遵循负责任的AI原则。

现在，Amazon Bedrock的Guardrails功能已正式可用，它在基础模型的原生能力之上提供了行业领先的安全保护，能够帮助客户阻止高达85%的有害内容。

Guardrails允许客户在单一服务中同时拥有内置和定制的防护机制，并可与Amazon Bedrock中的所有大语言模型（LLMs）以及经过微调的模型一起使用。

要创建一个Guardrail，客户只需提供一个自然语言描述来定义其应用程序上下文中不予显示的主题即可。此外，客户还可以设置阈值以过滤如仇恨言论、侮辱、黄色用语、或在提示词中含有攻击和暴力性等内容，并设置过滤器来移除任何个人信息和敏感信息、亵渎言论或特定的屏蔽词。