使用 Amazon Bedrock 完成你的问答需求

Amazon Bedrock 简介

Amazon Bedrock 是使用 LLM 构建和扩展生成式人工智能应用程序的最简单方法。Amazon Bedrock 是一项完全托管的服务，可通过 API 提供来自 Amazon 和领先 AI 初创企业的 LLM，因此您可以从各种 LLM 中进行选择，找到最适合您的应用场景的模型。

亚马逊云科技开发者社区(https://dev.amazoncloud.cn/?sc_medium=regulartraffic&sc_campaign=crossplatform&sc_channel=SF)为开发者们提供全球的开发技术资源。这里有技术文档、开发案例、技术专栏、培训视频、活动与竞赛等。帮助中国开发者对接世界最前沿技术，观点，和项目，并将中国优秀开发者或技术推荐给全球云社区。如果你还没有关注/收藏，看到这里请一定不要匆匆划过，点这里(https://passport.amazoncloud.cn/signin?sc_medium=regulartraffic&sc_campaign=crossplatform&sc_channel=SF)让它成为你的技术宝库！

模型列表

Amazon Bedrock 是一项完全托管的服务，可通过 API 提供来自领先 AI 初创公司和亚马逊云科技的 FM，因此您可以从各种 FM 中进行选择，找到最适合您的使用案例的模型。

image.png

• AI21 Labs 的 Jurassic 系列模型

Jurassic-2 Ultra 是 AI21 最强大的模型，适用于需要高级文本生成和理解的复杂任务。 流行的用例包括问答、摘要、长格式副本生成、高级信息提取等。

Jurassic-2 Mid 的功能不如 Ultra 强大，但经过精心设计，可在卓越品质和经济实惠之间取得适当的平衡。 Jurassic-2 Mid 可应用于任何语言理解或生成任务，包括问答、摘要、长格式副本生成、高级信息提取等。

image.png

• 亚马逊云科技的 Titan 系列模型

Amazon Titan Foundation 模型经过大型数据集的预训练，使其成为强大的通用模型。 按原样使用它们，或者通过使用您自己的数据针对特定任务微调模型来自定义它们，而无需注释大量数据。

image.png

Titan 模型分为三种类型：嵌入、文本生成和图像生成。

• Titan Embeddings G1 – 文本模型将文本输入（单词、短语或可能的大型文本单元）转换为包含文本语义的数字表示（称为嵌入）。 虽然该法学硕士不会生成文本，但它对于个性化和搜索等应用程序很有用。 通过比较嵌入，该模型将产生比单词匹配更相关和上下文的响应。 新的 Titan Multimodal Embeddings G1 模型适用于通过文本搜索图像、通过图像相似性或通过文本和图像的组合搜索图像等用例。 它将输入图像或文本转换为嵌入，该嵌入在同一语义空间中包含图像和文本的语义。

• Titan Text 模型是生成式 LLM，适用于摘要、文本生成（例如，创建博客文章）、分类、开放式问答和信息提取等任务。 他们还接受过许多不同编程语言以及表格、JSON 和 csv 等富文本格式的培训。

• Titan Image Generator G1 是一种生成基础模型，可从自然语言文本生成图像。 该模型还可用于编辑或生成现有或生成的图像的变体。

为了继续支持负责任地使用人工智能的最佳实践，泰坦基金会模型旨在检测和删除数据中的有害内容，拒绝用户输入中的不当内容，并过滤包含不当内容（例如仇恨言论）的模型输出 、亵渎和暴力）。 Titan Image FM 为所有生成的图像添加了隐形水印。 未来将提供水印检测 API，通过检查是否存在水印来帮助您确认图像是否是使用 Titan 模型生成的。

image.png

• Meta 的 Llama 系列模型

Llama 是一系列大型语言模型，使用公开数据进行训练。 这些模型基于变压器架构，使其能够处理任意长度的输入序列并生成可变长度的输出序列。 Llama 模型的关键特征之一是它能够生成连贯且上下文相关的文本。 这是通过使用注意力机制来实现的，该机制允许模型在生成输出时关注输入序列的不同部分。 此外，Llama 模型使用一种称为“掩码语言建模”的技术在大型文本语料库上对模型进行预训练，这有助于它学习预测句子中缺失的单词。

Llama 模型已被证明在各种自然语言处理任务上表现良好，包括语言翻译、问答和文本摘要，并且还能够生成类似人类的文本，这使得 Llama 模型成为创意写作和其他应用程序的有用工具。 自然语言生成很重要。

总的来说，Llama 模型是强大且多功能的语言模型，可用于广泛的自然语言处理任务。 该模型能够生成连贯且上下文相关的文本，这使得它对于聊天机器人、虚拟助手和语言翻译等应用程序特别有用。

不过模型支持的最大输入长度为 4096，支持语言英文效果最好。

• Stability AI 的 SDXL 系列模型

SDXL 比其前身 Stable Diffusion 2.1 生成更详细的图像和构图，代表了 Stability 图像生成模型系列向前迈出的重要一步。 SDXL 还具有超越文本到图像提示的功能，包括图像到图像提示（输入一张图像以获取该图像的变体）、修复（重建图像的缺失部分）和修复（构建无缝扩展） 现有图像）。

构建属于自己的问答应用

注册 Bedrock

使用 Bedrock 只需要完成亚马逊云科技注册即可，然后打开下面链接，可以进入 Bedrock 主页

https://us-east-1.console.aws.amazon.com/bedrock?trk=cndc-detail

image.png

获取模型权限

image.png

点击左侧导航的 Overview 标签，然后可以看到右侧的 Spotlight 板块，点击Request model access按钮

image.png

在这个下面可以选择自己想使用的模型，有的模型需要填写个人呢资料以及使用背景。

体验 Demo

官方提供了 33 个生成式应用的 Demo，

image.png

我们可以直接点击Open in Playground，进入对话应用，下面是讲一个会议记录转换为会议纪要的例子：

image.png

构建自己的对话应用

在浏览模型列表之后，发现部分可以支持中文的，下面我们可以构建自己的中英对话应用，以及对比不同模型的效果。

 根据主题撰写内容翔实、有信服力的论文。
我希望你能作为一名学者行事。你将负责研究一个你选择的主题，并将研究结果以论文或文章的形式呈现出来。你的任务是确定可靠的来源，以结构良好的方式组织材料，并以引用的方式准确记录。我的第一个建议要求是 '论文主题'复制代码

image.png

右侧我们可以修改模型超参数，我们可以看到在调整模型输出最大长度之后，模型效果变化很大

image.png

不同模型对比

Write a highly detailed essay in Chinese with introduction, body, and conclusion paragraphs responding to the following: [问题]复制代码

image.png

本文参与了「构」向云端 | 亚马逊云科技 x 思否 2023 re:Invent 构建者征文大赛，欢迎正在阅读的你也加入。

授权声明：本篇文章授权活动官方亚马逊云科技文章转发、改写权，包括不限于在 Developer Centre，知乎，自媒体平台，第三方开发者媒体等亚马逊云科技官方渠道

文章来源：

https://dev.amazoncloud.cn/column/article/6309e29be0f88a79bcfae80a?sc_medium=regulartraffic&sc_campaign=crossplatform&sc_channel=InfoQ