DeepSeek-R1 现已在 Amazon Bedrock 中作为完全托管的无服务器模型推出

DeepSeek-R1 现已在 Amazon Bedrock 中作为完全托管的无服务器模型推出

截至 1 月 30 日,DeepSeek-R1 模型已通过 Amazon Bedrock Marketplace 和 Amazon Bedrock 自定义模型导入在 Amazon Bedrock 中提供。从那时起,成千上万的客户在 Amazon Bedrock 中部署了这些模型。用户非常重视用于安全部署 AI 的强大护栏和综合工具。今天,我们通过扩展选项范围(包括新的无服务器解决方案),使在 Amazon Bedrock 中使用 DeepSeek 变得更加容易,如果感兴趣可以体验:亚马逊云科技体验

完全托管的 DeepSeek-R1 模型现已在 Amazon Bedrock 中全面推出。Amazon Web Services 是第一家将 DeepSeek-R1 作为完全托管的通用模型交付的云服务提供商 (CSP)。您可以使用亚马逊云科技上的 DeepSeek 加速创新并提供切实的商业价值,而无需管理基础设施的复杂性。您可以使用 Amazon Bedrock 完全托管式服务中的单个 API 通过 DeepSeek-R1 的功能为您的生成式 AI 应用程序提供支持,并受益于其广泛的功能和工具。

据 DeepSeek 称,他们的模型在 MIT 许可下公开提供,并在推理、编码和自然语言理解方面提供了强大的能力。这些功能为智能决策支持、软件开发、数学问题解决、科学分析、数据洞察和全面的知识管理系统提供支持。与所有 AI 解决方案一样,在生产环境中实施时,请仔细考虑数据隐私要求,检查输出中的偏差,并监控结果。在实施 DeepSeek-R1 等公开可用的模型时,请考虑以下事项:

  • 数据安全 -- 您可以访问 Amazon Bedrock 的企业级安全、监控和成本控制功能,这些功能对于负责任地大规模部署 AI 至关重要,同时保持对数据的完全控制。用户的输入和模型输出不会与任何模型提供商共享。默认情况下,您可以使用这些关键安全功能,包括静态和传输中的数据加密、精细访问控制、安全连接选项,并在与 Amazon Bedrock 中的 DeepSeek-R1 模型通信时下载各种合规性认证。
  • 负责任的 AI -- 您可以使用 Amazon Bedrock Guardrails 实施根据您的应用程序要求和负责任的 AI 策略定制的保护措施。这包括内容过滤、敏感信息过滤和可自定义安全控制的关键功能,以使用上下文接地和自动推理检查来防止幻觉。这意味着,您可以通过过滤生成式 AI 应用程序中的不良和有害内容,使用定义的策略集来控制用户与 Bedrock 中的 DeepSeek-R1 模型之间的交互。
  • 模型评估 -- 您可以使用 Amazon Bedrock 模型评估工具,通过自动或人工评估,通过几个步骤评估和比较模型,以确定适合您的使用案例的最佳模型,包括 DeepSeek-R1。您可以选择使用预定义指标(如准确度、稳健性和毒性)进行自动评估。或者,您可以为主观或自定义指标(如相关性、风格以及与品牌声音的一致性)选择人工评估工作流程。模型评估提供内置的精选数据集,您也可以引入自己的数据集。

我们强烈建议将 Amazon Bedrock 护栏集成,并将 Amazon Bedrock 模型评估功能与您的 DeepSeek-R1 模型结合使用,为您的生成式 AI 应用程序提供强大的保护。要了解更多信息,请访问使用 Amazon Bedrock 护栏保护您的 DeepSeek 模型部署和评估 Amazon Bedrock 资源的性能(亚马逊云科技体验)。在 Amazon Bedrock 中开始使用DeepSeek-R1 模型如果您不熟悉 DeepSeek-R1 模型,请转到Amazon Bedrock 控制台,在左侧导航窗格中的Bedrock configurations (基岩版配置) 下选择 Model access (模型访问)。要访问完全托管的 DeepSeek-R1 模型,请在 DeepSeek 中请求访问 DeepSeek-R1。然后,您将被授予对 Amazon Bedrock 中模型的访问权限。
DeepSeek-R1 现已在 Amazon Bedrock 中作为完全托管的无服务器模型推出,另外亚马逊云科技提供众多免费云产品可以访问:亚马逊云科技体验

接下来,要在 Amazon Bedrock 中测试 DeepSeek-R1 模型,请在左侧菜单窗格中的 Playgrounds (园地) 下选择 Chat/Text (聊天/文本)。然后选择左上角的 Select model,并选择 DeepSeek 作为类别,选择 DeepSeek-R1 作为模型。然后选择 Apply (应用)。

使用选定的 DeepSeek-R1 模型,我运行以下提示示例:

bash 复制代码
A family has $5,000 to save for their vacation next year. They can place the money in a savings account earning 2% interest annually or in a certificate of deposit earning 4% interest annually but with no access to the funds until the vacation. If they need $1,000 for emergency expenses during the year, how should they divide their money between the two options to maximize their vacation fund?

这个提示需要一个复杂的思维链,并产生非常精确的推理结果。

要了解有关提示使用建议的更多信息,请参阅 DeepSeek-R1 模型提示指南。

通过选择 View API request(查看 API 请求),您还可以使用 Amazon Command Line Interface (Amazon CLI) 和 Amazon SDK 中的代码示例访问模型。您可以用作模型 ID。us.deepseek.r1-v1:0
以下是 Amazon CLI 命令的示例:

bash 复制代码
Amazon bedrock-runtime invoke-model \
       --model-id us.deepseek.r1-v1:0 \
       --body "{\"prompt\": \"<|begin_of_sentence|><|User|>Type_Your_Prompt_Here<|Assistant|><think>\n\", \"max_tokens\": 512, \"temperature\": 0.5, \"top_p\": 0.9}" \
       --cli-binary-format raw-in-base64-out \
       --region us-west-2 \
       invoke-model-output.txt

该模型同时支持 和 API。以下 Python 代码示例显示了如何使用 Amazon Bedrock Converse API 向 DeepSeek-R1 模型发送文本消息以生成文本。要了解更多信息,请访问亚马逊云科技文档中的 DeepSeek 模型推理参数和响应。

bash 复制代码
InvokeModel Converse
python 复制代码
import boto3
from botocore.exceptions import ClientError

# Create a Bedrock Runtime client in the Amazon Region you want to use.
client = boto3.client("bedrock-runtime", region_name="us-west-2")

# Set the model ID, e.g., DeepSeek-R1 Model.
model_id = "us.deepseek.r1-v1:0"

# Start a conversation with the user message.
user_message = "Type_Your_Prompt_Here"
conversation = [
    {
        "role": "user",
        "content": [{"text": user_message}],
    }
]

try:
    # Send the message to the model, using a basic inference configuration.
    response = client.converse(
        modelId=model_id,
        messages=conversation,
        inferenceConfig={"maxTokens": 512, "temperature": 0.5, "topP": 0.9},
    )

    # Extract and print the response text.
    response_text = response["output"]["message"]["content"][0]["text"]
    print(response_text)

except (ClientError, Exception) as e:
    print(f"ERROR: Can't invoke '{model_id}'. Reason: {e}")
    exit(1)

要在 DeepSeek-R1 模型上启用 Amazon Bedrock 护栏,请在左侧导航窗格中的 Safeguards (保护措施) 下选择 Guardrails (护栏),然后根据需要配置任意数量的筛选条件来创建护栏。例如,如果您筛选 "politics" 单词,则护栏将在提示中识别此单词并向您显示被阻止的消息。

您可以使用不同的输入测试护栏,以评估护栏的性能。您可以通过设置被拒绝的主题、单词筛选条件、敏感信息筛选条件和阻止的消息来优化护栏,直到它符合您的需求。

相关推荐
深度学习机器7 分钟前
Gemini CLI源码解析:Agent与上下文管理实现细节
人工智能·llm·agent
谢嘉伟12 分钟前
SuperClaude Framework 使用指南
人工智能
柴 基14 分钟前
PyTorch 使用指南
人工智能·pytorch·python
神经星星23 分钟前
估值准确率超99%!基于YOLOv11的陶瓷分类智能框架融合视觉建模与经济分析,实现文物分类及价值估测
人工智能·机器学习·开源
阿里云大数据AI技术39 分钟前
[VLDB 2025]面向云计算平台的多模态慢查询根因排序
大数据·数据库·人工智能
007tg42 分钟前
007TG洞察:GPT-5前瞻与AI时代竞争力构建:技术挑战与落地路径
人工智能·gpt·机器学习
nassi_43 分钟前
GPT Agent与Comet AI Aent浏览器对比横评
人工智能·gpt
不叫猫先生1 小时前
零基础部署网站?使用天翼云服务搭建语音听写应用系统
人工智能·语音识别·云服务器
Blossom.1181 小时前
基于深度学习的图像分类:使用ShuffleNet实现高效分类
人工智能·python·深度学习·目标检测·机器学习·分类·数据挖掘
徐礼昭|商派软件市场负责人1 小时前
数智驱动的「库存管理」:从风险系数、ABC分类到OMS和ERP系统的协同优化策略
大数据·人工智能·分类