10 月 25 日晚 8 点, 基于 Jetson 边缘计算平台构建 Azure OpenAI LLM 安全护栏

NVIDIA NeMo Guardrails 是一个开源工具库,致力于使 LLM 大语言模型的使用更加合法合规。它可以轻松地为基于 LLM 的对话系统添加可编程护栏,用以避免大语言模型输出违法违规内容,并通过自定义方式响应用户特定的请求,按照预定义的对话路径进行操作,以及使用特定的语言风格进行回答等。它的核心价值在于通过 Colang 语言来编写安全护栏来指导、定义和控制 LLM 驱动的对话机器人在特定主题上的行为,从而构建可靠、安全的 LLM 对话系统。

如何在 Jetson 边缘计算平台上将 NeMo Guardrails 运行起来并且与 Azure OpenAI 中具备强大信息整合、对话能力的 ChatGPT 大模型相结合使用呢?本课程旨在让开发者快速了解如何基于 Jetson 平台对 Azure OpenAI 中的 ChatGPT 大模型添加 LLM 可编程护栏系统,从而构建更加安全可靠的 LLM 对话引擎。

本次在线研讨会主要面向对人工智能感兴趣的开发者。

通过本次在线研讨会您可以了解到:

  • NVIDIA NeMo Guardrails 介绍;
  • NeMo Guardrails 中的 Colang 语言;
  • 在 Jetson 中如何安装 NeMo Guardrails;
  • NeMo Guardrails 与 Azure OpenAI 的结合使用;
  • 代码实践:在 Jetson 上构建 LLM 大语言模型安全护栏。

- 时间 -

2023/10/25 20:00 - 21:3 0

- 本期技术专家 -

李奕澎(Yipeng)

NVIDIA 企业开发者社区经理

拥有多年数据分析建模、人工智能自然语言处理开发经验。在自动语音识别、自然语言处理、语音合成等对话式 AI 技术领域有丰富的实战经验与见解。曾开发法律、金融、保险文档中基于实体抽取的智能问答系统,曾开发基于NLP 知识抽取,KG 知识图谱的建立的科研文档智能检索系统。

- 参与方式 -

微信识别二维码

【注册参加本次研讨会】

扫码加入直播答疑群

如有任何问题请添加小助手微信

"NVChina02" 备注 1025 入群

相关推荐
mortimer3 天前
在 Windows 上部署 NVIDIA Parakeet-TDT 遇到的坑
python·github·nvidia
扫地的小何尚4 天前
Isaac Lab 2.3深度解析:全身控制与增强遥操作如何重塑机器人学习
arm开发·人工智能·学习·自然语言处理·机器人·gpu·nvidia
攻城狮7号12 天前
NVIDIA开源Audio2Face模型与SDK,数字人表情迎来“灵魂”时刻
人工智能·nvidia·开源模型·audio2face
Jzzzzzzzzzzzzzz13 天前
NVIDIA-SMI has failed because it couldn‘t communicate with the NVIDIA driver.
ubuntu·nvidia·显卡驱动
深度学习机器16 天前
解密vLLM:基于nano-vllm源码剖析其推理加速之道
pytorch·llm·nvidia
扫地的小何尚16 天前
NVIDIA Dynamo深度解析:如何优雅地解决LLM推理中的KV缓存瓶颈
开发语言·人工智能·深度学习·机器学习·缓存·llm·nvidia
扫地的小何尚17 天前
CUDA 13.0深度解析:统一ARM生态、UVM增强与GPU共享的革命
arm开发·人工智能·自然语言处理·gpu·nvidia·jetson·nvidia thro
扫地的小何尚19 天前
R²D²深度解析:NVIDIA三大神经网络突破如何变革机器人学习
神经网络·r语言·机器人·llm·gpu·nvidia
扫地的小何尚19 天前
深度解析 CUDA-QX 0.4 加速 QEC 与求解器库
人工智能·语言模型·llm·gpu·量子计算·nvidia·cuda
阿里云大数据AI技术21 天前
阿里云 PAI 携手 NVIDIA 提供端到端物理 AI 解决方案
人工智能·nvidia