10 月 25 日晚 8 点, 基于 Jetson 边缘计算平台构建 Azure OpenAI LLM 安全护栏

NVIDIA NeMo Guardrails 是一个开源工具库,致力于使 LLM 大语言模型的使用更加合法合规。它可以轻松地为基于 LLM 的对话系统添加可编程护栏,用以避免大语言模型输出违法违规内容,并通过自定义方式响应用户特定的请求,按照预定义的对话路径进行操作,以及使用特定的语言风格进行回答等。它的核心价值在于通过 Colang 语言来编写安全护栏来指导、定义和控制 LLM 驱动的对话机器人在特定主题上的行为,从而构建可靠、安全的 LLM 对话系统。

如何在 Jetson 边缘计算平台上将 NeMo Guardrails 运行起来并且与 Azure OpenAI 中具备强大信息整合、对话能力的 ChatGPT 大模型相结合使用呢?本课程旨在让开发者快速了解如何基于 Jetson 平台对 Azure OpenAI 中的 ChatGPT 大模型添加 LLM 可编程护栏系统,从而构建更加安全可靠的 LLM 对话引擎。

本次在线研讨会主要面向对人工智能感兴趣的开发者。

通过本次在线研讨会您可以了解到:

  • NVIDIA NeMo Guardrails 介绍;
  • NeMo Guardrails 中的 Colang 语言;
  • 在 Jetson 中如何安装 NeMo Guardrails;
  • NeMo Guardrails 与 Azure OpenAI 的结合使用;
  • 代码实践:在 Jetson 上构建 LLM 大语言模型安全护栏。

- 时间 -

2023/10/25 20:00 - 21:3 0

- 本期技术专家 -

李奕澎(Yipeng)

NVIDIA 企业开发者社区经理

拥有多年数据分析建模、人工智能自然语言处理开发经验。在自动语音识别、自然语言处理、语音合成等对话式 AI 技术领域有丰富的实战经验与见解。曾开发法律、金融、保险文档中基于实体抽取的智能问答系统,曾开发基于NLP 知识抽取,KG 知识图谱的建立的科研文档智能检索系统。

- 参与方式 -

微信识别二维码

【注册参加本次研讨会】

扫码加入直播答疑群

如有任何问题请添加小助手微信

"NVChina02" 备注 1025 入群

相关推荐
scott19851214 小时前
NVIDIA GPU内部结构:高性能矩阵乘法内核剖析
线性代数·矩阵·gpu·nvidia·cuda
clorisqqq2 天前
黄仁勋 CES 2026 演讲笔记(part2 精华)
nvidia·黄仁勋·ces2026
扫地的小何尚2 天前
NVIDIA RTX PC开源AI工具升级:加速LLM和扩散模型的性能革命
人工智能·python·算法·开源·nvidia·1024程序员节
@hdd4 天前
dcgmi diag报错Diagnostic can only be performed on a homogeneous group of GPUs.
nvidia·dcgm
墨风如雪5 天前
英伟达Rubin炸场:算力暴涨5倍,黄仁勋要让AI推理“白菜价”
aigc·nvidia
chinamaoge8 天前
NVIDIA大模型推理框架:TensorRT-LLM软件流程(三)trtllm-serve启动流程–HTTP Request
nvidia·大模型推理·tensorrt-llm
闻道且行之10 天前
Ubuntu 20.04 下 NVIDIA Tesla P40 驱动安装指南(核显桌面 + 计算卡分离方案)
linux·运维·ubuntu·nvidia·p40
AI视觉网奇12 天前
NVIDIA 生成key
笔记·nvidia
张火火isgudi12 天前
fedora43 安装 nvidia 驱动以及开启视频编解码硬件加速
linux·运维·视频编解码·nvidia
AI大模型学徒21 天前
5090NVIDIA、CUDAToolkit、cuDNN、Miniconda、PyTorch安装
pytorch·nvidia·cudnn·nimiconda·5090驱动安装·cudatoolkit