10 月 25 日晚 8 点, 基于 Jetson 边缘计算平台构建 Azure OpenAI LLM 安全护栏

NVIDIA NeMo Guardrails 是一个开源工具库,致力于使 LLM 大语言模型的使用更加合法合规。它可以轻松地为基于 LLM 的对话系统添加可编程护栏,用以避免大语言模型输出违法违规内容,并通过自定义方式响应用户特定的请求,按照预定义的对话路径进行操作,以及使用特定的语言风格进行回答等。它的核心价值在于通过 Colang 语言来编写安全护栏来指导、定义和控制 LLM 驱动的对话机器人在特定主题上的行为,从而构建可靠、安全的 LLM 对话系统。

如何在 Jetson 边缘计算平台上将 NeMo Guardrails 运行起来并且与 Azure OpenAI 中具备强大信息整合、对话能力的 ChatGPT 大模型相结合使用呢?本课程旨在让开发者快速了解如何基于 Jetson 平台对 Azure OpenAI 中的 ChatGPT 大模型添加 LLM 可编程护栏系统,从而构建更加安全可靠的 LLM 对话引擎。

本次在线研讨会主要面向对人工智能感兴趣的开发者。

通过本次在线研讨会您可以了解到:

  • NVIDIA NeMo Guardrails 介绍;
  • NeMo Guardrails 中的 Colang 语言;
  • 在 Jetson 中如何安装 NeMo Guardrails;
  • NeMo Guardrails 与 Azure OpenAI 的结合使用;
  • 代码实践:在 Jetson 上构建 LLM 大语言模型安全护栏。

- 时间 -

2023/10/25 20:00 - 21:3 0

- 本期技术专家 -

李奕澎(Yipeng)

NVIDIA 企业开发者社区经理

拥有多年数据分析建模、人工智能自然语言处理开发经验。在自动语音识别、自然语言处理、语音合成等对话式 AI 技术领域有丰富的实战经验与见解。曾开发法律、金融、保险文档中基于实体抽取的智能问答系统,曾开发基于NLP 知识抽取,KG 知识图谱的建立的科研文档智能检索系统。

- 参与方式 -

微信识别二维码

【注册参加本次研讨会】

扫码加入直播答疑群

如有任何问题请添加小助手微信

"NVChina02" 备注 1025 入群

相关推荐
hanchenxing2 小时前
本地AI绘画网关: 用 30 行 Python 把 NVIDIA FLUX.2 Klein 接入 OpenAI 兼容客户端Python
开发语言·python·ai作画·ai绘画·nvidia
码流怪侠2 天前
Sunshine 深度拆解:当 NVIDIA GameStream 闭源后,如何用 4 万颗 Star 重建自托管云游戏
游戏·github·nvidia
ShallWeL5 天前
Orin 上多模型常驻与显存预算
人工智能·嵌入式硬件·nvidia·orin
每日出拳老爷子8 天前
【AI】Ollama 更新后 skipping CUDA 掉回 CPU
gpu·nvidia·cuda·ollama·本地大模型
晨欣8 天前
NVIDIA GPU 架构演进学习笔记(GPT-5.6 Terra 生成)
笔记·学习·gpu·显卡·nvidia·英伟达
Akiyama_Mio-Kon8 天前
计算机每日时报(2026-09-04):NVIDIA 押注开放模型平台,AI 走进天气、办公与本地电脑
nvidia·github actions·软件供应链安全·本地 ai
吴佳浩10 天前
32GB 显存,凭什么跑 56GB 大模型?从 Shared Memory 到 AI 异构内存架构
llm·agent·nvidia
Akiyama_Mio-Kon16 天前
计算机每日时报(2026-08-27):算力继续加码,Agent 先补好安全与交付边界
aws·nvidia·microsoft 365·github copilot·ai 基础设施·ai agent 安全·excel python
Zhu75817 天前
GPU驱动与CUDA安装指南
nvidia·cuda