10 月 25 日晚 8 点, 基于 Jetson 边缘计算平台构建 Azure OpenAI LLM 安全护栏

NVIDIA NeMo Guardrails 是一个开源工具库,致力于使 LLM 大语言模型的使用更加合法合规。它可以轻松地为基于 LLM 的对话系统添加可编程护栏,用以避免大语言模型输出违法违规内容,并通过自定义方式响应用户特定的请求,按照预定义的对话路径进行操作,以及使用特定的语言风格进行回答等。它的核心价值在于通过 Colang 语言来编写安全护栏来指导、定义和控制 LLM 驱动的对话机器人在特定主题上的行为,从而构建可靠、安全的 LLM 对话系统。

如何在 Jetson 边缘计算平台上将 NeMo Guardrails 运行起来并且与 Azure OpenAI 中具备强大信息整合、对话能力的 ChatGPT 大模型相结合使用呢?本课程旨在让开发者快速了解如何基于 Jetson 平台对 Azure OpenAI 中的 ChatGPT 大模型添加 LLM 可编程护栏系统,从而构建更加安全可靠的 LLM 对话引擎。

本次在线研讨会主要面向对人工智能感兴趣的开发者。

通过本次在线研讨会您可以了解到:

  • NVIDIA NeMo Guardrails 介绍;
  • NeMo Guardrails 中的 Colang 语言;
  • 在 Jetson 中如何安装 NeMo Guardrails;
  • NeMo Guardrails 与 Azure OpenAI 的结合使用;
  • 代码实践:在 Jetson 上构建 LLM 大语言模型安全护栏。

- 时间 -

2023/10/25 20:00 - 21:3 0

- 本期技术专家 -

李奕澎(Yipeng)

NVIDIA 企业开发者社区经理

拥有多年数据分析建模、人工智能自然语言处理开发经验。在自动语音识别、自然语言处理、语音合成等对话式 AI 技术领域有丰富的实战经验与见解。曾开发法律、金融、保险文档中基于实体抽取的智能问答系统,曾开发基于NLP 知识抽取,KG 知识图谱的建立的科研文档智能检索系统。

- 参与方式 -

微信识别二维码

【注册参加本次研讨会】

扫码加入直播答疑群

如有任何问题请添加小助手微信

"NVChina02" 备注 1025 入群

相关推荐
撞强1 天前
Unraid 7.3.2 下 NVIDIA 显卡风扇转速调整维护文档
nvidia·xorg·unraid·fan
张张123y1 天前
120B 模型单卡跑起来?拆解 Nemotron 3.5 的压缩三板斧与本地智能体部署
nvidia·模型量化·本地部署·ai agent·nemotron
丰色木夕4 天前
Ubuntu22.04下源码编译安装USD-Brep
c++·ubuntu·nvidia·usd-brep
wflynn17 天前
GitHub 今日推荐|SCSKiller:游戏着色器预编译消除卡顿
开源·c#·github·nvidia·amd·directx12
kakakahahahaha20 天前
LoadLibrary failed with error 87 排查:ERROR_INVALID_PARAMETER、DLL路径、架构与显卡驱动
windows·电脑·笔记本电脑·nvidia·软件需求
智码看视界24 天前
AI 推理优化 | Triton Inference Server 架构解析:单机多模型并发推理的工业级方案
nvidia·模型部署·mlops·triton·gpu推理·推理服务化·动态批处理
My的梦想已实现1 个月前
代工显卡驱动更新
nvidia·显卡驱动·魔改·代工显卡
DeeplyMind1 个月前
Part 2.1 — uvm_va_block_t 解剖:每页位图与 PTE 状态
nvidia·uvm
纪伊路上盛名在1 个月前
BioIR:生物大分子结构预测推理库
nvidia·工程化·软件·蛋白质·结构预测·推理库
hanchenxing1 个月前
本地AI绘画网关: 用 30 行 Python 把 NVIDIA FLUX.2 Klein 接入 OpenAI 兼容客户端Python
开发语言·python·ai作画·ai绘画·nvidia