10 月 25 日晚 8 点, 基于 Jetson 边缘计算平台构建 Azure OpenAI LLM 安全护栏

NVIDIA NeMo Guardrails 是一个开源工具库,致力于使 LLM 大语言模型的使用更加合法合规。它可以轻松地为基于 LLM 的对话系统添加可编程护栏,用以避免大语言模型输出违法违规内容,并通过自定义方式响应用户特定的请求,按照预定义的对话路径进行操作,以及使用特定的语言风格进行回答等。它的核心价值在于通过 Colang 语言来编写安全护栏来指导、定义和控制 LLM 驱动的对话机器人在特定主题上的行为,从而构建可靠、安全的 LLM 对话系统。

如何在 Jetson 边缘计算平台上将 NeMo Guardrails 运行起来并且与 Azure OpenAI 中具备强大信息整合、对话能力的 ChatGPT 大模型相结合使用呢?本课程旨在让开发者快速了解如何基于 Jetson 平台对 Azure OpenAI 中的 ChatGPT 大模型添加 LLM 可编程护栏系统,从而构建更加安全可靠的 LLM 对话引擎。

本次在线研讨会主要面向对人工智能感兴趣的开发者。

通过本次在线研讨会您可以了解到:

  • NVIDIA NeMo Guardrails 介绍;
  • NeMo Guardrails 中的 Colang 语言;
  • 在 Jetson 中如何安装 NeMo Guardrails;
  • NeMo Guardrails 与 Azure OpenAI 的结合使用;
  • 代码实践:在 Jetson 上构建 LLM 大语言模型安全护栏。

- 时间 -

2023/10/25 20:00 - 21:3 0

- 本期技术专家 -

李奕澎(Yipeng)

NVIDIA 企业开发者社区经理

拥有多年数据分析建模、人工智能自然语言处理开发经验。在自动语音识别、自然语言处理、语音合成等对话式 AI 技术领域有丰富的实战经验与见解。曾开发法律、金融、保险文档中基于实体抽取的智能问答系统,曾开发基于NLP 知识抽取,KG 知识图谱的建立的科研文档智能检索系统。

- 参与方式 -

微信识别二维码

【注册参加本次研讨会】

扫码加入直播答疑群

如有任何问题请添加小助手微信

"NVChina02" 备注 1025 入群

相关推荐
阿里云大数据AI技术2 天前
基于阿里云 DataWorks Data Agent 进行大模型热度分析
人工智能·agent·nvidia
Together_CZ6 天前
Windows 下 CUDA / cuDNN / PyTorch GPU 训练环境搭建完整指南:虚拟环境与系统级环境两种方案
virtualenv·nvidia·cuda·cudnn·rtx 5060
元让_vincent7 天前
论文Review SLAM cuVSLAM | NVIDIA 2025 | CUDA加速的视觉里程计与建图系统
nvidia·视觉slam·gpu加速
AI小小怪8 天前
保姆级教程:Ubuntu 22.04 安装 NVIDIA GPU 驱动 + CUDA 12.6(RTX 3080 显卡)
linux·nvidia·cuda
feasibility.9 天前
nvidia-smi 失灵,显存凭空消失?—— NVML 驱动版本错配的记录
linux·运维·服务器·经验分享·nvidia·驱动
视***间11 天前
端侧大模型落地新标杆:视程空间将GPT-OSS边缘AI深度导入NVIDIA Jetson平台
人工智能·gpt·边缘计算·nvidia·ai算力·gpt-oss·视程空间
扫地的小何尚11 天前
掌握 Agentic AI 技术:AI Agent 定制方法全景与实践路径
大数据·人工智能·算法·ai·llm·agent·nvidia
Elastic 中国社区官方博客12 天前
快 12 倍的 Elasticsearch 向量索引:使用 GPU 和 CPU 分层部署 NVIDIA cuVS
大数据·人工智能·elasticsearch·搜索引擎·ai·全文检索·nvidia
阿里云大数据AI技术12 天前
开发者博客|在阿里云 PAI 平台实现规模化的机器人感知强化学习
人工智能·阿里云·机器人·强化学习·nvidia
藤谷性能15 天前
Jetson Orin Nano:安装Jetpack等基础工具并验证摄像头
边缘计算·nvidia·jetson orin