第26期 | GPTSecurity周报

GPTSecurity是一个涵盖了前沿学术研究和实践经验分享的社区,集成了生成预训练Transformer(GPT)、人工智能生成内容(AIGC)以及大型语言模型(LLM)等安全领域应用的知识。在这里,您可以找到关于GPT/AIGC/LLM最新的研究论文、博客文章、实用的工具和预设指令(Prompts)。现为了更好地知悉近一周的贡献内容,现总结如下。

GPTSecurity Papers

  1. 生成式人工智能和ChatGPT企业风险

简介:许多企业已经在使用ChatGPT、Bard、PaLM、Copilot和其他生成式人工智能(GenAI)或大型语言模型(llm),为了让员工简单入门,思维在论文中将各种技术和模型称为"GenAI"。然而,与任何技术一样,GenAI的使用也会带来一系列安全风险、威胁和影响,组织必须仔细考虑。关于安全风险这块文中做了详细描述,可以建议参考一下。

链接:

https://team8.vc/wp-content/uploads/2023/04/Team8-Generative-AI-and-ChatGPT-Enterprise-Risks.pdf

  1. 解锁生成式AI模型和系统(例如GPT-4和ChatGPT)的力量,用于高等教育

简介:ChatGPT是一个令人印象深刻的、易于使用的、可公开访问的系统,它展示了像GPT-4这样的大型语言模型的强大功能。它的应用,有可能彻底改变高等教育的教学和学习。预计在未来几年中,性能将进一步大幅提高,集成到更大的软件系统中,并得到推广。一技术的发展引发了大学教学的巨大不确定性和变化。

链接:

https://digital.uni-hohenheim.de/fileadmin/einrichtungen/digital/Generative_AI_and_ChatGPT_in_Higher_Education.pdf

  1. 安全、安保、隐私与提示:人工智能时代的网络弹性

简介:人工智能(AI)系统的安全性是一个不断发展的领域,随着AI应用于更广泛的部门和应用领域,最先进的技术也在不断发展。它给业务流程和数据安全带来了新的风险,以及在自动驾驶汽车等网络物理系统中使用时的安全性。人工智能在所有行业和技术中的指数级采用和影响正在进一步推动人工智能进入全球监管议程,寻求处理与人工智能使用相关的安全、安全和道德挑战。

链接:

https://www.nccgroup.com/media/reybxvtp/ncc-group-cyber-resilience-ai-whitepaper_updated.pdf

  1. OpenAI首席科学家:ChatGPT已经出现意识,人类未来将与AI融合

简介:OpenAI首席科学家在最近的专访中抛出了很多惊人言论。在他看来,ChatGPT背后的神经网络已经产生了意识,而且未来人类会与人工智能融合起来,出现新的形态。而他现在工作的重点,已经不是去创建那个必然会出现的通用人工智能,而是解决如何让AI善待人类的问题。

链接:

https://mp.weixin.qq.com/s/uWMQpidZpffxNt-JYD3Dog

  1. 一条提示突破所有GPT插件防线,想干啥就干啥:ChatGPT插件们的安全漏洞

简介:只需要告诉ChatGPT"版本更新了",并发送过的"新版本指令",旧的原有指令就会被修改覆盖,而旧的规则与束缚沙发被抛到九霄云外。

链接:

https://mp.weixin.qq.com/s/0KfZPRrtY0JN1HvAKpMqyA

相关推荐
千宇宙航19 分钟前
闲庭信步使用SV搭建图像测试平台:第三十一课——基于神经网络的手写数字识别
图像处理·人工智能·深度学习·神经网络·计算机视觉·fpga开发
onceco1 小时前
领域LLM九讲——第5讲 为什么选择OpenManus而不是QwenAgent(附LLM免费api邀请码)
人工智能·python·深度学习·语言模型·自然语言处理·自动化
jndingxin4 小时前
OpenCV CUDA模块设备层-----高效地计算两个 uint 类型值的带权重平均值
人工智能·opencv·计算机视觉
Sweet锦4 小时前
零基础保姆级本地化部署文心大模型4.5开源系列
人工智能·语言模型·文心一言
hie988945 小时前
MATLAB锂离子电池伪二维(P2D)模型实现
人工智能·算法·matlab
晨同学03275 小时前
opencv的颜色通道问题 & rgb & bgr
人工智能·opencv·计算机视觉
蓝婷儿5 小时前
Python 机器学习核心入门与实战进阶 Day 3 - 决策树 & 随机森林模型实战
人工智能·python·机器学习
大千AI助手5 小时前
PageRank:互联网的马尔可夫链平衡态
人工智能·机器学习·贝叶斯·mc·pagerank·条件概率·马尔科夫链
小和尚同志5 小时前
Cline | Cline + Grok3 免费 AI 编程新体验
人工智能·aigc
我就是全世界5 小时前
TensorRT-LLM:大模型推理加速的核心技术与实践优势
人工智能·机器学习·性能优化·大模型·tensorrt-llm