ChatGPT下架官方检测工具,承认无法鉴别AI内容

去年底,OpenAI 推出的 ChatGPT ,带来了生成式人工智能涌现的热潮。它不仅能够协助完成撰写邮件、视频脚本、文案、翻译、代码等任务,还能通过学习和理解人类的语言来进行对话,并根据聊天的上下文进行互动。

但随之而来的争议也让人们开始怀疑 AI 生成文本的存在是否会出现一些伦理问题。

据了解,美国已有很多大学生在用 ChatGPT写作业。

为了区分人工智能和人类书写的文本,OpenAI 不久之后推出了一款可以识别 AI 书写的文本的工具 ------ AI classifier。

这一技术主要可以识别同样是 OpenAI 开发的 ChatGPT、GPT-3 等模型生成的内容。

它和 ChatGPT 类似,都是一种语言模型,根据来自网络的公开文本示例进行训练。它不仅可以预测来自 ChatGPT 的文本,也包括来自其他文本生成 AI 模型的内容。

最初,该工具被誉为识别由人工智能生成的文本的潜在解决方案。

然而,由于准确率低,OpenAI已悄然关闭了这款人工智能检测工具。

尽管 OpenAI 并未专门发布博文来宣布这项服务的关闭,但他们在原有的博文中进行了更新,正式宣布了这一调整。

根据 OpenAI 透露,该工具存在严重的准确性问题,无法可靠地识别文本的出处。据报告显示,识别 AI 生成内容的准确率仅为 26%,并且有 9% 的人类撰写文本被错误地标记为 AI 生成的

因此,该公司将该工具称为"不完全可靠"的检测工具。

OpenAI表示,它将继续努力,探索更有效的技术来验证文本的来源。

矛与盾的较量还在继续,我们值得期待。

官网博文地址:

https://openai.com/blog/new-ai-classifier-for-indicating-ai-written-text

相关推荐
fly-974 小时前
LLM大模型微调入门Lora(LlamaFactory)
chatgpt·nlp
程序员洲洲8 小时前
重构开发之道,Blackbox.AI为技术注入智能新动力
chatgpt·blackbox.ai·blackboxai·图片转应用
海边散步的蜗牛11 小时前
学术论文写作丨机器学习与深度学习
人工智能·深度学习·机器学习·chatgpt·数据分析·ai写作
爱技术的小伙子12 小时前
【ChatGPT】通过Prompt技巧优化ChatGPT的营销文案输出
人工智能·chatgpt·prompt
智匠MindCraft Al13 小时前
GPT o1 模型使用及API调用
人工智能·gpt·ai·语言模型·chatgpt
HelpLook HelpLook16 小时前
人工智能:重塑医疗、企业与生活的未来知识管理——以HelpLook为例
人工智能·chatgpt·生活·知识库·helplook·知识库搭建
tyler_download19 小时前
手撸 chatgpt 大模型:简述 LLM 的架构,算法和训练流程
算法·chatgpt
大数据面试宝典19 小时前
用AI来写SQL:让ChatGPT成为你的数据库助手
数据库·人工智能·chatgpt
IPdodo全球网络1 天前
解析“ChatGPT网络错误”:从网络专线到IP地址的根源与解决方案
网络·tcp/ip·chatgpt
思绪无限1 天前
详解Gemini API的使用:在国内实现大模型对话与目标检测教程
人工智能·目标检测·计算机视觉·chatgpt·大模型·使用教程·gemini api