OpenAI Q-Star:AGI距离自我意识越来越近

最近硅谷曝出一份54页的内部文件,揭露了去年OpenAI宫斗,导致Altman(奥特曼)差点离职的神秘项目------Q-Star(神秘代号Q*)。

根据该文件显示,Q-Star多模态大模型拥有125万亿个参数,比现有GPT-4多60倍,而一般成人人脑有860-1000亿个神经元,大约100万亿个突触。也就是说,Q-Star是完全比照人类大脑设计的模型。

OpenAI计划于2027年完成训练,并以GPT-7的名义发布,而一旦成功,预计Q-Star相当于一个智商145的人类,并初步具备自我意识,也就是说,GPT-7将会成为第一个真正的AGI模型。

智商145是啥概念?一个人的认知能力和智力水平,其平均值通常设定为100。智商超过130,通常被认为是高于平均水平,而达到145或更高,则被认为是天才水平,超过了95%的人类。人类目前最聪明的爱因斯坦,智商据说约为160左右,属于几十亿人里几百年才出现一个的天才。

因此,Q-Star多模态大模型就是超级人工智能,必然会引起未来机器人超越人类、毁灭人类的担忧。个人推测,这可能是引发2023年年初,生命未来研究所突然发出《暂停大型人工智能研究》的公开信,马斯克以及许多科技界大佬都署名支持,以及OpenAI创始人Altman突然被罢免等事件的原因。这些科技大佬们都清楚人工智能的强大,但需暂停一下。因为全人类还没做好接受有这般能力AI的准备,包括伦理道德风险、AI失控的风险,先把人工智能和人类的伦理问题解决了再发展。

目前,还不清楚Q-Star的具体原理。据专家推测,可能是基于贝尔曼方程中的最优值函数,即动态规划方程:Q代表动态解,Q*为最优效率解。

去年OpenAI宫斗之前,Ilya率领技术团队做了一个内部测试:Q*可以解小学数学题,现在可以解复杂物理题,这意味着Q*很可能已经完成了小模型的训练,若将其扩展到大模型,就可以规划越来越抽象、越来越复杂的目标,最终逼近并超越人脑,而这正是OpenAI的目标,或者是Altman的目标。

最近马斯克起诉OpenAI违背初心、将AI应用商业化的事,表面上看是想给自己留出追赶时间,但也不排除马斯克可能察觉到了风险所在,希望控制下Altman,不能让其野望毁了全人类!!

相关推荐
angleboy81 天前
【LLM Agents体验 1】Dify框架的安装指南
人工智能·语言模型·大模型·nlp
AI_小站1 天前
LLM——10个大型语言模型(LLM)常见面试题以及答案解析
人工智能·程序人生·语言模型·自然语言处理·大模型·llm·大模型面试
GPUStack1 天前
制作并量化GGUF模型上传到HuggingFace和ModelScope
大模型·huggingface·modelscope·genai·gguf
龙的爹23331 天前
论文 | Evaluating the Robustness of Discrete Prompts
人工智能·gpt·自然语言处理·nlp·prompt·agi
AI_小站2 天前
多模态大模型微调实践!PAI+LLaMA Factory搭建AI导游
人工智能·程序人生·语言模型·大模型·llm·产品经理·多模态大模型
小嗷犬2 天前
【论文笔记】Dense Connector for MLLMs
论文阅读·人工智能·语言模型·大模型·多模态
AI_小站2 天前
【AI工作流】FastGPT - 深入解析FastGPT工作流编排:从基础到高级应用的全面指南
人工智能·程序人生·语言模型·大模型·llm·fastgpt·大模型应用
微学AI3 天前
关于基于AGI和大模型技术下养老服务高质量发展解决方案项目,以及实现代码过程实战
人工智能·python·大模型·agi
黑客-雨3 天前
AI时代的产品经理修炼手册:《人工智能产品经理》
人工智能·学习·大模型·产品经理·大模型学习·大模型入门·大模型教程
发菜君4 天前
2024年大厂AI大模型面试题精选与答案解析
人工智能·学习·大模型·产品经理·大模型学习·大模型入门·大模型教程