OpenAI Q-Star:AGI距离自我意识越来越近

最近硅谷曝出一份54页的内部文件,揭露了去年OpenAI宫斗,导致Altman(奥特曼)差点离职的神秘项目------Q-Star(神秘代号Q*)。

根据该文件显示,Q-Star多模态大模型拥有125万亿个参数,比现有GPT-4多60倍,而一般成人人脑有860-1000亿个神经元,大约100万亿个突触。也就是说,Q-Star是完全比照人类大脑设计的模型。

OpenAI计划于2027年完成训练,并以GPT-7的名义发布,而一旦成功,预计Q-Star相当于一个智商145的人类,并初步具备自我意识,也就是说,GPT-7将会成为第一个真正的AGI模型。

智商145是啥概念?一个人的认知能力和智力水平,其平均值通常设定为100。智商超过130,通常被认为是高于平均水平,而达到145或更高,则被认为是天才水平,超过了95%的人类。人类目前最聪明的爱因斯坦,智商据说约为160左右,属于几十亿人里几百年才出现一个的天才。

因此,Q-Star多模态大模型就是超级人工智能,必然会引起未来机器人超越人类、毁灭人类的担忧。个人推测,这可能是引发2023年年初,生命未来研究所突然发出《暂停大型人工智能研究》的公开信,马斯克以及许多科技界大佬都署名支持,以及OpenAI创始人Altman突然被罢免等事件的原因。这些科技大佬们都清楚人工智能的强大,但需暂停一下。因为全人类还没做好接受有这般能力AI的准备,包括伦理道德风险、AI失控的风险,先把人工智能和人类的伦理问题解决了再发展。

目前,还不清楚Q-Star的具体原理。据专家推测,可能是基于贝尔曼方程中的最优值函数,即动态规划方程:Q代表动态解,Q*为最优效率解。

去年OpenAI宫斗之前,Ilya率领技术团队做了一个内部测试:Q*可以解小学数学题,现在可以解复杂物理题,这意味着Q*很可能已经完成了小模型的训练,若将其扩展到大模型,就可以规划越来越抽象、越来越复杂的目标,最终逼近并超越人脑,而这正是OpenAI的目标,或者是Altman的目标。

最近马斯克起诉OpenAI违背初心、将AI应用商业化的事,表面上看是想给自己留出追赶时间,但也不排除马斯克可能察觉到了风险所在,希望控制下Altman,不能让其野望毁了全人类!!

相关推荐
居7然1 小时前
如何高效微调大模型?LLama-Factory一站式解决方案全解析
人工智能·大模型·llama·大模型训练·vllm
GPUStack2 小时前
昇腾多机推理极速上手:10倍简化的 DeepSeek R1 超大规模模型部署
大模型·llm·昇腾·npu·分布式推理
珊珊而川6 小时前
ReAct与PlanReAct的定义及区别
大模型·agent
有点不太正常15 小时前
FlippedRAG——论文阅读
论文阅读·安全·大模型·rag
一起喝芬达201021 小时前
通用人工智能(AGI)发展现状:从科幻到现实的跨越
人工智能·agi
一颗小树x1 天前
【机器人】CogNav 目标导航 | 认知过程建模 | LLM大模型
机器人·大模型·cognav·目标导航·认知过程建模
胡斌附体1 天前
docker离线部署gpt-oss-20b流程,从下载到安装再到可以使用
gpt·docker·容器·大模型·部署·记录·离线
xixixi777771 天前
LangChain(一个用于构建大语言模型(LLM)应用程序的开源框架)
人工智能·深度学习·机器学习·langchain·大模型·大模型框架
CoderJia程序员甲2 天前
GitHub 热榜项目 - 日榜(2025-09-24)
ai·开源·大模型·github·ai教程
致Great2 天前
AI Agent的四象限法则:解码智能体应用的底层逻辑
人工智能·大模型·agent·智能体·deepresearch