通往AGI的大模型MultiAgent的RL是对的但HF有上限

OpenAI高管Mira Murati周三告诉员工,一封关于AI取得突破的信件促使董事会采取了解雇行动。一位消息人士透露,OpenAI在Q*项目上取得了进展,内部人士认为这可能是OpenAI在超级智能领域的突破。这名消息人士称,虽然Q*的数学成绩只是小学生的水平,但在测试中取得优异成绩让研究人员对它未来的成功非常乐观

有人说:奥特曼不用斯派修姆光线把解雇他的OpenAI给消灭吗?

人类终将打开AGI(Artificial General Intelligence)通用人工智能的魔盒。

  1. scaling up 是接近 AGI 的正确方向,虽然不一定是最佳方向。

  2. 架构层面上,相信肯定有比 transformer 更好架构,但现在大家已经在这个架构上做了很多工作了,也能用。

  3. 同行Meta 没有做到位,Llama 还是差的挺多的,远远没有做好, meta 没有train 好。

  4. 学术界大模型研究与工业界差距大,一个问题是 gpu 算力集群不够,学术界不能做pretrain,很难下决心 all in 某个研究方向,另一个问题是学术界研究不能在生产中验证

  5. gpt 5什么时候出来不知道。

  6. 这一年来 gpt 底层model 并没换,只不过人的错觉认为变弱了

  7. 很多开源社区都是重复的造轮子,所以 OpenAI内部 就自己做掉这部分轮子

  8. RLHF(基于人类反馈(Human Feedback)对语言模型进行强化学习(Reinforcement Learning))不一定是AGI 的必经路径,因为RLHF是hf部分决定了上限,怎么会通往 AGI?

  9. 但RL是正确的,看好 multi agent,类比阿法狗,可以左脚踩右脚把能力提上去。

  10. GPTs是为了方便开发者而零时发布的一个产品,这不是OpenAI公司的重点

相关推荐
Baihai_IDP3 分钟前
RAG 文档解析工具选型指南
人工智能·llm
十二测试录20 分钟前
AI 驱动研发变革:技术突破与行业落地实践全景
人工智能·ai·aigc
m0_603888711 小时前
HumanPCR Probing MLLM Capabilities in Diverse Human-Centric Scenes
ai·论文速览
xcLeigh2 小时前
文心一言4.5开源模型实战:ERNIE-4.5-0.3B轻量化部署与效能突破
人工智能·开源·大模型·文心一言·ernie·轻量化部署
AwhiteV11 小时前
利用图数据库高效解决 Text2sql 任务中表结构复杂时占用过多大模型上下文的问题
数据库·人工智能·自然语言处理·oracle·大模型·text2sql
大千AI助手15 小时前
GitHub Copilot:AI编程助手的架构演进与真实世界影响
人工智能·深度学习·大模型·github·copilot·ai编程·codex
大模型教程16 小时前
一文带你快速入门:大模型工作流都在用的RAG和GraphRAG技术
程序员·llm·agent
pepedd86416 小时前
LangChain:大模型开发框架的全方位解析与实践
前端·llm·trae
用什么都重名16 小时前
《GPT-OSS 模型全解析:OpenAI 回归开源的 Mixture-of-Experts 之路》
人工智能·大模型·openai·gpt-oss
AI大模型16 小时前
企业RAG之构建 FastMCP 服务:基于模型上下文协议的智能服务体系搭建实践
程序员·llm·mcp