往事2016IT之家OpenAI 再掀 AI 浪潮:GPT-4.1 被曝下周登场,满血版 o3 与 o4 mini 蓄势待发 4 月 11 日消息,OpenAI 开发 GPT-4 曾耗费了大量人力物力,而现在却只需 5~10 人团队即可从头走一遍这个流程。
OpenAI 首席执行官萨姆・奥尔特曼(Sam Altman)今日在公司内部播客中披露,得益于 GPT-4.5 的技术突破,重建 GPT-4 大模型所需团队规模已从数百人缩减至 5-10 人。
这一结论也获得了 GPT-4.5 预训练负责人亚历克斯・佩诺(Alex Paino)、数据效率研究员丹尼尔・塞尔萨姆(Daniel Selsam)等核心成员证实。
丹尼尔表示,“当得知某项技术已被实现,其复现难度就会大幅降低。我觉得,只要有可能,这就是一种巨大的作弊码。”
佩诺表示,GPT-4.5 的设计目标是比 2023 年 3 月发布的 GPT-4"智能 10 倍",他还补充道,"通过这种 GPT 预训练流程的优化,我们的规模也较之前拓展了 10 倍。"
此外,奥尔特曼还声称公司已突破 "算力制约" 瓶颈,而且他认为世界尚未真正理解这一转变。在此之前,各大科技公司已相继投入海量资金用于 AI 基础设施建设,其中微软、亚马逊、谷歌和 Meta 四家科技巨头 2024 年 AI 基础设施资本支出预计达 3200 亿美元(IT之家注:现汇率约合 2.34 万亿元人民币)。
OpenAI 认为,技术瓶颈已从算力转向数据效率领域(可能是指算力的边际效用递减,所以需要从算法方面寻求突破)。丹尼尔指出,当前 GPT 系列模型数据利用率存在 "洞察深度天然上限"。
"当算力持续扩张时,数据增长速度明显滞后,最终形成发展瓶颈。要想突破这一限制,需要进一步实现算法创新,从同等数据量中榨取更高价值。"
相关阅读:
《往事2016IT之家OpenAI 再掀 AI 浪潮:GPT-4.1 被曝下周登场,满血版 o3 与 o4 mini 蓄势待发》
广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家所有文章均包含本声明。
美国短期通胀预期意外降至一年多来最低水平,消费者信心在汽油价格下跌的推动下有所回升。 周五,密歇根大学公布的12月初值数据显示,消费者预计明年物价将以4.6%的年率攀升,低于一个月前的4.9%...
炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会! 12月12日,舜宇光学科技(02382)股价大幅低开,并持续走低,截至发稿,大跌超12%。消息面上,12月9日晚,舜宇...
12月12日,中国最大的稀土供应商中国北方稀土(集团)高科技股份有限公司(下称“北方稀土”,600111)公告披露,为贯彻落实国家稀土产业发展战略,健全完善以企业为主体、产学研深度融合的技术创新...
【#部分地区中小学暂停线下教学#,地方教育部门解释:为避开人群感染峰值】部分地区出现的中小学暂停线下教学,触发家长关切。其中,黑龙江尚志市教育部门发出通知称,当前各地疫情形势较为复杂,为切实保护广...
12月14日午盘收盘,国内期货主力合约多数上涨。低硫燃料油(LU)、焦煤涨超3%,SC原油、沪银涨超2%。跌幅方面,花生、纸浆跌超2%。 华泰期货燃料油:原油反弹 燃油价格上行驱动增强...
新浪科技讯 12月16日下午消息,“2022科技风云榜”年度盛典今日举行,今年活动主题为“守正创新,科技向上”。华为煤矿军团市场与产业发展总裁刘维发表《“将数字技术带入每一座矿山”——华为矿山AI...