人工智能是否已经达到瓶颈?据报道,GPT-5可能遭遇了困境
2024-11-12 10:52:15爱云资讯阅读量:17,591
(爱云资讯消息)据外媒的一份新报告称,备受期待的OpenAI下一代Orion ChatGPT模型有传闻称将于今年年底推出,但可能并没有人们想象的那么强大。
该报告援引了匿名的OpenAI员工的话,称Orion模型相对于其GPT-4前代产品所表现出的改进幅度要小得多,而GPT-4相对于GPT-3所表现出的改进幅度要大得多。这些消息来源还指出,虽然该新模型在诸如总结文件或生成电子邮件等通用语言能力方面表现更为出色,但是Orion在处理某些任务时并不比其前代产品(GPT-4)表现得更为可靠,尤其是在编写应用程序方面几乎没有进展。
该报告指出,新模型无法取得显著进展的一个主要原因是可用于训练新模型的高质量文本和其他数据的供应正在减少。简而言之,人工智能行业正迅速陷入训练数据瓶颈,已经从X、Facebook和YouTube等网站清除了容易获取的社交媒体数据。因此,这些公司越来越难以找到有助于将模型提升至超出当前能力水平的棘手编码挑战,从而减缓了其在发布前的训练速度。
这种降低了的训练效率有着巨大的生态和商业影响。随着前沿级LLMs的不断发展,其参数数量进一步增加至万亿级别以上,预计未来十年所需的能源、水和其他资源将增加六倍。这就是为什么我们看到微软试图重启三英里岛核电站,亚马逊购买了960兆瓦的发电厂,谷歌购买了七个核反应堆的发电量,因为它们不断增长的人工智能数据中心提供所需的电力越来越大,目前美国的电力基础设施无法满足需求了。
据另一外媒报道,OpenAI成立了一个基础团队来解决缺乏适当的训练数据的问题。这些技术可能包括使用合成训练数据,比如英伟达的Nemotron系列模型生成的数据。该团队还在研究如何在模型训练后提高其性能。
Orion最初被认为是OpenAI的GPT-5的代号,目前预计它将在2025年才能推出。
相关文章
- 世界互联网大会|王巍:人工智能迅猛发展是全球技术合作成果
- 安恒信息王欣入选世界互联网大会人工智能专业委员会
- 《生成式人工智能零售业全景探索白皮书》重磅发布,引领“零售+AI”新时代
- 苹果计划在2026年推出LLM Siri 增强自研人工智能
- 智能时代的少年楷模:“2024华为开发者大赛·少年开发者人工智能大赛”颁奖典礼落幕
- 人工智能全球合作联盟——首届人工智能全球合作论坛核心成果之一
- 百模论剑决赛收官日 | “人工智能+”鏖战四日,战果即将揭晓!
- 微软推出Copilot Actions,利用人工智能自动执行重复性任务
- 微软宣布举办大型线下黑客大会 为人工智能安全提供高达400万美元奖励
- 百模论剑决赛第3日 | 各地团队赴蓉参赛,“人工智能+”智慧碰撞
- 人工智能智库网络在京启动,百度、快手、华为、蚂蚁、腾讯、阿里等发起
- 百模论剑决赛第2日 | 多赛道展演答辩,“人工智能+” 活力迸发
- 百模论剑决赛第1日 | 15支队伍首发亮相,“人工智能+”表现亮眼
- 木愚科技:智驭人工智能,领航“AI+”产业实训未来
- 2025 福布斯中国人工智能科技企业 TOP 50 评选正式启动
- 百模论剑·首届全国“人工智能+”行业应用创新大赛决赛在成都开战!