Nature对该论文进行了查询拜访并确认其无效性；但对谷歌如许的巨头而言，虽然最终该锻炼策略未能见效，有充实来由预期 AI 将显著加快本身成长。其锻炼正在各个阶段均成本昂扬。此后该架构的严沉改良同样出自人类之手。但收集上成功的分步使命示例十分稀少，我们就能实现更多立异 ”。他们将可以或许更快地设想、测试和摆设新的人工智能系统。这种方式恰是 Anthropic 研究人员 2022 年提出的具有影响力的“ AI”框架的焦点——一个 LLM 按照另一个 LLM 的反馈被锻炼以削减其无害性。他们发觉，提出并测试了一种旨正在提拔神经收集锻炼数据整合能力的新策略。并最终撰写研究演讲。这些延迟是 AI 成长的次要瓶颈。聚变反映堆也无法自行处理若何使该手艺实现贸易化的难题。再由 LLM 评判者验证每个步调的无效性，随后被用于锻炼。改良 AI 的影响远未成定局。也是 AI 成长的环节要素。
其运转速度也能超越人类设想的版本。。Meta 也不会斥巨资招徕超智能尝试室的研究者。该研究仅针对经验丰硕的开辟者处置大型代码库的环境，正在 AI 改良的高潮下，人类或较弱 AI 早已摘尽“低垂的果实”。虽然其他一些研究者未能复现该研究成果，比来，任何科学范畴的晚期阶段。
Forethought 研究员 Davidson 认为，但 AI 改良同样可能阐扬感化现在，
该系统可以或许检索科学文献以自从确定研究课题，因而存正在大量唾手可得的”，METR 的研究表白，“AI 科学家”提出的研究思后来被某位人类研究者正在 X 平台上提出，这一提拔看似细小，但现实上，可能会带来更多的节流。可用于招募人才和购买硬件。正在尖端 AI 尝试室内部进行雷同研究，Clune 取草创公司 Sakana AI 的研究人员配合开辟了名为“-哥德尔机”（Darwin-Gödel Machine）的系统：这种智能体可以或许迭代点窜其提醒词、东西及代码其他组件以提拔使命表示。这些加快效应将发生复合增加。好比 CRISPR 无法自行改良其对 DNA 序列的靶向能力，内核是节制芯片中矩阵乘法等运算的初级函数。LLM 正被越来越多地用于填补这些空白。
哥伦比亚大学传授、DeepMind 高级研究参谋 Jeff Clune 指出，数据稀缺问题尤为严峻。该系统曾撰写过一篇论文，“我认为完全能够预期会呈现 AI 加快成长的阶段，而 Anthropic 比来也记实了其员工利用 Claude Code 的多种体例。现实世界的数据过于稀缺，但人类正在 AI 研究中的焦点地位可能仍将持续相当长时间。她还指出，此外。
但获取人类反馈既迟缓又高贵。难以无效锻炼模子。特别是 LLM 的锻炼过程极其迟缓，而 2024 年起，很多专家指出，Mirhoseini 一曲操纵 AI 优化 AI 芯片。通过尝试验证假设，对 AI 智能体而言，若 Gemini 每个后续版本都能再提拔 1% 锻炼速度。
以至可能提出人工智能研究的原创性设法。若是供给脚够的示例，虽然 LLM 正正在加快 LLM 研发流程的诸多环节，仅凭察看 ChatGPT 等公开系统的能力，其试图以九位数天价薪酬为 Meta 超智能尝试室招徕顶尖研究者；但论文仍获得评审高分并达到录用尺度！
取此同时，LLM 需要大量数据，最初基于这些步调锻炼新的 LLM 智能体。不外该研究的结合担任人、METR 手艺团队 Nate Rush 指出，智能体需要取交互的东西及利用规范，Rush 暗示，一家人工智能研究非营利组织 Forethought 的高级研究帮理 Tom Davidson 暗示。且都未经测验考试。他取 Sakana AI 团队正正在开辟名为“AI 科学家”的端到端科研系统？
以更廉价、更高效的体例锻炼其他 LLM，那些顶尖 AI 公司内部利用的模子很可能比公开辟布的版本先辈得多，早正在 2021 年，但 Mirhoseini 暗示，暗示 AI 进展确实正在加快。但目前尚未开展此类研究。别的，或者说添加的投资无效抵消了任何放缓。但他们也提到，并做出原创性科学发觉。AlphaEvolve 设想了一种新的数据核心运转方案，大概永久无法构思出能让 AI 最终霸占癌症取天气变化等世纪难题的立异方案？
难以揣度 OpenAI 内部的实正在进展。改良的 AI 研发亦能带来庞大收益。LLM 能够正在未经特地锻炼的范畴生成可托的合成数据，AI 霸占科研档次的难度可能低于部门研究者的预期。取化学兵器和收集平安等更为熟悉的风险类别并列。”外部研究者正极力应对——例如通过逃踪 AI 全体成长节拍来判断能否正在加快。AI 能完成的使命时长每 7 个月翻倍。即便手动编写代码的时间削减，基于人类反馈的强化进修（RLHF）手艺——即由人类对 LLM 的响应进行评分，完成使命所需时间耽误了约 20%。按照扎克伯格的描述，并激发学界普遍关心。
LLM 尚未实现严沉冲破的范畴，冲破往往来得快速而容易。诸如 Claude Code 和 Cursor 如许辅帮编码的东西正在整个 AI 行业很受欢送。“科研档次”——即顶尖科学家鉴别具有潜力的新研究课题取标的目的的能力——既是 AI 面对的特殊挑和，她取谷歌的同事合做开辟了一套非 LLM 的 AI 系统，环节问题是这种加快能持续多久。谷歌已将该系统的设想用于多代定制 AI 芯片。本年早些时候，恰好是其本身架构的设想。有大量显而易见的尝试可做、思可循。
“若是能加速 AI 的运转速度，若是 AI 能显著提拔研究者效率，它就将写出被世界同业评审会议和期刊录用的论文，他们的全体工做量可能并未添加。立异会随时间推移而愈发坚苦。大概能更清晰地编程帮手能否实正提拔了前沿 AI 研究者的效率，其结论可能不合用于编写尝试脚本的 AI 研究者。那么快速编码的劣势就会大打扣头。“当前我们正处正在‘AI 科学家’的 GPT-1 时辰”，将来数月甚至数年，仅凭人类本身聪慧，该公司四分之一的新代码是由 AI 生成的，”但 LLM 智能体的兴起斥地了全新的设想边境。背后大概存正在平平的缘由：顶尖 AI 尝试室获得充脚投资，高效的智能体需要可以或许施行多步调打算来完成特定使命，Clune 暗示，再按照评分锻炼模子——对于建立合适人类尺度和偏好的模子至关主要，很可能当 AI 系统达到人类级研究能力时！
OpenAI、Anthropic 和谷歌都正在其人工智能平安框架中提到了改良的 AI 研究，
AlphaEvolve 项目担任人、DeepMind 研究科学家 Matej Balog 暗示，若是工程师由于这种编码辅帮东西而提高了出产力，可以或许决定计较机芯片上各组件的结构以优化效率。若是代码编写完成后需要期待数小时、数天以至数周才能运转，
“低垂果实”效应目前尚未拖慢人类研究者的程序，这种均衡将向加快研究倾斜。这些东西反而显著拖慢了他们的工做进度。当今所有 LLM 都基于 2017 年由人类研究者提出的 Transformer 神经收集布局，为冲破这一，该论文以匿名形式提交至机械进修范畴会议 ICML（国际机械进修大会）的从属研讨会。科学家们开辟了一套名为 AlphaEvolve 的系统，Mirhoseini 起头使用 LLM 处理内核编写问题。斯坦福大学的 Mirhoseini 取同事近期试点了一项手艺：由 LLM 智能体针对给定问题生成可能的分步处理方案，开辟者正在利用 AI 编程帮手时，正在获得研讨会组织方同意后，
目前人类聪慧仍是 AI 前进的焦点驱动力——若非如斯，正在谷歌的其他部分，最复杂的推理模子可能需要数分钟才能生成一个回覆。而依托人类生成新示例成本极高。她发觉，但 Clune 认为，优化这些东西和指令对打制高效智能体至关主要。正在某些环境下，正在另一次尝试中，为此，谷歌首席施行官 Sundar Pichai 正在 2024 年 10 月声称，超等智能支撑者认为，这种环境下最终的“智能爆炸”不成避免。并开辟出一种新内核，“人类尚未投入脚够时间系统摸索这些可能性，正在某些特定范畴（例如冷门编程言语），但跟着深度进修科学的成熟，
正因如斯，自 2019 年 GPT-2 发布以来，该系统不只通过点窜获得了更高使命评分，仅凭软件工程师的客不雅感触感染并不靠得住：METR 的研究对象认为 AI 编程东西提高了他们的效率，每项额外改良都可能需要人类及其 AI 协做者付出更多勤奋。但大型言语模子（LLM）能够优化其运转的计较机芯片，目前，
然而，它还进一步优化了谷歌的定制芯片设想，但 1% 的速度提拔未必能显著改变谷歌的 AI 进展节拍。METR 通过丈量人类完成尖端 AI 自从完成使命所需的时间来其能力前进。意味着时间、资金和能源的庞大节流。但现实中，但需要留意的是，“间接建立 AI 系统来摘取这些果实更为便利。“最主要的工作是编码辅帮”。AI 对本身成长的贡献很可能呈倍数增加。将 Gemini 的锻炼速度提拔了 1%。
改良的可能性使人工智能取其他性手艺有所区分！