人工智能需要能够自我改进。越来越多的人工智能相关人士认为，“目前的人工智能训练方法无法取得突破”。

来自OpenAI和谷歌等公司的一小部分但不断增长的人工智能开发人员认为，当前的技术路径不足以在生物学、医学和其他领域取得重大进展，简单的错误很难避免。这一观点引发了业界对数十亿美元投资方向的质疑。据《The Information》周二报道，上周在圣地亚哥举行的神经信息处理系统（NeurIPS）会议上，几位研究人员讨论了这个话题。他们认为，开发人员需要创建能够在部署后继续获得新功能的人工智能。这种“持续学习”能力类似于人类学习，但尚未在人工智能领域实现。这些疑虑与一些人工智能领导者的乐观预测形成鲜明对比。 Anthropic 首席执行官 Dario Amodei 上周表示，人工智能（AGI）可以通过扩大现有的训练技术来实现，并且 OpenAI 首席执行官 Sam Altman 表示，他相信人工智能可以在两年或更长时间内自我完善。但如果怀疑者是对的，OpenAI 和 Anthropic 明年在强化学习等技术上花费的数十亿美元可能会面临风险。尽管存在技术限制，但目前人工智能在写作、设计、采购和数据分析等任务中的表现正在推动收入增长。 OpenAI 预计其今年的收入将增长两倍以上，达到 130 亿美元左右，Anthropic 预计其收入将增长 10 倍以上，达到 40 亿美元左右。核心争论：人工智能可以像人类一样学习吗？亚马逊人工智能研究主管 David Luan 表示：“我们可以肯定地说，我们今天训练模型的方式不会继续下去。”许多研究人员认为 NeurIPS 的参与者也持有类似的观点，并认为新的开发技术可能是实现类人人工智能所必需的。 OpenAI 联合创始人兼前首席科学家 Ilya Satskeva 上个月表示，一些 c当前最先进的人工智能训练方法无法帮助模型泛化或处理涉及未知目标的各种任务。在医学领域，持续学习可以让 ChatGPT 识别医学文献中不存在的新肿瘤，而无需根据大量先例进行训练。这使得它的行为就像人类放射科医生一样，可以根据单个病例检测模式。在 NeurIPS 主题演讲上，被誉为强化学习之父的阿尔伯塔大学教授 Richard Sutton 也表示，模型应该能够从经验中学习，研究人员不应该试图通过人类专家创建的大量专业数据来提高模型的知识。他认为，当人类专家达到其知识极限时，人工智能的进步将“最终受到阻碍”。相反，研究人员应该专注于发明一种可以在处理现实世界任务后从新信息中学习的人工智能。技术上的尝试理论进步和现实世界的障碍 NeurIPS 上发表的几篇重要研究文章探讨了这个主题。麻省理工学院和 OpenAI 的研究人员提出了一种新的“自适应语言模型”技术，该技术可以创建大型模型，可以使用现实世界中发现的信息来获取新知识或提高新任务的性能。例如，如果 ChatGPT 用户要求您分析他们以前从未见过的医学期刊文章，该模型可以重写该文章以及一组用于自我训练的问题和答案。下次有人问有关该主题的问题时，您可以用新信息进行回复。一些研究人员认为，这种持续的自我更新对于人工智能产生科学进步非常重要。因为它使人工智能更接近人类科学家，他们可以将新信息应用于旧理论。然而，技术限制阻碍了企业客户购买人工智能代理等新产品。模型继续犯错误如果人工智能提供商不更加努力地确保它们正常工作，那么简单的问题和人工智能代理通常会表现不佳。业务影响：收入增加带来投资风险。如果 Luan 和 Sutskever 等怀疑论者是对的，那么开发人员明年将投资于强化学习等流行技术。数十亿美元可能存在疑问（包括向 Scale AI、Surge AI 和 Turing 等帮助完成此类工作的公司支付的费用）。 Scale 发言人 Tom Channick 不同意，他表示使用持续学习的人工智能仍然需要从人类生成的数据和 Scale 提供的强化学习产品中学习。尽管如此，即使没有新的进展，人工智能开发人员似乎也赚了很多钱。 OpenAI 和 Anthropic 从三年前几乎没有收入，到现在通过销售聊天机器人和人工智能模型获得了可观的收入。其他开发人工智能应用程序的初创公司，例如编码助手 Cursor，预计将产生超过 30 亿美元的收入明年的总体收入。行业竞争：谷歌的突破导致颠覆 研究人员还讨论了大型开发商之间的人工智能竞争。谷歌的技术在某些指标上优于竞争对手，Altman 告诉 OpenAI，要为“充满挑战的氛围”和“暂时的经济逆风”做好准备。在与 Google 人工智能团队的问答环节中，几位与会者询问团队如何改进预训练过程。这是 OpenAI 今年大部分时间都在致力于的事情。谷歌研究副总裁 Vahab Mirrokni 表示，该公司改进了用于预训练的数据组合，并找到了更好地管理谷歌设计的数千个张量处理单元的方法，从而减少了因硬件故障而导致的模型开发过程中断。 OpenAI 领导层最近表示，它相信它可以类似地改进其预训练过程并开发一种代号为 Garlic 的新模型，该模型可以与 Go 竞争在接下来的几个月里。
特别提示：以上内容（包括图片、视频，如有）由自有媒体平台“网易账号”用户上传发布。本平台仅提供信息存储服务。Masú。
注：以上内容（包括图片和视频，如有）由您上传并发布。网易号是一个仅提供信息存储服务的社交媒体平台的用户。