OpenAI 的 Superalignment 团队负责开发治理和引导“超智能”AI系统的方式，据该团队的一位成员透露，他们曾承诺获得公司20%的计算资源。然而，他们往往被拒绝使用这一部分计算资源，导致无法完成工作。这个问题以及其他一些问题促使几名团队成员本周辞职，其中包括前 DeepMind 研究员、曾参与开发 ChatGPT、GPT-4 和 ChatGPT 前身 InstructGPT 的共同负责人 Jan Leike。Leike 在周五上午公开发表了他辞职的一些原因。“我与 OpenAI 领导层对公司的核心优先事项存在分歧已经有一段时间了，直到我们最终达到了一个临界点，”Leike 在 X 上的一系列帖子中写道。“我认为我们应该花更多的精力为下一代模型做准备，包括安全性、监控、应对准备、安全性、对抗鲁棒性、(超级)对齐性、机密性、社会影响等相关问题。这些问题很难解决，我担心我们没有达到这个目标的轨迹。”OpenAI 暂时未回复有关向该团队承诺和分配资源的请求。OpenAI 成立了 Superalignment 团队，由 Leike 和 OpenAI 的联合创始人 Ilya Sutskever 领导，该团队的宏伟目标是在未来四年内解决控制超智能 AI 的核心技术挑战。该团队由来自 OpenAI 以前的对齐部门的科学家和工程师以及来自公司其他组织的研究人员组成，团队负责研究为 OpenAI 内部和非 OpenAI 模型的安全性提供信息，并通过研究资助计划等举措与更广泛的 AI 行业分享工作。Superalignment 团队确实成功发表了一系列安全性研究，并向外部研究人员提供了数百万美元的资助。然而，随着产品推出占据了越来越多的 OpenAI 领导层的关注，Superalignment 团队发现自己不得不为更多的前期投资而奋斗—这些投资被认为对于实现为了造福全人类而开发超智能 AI 的公司的宣言任务至关重要。创新对于每个阶段的旧金山，10月28日至30日，[注册 Techcrunch 活动创新对于每个阶段的旧金山，10月28日至30日，[注册 “构建比人类更聪明的机器是一项固有的危险工作，”Leike 继续说道。“但在过去的几年里，安全文化和流程一直处于次要地位，因为我们更注重闪亮的产品。”Sutskever 与 OpenAI CEO Sam Altman 的斗争成为一个重要的额外干扰因素。Sutskever 和 OpenAI 的旧董事会一起在去年末试图解雇 Altman，原因是他没有“一贯坦诚地”对待董事会成员。在受到包括微软在内的 OpenAI 投资者和公司员工的压力下，Altman 最终被恢复职务，董事会的大部分成员辞职，而 Sutskever 则没有回到工作岗位。据消息人士透露，Sutskever 对 Superalignment 团队起到了重要作用，不仅贡献了研究成果，还成为 OpenAI 内其他部门的桥梁。他还将担任某种大使的角色，向 OpenAI 的关键决策者强调团队工作的重要性。在 Leike 离职后，Altman 在 X 中写道，他同意还有“很多工作要做”，并表示他们“致力于完成”。他暗示将提供更详细的解释，而联合创始人 Greg Brockman 在周六提供了部分解释。尽管 Brockman 的回应中没有具体的政策或承诺，但他表示，“我们需要有一个非常紧密的反馈循环、严格的测试、在每一步都要经过仔细考虑、世界一流的安全性和安全性与能力的和谐。”在 Leike 和 Sutskever 离职后，John Sch
Share this content:
