$甲骨文 (ORCL.US)$ 但作为行业现象的AI辞职信的核心，是炙手可热的初创公司OpenAI。在过去的两年里，包括高管和注重安全的研究人员在内的许多重要人物纷纷离开这家公司。有人主动辞职；有人被解雇；还有人被媒体描述为因公司内部纠纷而“被迫离职”。仅在2024年上半年的短时间内，就有七人离开。
由于收入远不及其庞大且不断增长的基础设施成本，OpenAI最近宣布将开始在ChatGPT中引入广告。这导致研究员Zoë Hitzig选择辞职。本周，她在《泰晤士报》上发表了一封辞职信，警告广告成为聊天机器人对话底层结构的一部分可能带来的影响。“ChatGPT用户生成了一个前所未有的、充满人类坦率的档案库，部分原因是因为人们认为他们正在与一个没有隐藏议程的对象交流，”她写道。但她警告称，OpenAI似乎准备利用这一“人类坦率的档案库”——正如Facebook所做的那样——投放定向广告并削弱用户的自主权。为了最大化用户参与度，消费者可能会被操纵——这是现代互联网的经典罪行。
如果你认为自己正在构建一项改变世界的技术，就需要能够信任你的领导层。而这一直是OpenAI的问题。2023年11月17日，Altman被公司董事会戏剧性地解雇，理由是Altman在与董事会沟通时“未始终保持坦诚”。不到一周后，他发动了自己的董事会政变并重新上任，随后巩固了权力。从此，离职潮便接踵而至。
2024年5月14日，OpenAI联合创始人Ilya Sutskever宣布辞职。Sutskever被另一位公司联合创始人John Schulman取代，担任OpenAI超级对齐团队负责人。几个月后，Schulman离开OpenAI加入Anthropic。六个月后，他宣布转投由前OpenAI首席技术官Mira Murati创立的AI初创公司Thinking Machines Lab，后者曾在短暂解雇期间接替Altman担任OpenAI临时首席执行官。
Sutskever离开OpenAI的第二天，同样负责OpenAI对齐工作的Jan Leike在X平台上宣布辞职。“OpenAI肩负着代表全人类的重大责任，”Leike写道，但公司的“安全文化和流程已经让位于亮眼的产品。”他认为，“OpenAI必须成为一家以安全为首要任务的AGI公司。”不到两周后，Leike被Anthropic聘用。OpenAI和Anthropic均未回应评论请求。
在OpenAI，离职的研究员表示，那些关注对齐和安全问题的专家常常被边缘化、排挤或分散到其他团队，这让研究人员感到，AI公司正在竞相开发一种他们无法控制的技术。“简而言之，无论是OpenAI还是其他前沿实验室，都没有准备好迎接AGI的到来，整个世界也没有准备好，”Miles Brundage在2024年辞去OpenAI AGI准备团队职务时写道。然而，他补充道：“在OpenAI工作是大多数人梦寐以求的最具影响力的事情之一”，并未直接批评公司。Brundage目前运营着一家名为AVERI的AI研究机构。
在整个AI行业中，情况大致相同。在公开声明中，顶级研究人员温和地批评或偶尔谴责他们的雇主，指责他们追求一项可能带来末日灾难的发明，同时也强调进行这项研究的必要性。有时他们会发出一些“隐晦的警告”，让AI观察者摸不着头脑。少数人似乎确实对当前发生的事情感到震惊。当OpenAI安全研究员Steven Adler于2025年1月离开公司时，他写道，他对AI发展的速度“非常恐惧”，并质疑它是否会毁灭人类。
然而，在众多AI辞职信中，几乎没有讨论AI如何正在被使用。数据中心建设、资源消耗、大规模监控、移民局驱逐行动、武器研发、自动化、劳动力中断、垃圾信息泛滥、教育危机——这些是许多人看到AI正在影响他们生活的领域，有时是负面影响，而行业的虔诚辞职者对此并没有太多评论。他们关于某些即将到来的灾难的警告成为了科技媒体的素材——以及下一份行业工作的事实上的求职信——却未能触及更广泛的公众。
William Stafford在Mrinank Sharma分享的诗中写道：“悲剧发生，人们受伤或死亡；你承受痛苦并老去。” 这是一件可怕的事，尤其是其中流露出的被动与不可避免性——可以说是听天由命。可能会让人觉得任何抗议行为都无济于事，或者正如斯塔福德在下一行写到的：“无论你做什么都无法阻止时间的推移。”
Jacob Silverman是Business Insider的撰稿人。他最近的著作是《镀金的愤怒：埃隆·马斯克与硅谷的激进化》。
由于收入远不及其庞大且不断增长的基础设施成本，OpenAI最近宣布将开始在ChatGPT中引入广告。这导致研究员Zoë Hitzig选择辞职。本周，她在《泰晤士报》上发表了一封辞职信，警告广告成为聊天机器人对话底层结构的一部分可能带来的影响。“ChatGPT用户生成了一个前所未有的、充满人类坦率的档案库，部分原因是因为人们认为他们正在与一个没有隐藏议程的对象交流，”她写道。但她警告称，OpenAI似乎准备利用这一“人类坦率的档案库”——正如Facebook所做的那样——投放定向广告并削弱用户的自主权。为了最大化用户参与度，消费者可能会被操纵——这是现代互联网的经典罪行。
如果你认为自己正在构建一项改变世界的技术，就需要能够信任你的领导层。而这一直是OpenAI的问题。2023年11月17日，Altman被公司董事会戏剧性地解雇，理由是Altman在与董事会沟通时“未始终保持坦诚”。不到一周后，他发动了自己的董事会政变并重新上任，随后巩固了权力。从此，离职潮便接踵而至。
2024年5月14日，OpenAI联合创始人Ilya Sutskever宣布辞职。Sutskever被另一位公司联合创始人John Schulman取代，担任OpenAI超级对齐团队负责人。几个月后，Schulman离开OpenAI加入Anthropic。六个月后，他宣布转投由前OpenAI首席技术官Mira Murati创立的AI初创公司Thinking Machines Lab，后者曾在短暂解雇期间接替Altman担任OpenAI临时首席执行官。
Sutskever离开OpenAI的第二天，同样负责OpenAI对齐工作的Jan Leike在X平台上宣布辞职。“OpenAI肩负着代表全人类的重大责任，”Leike写道，但公司的“安全文化和流程已经让位于亮眼的产品。”他认为，“OpenAI必须成为一家以安全为首要任务的AGI公司。”不到两周后，Leike被Anthropic聘用。OpenAI和Anthropic均未回应评论请求。
在OpenAI，离职的研究员表示，那些关注对齐和安全问题的专家常常被边缘化、排挤或分散到其他团队，这让研究人员感到，AI公司正在竞相开发一种他们无法控制的技术。“简而言之，无论是OpenAI还是其他前沿实验室，都没有准备好迎接AGI的到来，整个世界也没有准备好，”Miles Brundage在2024年辞去OpenAI AGI准备团队职务时写道。然而，他补充道：“在OpenAI工作是大多数人梦寐以求的最具影响力的事情之一”，并未直接批评公司。Brundage目前运营着一家名为AVERI的AI研究机构。
在整个AI行业中，情况大致相同。在公开声明中，顶级研究人员温和地批评或偶尔谴责他们的雇主，指责他们追求一项可能带来末日灾难的发明，同时也强调进行这项研究的必要性。有时他们会发出一些“隐晦的警告”，让AI观察者摸不着头脑。少数人似乎确实对当前发生的事情感到震惊。当OpenAI安全研究员Steven Adler于2025年1月离开公司时，他写道，他对AI发展的速度“非常恐惧”，并质疑它是否会毁灭人类。
然而，在众多AI辞职信中，几乎没有讨论AI如何正在被使用。数据中心建设、资源消耗、大规模监控、移民局驱逐行动、武器研发、自动化、劳动力中断、垃圾信息泛滥、教育危机——这些是许多人看到AI正在影响他们生活的领域，有时是负面影响，而行业的虔诚辞职者对此并没有太多评论。他们关于某些即将到来的灾难的警告成为了科技媒体的素材——以及下一份行业工作的事实上的求职信——却未能触及更广泛的公众。
William Stafford在Mrinank Sharma分享的诗中写道：“悲剧发生，人们受伤或死亡；你承受痛苦并老去。” 这是一件可怕的事，尤其是其中流露出的被动与不可避免性——可以说是听天由命。可能会让人觉得任何抗议行为都无济于事，或者正如斯塔福德在下一行写到的：“无论你做什么都无法阻止时间的推移。”
Jacob Silverman是Business Insider的撰稿人。他最近的著作是《镀金的愤怒：埃隆·马斯克与硅谷的激进化》。
免责声明：社区由Moomoo Technologies Inc.提供，仅用于教育目的。更多信息
评论
发表评论
2