OpenAI的“内乱”：“良心科学家” 与 “激进企业家” 之争？

laodang @ 2023年11月21日财经风云

赵颖

“AI安全”和“商业化”矛盾是这场“宫斗大戏”的根因？

“AI安全”和“商业化”的深层次矛盾是这场“宫斗大戏”的背后原因？

凭借广受欢迎的聊天机器人ChatGPT，OpenAI一夜成名，OpenAI 首席执行官Sam Altman也成为科技界知名人物。而这种似乎引发了公司内部的紧张关系，一场让科技圈地震的内斗在周末上演，剧情反转，再反转......

当地时间周五，Altman被以OpenAI联合创始人兼董事会董事Ilya Sutskever为首的董事会成员中赶下了台。

但在周六，一个令人大跌眼镜的转折出现了，Sutskever在员工大会上称，公司高管努力让Altman回归。

然后，最终再次发生反转，在与董事会、高管以及投资者们进行了为期一个周末的谈判后决定Altman将不会回到OpenAI。

据媒体最新报道，知情人士表示，Sutskever越来越担心 OpenAI 的技术可能会带来危险，而Altman对这种风险重视不够，此外“商业化”和盈利也似乎是导致内部分裂的原因之一。

AI安全隐患担忧加剧

Altman下台引起了人们对人工智能界长期存在的风险的关注。有人认为人工智能是一代人中最大的商机，也有人担心发展太快会带来危险。罢免Altman的投票结果表明，一场致力于恐惧人工智能风险的思想运动已经成为科技文化不可避免的一部分。

自ChatGPT发布近一年以来，人工智能吸引了公众的注意力，人们希望它能被用于药物研究等重要工作或帮助教育儿童。但也有一些人工智能科学家和政治领导人担心其风险，比如工作岗位会被自动化淘汰，或者自主战争的发展会超出人类的控制范围。

OpenAI的董事会并没有给出赶走Altman的具体原因，只是在一篇博文中表示，董事会认为Altman先生没有与他们坦诚沟通。根据媒体的一条信息，OpenAI 的员工在周六上午被告知，Altman被解雇并不是因为“渎职或与我们的财务、业务、安全或安全/隐私做法有关的任何事情”，而是因为“Altman与董事会之间的沟通破裂”。

最近几周，帮助监管 ChatGPT 核心技术 GPT-4 的 Jakub Pachocki 被提升为公司的研究总监。据两位熟知内情的人士透露，Pachocki之前的职位低于Sutskever，现在他被提升到了与Sutskever同等的位置。两位知情人士说，Pachocki 周五晚些时候从公司辞职。

值得一提的是，剩下Sutskever先生和另外三名董事会成员：他们是问答网站 Quora 的首席执行官 Adam D'Angelo、RAND公司兼职高级管理科学家Tasha McCauley和乔治城大学安全与新兴技术中心战略与基础研究基金主任Helen Toner。

McCauley和Toner与Rationalist and Effective Altruist 运动有联系，这个团体对人工智能有朝一日可能毁灭人类深感忧虑。今天的人工智能技术无法毁灭人类，但这个群体相信，随着技术的日益强大，这些危险将会出现。

Sutskever也越来越认同这些理念。11月2日，Sutskever先生在一次播客节目中说：

我们将拥有比人聪明得多的计算机——数据中心，这似乎一点也不意外，但这种人工智能会做什么？我不知道。

商业化背离非盈利“初心”？

除了安全之外，Altman与董事会另一层可能的矛盾是“商业化”。

2015 年，Sutskever、Altman和Brockman在特斯拉首席执行官马斯克的帮助下一起创建了 OpenAI，当时OpenAI作为非营利组织成立，他们表示，与谷歌和其他公司不同，该实验室不会受到商业激励的驱动。

2018 年，Altman 将 OpenAI 转变为一家营利性公司，并与微软谈判获得了 10 亿美元的投资。这笔巨额资金对于构建像今年早些时候发布的 GPT-4 这样的技术至关重要。自最初投资以来，微软又向该公司投入了 120 亿美元。

但是该公司仍由非营利性董事会管理，像微软这样的投资者确实能从 OpenAI 获得利润，但他们的利润是有上限的。任何超过上限的资金都会回流到非营利机构。

在这个拥有“营利”与“非营利”双重属性的公司架构中，阿尔特曼与苏茨克沃正代表了两种立场。

由于看到了 GPT-4 的威力，Sutskever更注重安全性，在公司内部创建了一个新的“超对齐”团队，该团队旨在探索确保技术未来版本不会造成伤害的方法。

而Altman则希望OpenAI能够保持领先于竞争对手，因此倾向于快速实现生成式AI产品的商业化，部署横跨全球的消费者业务。

据两位熟悉内情的人士透露，9月下旬，Altman飞往中东与投资者会面。他寻求来自日本投资企业软银（SoftBank）最多10亿美元的资金，用于OpenAI旗下的新设企业——该企业打算生产一种硬件设备，用于运行像ChatGPT这样的人工智能技术。

此外，OpenAI 还在洽谈“要约收购”融资，允许员工将公司股份套现，这笔交易将使 OpenAI 的市值超过 800 亿美元，几乎是六个月前的三倍。

风险提示及免责条款

市场有风险，投资需谨慎。本文不构成个人投资建议，也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资，责任自负。

上一篇：本周重磅日程：事关美债利率、油价、AI，最关键事件来了
下一篇：反转，再反转！Altman谈判失败，OpenAI将聘请Twitch前高管Shear担任CEO..