可汗采访 Greg :为什么是 OpenAI 首先开发出像 GPT-4 这样

beijing @ 2024年05月21日 世界观

来自可汗采访 Greg 视频中的一段有价值的对话:为什么是 OpenAI 首先开发出像 GPT-4 这样强大的模型?即使像 Google、Meta 有那么雄厚的资本,那么多人才储备也没有做到?

因为 OpenAI 的团队不仅仅是学术背景的研究型人才,而同时还有优秀的工程人才,这种组合使他们能够从不同的角度解决问题,更有效的推动项目进展。

大多数实验室以研究为主,研究型工程师被告知要做什么,而研究科学家则可以随心所欲。这种方式似乎并不是实际构建一个工作系统的方法,更像是为了追求论文引用数量。如果你真的想产生影响并开发出有用的东西,你需要以不同的方式来组织团队。

***

**Sal Khan**:我想问的第一个问题是,你们认为自己做了什么才能达到如今的地位?在这个领域,有许多人在努力工作,也有许多资源雄厚的大型组织。你们认为自己做了什么与众不同?是因为你们的方法不同,还是有其他原因?

**Greg Brockman**:这是个很好的问题。我认为我们是更大趋势或历史的一部分。回顾过去70年的计算机发展史,我们经历了指数级的增长。2000年,Ray Kurzweil曾经说过:"看看计算能力,它会告诉你什么是可能的。这就是推动进步的动力。"起初,大家都认为他疯了,但现在我相信大家基本上都认同他的观点。想想我们为了实现像GPT-4这样的项目,付出了多少工程上的努力,从计算基础设施到使用的所有数据集和工具,这其实是全人类在很多方面的巨大努力。

具体来说,我们能取得这些成就,是因为我们聚集了来自研究和工程背景的优秀人才。我认为这是非常独特的。安全是我们工作的核心部分,涉及到所有不同的角度。无论是在实践中还是理论上,我们都在思考这些系统如何运行、如何成功、又会如何出错。

当我们开始这个项目时,让我感到非常有趣的是观察其他实验室的工作方式。你会发现,大多数实验室以研究为主,研究型工程师被告知要做什么,而研究科学家则可以随心所欲。这种方式似乎并不是实际构建一个工作系统的方法,更像是为了追求论文引用数量。如果你真的想产生影响并开发出有用的东西,你需要以不同的方式来组织团队。

虽然在纸面上看起来很简单,但实际上,这涉及到很多相互冲突的思维方式,特别是当你来自实践或学术背景时。我们必须尽力去解决这些问题。我认为我们已经解决了许多涉及不同思维方式和背景的复杂问题,虽然你永远不能完全解决它们,但可以不断解决其更复杂的版本。这就是我们需要勇于面对困难和挑战的地方。

OpenAI 研究院 Jason Wei 也有过类似的谈论 Google 和 OpenAI 的差别

(视频)