施密特被下架的斯坦福AI讲座全程

bfeng @ 2024年08月20日 世界观

谷歌前CEO施密特的斯坦福讲座因为被下架成了一时舆论关注的热点。但实际上,在这个讲座下架之前,它的播放量不算很高。就像"蒙娜丽莎"没有被偷之前,也只不过是卢浮宫里的普通藏品。不过这么说有点不严谨,施密特在讲座中还是讲了很多有信息量的话,就像达芬奇确实是一个杰作大师一样。

接下来列出我觉得他讲得比较重要的十个洞察:
***
1、施密特认为当前AI的三个重要发展方向是:更大的上下文窗口、更强大的AI代理和文本到行动能力的提升。
施密特解释:"在接下来的一年里,你将看到非常大的上下文窗口、代理和文本到行动。当这些技术大规模交付时,它们对世界的影响将超出人们的想象,可能比社交媒体的影响还要大。","大的上下文窗口基本上可以用作短期记忆。代理可以读取信息,发现化学原理,然后进行测试,并将结果添加到它们的理解中。而文本到行动则可以让你用自然语言指令完成复杂的任务。"

2、施密特强调了GPU生态的重要性,当然其实主要说得是CUDA:"NVIDIA之所以如此成功,是因为有一套名为CUDA的开源库,这些库针对NVIDIA硬件进行了高度优化。所有构建AI堆栈的人都使用这些库,这一点在讨论中经常被忽视。这些高度优化的CUDA库对竞争对手来说很难复制。"现在很多人说CUDA垄断,但是黄仁勋位了搞CUDA,差点把公司搞破产,大家可能没有印象了,这真是吃苦换来的优势。

3、在讨论文本到行动时,施密特用TikTok举例说明:"如果TikTok下架,你可以对AI系统说:'为我创建一个TikTok的复制品,获取所有用户,获取所有音乐,加入我的偏好,在30秒内生成这个程序,发布它,如果一小时内没有病毒式传播,就做些不同的事情。'这展示了从任意语言到任意数字命令的强大能力。"——这招挺狡猾的。

4、谈到Google与OpenAI的竞争,施密特直言不讳:"Google决定,工作与生活的平衡、早点回家和在家工作比获胜更重要。而初创公司之所以能成功,是因为人们拼命工作。"——这是一个主要的吐槽点,或许也是下架的原因之一。

5、现在AI已经成了一个全球竞争。欧洲国家参与AI竞争很困难,而连Llama3.1都不在欧洲发行。施密特评价道:"欧洲因为布鲁塞尔(欧盟总部)而陷入困境。这不是什么新鲜事,我花了10年时间与他们抗争。我努力让他们修复EU Act,但他们仍然有很多限制,使得在欧洲进行我们这种研究变得非常困难。"——批评了欧盟,所以可能是下架原因之二。

6、关于理解与创造的关系,施密特引用了理查德·费曼的话:"我不能创造的东西,我就无法理解。"然后他补充道:"但现在人们正在创造他们可以创造但不真正理解内部原理的东西——深度学习、大语言模型。"

7、谈到AI的长期发展,施密特表示:"现在有一些非常复杂的新算法,可以说是后Transformer时代的算法。他的一个长期合作者发明了一种新的非Transformer架构。"他认为算法创新、架构改进和计算能力都很重要。

8、最近马斯克的Grok2搞出了很多名人AI假图。所以关于解决AI带来的虚假信息问题,施密特提出了一个想法:"我和乔纳森·海特写了一篇论文,建议使用某种形式的公钥认证。就像当我把信用卡信息发送给亚马逊时,我知道那是亚马逊一样。"

9、对于学界如何抓住AI机遇,施密特强调了资源问题:"我非常努力地争取为大学提供数据中心。如果我是这里计算机科学系的教职员工,我会对无法与研究生一起构建算法来进行模型研究感到非常沮丧。"

10、施密特参与的实际上是斯坦福的一个讲座。在他离开后,讲课教授讲AI与电力进行了类比:"就像早期的电力应用一样,AI可能需要时间才能真正发挥作用。当工厂首次引入电力时,他们只是用大型电动机替换了蒸汽机,并没有真正改变生产方式。

直到30年后,我们才看到根本不同的工厂类型,不是有集中电源,而是每个设备都有单独的电机。同样,AI的真正价值可能要等到我们找到新的组织方式和应用方法时才能实现。"这让我想到端侧AI,或者是与端侧结合的AI,可能才会加倍改变生产力。

***
我也看了一下施密特讲座所属的课程,全称是《人工智能的觉醒:对经济和社会的影响》。牵头人是斯坦福以人为中心的人工智能研究所(也是李飞飞学界任职所在)、数字经济实验室主任Erik Brynjolfsson。课程主旨是:我们的经济机构、组织和技能跟不上人工智能的快速发展。但在这一日益扩大的差距中,蕴藏着许多社会最大的挑战和机遇。因此,课程将探讨人工智能的进步在未来几年如何并将如何改变我们的经济和社会。每周,课程将向技术、经济和商业领域的前沿研究人员和行业领袖学习,阅读相关研究,并讨论其影响。

演讲嘉宾包括Mira Murati(OpenAI CTO)、Jack Clark、Laura D'Andrea Tyson、Alexandr Wang、Condoleezza Rice、Bindu Reddy、Eric Schmidt(就是今天被下架视频的大本尊了,不知道会不会影响其他课程上线)、Mustafa Suleyman和Jeff Dean(谷歌神级程序员)。这里是本课程的课程大纲,有高校教师(研究员)想参考可以在这里下载:网页链接,主题包括基础模型/LLM/生成模型;视觉与机器人技术;工作与就业;偏见与可解释性;人工智能与地缘政治;以及没有工作的世界。

(视频)