黄仁勋是如何管理万亿英伟达的
时间:2023-07-09 21:07 来源:网络整理 作者:墨客科技 点击:次
" 我们意识到,大模型的发展可能是自 60 多年前 IBM 推出 System/360 使用 GPS 和深度学习加速计算以来,真正创造并重新发明了计算机。" 黄仁勋表示。 近日,英伟达创始人兼首席执行官黄仁勋参加了 Sana 举办的人工智能峰会。会后,黄仁勋和 Sana 创始人 Joel Hellermark 展开了一场精彩对话。对话中,黄仁勋畅谈了对 AI 发展的想象,他还表示,未来我们了解信息、预测需求以及与供应链合作的方式都会被 AI 彻底改变。 黄仁勋除了谈 AI 未来的发展,他还分享了自己管理英伟达的方法。分享中,他反复强调赋予员工获取信息的权利非常重要,要让员工清楚地了解每一个决定的由来,有助于他们理解并执行该决定。同时他希望自己的公司规模不要太大,这样公司信息的传播能更有效率,扁平化的公司管理结构,使得他的公司能够在技术变革来临时做出快速反应,他认为这对于一家技术驱动型公司来说是非常重要的。 以下是访谈的精彩观点: 1. 大模型的发展可能是自 60 多年前 IBM 推出 System/360 使用 GPS 和深度学习加速计算以来,真正创造并重新发明了计算机。 2. 我们第一次实现了编程的民主化,我相信这将赋予数十亿人权利,利用计算机去创造更多价值,我也希望 AI 的发展能弥合现有的数字鸿沟。 3. 随着时间的推移,我们了解所需信息的方式、预测需求的方式以及与供应链合作的方式,所有这些都将被人工智能彻底改变。 4. 创建并经营管理一家公司,要做的第一件事就是从基本原则开始。 5. 现代领导力真正的伟大之处,在于如果我做错了什么,我只会说那是错的,我改变主意了。 6. 为他人创造生活、工作的环境是领导者的使命——实现这一使命最重要的方式是不让人们做商品工作。 以下为对话全文(有删改): 01 AI 改变世界 Joel Hellermark:你还记得是什么时候开始了解深度学习并对其发展产生信心的吗? 黄仁勋:我了解深度学习的时间和其他人差不多,也许稍微早一点。2012 年,我们有几位研究人员同时向 ImageNet 提交大型图像,参加那年的大规模视觉识别挑战赛(ILSVRC)。当时我们做了两件事,一是使用最新的 GPU,也就是当时刚推出的 GeForce GTX 580。第二就是学习了深度神经网络编程。我们很幸运,这么早就了解接触了这些。不过那时人工智能还不是很流行,神经网络研究在当时是一个存疑的研究领域。尽管如此,我们觉得这个研究领域还是非常有希望的,所以一直坚持去研究它。 真正让我印象深刻的,是它的有效性。当你看到令人惊讶的技术时,就会产生更浓的兴趣去探究它,比如规模如何、能解决什么其他问题等。由于深度神经网络的性质,每一层的性质都是相互隔离的,并且在反向传播学习中非常有效——它会被极大地扩展,会有更大的规模。事实证明我们是对的,根据观察,深度学习既是一种解决难题的算法,也是一种开发软件的新方法。 假设你有一个任意维度的通用函数,无论问题的维度和大小如何,只要你有一个足够大的模型,你就让它学习并不断解决这个问题。这个推断对我们来说非常重要。我们对它的潜力深信不疑,这将成为开发软件的新方法。从那时起,我们意识到大模型的发展可能是自 60 多年前 IBM 推出 System/360 使用 GPS 和深度学习加速计算以来,真正创造并重新发明了计算机。这是一个非常重要的时刻,我们也很幸运地把所有的点都连接起来。 Joel Hellermark:你觉得这种模型驱动架构的发展,下一步会回到哪里? 黄仁勋:研究人员要把几乎所有问题或者每种数据都转化为 Transformer 可以学习的内容。你可以创建一个视觉 Transformer、音频 Transformer、文本 Transformer 等等。多模态确实非常重要,它们有更高的性能。例如,你正在训练一个视觉神经网络,但你没有见过斑马,这个时候如果再加上另一种形式的讯息,比如文字,你就会明白斑马是一匹有黑白条纹的马,马的图像和形容斑马的文字组合起来,能够让你在从来没见过斑马的情况下想象到它是什么样的。这就延长了你的感知能力。使用多模态可以增强我们的感知能力,所以过去我们会使用相机、雷达或激光雷达来延长我们对环境的感知范围。 现在我们有了 Transformer,并且以一种理解多模态的方式表达了 Transformer。所以我认为下一代的人工智能模型将会有更好的性能,也会更安全、更稳健,做更多的事情。 (责任编辑:admin) |