在英伟达市值重回第一之际,首席执行官黄仁勋接受采访,提出了令人惊叹的愿景,即超越摩尔定律,实现“超级摩尔定律”,将AI数据中心扩展到百万级芯片规模。
摩尔定律预测,每两年集成电路上的晶体管数量会增加一倍,进而推动计算能力的指数级增长。随着技术逼近物理极限,摩尔定律的步伐正逐渐放缓。
黄仁勋认为,通过软硬件协同设计和数据中心级创新,英伟达可以克服摩尔定律的限制,实现“超级摩尔定律”的曲线,每年将性能提升两到三倍,从而降低成本和能耗。
协同设计涉及同时修改算法以适应系统架构,并修改系统以适应新软件的架构。通过这种迭代,可以实现更大的效率和更快的性能提升。
例如,从FP64转换为FP32、BFLOAT、FP8甚至更小的精度,可以显著降低计算成本,而不会损失太多精度。
为了创造出既具有低延迟又具有高吞吐量的基础设施,英伟达正在进行数据中心级别的创新。NVLink技术就是这一创新的一个例子,它允许芯片之间进行高速数据传输,从而实现分布式训练和推理。
黄仁勋指出,目前的大客户正在考虑基础设施在大规模训练和推理之间的相互转换。英伟达的优势在于,今天为训练构建的基础设施,未来可以很容易地重新配置为推理任务。
采访中,黄仁勋还赞赏了xAI公司,这家公司在短短19天内建起了10万卡H100超级集群。有传言称,英伟达正在考虑投资xAI,这或许暗示着英伟达对该公司的技术和未来的看好。
黄仁勋的愿景令人惊叹:突破摩尔定律的限制,踏上“超级摩尔定律”征程,将AI数据中心扩展到前所未有的规模。通过软硬件协同设计和数据中心级创新,英伟达有望实现这一目标,从而为人工智能的未来解锁无限的可能性。
正如网友所言:“很惊人,但更惊人的是我毫不怀疑他们真的能做到。”
本文地址:http://www.sosite.cn/zuixinwz/328.html