令牌在早期檢測疾病、解碼生命的複雜性和理解生物功能方面發揮着至關重要的作用，有助于保護珍貴物種。

在GTC上，討論突出了人工智能和機器人技術對最大化潛能和增強人類能力的轉變影響，標志着技術探索新時代的開始。

英偉達突顯了人工智能方面的重大進步，展示了人工智能如何改變了計算機圖形和計算模型，導致了生成式計算和在各行各業中性能的提升。

最近在代理人人工智能和物理人工智能方面的突破性進展正在改變計算層。這些進步開辟了新的市場機會，並提升了各行各業的問題解決能力。

這段對話討論了人工智能發展面臨的三大基本挑戰：解決數據問題、在沒有人為幹預的情況下訓練模型，以及實現可擴展的算法。它強調了因為代理人工智能具有推理能力而導致的計算需求顯著增加，它可以逐步解決問題，這與以往的人工智能模型相比生成了更多的令牌。

對話突顯了人工智能模型計算需求的顯著增加，強調了強化學習和合成數據生成在教授人工智能推理方面的作用。討論了為訓練生成大量數據的挑戰，特別是在不過分依賴人類輸入的情況下，展示了強化學習在解決各領域複雜問題中的潛力。發言人強調了行業對這些挑戰的應對，表明了人工智能訓練方法的重大轉變。

對話突出了人工智能基礎設施的顯著增長，特別是在四大雲服務提供商（亞馬遜、Azure、GCP、Oci）中，指出了人工智能模型的需求和計算需求增加。它預測到本十年末將有數萬億美元的數據中心建設，這是由于從通用計算向人工智能加速計算的轉變和對軟件未來資本投資的認識所推動的。這種轉變的特點是人工智能工廠的興起，重點是生成計算用于各種應用。

對話突出了NVIDIA在各種加速庫的發展和影響，包括cuNumeric、cuLitho和cuOpt，在計算光刻，5G射頻處理和數學優化等領域顯著提升性能，旨在開源其中一些工具以進一步加快行業進步。

這一公告突顯出通過與主要系統公司合作，在加速計算方面取得了重大進展，引入了QDSS稀疏求解器和加速庫，用于結構化數據、物理模擬等領域，標志着行業向基于CUDA的解決方案轉變的一個轉折點。

演講者討論了人工智能的演變，強調其起源于雲端，源于基礎設施和計算需求。他們強調全棧技術的重要性，以及雲服務提供商在培育人工智能發展中的作用。演講者對人工智能進入企業、制造業、機器人和自動駕駛汽車等各個領域表達了興奮之情，並提到了GPU雲的出現。他們特別關注人工智能在無線網絡和邊緣計算中的轉變潛力，並宣佈與美國的主要公司合作，構建無線網絡的全棧，旨在通過人工智能和強化學習改變通信方式，調整無線信號。

NVIDIA已經深度參與自動駕駛汽車技術的發展超過十年，與特斯拉和通用汽車等主要公司合作。他們的技術，包括GPU和人工智能驅動系統，在數據中心和車輛中被用于培訓、模擬和道路操作。NVIDIA尤為自豪的是他們對汽車安全的承諾，為每行代碼開發了全面的安全評估流程，並獲得了與自動駕駛汽車安全相關的1000多項專利。他們采用先進的人工智能技術，如模型蒸餾、閉環訓練和合成數據生成，來增強自動駕駛車輛的適應性和安全性，確保它們能夠穩健地應對複雜情況。

英偉達通過Grace Blackwell MvLink 72機架，在計算機架構方面取得了空前的規模擴展，標志着從集成到非集成MvLink的根本轉變，以及從空冷到液冷系統的轉變，實現了單個機架中的1x flops超級計算機。

對話討論了AI推理的極端計算挑戰，強調了在生成AI響應的令牌時高效和高性能的需求。演講者解釋了令牌生成速度和數量的重要性，強調了AI系統中延遲和吞吐量之間所需的平衡，以確保最佳的服務質量、收入和盈利能力。

討論的焦點是如何優化人工智能服務，提供高質量的客戶體驗，同時最大程度地提高數據中心的效率和收入。它探討了在速度、計算能力、帶寬和人工智能模型複雜性之間的權衡，重點展示了一個演示，比較了傳統模型和推理模型在解決複雜問題上的表現。

對話討論通過在GPU之間分配工作負載，利用張量、流水線和專家並行性來優化具有數萬億參數的AI模型。它強調了像NVLink這樣的同質體系結構在處理複雜的計算階段，例如大型語言模型中的上下文處理和解碼，的重要性。

英偉達推出了Dynamo，這是一款設計用來在數據中心中管理複雜人工智能工作負載的開源操作系統，類似于組織人工智能工廠，為預填和解碼等任務提供動態資源分配。

討論探討了利用Hopper和Blackwell系統優化人工智能工廠的産量和能源效率。它強調了人工智能智能和大量生産之間的折衷，強調了在電力有限的數據中心中能源高效計算架構的重要性。介紹了MvLink 8和Dynamo等創新技術，以提高性能和效率。

這次討論強調了在人工智能操作中，Blackwell比Hopper有顯著的性能改進，強調了吞吐量和質量之間的平衡。Blackwell在ISO功率條件下一代比一代提高了25倍的性能，顯示了它在處理下一代工作負載方面的優勢，特別是在推理模型中，其性能比Hopper提高了40倍。

該討論強調了投資先進技術的優勢，特別是比較使用霍珀和佈萊克韋爾芯片的100兆瓦工廠效率，強調了生産能力和成本效益方面的顯著改進。

對話突出了建設尖端人工智能工廠的複雜性和規模，強調在實際建設之前使用數字孿生體進行規劃和優化。英偉達的Omniverse Blueprint使協同工程團隊能夠高效模擬和迭代設計，大大減少錯誤並加快建設過程。演講者還概述了未來人工智能基礎設施的路線圖，包括Blackwell Ultra和Vera Rubin系統，展示了這些大型項目所需的戰略規劃。

這段對話討論了NVIDIA的GPU進步，澄清每個Blackwell芯片包括兩個GPU芯片，並概述了未來計劃，包括旨在通過576個MvLink連接實現極端規模擴展的Ruben Ultra項目，以及性能和帶寬的顯著提升。它還強調了過渡到Spectrum X網絡技術，旨在通過類似Infiniband的性能增強以改進以太網網絡的管理能力，例如通過創建具有Spectrum X的最大單GPU集群。

該討論概述了數據中心中擴展GPU使用所涉及的挑戰和解決方案，特別關注使用收發器所帶來的能源和成本影響。它介紹了世界上第一台MRI微型鏡和矽光子學的發明，大幅降低了功耗，使處理大量GPU變得可能。這些進步為更高效、高容量的數據中心架構鋪平了道路，旨在節省數十兆瓦的電力，並促進數百萬個GPU的部署。

通過AI的企業計算的轉型涉及一個新的計算架構，包括處理器、操作系統和數據訪問方法的改變。 AI代理將成為數字化勞動力的重要組成部分，這將顯著改變企業的運營方式，需要開發一系列新的計算機。

一系列高性能計算機，包括DGX Station和Spark，針對數據科學家和研究人員宣佈推出，標志着人工智能計算的時代。這些系統具有20拍峰值每秒的計算能力，配備有72核心CPU、HBM內存和PCI Express插槽，將由惠普、戴爾、聯想和華碩等主要OEM廠商制造。該公司還在計算、網絡和存儲方面進行革新，推出一種可以在不同平台上運行的開源人工智能模型，包括新計算機和雲端。此外，突出全球公司之間的合作夥伴關系，整合人工智能框架。討論轉向機器人，強調由于全球勞動力短缺而需要自主機器人。英偉達的技術實現了機器人人工智能模擬、訓練、測試和實際經驗的連續循環，介紹了Isaac GRO N1，一種用于人形機器人的通用基礎模型，展示了融入人工智能和機器人技術的進展。

人工智能(AI)的核心挑戰包括數據創建、模型架構和擴展規律。為了解決這些問題，Omniverse作為物理AI的操作系統，通過Cosmos生成無限、穩定的環境。Newton是由DeepMind、迪士尼研究和英偉達(Nvidia)合作開發的，引入了專門為細致模擬設計的物理引擎，加速了機器人人工智能的訓練過程。

展示了先進的機器人技術和人工智能技術，包括實時模擬和機器人訓練方法後，演講人宣佈N 1團隊機器人平台現已開源，突出了人工智能和機器人技術的重要進展。活動還涵蓋了Blackwell的生産狀況，強調了對人工智能計算和雲端、企業和機器人基礎設施的不斷增長需求。