Tuesday, March 18, 2025

GTC March 2025 Keynote

 

  • AI 與 GPU 技術突破
    • GeForce 5090(Blackwell 世代):
      • 體積比前代縮小30%,散熱效率提升30%。
      • 採用 AI 增強的即時光線追蹤技術,實現 100% 路徑追蹤。
      • AI 能推測畫面中缺失的細節,減少運算負擔,提高效能。
    • CUDA 與 AI 進化:
      • CUDA 技術推動 AI 與 GPU 的整合,改變電腦繪圖與運算方式。
      • 生成式 AI將運算模式從檢索轉變為生成:
        • AI 不再只是調用儲存資料,而是能夠理解上下文並即時產生內容。
  •  AI 的新時代:代理型 AI(Agentic AI)
    • 代理型 AI讓 AI 具備「自主性」,能夠:
      • 感知與理解環境(多模態處理,如語音、影像、文本)。
      • 推理與規劃(多步驟解決問題,選擇最佳解)。
      • 自主行動(使用工具、查找網頁資訊並學習)。
    • 物理 AI(Physical AI)與機器人時代:
      • AI 不僅理解數據,還能學習物理世界的規律(摩擦力、慣性、因果關係)。
      • 這將推動新一代機器人技術與自動駕駛的發展。
  • 計算需求爆炸成長
    • 由於 AI 需要更強的推理能力,計算需求比去年增加 100 倍。
    • AI 現在能夠分步驟推理,而不只是單次生成答案,這大幅增加了計算量。
    • 新技術突破:
      • 強化學習(Reinforcement Learning)讓 AI 自行試錯學習,不需要人類標註資料。
      • 合成數據生成(Synthetic Data)透過 AI 自行創建數據,大幅加速 AI 訓練。
  • Blackwell 架構與 AI 工廠
    • Blackwell GPU 架構:
      • MVLink 72 讓所有 GPU 在全頻寬下同步運作,提升 AI 推理效能。
      • FP4(4-bit 浮點運算):讓計算更高效,降低功耗,提高 AI 產能。
    • AI 工廠(AI Factories):
      • 從「檔案檢索」轉變為「生成 AI 內容」。
      • Blackwell GPU 超級電腦可用於 AI 訓練與推理,成為 AI 工廠的核心設備。
      • 數位分身(Digital Twin)技術可先模擬 AI 工廠的運作,再投入建設,降低風險與成本。
  • AI 在各產業的應用
    • 自動駕駛:
      • NVIDIA 與通用汽車(GM)合作開發下一代 AI 自動駕駛車隊。
      • 數位孿生技術(Omniverse + Cosmos)可模擬真實世界場景,提升 AI 訓練精度。
    • 企業 AI 基礎設施:
      • AI 企業級應用將大幅成長,NVIDIA 提供完整的AI 企業解決方案。
      • Dynamo AI 作業系統:管理 AI 工廠的運算資源,提升 AI 推理效能。
    • 邊緣運算與 5G:
      • 與 Cisco、T-Mobile 等企業合作,將 AI 深入邊緣運算與通訊基礎設施。
      • AI 將優化 5G 網路,提升訊號傳輸效能與適應動態環境的能力。
  • NVIDIA 未來產品路線圖
    • 2025 年下半年:
      • Blackwell Ultra:強化 AI 計算效能,提升推理速度與記憶體頻寬。
    • 2026 年:
      • Vera Rubin GPU(次世代 AI 超算架構)將導入全新 CPU、網路與記憶體技術。
    • 2027 年:
      • Vera Rubin Ultra:運算效能再提升 14 倍,打造超大規模 AI 工廠。




No comments:

Related Posts Plugin for WordPress, Blogger...