在人工智慧中，記憶體中處理的數據通常是最脆弱的。 以下是關於 @nvidia 的機密計算如何保護使用中的數據，以確保敏感數據集、模型權重和代碼在訓練和推理過程中保持安全的概述。 這在零信任、受監管或多租戶環境中至關重要。 🧵👇

2/6: 與僅使用軟體的方法不同，NVIDIA 在其 GPU 中實施了硬體層的安全性。 這意味著加密、隔離和驗證功能內建於矽晶片中，即使系統軟體受到攻擊，暴露的風險也會降低。

3/6：它的運作方式是將數據加密在 GPU 記憶體中，即使在通過 TEE 輸入/輸出在接近原生速度的 NVLink 互連中移動時，也能保持安全。 這防止了其他進程、主機系統或具有物理或軟體級別訪問的惡意行為者的未經授權訪問。

4/6: 隔離是通過 NVIDIA 的硬體級分區能力實現的，特別是多實例 GPU (MIG) 技術。 MIG 允許將單個物理 GPU 分割成多個完全隔離的實例，每個實例都有自己專用的計算、內存和快取資源。在保密計算模式下，這些實例作為安全區域運行，確保在一個實例上運行的工作負載無法讀取或干擾另一個實例上的工作負載。 這種隔離級別對於多租戶環境至關重要，例如雲部署，其中多個客戶的工作負載共享相同的物理硬體。

5/6: 證明提供了加密證明，確保 GPU 及其韌體在工作負載開始執行之前處於受信任且未被篡改的狀態。 NVIDIA 的證明服務驗證硬體是真實的，其韌體符合批准的版本，並且正在以保密模式運行。這在零信任架構中至關重要，因為它允許企業確保其 AI 工作負載僅在安全、經過驗證的環境中執行。 證明還支持受監管行業的合規性，在這些行業中，可證明的硬體信任是處理敏感數據的前提。

6/6: 它最大的優勢之一是您可以在不更改應用程式代碼的情況下啟用工作負載保護！ 這僅僅是一個配置更改——對於重寫模型會造成高成本和干擾的企業 AI 管道來說，這是理想的選擇。 在這裡閱讀更多：！