AI では、メモリで処理されるデータが最も脆弱であることがよくあります。 ここでは、@nvidia のコンフィデンシャル コンピューティングが使用中のデータを保護して、トレーニングと推論中に機密性の高いデータセット、モデルの重み、コードを確実に保護する方法の概要を示します。 これは、ゼロトラスト、規制、またはマルチテナント環境では重要です。🧵👇

2/6: ソフトウェアのみのアプローチとは異なり、NVIDIA は GPU のハードウェア層にセキュリティを実装しています。 これは、暗号化、分離、および証明がシリコンに組み込まれていることを意味し、システム ソフトウェアが侵害された場合でも、露出のリスクが軽減されます。

3/6: GPU メモリでデータが暗号化されることによって機能し、ネイティブに近い速度で TEE 入出力を介して NVLink 相互接続を移動する間も安全を保つことができます。 これにより、他のプロセス、ホストシステム、または物理レベルまたはソフトウェアレベルのアクセスを持つ悪意のある攻撃者からの不正アクセスが防止されます。

4/6: 分離は、NVIDIA のハードウェア レベルのパーティショニング機能、特にマルチインスタンス GPU (MIG) テクノロジーによって実現されます。 MIG を使用すると、1 つの物理 GPU を複数の完全に分離されたインスタンスに分割し、それぞれに専用のコンピューティング、メモリ、キャッシュ リソースを割り当てることができます。コンフィデンシャル コンピューティング モードでは、これらのインスタンスは安全なエンクレーブとして機能し、あるインスタンスで実行されているワークロードが別のインスタンスで実行されているワークロードを読み取ったり干渉したりできないようにします。 このレベルの分離は、複数の顧客のワークロードが同じ物理ハードウェアを共有するクラウド展開などのマルチテナント環境にとって重要です。

5/6: 構成証明は、ワークロードの実行を開始する前に、GPU とそのファームウェアが信頼できる改ざんされていない状態にあることを示す暗号化証明を提供します。 NVIDIA の認証サービスは、ハードウェアが正規品であること、ファームウェアが承認されたバージョンと一致していること、および機密モードで動作していることを検証します。これは、企業が AI ワークロードが安全で検証された環境でのみ実行されることを保証できるため、ゼロトラスト アーキテクチャでは不可欠です。 構成証明は、証明可能なハードウェアの信頼が機密データを処理するための前提条件である規制された業界のコンプライアンスもサポートします。

6/6: その最大の利点の 1 つは、アプリケーション コードを変更せずにワークロード保護を有効にできることです。 これは単なる構成変更であり、モデルの書き換えにコストがかかり、混乱を招くエンタープライズ AI パイプラインに最適です。 詳細はこちら: !