In der KI sind die in der Speicherverarbeitung verarbeiteten Daten oft am anfälligsten. Hier ist eine Übersicht, wie @nvidia's Confidential Computing die Daten in Verwendung sichert, um sicherzustellen, dass sensible Datensätze, Modellgewichte und Code während des Trainings und der Inferenz geschützt bleiben. Dies ist entscheidend in Zero-Trust-, regulierten oder Multi-Tenant-Umgebungen. 🧵👇

2/6: Im Gegensatz zu rein softwarebasierten Ansätzen implementiert NVIDIA Sicherheit auf der Hardware-Ebene in seinen GPUs. Das bedeutet, dass Verschlüsselung, Isolation und Attestierung in den Silizium integriert sind, wodurch das Risiko einer Offenlegung verringert wird, selbst wenn die Systemsoftware kompromittiert ist.

3/6: Es funktioniert, indem Daten im GPU-Speicher verschlüsselt werden, und das kann sogar sicher bleiben, während sie über NVLink-Interconnects durch TEE-Eingaben/Ausgaben mit nahezu nativen Geschwindigkeiten übertragen werden. Dies verhindert unbefugten Zugriff von anderen Prozessen, dem Host-System oder böswilligen Akteuren mit physischem oder softwareseitigem Zugriff.

4/6: Isolation wird durch die hardwareseitigen Partitionierungsfähigkeiten von NVIDIA erreicht, insbesondere durch die Multi-Instance GPU (MIG) Technologie. MIG ermöglicht es, eine einzelne physische GPU in mehrere vollständig isolierte Instanzen zu unterteilen, von denen jede über eigene dedizierte Rechen-, Speicher- und Cache-Ressourcen verfügt. Im Modus für vertrauliches Rechnen fungieren diese Instanzen als sichere Enklaven, die sicherstellen, dass Arbeitslasten, die auf einer Instanz laufen, nicht auf die anderer zugreifen oder diese stören können. Dieses Maß an Isolation ist entscheidend für Multi-Tenant-Umgebungen, wie z. B. Cloud-Bereitstellungen, bei denen die Arbeitslasten mehrerer Kunden dieselbe physische Hardware teilen.

5/6: Die Attestierung bietet den kryptografischen Nachweis, dass die GPU und ihre Firmware sich in einem vertrauenswürdigen, unveränderten Zustand befinden, bevor die Arbeitslasten ausgeführt werden. NVIDIA's Attestierungsdienste überprüfen, dass die Hardware echt ist, dass ihre Firmware mit einer genehmigten Version übereinstimmt und dass sie im vertraulichen Modus arbeitet. Dies ist in Zero-Trust-Architekturen von entscheidender Bedeutung, da es Unternehmen ermöglicht, sicherzustellen, dass ihre KI-Arbeitslasten nur in sicheren, verifizierten Umgebungen ausgeführt werden. Die Attestierung unterstützt auch die Einhaltung von Vorschriften in regulierten Branchen, in denen nachweisbares Hardwarevertrauen eine Voraussetzung für den Umgang mit sensiblen Daten ist.

6/6: Einer der größten Vorteile ist, dass Sie den Schutz der Arbeitslast aktivieren können, ohne den Anwendungscode zu ändern! Es ist einfach eine Konfigurationsänderung – ideal für Unternehmens-AI-Pipelines, bei denen das Neuschreiben von Modellen kostspielig und störend wäre. Hier mehr lesen: !