V umělé inteligenci jsou data zpracovaná v paměti často nejzranitelnější. Zde je přehled toho, jak důvěrné výpočetní operace společnosti @nvidia zabezpečují používaná data, aby zajistily, že citlivé datové sady, váhy modelů a kód zůstanou chráněny během trénování a odvozování. To je důležité v prostředích s nulovou důvěryhodností, regulovaných nebo víceklientských prostředích. 🧵👇

2/6: Na rozdíl od čistě softwarových přístupů implementuje NVIDIA ve svých GPU zabezpečení na hardwarové vrstvě. To znamená, že šifrování, izolace a ověření jsou zabudovány do křemíku, což snižuje riziko odhalení i v případě ohrožení systémového softwaru.

3/6: Funguje tak, že data jsou šifrována v paměti GPU a mohou zůstat v bezpečí i při přenosu přes propojení NVLink prostřednictvím vstupu / výstupu TEE téměř nativní rychlostí. Tím se zabrání neoprávněnému přístupu z jiných procesů, hostitelského systému nebo škodlivých aktérů s přístupem na fyzické nebo softwarové úrovni.

4/6: Izolace je dosaženo díky možnostem dělení na hardwarové úrovni společnosti NVIDIA, zejména technologii Multi-Instance GPU (MIG). MIG umožňuje rozdělit jeden fyzický GPU do několika plně izolovaných instancí, z nichž každá má své vlastní vyhrazené výpočetní, paměťové a vyrovnávací prostředky. V režimu důvěrných výpočtů fungují tyto instance jako zabezpečené enklávy, které zajišťují, že úlohy běžící v jedné instanci nemohou číst ani interferovat s úlohami v jiné instanci. Tato úroveň izolace je kritická pro víceklientská prostředí, jako jsou cloudová nasazení, kde úlohy více zákazníků sdílejí stejný fyzický hardware.

5/6: Ověření identity poskytuje kryptografický důkaz, že GPU a jeho firmware jsou v důvěryhodném a nemanipulovaném stavu před zahájením provádění úloh. Certifikační služby společnosti NVIDIA ověřují, zda je hardware originální, zda jeho firmware odpovídá schválené verzi a zda je provozován v důvěrném režimu. To je v architekturách s nulovou důvěrou zásadní, protože to podnikům umožňuje zajistit, aby jejich pracovní zátěže AI byly prováděny pouze v bezpečných a ověřených prostředích. Ověření identity také podporuje dodržování předpisů v regulovaných odvětvích, kde je prokazatelná důvěryhodnost hardwaru předpokladem pro práci s citlivými daty.

6/6: Jednou z jeho největších výhod je, že můžete povolit ochranu úloh beze změny kódu aplikace! Je to prostě změna konfigurace – ideální pro podnikové kanály AI, kde by přepisování modelů bylo nákladné a rušivé. Více se dočtete zde: !