У ШІ дані, що обробляються в пам'яті, часто є найбільш вразливими. Ось огляд того, як @nvidia Confidential Computing захищає дані, що використовуються, щоб гарантувати захист конфіденційних наборів даних, ваги моделей і коду під час навчання та висновків. Це має вирішальне значення в середовищах з нульовою довірою, регульованих або багатокористувацьких. 🧵👇

2/6: На відміну від програмних підходів, NVIDIA реалізує безпеку на апаратному рівні у своїх графічних процесорах. Це означає, що шифрування, ізоляція та атестація вбудовані в кремній, що знижує ризик зараження, навіть якщо системне програмне забезпечення буде скомпрометовано.

3/6: Він працює за рахунок шифрування даних у пам'яті графічного процесора, і це навіть може залишатися безпечним під час переміщення через міжз'єднання NVLink через вхід/вихід TEE на майже власній швидкості. Це запобігає несанкціонованому доступу з боку інших процесів, хост-системи або зловмисників із фізичним або програмним доступом.

4/6: Ізоляція досягається завдяки можливостям розділення на апаратному рівні NVIDIA, зокрема технології Multi-Instance GPU (MIG). MIG дозволяє розділити один фізичний графічний процесор на кілька повністю ізольованих екземплярів, кожен з яких має власні виділені обчислювальні ресурси, пам'ять і кеш-пам'ять. У режимі конфіденційних обчислень ці екземпляри функціонують як безпечні анклави, гарантуючи, що робочі навантаження, що виконуються на одному екземплярі, не можуть читати або заважати навантаженням на іншому. Цей рівень ізоляції має вирішальне значення для багатокористувацьких середовищ, таких як хмарні розгортання, де робочі навантаження кількох клієнтів використовують одне й те саме фізичне обладнання.

5/6: Атестація забезпечує криптографічний доказ того, що графічний процесор і його мікропрограма перебувають у надійному, непідробленому стані до початку виконання робочих навантажень. Атестаційні служби NVIDIA перевіряють автентичність обладнання, відповідність прошивки затвердженій версії та роботу в конфіденційному режимі. Це важливо в архітектурах з нульовою довірою, оскільки дозволяє підприємствам гарантувати, що їхні робочі навантаження зі штучним інтелектом виконуються лише в безпечних, перевірених середовищах. Атестація також підтримує відповідність у регульованих галузях, де доведена надійність обладнання є необхідною умовою для обробки конфіденційних даних.

6/6: Однією з його найбільших переваг є те, що ви можете увімкнути захист від робочого навантаження без зміни коду програми! Це просто зміна конфігурації — ідеально підходить для корпоративних конвеєрів штучного інтелекту, де переписування моделей буде дорогим і руйнівним. Детальніше читайте тут: !