En IA, los datos procesados en memoria son a menudo los más vulnerables. Aquí hay un resumen sobre cómo la Computación Confidencial de @nvidia asegura los datos en uso para garantizar que los conjuntos de datos sensibles, los pesos de los modelos y el código permanezcan protegidos durante el entrenamiento y la inferencia. Esto es crítico en entornos de cero confianza, regulados o de múltiples inquilinos. 🧵👇

2/6: A diferencia de los enfoques solo de software, NVIDIA implementa la seguridad en la capa de hardware en sus GPU. Esto significa que la encriptación, el aislamiento y la atestación están integrados en el silicio, reduciendo el riesgo de exposición incluso si el software del sistema se ve comprometido.

3/6: Funciona mediante el cifrado de datos en la memoria de la GPU, lo que puede mantenerse seguro incluso al trasladarse a través de interconexiones NVLink mediante entrada/salida TEE a velocidades casi nativas. Esto previene el acceso no autorizado de otros procesos, del sistema anfitrión o de actores maliciosos con acceso físico o a nivel de software.

4/6: La aislamiento se logra a través de las capacidades de particionamiento a nivel de hardware de NVIDIA, notablemente la tecnología Multi-Instance GPU (MIG). MIG permite que una única GPU física se divida en múltiples instancias completamente aisladas, cada una con sus propios recursos dedicados de computación, memoria y caché. En modo de computación confidencial, estas instancias funcionan como enclaves seguros, asegurando que las cargas de trabajo que se ejecutan en una instancia no puedan leer ni interferir con las de otra. Este nivel de aislamiento es crítico para entornos multi-inquilino, como los despliegues en la nube, donde las cargas de trabajo de múltiples clientes comparten el mismo hardware físico.

5/6: La atestación proporciona la prueba criptográfica de que la GPU y su firmware están en un estado de confianza, sin alteraciones, antes de que comiencen a ejecutarse las cargas de trabajo. Los servicios de atestación de NVIDIA verifican que el hardware es genuino, que su firmware coincide con una versión aprobada y que está operando en modo confidencial. Esto es esencial en arquitecturas de cero confianza, ya que permite a las empresas asegurarse de que sus cargas de trabajo de IA solo se ejecuten en entornos seguros y verificados. La atestación también apoya el cumplimiento en industrias reguladas, donde la confianza en el hardware demostrable es un requisito previo para manejar datos sensibles.

6/6: Una de sus mayores ventajas es que puedes habilitar la protección de carga de trabajo sin cambiar el código de la aplicación. Es simplemente un cambio de configuración, ideal para las tuberías de IA empresariales donde reescribir modelos sería costoso y disruptivo. Lee más aquí: !