Solo un recordatorio de que en realidad no sabemos mucho sobre la alineación práctica de los agentes. Las AIs individuales son lo suficientemente difíciles, pero los agentes recogen contexto unos de otros, de posibles indicaciones hostiles, del entorno, de largas ejecuciones autónomas, muchos tienen pesos abiertos, etc.

Para ser claros, tampoco sabemos mucho sobre la alineación más profunda de las IA.