- El jefe de hardware de Openii advierte modelos futuros a los interruptores de asesinatos de hardware en tiempo real
- Richard I destacó los desafíos de las redes, la memoria y la energía en la infraestructura de reducción
- Solicita parámetros de referencia, observabilidad y asociaciones cruzadas para enfrentar la confiabilidad y la confianza
Un gerente de OpenAI Senior advirtió que la futura infraestructura de inteligencia artificial requerirá características de seguridad de hardware, incluidos los interruptores de asesinatos.
Richard Ho, jefe del hardware de la compañía, hizo las observaciones durante su nota clave en la Infra de la Cumbre AI en Santa Clara.
«Debe integrarse en el hardware», dijo. «Hoy, se supone que mucho trabajo de seguridad en el software. Se supone que su hardware es seguro. Se supone que su hardware hará lo correcto. Se supone que puede sacar la espina del hardware.
Medidas de seguridad a nivel de silicio
He argumentado que el crecimiento de la IA generativa está forzando un replanteamiento de la arquitectura del sistema y ha descrito cómo los futuros agentes serán de larga duración, interactuando en segundo plano incluso cuando un usuario no participa activamente.
Este cambio requiere una infraestructura rica en memoria y baja latencia para administrar sesiones y comunicaciones continuas entre múltiples agentes.
Las redes, dije, se está convirtiendo en un cuello de botella. «Tendremos que tener herramientas en tiempo real en estos, lo que significa que estos agentes se comunican entre sí. Algunos de ellos podrían mirar una herramienta, algunos pueden hacer una búsqueda en el sitio web. Otros piensan y otros tienen que hablar entre ellos».
He esbozado varios desafíos de hardware que deben abordarse, incluidos los límites de la memoria de memoria de alto ancho, la necesidad de integración de chips 2.5D y 3D, progreso a la vista y requisitos de fuente de alimentación extremos que podrían alcanzar 1 megavatio por estante.
Las medidas de seguridad realizadas por OpenAI incluyen matar interruptores en tiempo real integrados en grupos de inteligencia artificial, telemetría para detectar signos de comportamiento anormal y rutas de ejecución seguras en las CPU y aceleradores.
Encontré las cosas diciendo: «No tenemos buenos parámetros de referencia para la arquitectura y el hardware conscientes de los agentes, y creo que es importante conocer las paredes de latencia y las colas de latencia, cuál es la eficiencia, la potencia y las cosas del género. Debemos tener una buena observabilidad como funcionalidad de hardware, no solo como una herramienta Debug, pero constantemente integrada y monitoreada y monitoreada nuestro hardware».
«Las redes son algo realmente importante y, aunque nos dirigimos a la óptica, no está claro que la confiabilidad de la red esté allí hoy. Tenemos que llegar allí con las pruebas suficientes de estos lectores de pruebas ópticas y de estos otros lectores de pruebas de comunicación que muestran que realmente confiamos».
Calle La siguiente plataforma
