Por Alexander Bonilla
SACRAMENTO, California — California dio un nuevo paso en su estrategia para supervisar el desarrollo de la inteligencia artificial (IA), luego de que el gobernador Gavin Newsom firmara una orden ejecutiva que acelera la creación de mecanismos independientes de vigilancia y contempla la posibilidad de incorporar sistemas de apagado de emergencia para modelos avanzados.
La medida, anunciada el viernes 18 de septiembre, busca reforzar las normas estatales después de recientes incidentes relacionados con sistemas de IA. La orden instruye a las autoridades de California a reunir a expertos para presentar recomendaciones destinadas a fortalecer las medidas de seguridad existentes.
¿Qué significa el “interruptor de apagado”?
Aunque la expresión “AI kill switch” ha generado atención, la orden no establece que California vaya a instalar de inmediato un botón capaz de apagar toda la inteligencia artificial.
La propuesta contempla avanzar hacia mecanismos de emergencia que permitan detener determinados sistemas avanzados de IA bajo circunstancias específicas.
También se plantea que organismos independientes puedan verificar periódicamente que estos mecanismos funcionen correctamente.
California refuerza la supervisión de la IA
La nueva orden llega después de que Newsom firmara otras medidas destinadas a establecer mecanismos de evaluación y auditoría independiente de sistemas de inteligencia artificial.
El objetivo es aumentar la supervisión sobre los llamados modelos de frontera, considerados entre los sistemas de IA más avanzados actualmente en desarrollo.
La nueva iniciativa también busca estudiar requisitos adicionales para las empresas que desarrollan estos modelos, incluyendo auditorías independientes y mecanismos de emergencia.
El debate llega al corazón de Silicon Valley
La decisión adquiere especial relevancia en California debido a la concentración de empresas tecnológicas y compañías dedicadas al desarrollo de inteligencia artificial en Silicon Valley y otras partes del estado.
Al mismo tiempo, el crecimiento de la IA ha abierto otros debates en California, especialmente por la construcción de centros de datos y el consumo de electricidad y agua asociado con estas instalaciones.
Con la nueva orden ejecutiva, el gobierno estatal pretende avanzar en un modelo de supervisión que combine innovación tecnológica con mecanismos destinados a reducir posibles riesgos.
Por ahora, California no ha creado un “botón de apagado” para toda la inteligencia artificial. La medida inicia un proceso para estudiar y desarrollar mecanismos de emergencia y supervisión aplicables a determinados sistemas avanzados.
