DeepMind propone regulación independiente para IA de frontera: ¿logrará consenso?

La propuesta de un nuevo regulador para la IA

Demis Hassabis, CEO de Google DeepMind, lanzó recientemente una propuesta audaz para la creación de un organismo regulador independiente que supervise las tecnologías de IA de frontera. Inspirado en la estructura de la Financial Industry Regulatory Authority (FINRA), este organismo tendría la tarea de evaluar modelos de IA antes de su liberación, asegurando un marco de buenas prácticas y seguridad.

Un nuevo estándar para la innovación

El plan de Hassabis sugiere que los laboratorios de IA compartirían voluntariamente sus modelos con este organismo para una revisión previa al lanzamiento. Una vez validado el protocolo de evaluación, se requeriría que los modelos de IA en Estados Unidos pasen por este proceso. Esta iniciativa busca suplir las críticas recibidas por las revisiones ad hoc del gobierno estadounidense, que han sido calificadas de poco transparentes y técnicamente insuficientes.

Desafíos políticos y económicos

La propuesta enfrenta resistencia tanto del sector tecnológico como de la actual administración de Trump. Comentarios recientes de asesores de IA de la Casa Blanca han descartado una entidad reguladora centralizada, como podría ser un “FDA para IA”. Sin embargo, la estructura auto-regulatoria propuesta por Hassabis, apoyada financieramente por la industria y operada de manera independiente, podría mitigar estas preocupaciones.

El camino hacia el consenso

Hassabis visualiza un regulador compuesto por representantes de código abierto y expertos técnicos, con el respaldo financiero de los laboratorios de IA. También propone la posibilidad de subcontratar evaluaciones a grupos especializados en seguridad de IA. El enfoque técnico del organismo buscaría equilibrar la innovación con el comportamiento responsable, adaptándose rápidamente a los riesgos emergentes.

En conclusión, la iniciativa de Hassabis podría convertirse en un hito para la regulación de la tecnología de IA, aunque su éxito dependerá de lograr un consenso entre actores clave de la industria y el gobierno.