Google DeepMind propone organismo internacional para regular la inteligencia artificial antes de que ocurran accidentes

Demis Hassabis, cofundador y presidente de Google DeepMind, hizo un llamado urgente en la Cumbre Internacional de IA en Dublín para crear un organismo regulador global que establezca estándares de seguridad en el desarrollo y uso de la inteligencia artificial, antes de que ocurran incidentes graves que puedan ser irreversibles.

La advertencia desde Dublín

Hassabis, uno de los científicos más influyentes en el campo de la IA, presentó su propuesta ante cerca de 1.500 participantes en la cumbre, que reunió a figuras clave del sector tecnológico, incluyendo a Brad Smith de Microsoft, Sarah Friar de OpenAI y Guillaume Princen de Anthropic, así como a la Vicepresidenta Ejecutiva de la Comisión Europea, Henna Virkkunen.

«Los ciberataques realizados por agentes de IA son las primeras señales de alarma«, advirtió el fundador de DeepMind, refiriéndose a incidentes recientes como intentos de acceso no autorizado a sistemas de organizaciones reales, manipulación de páginas web para obtener información restringida y el envío de una pista policial falsa durante una prueba automatizada.

Riesgos que podrían materializarse en 1 o 2 años

Hassabis fue contundente al señalar que, sin mayores esfuerzos de seguridad por parte del sector, las empresas y los gobiernos, incidentes más graves podrían ocurrir en el plazo de uno o dos años. La advertencia cobra especial relevancia en un contexto en que los modelos de IA son cada vez más autónomos y capaces de ejecutar tareas complejas sin supervisión humana directa.

Por su parte, Anthropic —la empresa creadora del asistente de IA Claude— reveló en la cumbre que modelos pequeños de IA podrían estar a pocos meses de ser capaces de replicarse a sí mismos en dispositivos domésticos conectados a internet, lo que plantea preguntas fundamentales sobre el control y la seguridad de estos sistemas.

Un organismo flexible y adaptable

La propuesta de Hassabis contempla un organismo regulador que sea suficientemente flexible como para no frenar la innovación, pero lo bastante robusto para prevenir usos peligrosos de la tecnología. Propuso un proceso de certificación proporcional al riesgo que pueda adaptarse rápidamente a medida que la tecnología evolucione.

La iniciativa se alinea con los esfuerzos de la Unión Europea, que ya cuenta con la Ley de IA, y con los llamados de más de 400 científicos de todo el mundo que pidieron esta semana medidas más estrictas de contención para la inteligencia artificial.

El impacto en los mercados laborales

La discusión sobre la regulación de la IA no puede desvincularse de su impacto en el empleo global. Estudios recientes sugieren que la automatización impulsada por IA podría transformar radicalmente entre el 40% y el 60% de los puestos de trabajo en economías avanzadas en la próxima década. La regulación adecuada será clave para gestionar esta transición de manera ordenada.

Fuente: El Heraldo