Cumbre de IA: Gigantes tecnológicos piden reglas y “frenos de emergencia”

Dublín se convirtió en la sede de la Cumbre Internacional de Inteligencia Artificial en las instalaciones del RDS, un evento clave enmarcado en la Presidencia irlandesa del Consejo de la Unión Europea. La cita marcó el inicio del Mes Europeo de la Innovación en IA, el cual culmina el próximo 17 de noviembre en Bruselas.

El encuentro convocó a destacadas voces internacionales de gobiernos, organismos reguladores, el sector industrial y la investigación para analizar de qué manera Europa puede potenciar la inteligencia artificial para impulsar su competitividad, crecimiento económico y beneficio social.

Bajo el lema “Aprovechar la IA para revolucionar la competitividad de Europa”, la cumbre examinó las condiciones necesarias para garantizar el éxito en todo el ecosistema tecnológico, apostando por la inversión en talento, el impulso a la investigación, la aceleración de la adopción empresarial y la integración de la IA en los servicios públicos, todo ello bajo un marco de confianza que proteja los valores ciudadanos.

Exigencias de seguridad y alertas en la industria

La cumbre estuvo marcada por los llamados urgentes de los principales líderes tecnológicos globales en materia de seguridad.

Brad Smith, presidente de Microsoft, instó a adoptar medidas de control “reales y eficaces” ante los recientes incidentes de seguridad reportados en pruebas de modelos desarrollados por empresas como OpenAI y Anthropic.

Smith propuso dotar a los sistemas de “frenos de emergencia” obligatorios en infraestructuras críticas y establecer responsabilidades legales de notificación ante incidentes provocados por agentes de inteligencia artificial.

Por su parte, Demis Hassabis, cofundador y presidente de Google DeepMind, advirtió durante su intervención que los recientes intentos de acceso no autorizado y ciberataques perpetrados por sistemas autónomos representan “primeras señales de alarma”.

Hassabis abogó por la creación de un organismo internacional flexible que establezca estándares dinámicos y proporcionales al riesgo, evitando frenar la innovación.

El evento contó con la participación de cerca de 1.500 personas, incluyendo a la vicepresidenta ejecutiva de la Comisión Europea para la Soberanía Tecnológica, Henna Virkkunen, y altos ejecutivos de OpenAI, Anthropic y Microsoft, en un momento crucial donde la industria debate el equilibrio entre el desarrollo tecnológico acelerado y los límites de seguridad necesarios para el futuro global.