En este evento, se reúnen líderes políticos, expertos en tecnología y destacados empresarios para discutir una variedad de desafíos y preocupaciones.
El primer congreso mundial enfocado en los riesgos asociados con la inteligencia artificial (IA) ha dado inicio en el Reino Unido. Esta conferencia reúne a líderes políticos, gigantes tecnológicos y expertos que debatirán sobre los peligros que esta nueva tecnología conlleva.
La reunión se llevará a cabo durante dos días en Bletchley Park, una ubicación emblemática que sirvió como centro de descifrado de comunicaciones alemanas durante la Segunda Guerra Mundial.
El primer día de discusión se centrará en los posibles riesgos relacionados con la IA de vanguardia, como el ampliamente conocido ChatGPT.
Para el día siguiente, está programada la participación de influyentes líderes políticos, como la presidenta de la Comisión Europea, Ursula von der Leyen, el secretario general de las Naciones Unidas, Antonio Guterres, y una delegación de China.
Se espera con gran expectación la participación de prominentes figuras del sector de Silicon Valley, como Sam Altman y Elon Musk, quienes fundaron OpenAI, la empresa detrás de ChatGPT.
Simultáneamente a la conferencia, se anticipa que la vicepresidenta de Estados Unidos, Kamala Harris, anunciará en Londres la creación de un instituto dedicado a la seguridad de la IA en Washington. Este instituto reunirá a expertos de diversas disciplinas con el objetivo de establecer directrices y abordar los riesgos asociados con esta tecnología.
Las IA generativas, capaces de producir rápidamente textos, sonidos o imágenes a partir de una solicitud, han avanzado considerablemente en los últimos años. Aunque se ven con optimismo en aplicaciones como la medicina y la educación, también plantean preocupaciones sobre la posibilidad de desestabilizar sociedades, facilitar la creación de armas y escapar al control humano, como ha advertido el gobierno británico.
Un grupo de “padres fundadores” de esta tecnología, como Yoshua Bengio y Geoffrey Hinton, ha publicado una carta abierta en la que insta a la elaboración y ratificación de un tratado internacional sobre la IA para reducir los riesgos significativos que plantean los sistemas avanzados.
El gobierno británico espera, al menos, lograr una “primera declaración internacional sobre la naturaleza” de los riesgos de esta tecnología y propone la creación de un grupo de analistas internacionales, tomando como referencia el modelo del panel de expertos de la ONU sobre el cambio climático (IPCC).
El principal desafío es establecer salvaguardias sin obstaculizar la innovación en los laboratorios de IA y las grandes empresas tecnológicas.
El presidente de Estados Unidos, Joe Biden, ha anunciado un conjunto amplio de normativas y principios con la intención de marcar el camino a nivel internacional.
Mientras tanto, varias empresas, como OpenAI, Meta (anteriormente Facebook) y DeepMind (perteneciente a Google), aceptaron la semana pasada hacer públicas algunas de sus regulaciones de seguridad en torno a la IA por solicitud del Reino Unido.
Sin embargo, un centenar de organizaciones, expertos y defensores de todo el mundo lamentan que esta conferencia se celebre a puerta cerrada y esté dominada por las grandes empresas tecnológicas, con acceso limitado a la sociedad civil. Según ellos, es esencial dejar de considerar que las empresas privadas con fines lucrativos son los únicos propietarios legítimos de sistemas de IA que transforman nuestras vidas y formas de trabajo.
