El 21 de mayo fue inaugurada la Segunda Cumbre Mundial sobre Inteligencia Artificial (AI Seoul Summit), en Seúl, Corea del Sur.
En noviembre de 2023, en Bletchley Park, Reino Unido, fue celebrada la primera cumbre mundial sobre inteligencia artificial. Francia será sede de la siguiente cumbre, la tercera, cuya fecha aún no ha sido determinada.
La seguridad ha sido el tema central de las dos cumbres mundiales.
En Seúl, algunos directivos de la industria tecnológica, el representante de la Unión Europea y los delegados de 28 países (Alemania, Arabia Saudita, Australia, Canadá, Chile, Corea del Sur, Emiratos Árabes Unidos, España, Estados Unidos, Francia, Filipinas, India, Indonesia, Israel, Italia, Japón, Kenia, México, Nigeria, Nueva Zelanda, Filipinas, Países Bajos, Reino Unido, Ruanda, Singapur, Suiza, Turquía, Ucrania) firmaron una declaración ministerial —la Declaración de Seúl— que pretende promover la seguridad, la innovación y la inclusión en la IA.
De acuerdo con la ministra de Tecnología del Reino Unido, Michelle Donelan, los acuerdos alcanzados marcan el comienzo de la Fase Dos de la Agenda de Seguridad de la IA.
En el marco de la cumbre de Seúl, la Secretaria de Comercio de Estados Unidos, Gina Raimondo, informó la creación de una red mundial de institutos de seguridad de la IA, la cual integran expertos de Canadá, Estados Unidos, Reino Unido, Japón y otros aliados, quienes colaborarán para contener los riesgos que podría propiciar el acelerado desarrollo de la IA.
Los miembros de la referida red mundial de seguridad de la IA se reunirán en San Francisco, California a finales de este año.
Los resultados de la Segunda Cumbre mundial sobre inteligencia artificial han sido cuestionados por algunos expertos. Wired señala que, frente a la gravedad de los peligros que representa el acelerado desarrollo de la IA, la cumbre de Seúl respondió con un pacto “muy débil”.
El 21 de mayo, la revista Science publicó una carta firmada por un grupo de destacados científicos, quienes alertan sobre los riesgos que pueden desprenderse del rápido desarrollo de la IA: “Gestionar los riesgos extremos de la IA en medio del rápido progreso. La preparación requiere investigación y desarrollo técnicos, así como una gobernanza adaptativa y proactiva”.
Para mantener los riesgos de la IA dentro de límites aceptables, necesitamos mecanismos de gobernanza que se ajusten a la magnitud de los riesgos.
Los reguladores deben aclarar las responsabilidades legales que se derivan de los marcos de responsabilidad existentes y responsabilizar legalmente a los desarrolladores y propietarios de IA de frontera de los daños derivados de sus modelos que puedan preverse y evitarse razonablemente, incluidos los daños que previsiblemente se deriven del despliegue de potentes sistemas de IA cuyo comportamiento no puedan predecir.
La responsabilidad, junto con las evaluaciones consecuenciales y los casos de seguridad, pueden prevenir daños y crear incentivos muy necesarios para invertir en seguridad.
En el mencionado documento, los investigadores y científicos firmantes señalan que ahora es el momento de pasar de propuestas vagas a compromisos específicos. Ello supone exigir una regulación estricta por parte de los gobiernos, no “códigos voluntarios".
Debemos tener presente que, gracias a firmas como OpenAI, Google, Microsoft y Meta, Estados Unidos es considerado el líder mundial en materia de inteligencia artificial (IA).
Sin embargo, el gobierno estadounidense considera a la IA como un asunto de seguridad nacional, debido a que los avances en la IA podrían acelerar el desarrollo de armas biológicas o favorecer el desarrollo de dañinos ciberataques contra infraestructuras críticas.
Al gobierno estadounidense le preocupa la posibilidad de que China pudiera utilizar la IA avanzada para robustecer a su ejército y amenazar a Estados Unidos. Por esa razón las administraciones de los presidentes Donald Trump y Joe Biden han implementado una serie de restricciones a China para tener acceso a tecnología clave.
En noviembre de 2023, Estados Unidos y China acordaron mantener conversaciones sobre los riesgos y la seguridad de la IA. A mediados de mayo, representantes de ambas naciones se reunieron en Suiza para celebrar la primera ronda de conversaciones.
La IA parece haber desbordado a la cuarta revolución industrial (4RI), afirmándose como una compleja revolución en sí misma ¿la quinta revolución industrial o la verdadera cuarta revolución industrial?
Las repercusiones de la IA también se extienden al imaginario de la tecnopolítica. El desarrollo de la IA incluso podría propiciar el advenimiento de un nuevo orden económico internacional.
