En un discurso en la Embajada de Estados Unidos, Harris dijo que el mundo necesita comenzar a actuar ahora para abordar “todo el espectro” de riesgos de la IA, no solo las amenazas existenciales como los ciberataques masivos o las armas biológicas formuladas con IA.
“Existen amenazas adicionales que también exigen nuestra acción, amenazas que actualmente están causando daño y que a muchas personas también les parecen existenciales”, dijo, citando a un adulto mayor que fue expulsado de su plan de atención médica debido a un algoritmo de inteligencia artificial defectuoso o a una mujer amenazada por una pareja abusiva con fotos falsas.
La Cumbre de Seguridad de IA es una labor de amor para Sunak, un exbanquero amante de la tecnología que quiere que el Reino Unido sea un centro de innovación informática y ha enmarcado la cumbre como el inicio de una conversación global sobre el desarrollo seguro de la IA.
Está previsto que Harris asista a la cumbre el jueves, uniéndose a funcionarios gubernamentales de más de dos docenas de países, incluidos Canadá, Francia, Alemania, India, Japón, Arabia Saudita y China, invitados a pesar de las protestas de algunos miembros del gobernante Partido Conservador de Sunak.
Lograr que las naciones firmaran el acuerdo, denominado Declaración de Bletchley, fue un logro, aunque es escueto en detalles y no propone una forma de regular el desarrollo de la IA. Los países se comprometieron a trabajar para alcanzar un acuerdo y una responsabilidad compartidos sobre los riesgos de la IA y a celebrar una serie de reuniones adicionales. Corea del Sur celebrará una minicumbre virtual sobre IA dentro de seis meses, seguida de una presencial en Francia dentro de un año.
El viceministro de Ciencia y Tecnología de China, Wu Zhaohui, dijo que la tecnología de IA es “incierta, inexplicable y carece de transparencia”.
“Conlleva riesgos y desafíos en materia de ética, seguridad, privacidad y equidad. Su complejidad es cada vez mayor”, afirmó, señalando que el presidente chino, Xi Jinping, lanzó el mes pasado la Iniciativa Global para la Gobernanza de la IA en el país.
“Hacemos un llamamiento a la colaboración global para compartir conocimientos y poner las tecnologías de IA a disposición del público en términos de código abierto”, afirmó.
Elon Musk, director ejecutivo de Tesla, también tiene previsto hablar sobre IA con Sunak en una conversación que se transmitirá en directo el jueves por la noche. El multimillonario tecnológico fue uno de los firmantes de una declaración a principios de este año alertando sobre los peligros que la IA representa para la humanidad.
La presidenta de la Comisión Europea, Ursula von der Leyen, el secretario general de las Naciones Unidas, Antonio Guterres, y ejecutivos de empresas estadounidenses de inteligencia artificial como Anthropic, DeepMind de Google y OpenAI y científicos informáticos influyentes como Yoshua Bengio, uno de los "padrinos" de la IA, también asistirán a la reunión en Bletchley Park, una antigua base secreta para descifradores de códigos de la Segunda Guerra Mundial que se considera la cuna de la informática moderna.
Los asistentes comentaron que el formato de la reunión a puerta cerrada ha fomentado un debate positivo. Las sesiones informales de networking están contribuyendo a generar confianza, afirmó Mustafa Suleyman, director ejecutivo de Inflection AI.
Mientras tanto, en las discusiones formales “la gente ha podido hacer declaraciones muy claras, y ahí es donde se ven desacuerdos significativos, tanto entre los países del norte y del sur (y) los países que están más a favor del código abierto y menos a favor del código abierto”, dijo Suleyman a los periodistas.
Los sistemas de IA de código abierto permiten a investigadores y expertos detectar problemas rápidamente y abordarlos. Sin embargo, la desventaja es que, una vez publicado un sistema de código abierto, «cualquiera puede usarlo y modificarlo con fines maliciosos», declaró Bengio en el marco de la reunión.
Existe una incompatibilidad entre el código abierto y la seguridad. ¿Cómo podemos solucionarlo?
Solo los gobiernos, no las empresas, pueden proteger a las personas de los peligros de la IA, afirmó Sunak la semana pasada. Sin embargo, también instó a no apresurarse a regular la tecnología de IA, afirmando que primero es necesario comprenderla plenamente.
Por el contrario, Harris enfatizó la necesidad de abordar el aquí y ahora, incluidos “los daños sociales que ya están sucediendo, como los prejuicios, la discriminación y la proliferación de la desinformación”.
Señaló la orden ejecutiva del presidente Joe Biden de esta semana, que establece salvaguardas para la IA, como evidencia de que Estados Unidos está liderando con el ejemplo en el desarrollo de reglas para la inteligencia artificial que funcionan en interés público.
Harris también alentó a otros países a sumarse a un compromiso respaldado por Estados Unidos de ceñirse al uso “responsable y ético” de la IA para fines militares.
“El presidente Biden y yo creemos que todos los líderes… tienen el deber moral, ético y social de garantizar que la IA se adopte y avance de forma que proteja al público de posibles daños y garantice que todos puedan disfrutar de sus beneficios”, afirmó.
Hora de publicación: 21 de noviembre de 2023
