En un discurso en la embajada de Estados Unidos, Harris dijo que el mundo debe comenzar a actuar ahora para abordar “todo el espectro” de riesgos de la IA, no sólo amenazas existenciales como ciberataques masivos o armas biológicas formuladas por IA.
"Hay amenazas adicionales que también exigen nuestra acción, amenazas que actualmente están causando daño y que muchas personas también consideran existenciales", dijo, citando a un anciano que canceló su plan de atención médica debido a un algoritmo de inteligencia artificial defectuoso o a una mujer amenazada por una pareja abusiva con fotos profundamente falsas.
La Cumbre de Seguridad de la IA es un trabajo de amor para Sunak, un exbanquero amante de la tecnología que quiere que el Reino Unido sea un centro para la innovación informática y ha enmarcado la cumbre como el inicio de una conversación global sobre el desarrollo seguro de la IA.
Está previsto que Harris asista a la cumbre el jueves, uniéndose a funcionarios gubernamentales de más de dos docenas de países, incluidos Canadá, Francia, Alemania, India, Japón, Arabia Saudita y China, invitados por las protestas de algunos miembros del gobernante Partido Conservador de Sunak.
Lograr que las naciones firmaran el acuerdo, denominado Declaración de Bletchley, fue un logro, incluso si es ligero en detalles y no propone una manera de regular el desarrollo de la IA. Los países se comprometieron a trabajar para lograr “un acuerdo y una responsabilidad compartidos” sobre los riesgos de la IA y celebrar una serie de reuniones adicionales. Corea del Sur celebrará una mini cumbre virtual sobre IA dentro de seis meses, seguida de una presencial en Francia dentro de un año.
El viceministro de Ciencia y Tecnología de China, Wu Zhaohui, dijo que la tecnología de IA es "incierta, inexplicable y carece de transparencia".
“Trae riesgos y desafíos en materia de ética, seguridad, privacidad y equidad. Su complejidad está surgiendo”, dijo, señalando que el presidente chino, Xi Jinping, lanzó el mes pasado la Iniciativa Global del país para la Gobernanza de la IA.
"Hacemos un llamado a la colaboración global para compartir conocimientos y hacer que las tecnologías de inteligencia artificial estén disponibles para el público en términos de código abierto", dijo.
También está previsto que el director ejecutivo de Tesla, Elon Musk, hable sobre IA con Sunak en una conversación que se transmitirá el jueves por la noche. El multimillonario tecnológico estuvo entre los que firmaron una declaración a principios de este año dando la alarma sobre los peligros que la IA representa para la humanidad.
También asistirán la presidenta de la Comisión Europea, Ursula von der Leyen, el secretario general de las Naciones Unidas, Antonio Guterres, y ejecutivos de empresas estadounidenses de inteligencia artificial como Anthropic, DeepMind de Google y OpenAI e influyentes científicos informáticos como Yoshua Bengio, uno de los “padrinos” de la IA. la reunión en Bletchley Park, una antigua base ultrasecreta para descifradores de códigos de la Segunda Guerra Mundial que se considera el lugar de nacimiento de la informática moderna.
Los asistentes dijeron que el formato de la reunión a puertas cerradas ha fomentado un debate saludable. Las sesiones informales de networking están ayudando a generar confianza, afirmó Mustafa Suleyman, director ejecutivo de Inflection AI.
Mientras tanto, en las discusiones formales “la gente ha podido hacer declaraciones muy claras, y ahí es donde se ven desacuerdos significativos, tanto entre países del norte como del sur (y) países que están más a favor del código abierto y menos a favor del código abierto. fuente”, dijo Suleyman a los periodistas.
Los sistemas de inteligencia artificial de código abierto permiten a investigadores y expertos descubrir problemas rápidamente y abordarlos. Pero la desventaja es que una vez que se lanza un sistema de código abierto, "cualquiera puede usarlo y ajustarlo con fines maliciosos", dijo Bengio al margen de la reunión.
“Existe esta incompatibilidad entre el código abierto y la seguridad. Entonces, ¿cómo lidiamos con eso?
Sólo los gobiernos, no las empresas, pueden mantener a las personas a salvo de los peligros de la IA, dijo Sunak la semana pasada. Sin embargo, también instó a no apresurarse a regular la tecnología de inteligencia artificial, diciendo que primero es necesario comprenderla completamente.
Por el contrario, Harris destacó la necesidad de abordar el aquí y el ahora, incluidos “los daños sociales que ya están ocurriendo, como los prejuicios, la discriminación y la proliferación de información errónea”.
Señaló la orden ejecutiva del presidente Joe Biden de esta semana, que establece salvaguardias para la IA, como prueba de que Estados Unidos está predicando con el ejemplo en el desarrollo de normas para la inteligencia artificial que funcionen en beneficio del interés público.
Harris también alentó a otros países a firmar un compromiso respaldado por Estados Unidos de apegarse al uso “responsable y ético” de la IA con fines militares.
“El presidente Biden y yo creemos que todos los líderes... tienen el deber moral, ético y social de garantizar que la IA se adopte y avance de una manera que proteja al público de posibles daños y garantice que todos puedan disfrutar de sus beneficios”, afirmó. dicho.
Hora de publicación: 21-nov-2023
