Dos chilenos participan de informe de inteligiencia artificial

El informe de seguridad de AI es un Informe internacional independiente sobre seguridad de inteligencia artificial que busca convertirse en la primera comprensión científica integral y compartida de los sistemas de IA avanzados y sus riesgos. Este es el informe más esperado en todo el mundo para tomar medidas de seguridad contra el Inteligencia artificial.

Dirigido por Yoshua Bengio, un académico del ganador del Premio Turing y el informático más citado del mundo, El informe fue publicado el martes y las opiniones de 100 expertos internacionales independientes se reúnenEntre ellos dos chilenos: Raquel Pezoa y Álvaro SotoUna muestra de los pioneros que Chile ha hecho en esta disciplina.

En 2023, Chile fue uno de los pocos países latinoamericanos invitados a participar en la Cumbre de Seguridad de IA en Londres. Como consecuencia, nuestro país fue uno de los tres de la región que participó en la redacción de este informe. Gracias a la coordinación del Ministerio de Ciencias dirigido por el Ministro Aisén Etcheverry, el Profesor Raquel Pezoa, de la Universidad Técnica Federico Santa María (UTFSM) y el Profesor Álvaro Soto, de la Universidad Católica de Chile y Director del Centro Nacional de IA,, Cenia, participó en el proceso de escritura.

Chile se ha establecido como una referencia en esta área dentro de América Latina, gracias a iniciativas como la publicación de la Política Nacional de AI y el Proyecto de Ley de Inteligencia Artificial actualmente en discusión en el Congreso, que busca establecer un marco para el desarrollo seguro y ético de esta tecnología en el país.

“Esto no debería sorprendernos. Como gobierno, hemos participado activamente en todas las instancias internacionales sobre IA durante dos años. Y el último índice latinoamericano de IA, que nos pone en primer lugar en el continente “, dijo el ministro de Ciencias, Etcheverry.

Escrito por expertos de 30 países, se espera que el informe de seguridad de IA Sea una guía para los responsables de las políticas públicas en todo el mundo. Estuvo a cargo en noviembre de 2023 y se inspiró en el trabajo del Panel Intergubernamental de Cambio Climático de las Naciones Unidas, para consolidar la experiencia internacional más experta que existe en el mundo sobre la IA y sus riesgos.

El texto identifica tres categorías de riesgo:

1. Riesgos de uso malicioso: Estos incluyen ataques cibernéticos, la creación de material de abuso sexual infantil generado por la IA e incluso el desarrollo de armas biológicas.

–Fallas del sistema: Estos incluyen sesgos, problemas de confiabilidad y la posible pérdida de control sobre los sistemas de IA avanzados.

–Riesgos sistémicos: Estos se derivan de la adopción generalizada de IA e incluyen interrupciones en la fuerza laboral, preocupaciones sobre la privacidad y los impactos ambientales.

El informe enfatiza el urgencia de aumentar la transparencia y la comprensión en la toma de decisiones en el campo de la IAA medida que los sistemas se vuelven más sofisticados y la tecnología continúa desarrollándose a un ritmo rápido.

También enfatiza que, aunque las capacidades de IA pueden avanzar a diferentes velocidades, Su desarrollo y sus riesgos potenciales no son una conclusión inevitable. Los resultados dependen de las decisiones tomadas por las sociedades y los gobiernos de hoy y en el futuro.

Álvaro Soto, director del Centro Nacional de Inteligencia Artificial, Cenia, dijo que Pocos documentos tienen la profundidad científica del informe de seguridad de IA . “

Dijo al leerlo Se ve que tanto en problemas generales como en problemas específicos, por ejemplo, en modelos visuales, de reconocimiento multimodal o lenguaje, Aparecen las referencias clave y eso permite a cualquiera profundizar y conocer lo último que se ha investigado sobre el tema.

“De los muchos informes que he leído, creo que debido a su profundidad, integridad, diversidad y cronometraje, porque incluye mucho de lo que está sucediendo ahora, esta es una gran contribución”.

Explicó que participó En dos capítulos técnicos del estado de arte de la IA En términos de sus técnicas principales y cómo están impactando tanto en el caso de los modelos de lenguaje como en los modelos multimodales.

Los principales autores hicieron un primer borrador y al respecto teníamos varias iteraciones para indicar ‘aquí esto y esto de Frentón no es así’. Podríamos contribuir significativamente porque ese primer borrador cambió mucho. “

Raquel Pezoa, académico del UTFSM, enfatizó que este informe fue dirigido por Yoshua Bengio, Uno de los principales expertos en IA en todo el mundo. “El objetivo es informar sobre los posibles riesgos de esta tecnología, con un objetivo claro: que aquellos que hacen las leyes pueden ser informados y tomar decisiones en colaboración entre los diferentes países.

Explico que sus tareas incluyen Aconsejar el alcance, la estructura y los problemas para abordar el informe, Además de sugerir revisores de ONG y la industria, para generar un texto claro y crítico.

La embajadora del Reino Unido en Chile, Louise de Sousa, cuyo gobierno coordinó el informe independiente después de la cumbre de seguridad en Londres, mencionó: “La publicación es un claro ejemplo de cómo la colaboración internacional puede generar soluciones específicas y guías de trabajo más urgentes de inteligencia artificial. Chile ha demostrado liderazgo en esta área, particularmente en el Ministerio de Cienciascon quien colaboramos continuamente. Estoy orgulloso de ver su contribución en un esfuerzo global tan significativo. “