Estados Unidos pondrá en marcha un Instituto de Seguridad de la Inteligencia Artificial para evaluar los riesgos conocidos y emergentes de lo que se denomina modelos “fronterizos” de inteligencia artificial, anunció el miércoles la secretaria de Comercio, Gina Raimondo.
El presidente de Estados Unidos, Joe Biden, echó mano este lunes de una vieja ley de tiempos de guerra ―concretamente, la de Corea (1950-1953) ― para firmar un decreto que busca mitigar los riesgos de un desarrollo sin control de la inteligencia artificial generativa (IA), una tecnología que promete cambiar profundamente el modo en el que vivimos, y plantea enormes desafíos para el futuro de la humanidad. “La tecnología debe ser gobernada, no puede haber discusión”, defendió Biden.
El documento, aborda preocupaciones por los riesgos a gran escala que plantean los futuros y potentes sistemas de IA. Los investigadores piden medidas de gobernanza urgentes y un cambio importante en la investigación y desarrollo (I+D) de inteligencia artificial hacia prácticas éticas y de seguridad, antes de que se desarrollen estos sistemas más poderosos.
En líneas generales, entre los estándares se destacan la exigencia a los desarrolladores de los sistemas de IA más poderosos, que compartan los resultados de sus pruebas de seguridad y otra información crítica con el gobierno de Estados Unidos, y encomienda al Instituto Nacional de Estándares y Tecnología que establezca normas estrictas para realizar pruebas exhaustivas de equipos rojos, para garantizar la seguridad antes del lanzamiento público de modelos.
“Es casi seguro que llamaré a muchos de ustedes en la audiencia que están en la academia y la industria para que formen parte de este consorcio”, dijo en un discurso en la Cumbre de Seguridad de Inteligencia Artificial en Reino Unido.
“No podemos hacerlo solos, el sector privado debe dar un paso adelante”.
Raimondo añadió que también se comprometería a que el instituto estadounidense estableciera una asociación formal con el Instituto de Seguridad de Reino Unido.
“Tenemos que ponernos a trabajar juntos”, dijo.
Fuente: tynmagazine.com
También puede ver:
Inteligencia Artificial: ¿Cómo se adaptará la medicina al ChatGPT?