1000 genios del mundo firman una carta para detener el avance de las IAs por considerarlas un riesgo para la sociedad

Actualmente, las empresas tecnologicas se encuentran en una carrera por ver quien desarrolla las mejores IAs, una carrera que, según los mayores expertos, podría determinar los próximos líderes de la industria. Aunque, esta tecnologia ha sido bastante controvertida por los errores en su sistema y los problemas de los chatbots que han llegado a difundir información errónea sobre ciertos temas sensibles.

Sabiendo la potencial amenaza que puede representar las inteligencias artificiales, un grupo de diversos ejecutivos de la industria y expertos en IAs han publicado una carta abierta en Internet en la que solicitan a los trabajadores de esta tecnología un cese en el desarrollo de dichos sistemas durante 6 meses.  Esto con el fin de introducir los correctos protocolos de seguridad para actuar en caso de que surja un error en la IA. 

La carta afirma:

“Los sistemas de IAs con inteligencia humana-competitiva pueden plantear riesgos profundos para la sociedad y la humanidad, como lo demuestra una extensa investigación y lo reconocen los principales laboratorios de IAs”

Entre las firmas que se encuentran al final de la carta encontramos grandes nombres como el de Elon Musk, el cofundador de Apple, Steve Wozniak; el denominado “padrino de la IA”, Yoshua Bengio; y el pionero de la investigación de campo, Stuart Rusell. Parece que la publicación de esta carta fue incentivada por el lanzamiento de la cuarta versión de la IA GPT (Transformador Preentrenado Generativo) a principios de abril, que llamó la atención del público por su habilidad para componer canciones y resumir textos extensos.

De hecho, una omisión bastante notable entre los que firmaron la carta fue la del director ejecutivo de OpenAI, Sam Altman, quien justamente declaro estar “asustado” por el avance de la tecnologia artificial hace no mucho. Aunque probablemente quiso mantenerse alejado por el estreno del nuevo programa de su empresa. Otras personas que también resaltaron por su ausencia fueron el director ejecutivo de Microsoft, Satya Nadella; y el CEO de Alphabet, Sundar Pichai quienes declararon una postura similar a Altman previamente.

Las respuestas a esta carta han sido bastante diversas, pero una de las más destacadas fue la del director de gestión de productos y estrategia comercial de OneSpan, Frederik Mennes, quien afirmó que no es posible detener el avance de la inteligencia artificial, destacando que ahora existe un “elemento geopolitico” en estás investigaciones. Según Mennes:

“Si el desarrollo se detuviera en los EE. UU., otras regiones simplemente se pondrán al día e intentarán tomar la iniciativa”.

Si bien, Frederik Mennes destacó que tener una pausa puede ser algo bueno para hacer un análisis de la situación de la IA, el hecho que la carta sea demasiado vaga en sus peticiones, y no se tome en cuenta el panoráma general de la industria solo provocan un mayor rechazo por el desarrollo de la inteligencia artificial por parte del público, sin ofrecer verdaderas soluciones al respecto. Hasta el momento, ninguna empresa o agente se ha unido a esta pausa solicitada por los investigadores que han firmado la carta.