IA sugirió 40,000 nuevas armas químicas en solo 6 horas

La Inteligencia Artificial de desarrollo de fármacos tardó menos de seis horas en inventar 40,000 moléculas potencialmente letales que pueden ser utilizadas como armas químicas. Los investigadores pusieron la IA que normalmente se usa para buscar drogas útiles en una especie de modo de “mal actor” para mostrar cuán fácilmente se puede abusar de ella en una conferencia de control de armas biológicas.

Todo lo que los investigadores tuvieron que hacer fue modificar su metodología para buscar, en lugar de eliminar la toxicidad. La IA ideó decenas de miles de nuevas sustancias, algunas de las cuales son similares al VX, el agente nervioso más potente jamás desarrollado.

El autor principal del artículo y científico de una compañía que se enfoca en encontrar tratamientos farmacológicos para enfermedades raras (Collaborations Pharmaceuticals, Inc.), Fabio Urbina dijo:

Recibimos una invitación a la conferencia de Convergencia del Instituto Federal Suizo para la Protección Nuclear, Biológica y Química, Laboratorio Spiez.

La invitación era para hablar sobre el aprendizaje automático y cómo puede ser mal utilizado. Es algo que nunca se había pensado antes.

Fabio Urbina dijo:

Fue muy fácil darse cuenta de que a medida que construimos estos modelos de aprendizaje automático para mejorar cada vez más en la predicción de la toxicidad para evitar la toxicidad, todo lo que tenemos que hacer es girar el interruptor y decir: “Sabes , en lugar de alejarnos de la toxicidad, ¿qué pasa si vamos hacia la toxicidad?

Fabio Urbina dijo no poder entrar en detalles por que así se le pidió en la investigación pero, a grandes rasgos, la forma en que funciona este experimento es que históricamente tenemos muchos conjuntos de datos de moléculas que se han probado para ver si son tóxicas o no.

Acetilcolinesterasa una de las armas químicas mas letales

Un instructor de la Escuela Química de Fort Leonard Wood, transportando el agente nervioso VX que es una de las armas químicas más letales que existen.

Los investigadores se centraron en VX, el cual es un inhibidor de lo que se conoce como acetilcolinesterasa. Cada vez que haces algo relacionado con los músculos, tus neuronas usan la acetilcolinesterasa como una señal para decir básicamente “mueve tus músculos”. La forma en que VX es letal es que en realidad evita que su diafragma, los músculos de sus pulmones, puedan moverse, por lo que sus pulmones se paralizan.

Esto es algo que se desea evitar. Históricamente, se han realizado experimentos con diferentes tipos de moléculas para ver si inhiben la acetilcolinesterasa. Y así, construimos estos grandes conjuntos de datos de estas estructuras moleculares y cuán tóxicas son.

Podemos usar estos conjuntos de datos para crear un modelo de aprendizaje automático, que básicamente aprende qué partes de la estructura molecular son importantes para la toxicidad y cuáles no. Entonces podemos darle a este modelo de aprendizaje automático nuevas moléculas, potencialmente nuevos medicamentos que tal vez nunca antes se hayan probado. Y nos dirá que se predice que esto será tóxico, o se predice que esto no será tóxico.

Esta es una forma para nosotros de examinar virtualmente muy, muy rápido muchas moléculas y eliminar las que se predice que son tóxicas. En nuestro estudio aquí, lo que hicimos fue invertir eso, obviamente, y usamos este modelo para tratar de predecir la toxicidad.

La otra parte clave de lo que hicimos aquí son estos nuevos modelos generativos. Podemos darle a un modelo generativo una gran cantidad de estructuras diferentes, y aprende cómo juntar moléculas y luego podemos, en cierto sentido, pedirle que genere nuevas moléculas.

Ahora puede generar nuevas moléculas en todo el espacio de la química, y son solo una especie de moléculas aleatorias. Pero una cosa que podemos hacer es decirle al modelo generativo en qué dirección queremos ir y en lugar de dar una puntuación baja a las moléculas tóxicas, se les da una puntuación alta.

Ahora vemos que el modelo comienza a producir todas estas moléculas, muchas de las cuales se parecen a VX y también a otros agentes de guerra o armas químicas.

Armas químicas más tóxicas que VX

Lo más importante que saltó al principio fue que se predijo que muchos de los compuestos generados serían en realidad más tóxicos que VX. Y la razón por la que es sorprendente es porque VX es básicamente uno de los compuestos más potentes que se conocen. Lo que significa que necesitas una cantidad muy, muy, muy pequeña para ser letal.

Ahora, estas son predicciones que no hemos verificado, y ciertamente no queremos verificar eso nosotros mismos. Pero los modelos predictivos son generalmente bastante buenos. Entonces, incluso si hay muchos falsos positivos, tememos que haya algunas moléculas más potentes allí.

Es bastante fácil de replicar

No quiero sonar muy sensacionalista sobre esto, pero es bastante fácil para alguien replicar lo que hicimos.

Por supuesto, requiere cierta experiencia. Si alguien intentara replicar una de las armas químicas sin saber nada sobre química, en última instancia, probablemente generaría cosas que no serían muy útiles. Y todavía queda el siguiente paso de tener que sintetizar esas moléculas. Encontrar un fármaco potencial o una nueva molécula tóxica potencial es una cosa; el siguiente paso de la síntesis, en realidad crear una nueva molécula en el mundo real, sería otra barrera.

La gran brecha para empezar es que realmente no sabes si estas moléculas son realmente tóxicas o no.

No quiero ser alarmista al decir que va a haber una guerra con armas químicas impulsada por la IA. No creo que ese sea el caso ahora. No creo que vaya a ser el caso en el corto plazo. Pero es algo que empieza a convertirse en una posibilidad.

Suscríbete a nuestro Boletín Semanal


1 comentario en “IA sugirió 40,000 nuevas armas químicas en solo 6 horas”

  1. Muy interesante el artículo, es una pena que se utilice la IA de esa forma. *Los pulmones no tienen músculo propiamente dicho (porciones de músculo liso en los bronquios hay), el diafragma es parte de los músculos de la respiración, los cuales permiten la ampliación del tórax y dan paso a que la inspiración tenga lugar.

Los comentarios están cerrados.