Une IA qui développe des armes chimiques

© iStock

En moins de six heures, une IA chargée habituellement de développer des médicaments a réussi à inventer 40 000 molécules potentiellement mortelles. À l’occasion d’une conférence sur le contrôle des armes biologiques et chimiques, des chercheurs ont placé le modèle d’apprentissage automatique dans un mode de fonctionnement inverse, privilégiant la toxicité au lieu de l’innocuité, afin de montrer à quel point il est facile de détourner l’outil à des fins néfastes. L’IA a trouvé des dizaines de milliers de nouvelles substances, dont certaines sont similaires au VX, l’agent neurotoxique le plus puissant jamais découvert. Les chercheurs, ébranlés et inquiets, ont publié leurs conclusions ce mois-ci dans la revue Nature Machine Intelligence.

The Verge s’est entretenu avec Fabio Urbina, auteur principal de l’article et chercheur chez Collaborations Pharmaceuticals, une entreprise qui se consacre à la recherche de traitements médicamenteux pour les maladies rares. “Ce qui nous a sauté aux yeux au début, c’est que beaucoup de composés générés étaient prédits comme étant plus toxiques que le VX. Et la raison pour laquelle c’est surprenant est que le VX est fondamentalement l’un des composés les plus puissants connus,” a expliqué le chercheur, déconcerté par l’efficacité de la technologie et la facilité de sa mise en œuvre.

⇨ The Verge, Justine Calma, “AI suggested 40,000 new possible chemical weapons in just six hours.”

2022-03-17