Africa-Press – Djibouti. L’IA pourrait-elle faciliter le bioterrorisme? Depuis des décennies, le monde se prépare pour l’éventualité d’une attaque avec des armes biologiques. Notamment depuis le meurtre par les services secrets soviétiques du dissident bulgare, Georgi Markov, en 1978. Crime pour lequel ils ont utilisé de la ricine, un puissant poison d’origine naturelle, extrait des graines de ricin. Depuis, un antidote a été trouvé, et un centre de stockage de ces antidotes a été créé en France.
Toutefois, la ricine n’est qu’une des armes biologiques potentielles, car il existe bien d’autres toxines et pathogènes dangereux pour l’humain. Pour éviter que ces armes ne soient synthétisées par des terroristes, les entreprises de synthèse biologique doivent scanner toute commande, pour s’assurer que la séquence génétique demandée ne corresponde pas à l’une de ces armes. Malheureusement, ces garde-fous peuvent être contournés à l’aide d’intelligences artificielles (IA), selon une étude de Microsoft publiée dans la revue Science.
Utiliser l’IA pour imaginer des séquences qui trompent les systèmes d’alerte
Pour fabriquer une protéine, les chercheurs commandent normalement à ces entreprises la séquence génétique qui code pour la protéine en question, afin de l’insérer dans une cellule et la lui faire produire. De leur côté, ces entreprises ont des logiciels qui analysent la séquence demandée et la comparent à celles des toxines ou pathogènes connus, pour s’assurer de ne pas aider à produire des molécules interdites à cause de leur dangerosité. Pour tester les vulnérabilités de ces logiciels, les chercheurs de Microsoft ont utilisé des IA capables d’imaginer de nouvelles molécules, ce qui peut être très utile pour créer de nouveaux médicaments… Mais aussi pour concevoir des séquences suffisamment différentes pour ne pas allumer les alarmes de ces logiciels, tout en gardant la dangerosité de la molécule fabriquée.
L’IA a généré plus de 75.000 variantes de 72 protéines dangereuses, que les chercheurs ont envoyées à quatre entreprises qui synthétisent des séquences génétiques (ces entreprises étaient au courant de la démarche et participaient activement à l’étude). Résultat: leurs logiciels parvenaient à détecter les séquences originales de ces protéines dangereuses, mais pas celles modifiées par l’IA. Grâce à cette collaboration, les entreprises en question ont pu mettre à jour leurs systèmes d’alerte pour pouvoir reconnaître la plupart de ces nouvelles variantes. Mais environ 3 % de ces séquences parvenaient toujours à contourner ces systèmes. Conclusion: les outils du passé sont à la traine face aux intelligences artificielles.
Des données à utiliser avec précaution
Vu la potentielle dangerosité de ces nouvelles séquences imaginées par l’IA, les chercheurs de Microsoft ont décidé de ne pas les rendre publiques dans leur étude (avec l’accord de la revue Science). Mais elles sont disponibles pour les chercheurs qui en font la demande, après une évaluation de chacune de ces demandes par l’IBBIS (International Biosecurity and Biosafety Initiative for Science), une ONG basée à Genève (Suisse) qui travaille pour améliorer les normes de biosécurité.
Cette ONG suisse a d’ailleurs aussi participé à la rédaction de recommandations pour assurer que l’IA soit utilisée de façon responsable dans la synthèse de molécules biologiques. Ces règles ont déjà été signées par plus de 180 chercheurs et entreprises travaillant dans ce domaine. Qui, en outre, se sont engagés à trouver des parades pour toute mauvaise utilisation de ces IA. La course vient de commencer.
Pour plus d’informations et d’analyses sur la Djibouti, suivez Africa-Press
