Alertes sur les risques sécuritaires liés à l’IA

Quelles sont les alertes formulées par les spécialistes de l’IA ?

La société américaine Anthropic a déclaré avoir bloqué des utilisations malveillantes de son intelligence artificielle (IA), dont des requêtes susceptibles de servir à développer des armes biologiques, dans un rapport publié hier soir. Cette semaine, plusieurs spécialistes ont alerté sur les risques associés à l’IA. Un ingénieur démissionnaire d’Anthropic qui a aussi travaillé pour OpenAI, Jacob Coxon, a avancé mercredi qu’aucune des deux entreprises n’agissait « de manière responsable », qu’elles se précipitaient « vers une superintelligence auto-améliorante » et jouaient « avec nos vies ». Un autre employé d’Anthropic, Evan Hubinger, a évalué à « plus de 10 % » la probabilité que l’IA « tue tous les humains » d’ici « la fin de la décennie », une estimation que Geoffrey Hinton, prix Nobel de physique en 2024, a jugé « pas déraisonnable » sur la BBC. Le Haut-Commissaire des Nations unies aux droits de l’homme, Volker Türk, avait appelé lundi les États à renforcer la réglementation de l’IA, jugeant qu’elle « pourrait faire peser un risque existentiel sur l’humanité ».

Quels sont les principaux risques sécuritaires associés à l’IA ?

Certains risques découlent d’usages malveillants. Des systèmes d’IA peuvent être utilisés pour mener des cyberattaques, autrefois « réservées à des acteurs très capables », contre « des infrastructures critiques (hôpitaux, eau, etc.) » ou encore pour préparer « une attaque biologique », explique à Brief.me Henry Papadatos, le directeur exécutif de SaferAI, une ONG de recherche dans les risques associés à l’IA. L’IA présente aussi un risque de perte de contrôle, à mesure qu’elle gagne en autonomie. Lorsque l’on donne des objectifs aux IA, « elles trouvent parfois des stratégies qui sont non conformes aux valeurs humaines pour parvenir à leurs fins », expliquait en 2024 le chercheur Charbel-Raphaël Segerie dans une publication en ligne de l’éditeur spécialisé Techniques de l’ingénieur. En juillet, deux modèles d’IA conçus par OpenAI sont sortis de leur environnement de test et ont mené une cyberattaque contre l’entreprise d’IA Hugging Face.

Quels dispositifs sont mis en place pour réduire ces risques ?

Des parlementaires américains ont réclamé cette semaine un renforcement de la réglementation sur les risques sécuritaires associés à l’IA, alors qu’il n’existe aucune loi fédérale dans le domaine aux États-Unis. En Californie, où siègent les principales entreprises du secteur, une loi entrée en vigueur en janvier oblige les entreprises développant des IA de pointe à publier leur protocole de sécurité, concernant par exemple l’utilisation de leurs modèles à des fins malveillantes. L’UE a adopté en 2024 un règlement sur l’IA qui prévoit certaines obligations de contrôle et de transparence pour limiter « les risques systémiques » (sûreté, santé publique, etc.). Toutefois, « la course à l’accroissement des capacités de l’IA entre les entreprises » tend à reléguer la sécurité au second plan, explique Henry Papadatos. Il ajoute qu’il est très difficile techniquement « d’aligner » les modèles d’IA sur des valeurs ou des principes, car ils sont en perpétuelle évolution.

Pour aller plus loin