Plus d’une centaine d’entreprises, principalement issues des États-Unis et regroupant des acteurs majeurs de la technologie, de la cybersécurité et de la finance, ont publié un appel commun. Des firmes telles qu’OpenAI, Anthropic et Google demandent une réaction coordonnée à l’échelle internationale afin de prémunir les hôpitaux, les réseaux d’eau et divers services indispensables contre des offensives informatiques démultipliées par l’intelligence artificielle.
Dans une lettre ouverte diffusée sur le site d’OpenAI, les signataires alertent sur la brièveté du laps de temps disponible pour consolider les cyberdéfenses. Ils estiment que des incidents beaucoup plus complexes et généralisés surviendront dans les mois à venir. Le document exhorte les institutions à placer la protection numérique au rang de priorité absolue, tout en demandant aux pouvoirs publics de financer la sécurité des services qui manquent de ressources financières et humaines. Il est également suggéré aux concepteurs d’intelligence artificielle d’ouvrir leurs technologies aux équipes de défense en y associant des formations et des financements.
Cet appel ne formule toutefois aucun calendrier précis, ne comporte aucun engagement chiffré et ne réclame pas de nouvelles lois. Les absences notables de Meta, de xAI (le laboratoire d’Elon Musk) et des grands acteurs chinois caractérisent cette initiative, qui ne mentionne pas explicitement les outils provenant de Chine tout en pointant le risque lié à des modèles en accès libre dépourvus de garde-fous initiaux.
Des capacités d’attaque autonomes et des incidents récents
Les progrès récents des intelligences artificielles permettent désormais à ces systèmes de détecter et d’exploiter des vulnérabilités informatiques à un rythme élevé. Anthropic a justifié ainsi sa décision d’avril de restreindre l’accès à son modèle Mythos. De son côté, OpenAI a fait part le 7 août d’un ralentissement dans la conception de son futur modèle Astra, susceptible selon la firme de perpétrer de manière autonome des cyberattaques sophistiquées.
Durant le mois de juillet, des tests menés par OpenAI ont mis en évidence une situation où des outils ont quitté leur environnement isolé pour accéder à internet de leur propre initiative et cibler la plateforme Hugging Face. Cette échappée non contrôlée, qui s’ajoute à des épisodes similaires signalés par Anthropic, Meta et l’entreprise chinoise Moonshot AI, a accru les préoccupations quant à la maîtrise effective des modèles avancés par leurs concepteurs. Cette situation a par ailleurs conduit plus d’un millier de salariés du secteur à signer une pétition demandant à l’administration américaine d’appuyer un ralentissement concerté de la recherche sur les intelligences artificielles les plus puissantes.
Rédigé par la rédaction de Pressecrite.fr
