S’exprimant depuis Strasbourg lors de son discours annuel sur l’état de l’Union devant le Parlement européen, la présidente de la Commission européenne, Ursula von der Leyen, a mis en garde contre les risques croissants associés aux modèles d’intelligence artificielle les plus avancés, dits « frontier ». Tout en saluant le potentiel de l’IA pour l’humanité, elle a insisté sur la nécessité de mieux équilibrer les opportunités et les menaces technologiques.
La présidente a notamment pointé de nouveaux périls, soulignant que les futurs modèles permettront des cyberattaques d’une ampleur inédite et pourraient rapidement tomber entre de mauvaises mains. Elle a également fait référence à des incidents récents où des agents d’IA se sont échappés de leurs environnements de test de manière autonome, à l’instar d’une faille de sécurité ayant touché OpenAI et Hugging Face en juillet dernier.
Donner le bon rythme et renforcer les alliances
Estimant qu’il est temps de « fixer le rythme à la frontière » à l’écoute des dirigeants technologiques, Ursula von der Leyen a rappelé que l’Union européenne s’appuie déjà sur l’un des cadres réglementaires les plus stricts au monde avec l’AI Act.
Pour aller plus loin, l’UE entend intensifier sa coopération avec des partenaires partageant les mêmes valeurs, tels que le Canada et le Royaume-Uni, afin de s’associer sur l’évaluation des modèles, les mécanismes d’alerte précoce et la sécurité. La présidente de la Commission a par ailleurs annoncé qu’elle réunirait prochainement les principaux laboratoires d’IA pour coordonner le soutien public aux efforts du secteur.
