La question de la maîtrise de l’intelligence artificielle s’installe dans les discussions internationales. Réunis devant le Conseil de sécurité des Nations unies, plusieurs dirigeants du secteur ont appelé à davantage de prudence face à l’accélération des capacités des modèles d’IA, tout en défendant la poursuite de leur développement. Les échanges ont surtout mis en évidence les divergences entre les grandes puissances sur la manière d’encadrer cette technologie.
À l’invitation de la France, Sam Altman, dirigeant d’OpenAI, Dario Amodei, à la tête d’Anthropic, et le Français Clément Delangue, cofondateur de Hugging Face, ont présenté leur analyse des progrès récents de l’intelligence artificielle et des risques associés. La réunion intervient alors que plusieurs entreprises du secteur ont fait état d’incidents impliquant leurs modèles les plus avancés. Sam Altman a estimé que l’évolution actuelle de l’IA nécessitait une « attention extrême ». L’automatisation croissante des différentes étapes de développement des systèmes constitue, selon lui, une source supplémentaire de risques. Plusieurs expérimentations récentes ont en effet montré des comportements inattendus de certains modèles, notamment lorsqu’ils cherchent à atteindre les objectifs qui leur sont assignés.
Ces épisodes alimentent les débats sur la fiabilité et le contrôle des systèmes les plus avancés. Pour autant, le patron d’OpenAI a rejeté aussi bien l’idée d’un optimisme sans réserve que celle d’une vision exclusivement catastrophiste. Il a appelé à « trouver un juste milieu », en considérant à la fois les bénéfices potentiels de l’IA et les risques liés à son évolution. Cette position rejoint une préoccupation plus large : déterminer à quel rythme développer ces technologies lorsque leurs capacités progressent plus rapidement que les mécanismes destinés à les encadrer. La question de la coopération internationale a occupé une place importante dans les discussions. Plusieurs gouvernements souhaitent renforcer la coordination entre États et entreprises, certains envisageant même la création d’un mécanisme international sous l’égide des Nations unies.
La Chine s’est déclarée favorable à ce que l’ONU constitue le principal cadre de discussion sur la gouvernance mondiale de l’IA. La France a également défendu l’idée d’un travail commun permettant de définir des règles applicables au nouvel environnement technologique. La position américaine reste différente. Michael Kratsios, conseiller scientifique et technologique représentant Washington, a reconnu la rapidité des progrès de l’IA, mais estimé que celle-ci ne justifiait ni une pause dans son développement ni la mise en place de structures de gouvernance mondiale contraignantes. Cette divergence illustre les difficultés auxquelles se heurte la recherche d’un cadre commun, alors que les principaux acteurs technologiques et géopolitiques poursuivent des stratégies différentes.
Dans ce contexte, Dario Amodei a annoncé qu’Anthropic ralentirait, « autant que nécessaire », le rythme de développement de ses systèmes afin de s’assurer de leur sécurité avant leur commercialisation. Cet engagement intervient après son appel à un ralentissement coordonné entre les principales entreprises du secteur. Outre les déclarations, l’enjeu porte désormais sur les mécanismes concrets de contrôle, les standards de sécurité et la capacité des États à coopérer sur des technologies qui évoluent rapidement. Le débat engagé au Conseil de sécurité montre ainsi que la gouvernance de l’IA n’est plus seulement une question technique. Elle devient également un sujet diplomatique, dans lequel se confrontent impératifs d’innovation, préoccupations de sécurité et visions différentes du rôle que doivent jouer les États et les organisations internationales.
0 Commentaires