il y a 17 hour
3
Un millier d'employés d'entreprises à la pointe de l'intelligence artificielle (IA), dont plusieurs dirigeants, ont demandé mardi 27 juillet au gouvernement américain d'aider à "temporiser" la sortie des modèles d'IA les plus avancés, inquiets d'une possible accélération incontrôlée.
La demande a été adressée sous forme de pétition, paraphée par plus de 1 100 personnes, dont le directeur général d'Anthropic Dario Amodei, le responsable de la recherche d'OpenAI, celui de Meta, ainsi que le référent stratégique de Google DeepMind, la filiale d'IA de Google. OpenAI et Anthropic ont officiellement apporté leur soutien à la démarche via des messages postés sur X.
À lire aussiLe programme oublié de l’IA au pays des Soviets (1/3)
Cette communication intervient après plusieurs épisodes qui ont marqué un tournant dans l'évolution de l'IA ces derniers mois. Début avril, Anthropic a décidé de ne diffuser son nouveau modèle, Mythos, qu'à un groupe restreint d'organisations à des fins de sécurisation d'Internet, le jugeant trop dangereux pour être commercialisé à grande échelle.
La start-up californienne a mis en ligne une version bridée de Mythos, Fable 5, mais le gouvernement américain l'a rapidement contraint à la retirer, citant des risques pour la sécurité nationale. Il a finalement donné son feu vert fin juin après des modifications.
Difficile pour une nation de décider seule de lever le pied sur l'IA
Puis, mi-juillet, deux modèles d'OpenAI, lors d'une phase de tests, sont sortis de leur espace dédié, théoriquement confiné, pour rejoindre Internet de leur propre initiative et faire intrusion sur la plateforme Hugging Face, une bibliothèque de modèles IA.
"Il existe un risque que le développement des aptitudes (des modèles) accélère rapidement au-delà de nos capacités à comprendre ou contrôler ces systèmes", préviennent les employés dans la lettre accompagnant la pétition. "L'industrie, le gouvernement et la société toute entière pourraient nécessiter l'option de se donner du temps pour traiter les risques émergents, développer des mesures de sécurité et renforcer la supervision", ajoutent-ils.
Dans le contexte actuel de concurrence exacerbée entre pays, il est néanmoins difficile à une nation de décider seule de lever le pied, reconnaissent-ils. Dès lors, "nous demandons que le gouvernement américain soutienne une initiative internationale pour créer les outils techniques et de gouvernance nécessaires à une temporisation délibérée du développement automatisé de l'IA", conclut le document.
Outre la pression concurrentielle, l'augmentation de la cadence de sortie des nouveaux modèles de pointe tient à la propension nouvelle de l'IA à s'améliorer elle-même, sans l'aide de l'homme. Cette technique permet de mettre au point un nouveau modèle beaucoup plus rapidement qu'avant.
À lire aussiComment un groupe terroriste comme Boko Haram utilise l’intelligence artificielle
Pour la plupart des chercheurs, l'intelligence artificielle avance ainsi progressivement vers "l'auto-amélioration récursive" (recursive self-improvement), qui verrait une IA concevoir seule son successeur, une séquence qui pourrait se répéter à l'infini.
"Les entreprises aux avant-postes de l'IA pensent qu'elles pourraient être proches d'une recherche IA automatisée", selon le texte de la pétition. Ce mécanisme compliquerait les vérifications et l'appréhension des nouveaux modèles par les développeurs, désormais extérieurs au développement de l'IA.
Dans un podcast mis en ligne mardi, le patron d'OpenAI, Sam Altman, qui n'a pas signé la pétition, estime que les fleurons de l'IA pourraient devoir ralentir volontairement l'allure de développement de leurs modèles pour laisser le temps à l'ensemble de l'écosystème informatique de se préparer.
Un vœu pieux ?
Plusieurs professionnels de l'IA ont accueilli avec réserve l'appel collectif lancé mardi, considéré comme un vœu pieux, dans la lignée de nombreuses lettres ouvertes et pétitions restées sans lendemain. "Réussir ce genre de choses prend beaucoup de temps", a commenté, sur X, Charlie Bullock, du centre de réflexion Institute for Law & AI, or le temps presse, selon les employés de l'IA.
En juin, lors du sommet du G7 organisé par la France, Dario Amodei, Sam Altman et Demis Hassabis, patron de Google DeepMind, ont plaidé pour la mise en place d'une plateforme transnationale dédiée à l'IA.
Il s'agit "de déterminer, à terme, s'il y a un moyen de créer des standards de sécurité pour l'IA", des "garde-fous qui serviraient de base pour les pays participants à ce forum", avait expliqué à l'époque le responsable des affaires publiques d'Open, Chris Lehane. Il avait dit avoir observé une "convergence" des membres du G7 et des cinq pays invités autour de cette idée.
Avec AFP
