Sam Altman à Decoded : “Le monde devrait accepter que certaines choses négatives se produisent” face aux bénéfices de l’IA

Pour le PDG d’OpenAI Sam Altman, il subsiste une différence fondamentale de vision entre son entreprise et son concurrent Anthropic en matière de réglementation de l’intelligence artificielle. Les avantages de cette technologie justifient d’accepter certains risques, a-t-il estimé dans une interview exclusive accordée à Decoded by POLITICO, ajoutant que l’IA devait rester largement accessible au grand public.

“Je pense qu’il y a un réel fossé”, a souligné Sam Altman auprès de Brendan Bordelon, coauteur de Decoded et journaliste senior spécialisé dans la tech chez POLITICO. Interrogé sur ce qu’il différencie plus spécifiquement son entreprise de celle de Dario Amodei, il a répondu : “Nous pensons que le monde devrait accepter que certaines choses négatives se produisent face aux bénéfices de cette technologie.”

Anthropic a longtemps été considérée comme la plus fervente défenseure de la réglementation de l’IA au sein du secteur, une position qui, jusqu’à récemment, contrastait avec l’approche plus souple prônée par OpenAI. Mais les divergences politiques entre ces deux géants de l’intelligence artificielle se sont atténuées ces derniers mois, la maison mère de ChatGPT soutenant désormais des règles plus strictes, alors que ses modèles ont défrayé la chronique pour avoir piraté des sites de manière autonome.

Sam Altman a approuvé l’appel lancé le mois dernier par Dario Amodei à ralentir le développement des modèles d’IA les plus avancés. Son entreprise a même emboîté le pas à Anthropic en soutenant de nouvelles lois d’Etats fédérés américains qui imposent des exigences de sécurité plus strictes que celles qu’OpenAI avait précédemment défendues — ce qui marque un léger revirement par rapport à sa stratégie antérieure en la matière. Par ailleurs, ses lobbyistes ont récemment apporté leur soutien à une proposition bipartisane de la Chambre des représentants qui obligerait les principales entreprises du secteur à accueillir des auditeurs indépendants chargés d’évaluer la sécurité de leurs modèles.

Malgré cette convergence, Sam Altman a tenté de distinguer la position de son entreprise en matière de réglementation de celle de Dario Amodei, rappelant les accusations de capture réglementaires contre Anthropic, formulées par des conseillers tech du président Donald Trump.

“Je ne suis pas d’accord, mais je comprends le point de vue de ceux qui se disent : ‘Cette technologie va devenir tellement puissante, et elle est tellement dangereuse, qu’un seul laboratoire à San Francisco devrait en disposer et veiller à ce qu’il n’arrive rien de grave, tout en trouvant le moyen d’en répartir les bénéfices’”, a exposé Sam Altman. Pour lui, c’est un “compromis totalement inacceptable” qui va à l’encontre de la “position plus souple en matière réglementaire” défendue par OpenAI.

“Je ne ferai pas le compromis de dire : ‘Nous veillerons à ce qu’il n’y ait pas de piratages majeurs, pas d’utilisation abusive de cette technologie, zéro escroquerie [ou] toute autre chose négative qui pourrait se produire’”, a poursuivi le patron de l’éditeur de ChatGPT. “Car je pense que les gens feront énormément plus — d’un ordre de grandeur supérieur — de bonnes choses que de mauvaises.”

Le PDG d’OpenAI a ajouté ne pas croire aux “risques véritablement catastrophiques”, notamment à la possibilité d’“une grave perte de contrôle face à l’IA”.

Interrogé à ce sujet, un porte-parole d’Anthropic a répondu que les “propositions réglementaires [de l’entreprise] ne s’appliquent qu’aux modèles de pointe”. La société a également fait référence à un échange sur les réseaux sociaux en août entre Dario Amodei et un gestionnaire d’investissements, dans lequel il répondait aux critiques concernant la captation réglementaire et les répercussions sur les petites entreprises.

“Anthropic a toujours formulé ses propositions politiques avec beaucoup de prudence”, soulignait Dario Amodei à l’époque. “Nous nous efforçons vraiment de présenter des propositions qui désavantagent (freinent) les entreprises d’IA de pointe tout en *favorisant* leurs concurrents plus petits.”

L’interview de Sam Altman, publiée lundi dans le premier numéro de Decoded et dans le podcast quotidien qui l’accompagne, a également abordé le nouvel accord sur l’IA de Donald Trump avec les géants de la tech, ainsi que son initiative de la rebaptiser “superintelligence” ; la vague d’incidents de piratage autonome perpétrés par des modèles d’OpenAI et la question de savoir si l’entreprise devrait engager sa responsabilité juridique ; l’opinion de Sam Altman sur l’argent du secteur de l’IA qui inonde la politique américaine ; l’influence des “altruistes efficaces” au sein d’OpenAI ; ainsi que son point de vue sur des acteurs politiques de premier plan, notamment le président français Emmanuel Macron et le gouverneur de Californie Gavin Newsom.

Decoded by POLITICO — une émission réalisée par Brendan Bordelon, Christine Mui, Calder McHugh et Sam Sutton — s’appuie sur le travail d’une cinquantaine de journalistes de POLITICO à travers le monde pour traiter non seulement de l’avenir de la tech, mais aussi des personnalités, des débats politiques et des luttes qui la façonne. Abonnez-vous à la newsletter et au podcast.

Cet article a d’abord été publié par POLITICO en anglais, puis a été édité en français par Jean-Christophe Catalon.