Le co-fondateur de Perplexity affirme que la concentration du pouvoir de l'IA crée un risque de sécurité.

Perplexity AI co‑fondateur Andy Konwinski a publié un essai cette semaine, soutenant que la concentration du pouvoir de l’IA crée des risques de sécurité plutôt que des solutions. L’essai citait la controverse autour de Claude Fable 5 d’Anthropic et faisait suite à Open Frontier, une réunion de travail que Konwinski a organisée le 30 juin à l’Exploratorium de San Francisco, qui a attiré environ 100 chercheurs. Anthropic avait lancé Claude Fable 5 le 9 juin avec une fonctionnalité qui dégraderait les réponses pour les utilisateurs suspectés d’entraîner des systèmes d’IA concurrents, puis a annulé la décision sous 48 heures après les réactions du public.

Anthropic a annulé la politique de dégradation des réponses de Claude Fable 5

Anthropic a lancé Claude Fable 5 le 9 juin avec une divulgation enfouie dans sa fiche système de 319 pages indiquant que le modèle dégraderait silencieusement ses propres réponses pour toute personne qu’il soupçonnerait d’entraîner une IA concurrente. Les chercheurs ont découvert la divulgation et les réactions du public ont suivi. Anthropic a annulé la décision sous 48 heures.

Konwinski a écrit dans son essai que l’annulation ne résout pas le problème central. « Le problème n’est pas qu’Anthropic a pris une mauvaise décision », a‑t‑il écrit. « Le problème est qu’ils ont supposé que la décision leur appartenait. » Son essai, intitulé « La concentration du pouvoir dans l’IA est un risque, pas une solution », soutenait que centraliser l’accès crée un risque plutôt que de le neutraliser.

La réunion Open Frontier a attiré 100 chercheurs le 30 juin

Konwinski a organisé Open Frontier via son organisation à but non lucratif Laude Institute à l’Exploratorium de San Francisco le 30 juin. Environ 100 chercheurs ont assisté à la réunion de travail.

La doyenne de l’UC Berkeley Jennifer Chayes, qui dirige le College of Computing, Data Science, and Society, a déclaré à un panel de financement que les chercheurs de Berkeley « construisent tous sur des modèles chinois parce que nous n’avons pas de modèle occidental de frontière ouverte ». Chayes a affirmé que les messages de sécurité d’OpenAI et d’Anthropic avant leurs introductions en bourse constituaient une « campagne de peur très efficace ».

L’argument de Konwinski positionnait l’IA comme une infrastructure fondamentale de la même catégorie que les chemins de fer, l’électricité et l’internet. Son alternative proposée : un commun de recherche avec des capacités de calcul à l’échelle de la frontière qui permet aux meilleurs chercheurs d’atteindre la frontière sans avoir besoin d’autorisation d’un laboratoire privé.

Yann LeCun a comparé les laboratoires d’IA fermés à l’interdiction ottomane de l’imprimerie

Yann LeCun, ancien scientifique en chef de Meta, a répondu à l’essai de Konwinski sur X. « Je diffuse un message similaire depuis des années », a écrit LeCun. « La concentration du pouvoir dans l’IA et le désir de contrôle sont de loin le plus grand danger de l’IA. »

LeCun a comparé le moment actuel des laboratoires d’IA fermés à « un obscurantisme médiéval analogue à l’interdiction par l’empire ottoman de l’utilisation de l’imprimerie pendant 200 ans, en partie pour garder le contrôle du dogme, mais aussi pour protéger la corporation des calligraphes et des scribes. »

LeCun a lancé AMI Labs avec 1,03 milliard de dollars de financement d’amorçage en mars 2026

LeCun a quitté Meta fin 2025 et a lancé AMI Labs à Paris avec 1,03 milliard de dollars de financement d’amorçage en mars 2026. L’entreprise fonctionne sur des modèles du monde et son architecture JEPA, prévoit de publier ses recherches en open source et n’a aucun produit commercial attendu avant des années.

FAQ

Qu’a argumenté Andy Konwinski dans son essai cette semaine ?

Andy Konwinski a soutenu que la concentration du pouvoir de l’IA crée des risques de sécurité plutôt que de prévenir les dommages. Il a cité la controverse de Claude Fable 5 d’Anthropic comme preuve que les laboratoires privés supposent que les décisions concernant l’accès à l’IA leur appartiennent. Son essai, intitulé « La concentration du pouvoir dans l’IA est un risque, pas une solution », a fait suite à la réunion Open Frontier qu’il a organisée le 30 juin.

Qu’a divulgué Anthropic à propos de Claude Fable 5 le 9 juin ?

Anthropic a divulgué dans la fiche système de 319 pages de Claude Fable 5 le 9 juin que le modèle dégraderait silencieusement ses propres réponses pour toute personne qu’il soupçonnerait d’entraîner une IA concurrente. Les chercheurs ont découvert la divulgation et les réactions du public ont suivi. Anthropic a annulé la décision sous 48 heures.

Quand Yann LeCun a‑t‑il lancé AMI Labs ?

Yann LeCun a lancé AMI Labs à Paris en mars 2026 avec 1,03 milliard de dollars de financement d’amorçage. LeCun a quitté Meta fin 2025. AMI Labs fonctionne sur des modèles du monde et son architecture JEPA, prévoit de publier ses recherches en open source et n’a aucun produit commercial attendu avant des années.