IA : la Californie veut un interrupteur d'urgence obligatoire
Gavin Newsom relance le débat sur la sécurité des IA de pointe avec un bouton d'arrêt obligatoire. Découvrez pourquoi l'Europe a choisi une autre voie.
Et si demain, un modèle d'intelligence artificielle devenait incontrôlable ? C'est la question qui hante les régulateurs du monde entier. En Californie, le gouverneur Gavin Newsom vient de signer un décret qui relance un débat brûlant : faut-il obliger les entreprises à construire un interrupteur d'urgence pour leurs modèles d'IA les plus avancés ? Une idée simple en apparence, mais qui soulève des questions profondes sur la gouvernance de l'intelligence artificielle.
Un revirement spectaculaire en Californie
Il y a deux ans, Gavin Newsom avait pourtant dit non. En septembre 2024, il avait opposé son veto au projet de loi SB 1047, qui aurait obligé les développeurs de modèles d'IA de pointe à pouvoir « promptement déclencher un arrêt total » de leurs systèmes, formation comprise. Son argument : la loi régulait les modèles selon leur taille et leur coût, pas selon leur usage réel.
Aujourd'hui, le voilà qui revient à la charge, mais autrement. Le 18 septembre 2026, il a signé un décret demandant à un groupe de travail de rendre ses conclusions sous deux mois sur le renforcement des lois californiennes en matière de sécurité de l'IA. Parmi les pistes étudiées : rendre obligatoire la construction d'un kill switch pour les modèles dits « de frontière ».
« Nous n'attendons pas pour agir », a déclaré Newsom. Mais son bureau n'a toujours pas précisé qui composerait ce groupe de travail. Une chose est sûre : la Californie, berceau mondial de l'IA générative, veut reprendre la main.
L'Europe a choisi une autre voie
Pendant que la Californie réfléchit encore, l'Union européenne a déjà agi. Depuis le 2 août 2026, la Commission européenne peut restreindre, retirer ou rappeler un modèle d'IA à usage général du marché européen. Une disposition prévue par l'AI Act, le règlement phare de l'UE sur l'intelligence artificielle.
La différence est fondamentale. En Europe, le pouvoir d'arrêt appartient au régulateur, pas au développeur. Pas besoin qu'une entreprise implémente quoi que ce soit : c'est la Commission qui décide, et elle peut le faire sans dépendre de la bonne volonté d'un acteur privé.
Deux philosophies opposées
D'un côté, une approche américaine qui mise sur la responsabilité des entreprises et la construction technique d'un bouton d'arrêt interne. De l'autre, une approche européenne qui donne le pouvoir à l'autorité publique, avec une capacité de retrait direct du marché.
La première repose sur la coopération volontaire, la seconde sur la contrainte réglementaire. Laquelle protège vraiment les citoyens ? Le débat reste ouvert.
Pourquoi un kill switch ne suffit pas
L'idée d'un interrupteur d'urgence séduit par sa simplicité. Mais elle pose un problème technique majeur : comment arrêter un modèle d'IA qui a déjà été téléchargé, copié, déployé à des milliers d'endroits ?
- Un modèle open source peut être dupliqué à l'infini avant qu'on ne décide de l'arrêter.
- Un système en production peut être intégré dans des chaînes critiques impossibles à couper sans conséquences graves.
- Un acteur malveillant n'a aucune raison d'implémenter son propre bouton d'arrêt.
Autrement dit, le kill switch fonctionne surtout pour les entreprises qui jouent déjà le jeu. Pour les autres, la régulation par le marché — comme celle de l'UE — reste plus efficace.
Pourquoi c'est important
Ce débat californien dépasse largement les frontières de l'État. La Californie abrite les plus grandes entreprises d'IA au monde, et ses choix réglementaires influencent directement les pratiques de l'industrie entière. Ce qui se décide à Sacramento finit souvent par s'imposer à San Francisco, puis à l'Europe, puis au monde. Comprendre cette bataille, c'est comprendre comment nos sociétés comptent encadrer une technologie qui transforme déjà le travail, l'information et la démocratie.
Ce que ça change pour vous
Vous n'êtes probablement pas développeur de modèles de frontière. Mais vous utilisez peut-être déjà des outils d'IA au quotidien, au travail ou à la maison. Les règles qui se dessinent aujourd'hui détermineront demain :
- La transparence des modèles que vous utilisez.
- Votre capacité à savoir si un contenu est généré par une IA.
- Les recours possibles si un système vous cause un préjudice.
- La vitesse à laquelle les innovations arrivent sur le marché.
Ce n'est pas un débat d'experts. C'est un débat de société.
Le compte à rebours est lancé
La Californie a deux mois pour accoucher de recommandations concrètes. L'Europe, elle, a déjà ses outils en main. Entre les deux, une question de fond : peut-on vraiment freiner une technologie qui avance plus vite que les lois ?
La réponse n'est pas technique. Elle est politique, éthique et collective. Et elle vous concerne directement.
Conclusion
La sécurité de l'intelligence artificielle n'est plus un sujet de science-fiction. Elle est devenue une urgence réglementaire, avec des approches qui s'affrontent : le bouton d'arrêt côté entreprise, ou la capacité de retrait côté régulateur. La Californie hésite encore, l'Europe a tranché. Mais une chose est sûre : plus personne ne peut faire comme si ces modèles étaient de simples outils sans conséquence. Le vrai enjeu n'est pas de savoir qui appuiera sur le bouton, mais qui décidera quand le faire — et selon quelles valeurs.
Points clés à retenir
- Gavin Newsom a signé un décret demandant un rapport sous deux mois sur la sécurité des IA de frontière, incluant l'idée d'un kill switch obligatoire.
- Il avait pourtant vetoé un projet de loi similaire en septembre 2024, préférant une régulation par l'usage plutôt que par la taille du modèle.
- L'Union européenne a déjà donné à la Commission le pouvoir de retirer un modèle d'IA du marché depuis le 2 août 2026.
- Un kill switch interne protège surtout contre les acteurs de bonne volonté, pas contre les usages malveillants.
- Ce débat californien aura des répercussions mondiales sur la gouvernance de l'intelligence artificielle.