Que révèle l'étude sur les applications créées avec Grok Build ?
Que la quasi-totalité des applications actives examinées était ouverte à n'importe qui. Grok Build, l'outil de SpaceXSI (anciennement xAI), crée une application web à partir d'une demande écrite comme on parle, puis la publie depuis la conversation. La société de cybersécurité Claroc a repéré 43 601 noms d'applications sur le domaine grok.me. Sur les 37 571 applications actives examinées, 35 578, soit 94,7 %, étaient accessibles sans authentification, c'est-à-dire sans demander qui vous êtes.
Selon Claroc, la plupart des applications ouvertes étaient de simples jeux, calculateurs ou pages de présentation. Mais les chercheurs estiment qu'entre 650 et 800 applications contenaient des données privées. On y trouvait un annuaire hospitalier de plus de 3 500 noms avec des informations sur des patients, la base de recrutement d'une entreprise de transport (plus de 1 000 personnes) et des mots de passe stockés en clair, dont certains associés à des comptes administrateurs. Les chercheurs disent aussi avoir trouvé 24 applications ouvertes créées par des collaborateurs de SpaceXSI et de X.
SpaceXSI répond que les applications restent privées tant que leur créateur ne les partage pas. Au moment de publier, il choisit un accès pour toute personne qui a le lien, pour des invités ou pour lui seul. Les chercheurs mettent en cause ces réglages de partage : un choix fait en quelques secondes décide de qui voit les données.
Quels sont les risques quand on crée une application avec l'IA sans développeur ?
L'outil construit ce que vous lui demandez. Les risques se logent dans ce qui ne se voit pas à l'écran :
- La connexion des utilisateurs. Qui peut ouvrir l'application ? Une adresse compliquée ne protège rien : celles de Grok Build comportent généralement quatre mots aléatoires, et un programme peut les essayer en série jusqu'à tomber sur les bonnes.
- Les droits d'accès. Une fois connecté, qui voit quoi ? Pendant leurs tests, les chercheurs de Claroc ont pu modifier une base de contacts partagée sans être connectés, et un compte Google extérieur à l'équipe a pu ouvrir une autre application.
- Les données personnelles. Noms, adresses, mots de passe : où sont-ils stockés, et sont-ils chiffrés, c'est-à-dire illisibles sans clé ?
- Les sauvegardes. Si une donnée est effacée par erreur, ou si une modification casse l'application, pouvez-vous revenir en arrière ?
Le code lui-même n'est pas toujours sûr. L'éditeur de sécurité Veracode a soumis 80 exercices de programmation à plus de 100 modèles d'IA : dans 45 % des cas, le code produit contenait une faille de sécurité (étude publiée en juillet 2025). Sans lire le code, impossible de savoir si votre application en fait partie.
Les plateformes d'hébergement pour applications IA règlent-elles le problème ?
En partie seulement. Automattic, la maison mère de WordPress.com, a ouvert Spacefast le 9 novembre 2026 : une plateforme qui héberge les sites et applications créés avec ChatGPT, Claude, Cursor ou Grok. Chaque projet y reçoit un hébergement, un nom de domaine et une base de données.
Ses réglages par défaut sont prudents. Un projet n'est visible que par son auteur tant qu'il ne le partage pas. L'agent IA doit demander votre accord avant une action sensible, comme le retour à une version antérieure ou la modification des paramètres DNS (les réglages qui relient votre nom de domaine à votre site). Chaque mise à jour crée une version vers laquelle on peut revenir.
En revanche, la connexion des utilisateurs à l'intérieur des applications est seulement annoncée pour « prochainement », sans date précise, selon le Blog du Modérateur. Et aucune plateforme ne décide à votre place lequel de vos clients doit voir quelles données.
Qui est responsable si les données de vos clients fuient ?
L'entreprise qui collecte les données, même si une IA a écrit l'application. Le RGPD l'appelle le responsable du traitement : c'est votre entreprise, cliente de l'outil ou du prestataire. Quand des données personnelles sont perdues, modifiées ou consultées sans autorisation et que l'incident présente un risque pour les personnes, c'est elle qui prévient la CNIL, dans les meilleurs délais et, si possible, au plus tard 72 heures après en avoir pris connaissance. Une notification en retard doit expliquer ce retard, et elle peut être complétée ensuite.
Le sous-traitant qui héberge ou maintient l'application a une autre obligation : il prévient le responsable du traitement dans les meilleurs délais après avoir pris connaissance de la violation (RGPD, article 33.2). La notification à la CNIL reste à votre charge.
Dans tous les cas, l'incident doit être consigné en interne : sa nature, les personnes et les données touchées, les conséquences probables et les mesures prises. Si le risque est élevé, les personnes concernées doivent aussi être prévenues. Pour un SaaS qui démarre, cela veut dire écrire à vos premiers clients que leurs données ont circulé.
Quand un prototype fait avec l'IA suffit-il, et quand passer à une vraie première version ?
Le prototype suffit tant que personne n'y met de vraies données. Il sert à tester une idée auprès de clients potentiels : leur montrer des écrans, noter leurs réactions. Remplissez-le avec des données inventées et limitez l'accès aux personnes que vous invitez.
Dès que des clients s'inscrivent, paient ou déposent des informations personnelles, il vous faut une vraie première version. Le Monde Informatique relaie les recommandations des chercheurs : imposer l'authentification, gérer les autorisations, vérifier les données manipulées et analyser la sécurité avant la mise en production. Posez ces questions à qui construit votre application, vous compris :
- chaque page qui affiche des données demande-t-elle une connexion ?
- un client connecté ne voit-il que ses propres données, jamais celles d'un autre ?
- les mots de passe sont-ils stockés autrement qu'en clair ?
- savez-vous où sont hébergées les données et comment les restaurer ?
- une personne qui sait lire du code a-t-elle relu les parties sensibles avant la mise en ligne ?
Pour lancer un SaaS avec nous, vous commencez par un premier module limité à 1 ou 2 fonctionnalités, à 6 000 € prix fixe, en ligne en 4 semaines. Il comprend le développement front et back (les écrans et la partie serveur), les tests et la mise en production. La troisième semaine sert aux réglages : ce qui se passe quand vos clients se trompent, oublient un champ ou cliquent trois fois. Si vous avez déjà un prototype fait avec l'IA, nous pouvons le reprendre après un audit du code : nous vous disons ce qui peut être conservé, ce qui doit être réécrit et pourquoi.