Promythicus EN root@promythicus.com

Promythicus / Blogue

Comment vérifier qu’une IA est vraiment privée

Par Bardia Shahrestani, Promythicus Inc. · Publié le

Débranchez le câble réseau et posez-lui une question. S’il répond encore, le modèle tourne sur la machine. Rebranchez ensuite, confirmez que le pare-feu bloque tout le trafic sortant, et observez le réseau pendant qu’il travaille pour voir si une connexion quitte le bureau. Un système privé réussit les trois.

1. Le test du câble

Déconnectez le serveur d’Internet et utilisez-le depuis un ordinateur branché sur le même commutateur. Un système qui dépend d’un service infonuagique cesse de fonctionner. C’est le seul test qu’une personne non technique peut faire et auquel elle peut se fier.

2. Les règles du pare-feu

Le serveur doit refuser les connexions sortantes, sauf vers le réseau du bureau. Sous Linux avec UFW :

sudo ufw status verbose

Cherchez deny (outgoing) comme règle par défaut, et seulement le réseau de votre bureau parmi les destinations permises.

3. Observer le trafic

Pendant que quelqu’un utilise l’assistant, enregistrez tout paquet qui va ailleurs que sur le réseau du bureau :

sudo tcpdump -n -i any 'not (dst net 192.168.0.0/16 or dst net 10.0.0.0/8 or dst net 127.0.0.0/8)'

Sur un système privé, ça reste vide, à part les tentatives bloquées du système d’exploitation pour chercher des mises à jour. Pour une vérification plus solide, faites la même chose sur le routeur du bureau, que le serveur ne peut pas influencer.

4. Ce qui écoute

sudo ss -ltnp

Ça liste chaque programme qui accepte des connexions. Attendez-vous à voir l’écran de clavardage et le moteur d’exécution, et rien que vous ne puissiez nommer. Le moteur doit écouter sur l’adresse locale seulement, derrière l’écran de clavardage.

5. Demander où tourne chaque pièce

Un assistant documentaire a plusieurs pièces. Demandez au fournisseur, pour chacune, où elle tourne :

« Sur le serveur » doit être la réponse pour tout sauf la dernière, et les mises à jour doivent être lancées par vous, à la main. Un point faible fréquent : un produit qui fait tourner le modèle sur place, mais envoie quand même la recherche ou la numérisation à un service infonuagique.

Ce que « privé » ne couvre pas

Ces vérifications montrent que rien ne sort de vos murs. Elles ne protègent pas contre quelqu’un à l’interne qui lit des dossiers qu’il ne devrait pas. Pour ça, il faut des comptes, des accès selon le rôle et un registre de qui a demandé quoi.

Questions et réponses

Comment savoir si un outil d’IA envoie mes données dans le nuage?
Déconnectez-le d’Internet et voyez s’il répond encore. Vérifiez ensuite que le pare-feu bloque le trafic sortant et observez le réseau pendant son utilisation.
Une IA qui tourne sur place est-elle toujours privée?
Non. Certains produits font tourner le modèle sur place, mais envoient la recherche, la numérisation, des statistiques ou des rapports d’erreurs à des services extérieurs. Demandez où tourne chaque pièce.
Un serveur d’IA privé a-t-il parfois besoin d’Internet?
Seulement pour télécharger des mises à jour, et seulement quand vous le décidez. Il répond aux questions sans connexion.

Sources