Sécurité et gouvernance
La sécurité d’une équipe IA dans une petite entreprise
Une équipe IA peut mal tourner de trois façons. Une mauvaise réponse arrive chez un client. Des données privées se retrouvent au mauvais endroit. Un agent en fait plus que ce que vous avez demandé. Cette page présente les contrôles que nous mettons dans chaque installation, et ce que nous n’avons pas.
Les risques
Ce qui peut mal tourner avec une équipe IA
Un agent est un logiciel qui lit, écrit et agit pour votre entreprise. Trois défaillances comptent le plus, et chaque contrôle ci-dessous répond à l’une d’elles.
- Une mauvaise réponse arrive chez un client. Un agent rédige une soumission avec le mauvais prix, et personne ne la lit avant son envoi.
- Des données privées se retrouvent au mauvais endroit. Une liste de clients ou un dossier d’employé est collé dans un outil que vous n’avez pas choisi.
- Un agent en fait plus que ce qu’on lui a demandé. Il modifie un fichier ou utilise un compte dont la tâche n’avait pas besoin.
Les contrôles
Ce que nous mettons dans chaque installation
Six garde-fous, quelles que soient les compétences. Vous pouvez vérifier chacun vous-même.
- Un accès limité à ce dont la compétence a besoin
- Chaque compétence travaille dans votre propre dépôt et vos propres comptes, et n’utilise que l’accès que sa tâche exige. Vous nous donnez cet accès dans les 5 jours suivant la date de début.
- Vos données restent chez vous
- Vos fichiers et vos compétences se trouvent dans votre dépôt GitHub. Votre équipe utilise Claude par votre propre compte Anthropic, qui vous facture directement.
- Une personne approuve le travail qui compte
- Un agent prépare le travail et une personne de votre équipe l’approuve avant qu’il parte.
- Un test d’acceptation signé pour chaque compétence
- Vous signez le test avant que nous commencions la compétence, et c’est lui qui établit si elle fonctionne. Il sert aussi de base à la garantie.
- Un historique des changements dans votre dépôt
- Les compétences sont des fichiers, et GitHub consigne chaque modification : qui l’a faite, quand, et ce qu’elle a remplacé. Vous pouvez revenir à une version antérieure.
- Une façon de signaler un problème
- Vous avez trouvé une vulnérabilité ? Écrivez à info@whiteglovelabs.ai. La même adresse est publiée au /.well-known/security.txt. Nous accusons réception des signalements et convenons d’un calendrier de divulgation avec la personne qui signale. Nous n’engagerons aucune poursuite contre les chercheurs qui agissent de bonne foi et évitent d’accéder à des données qui ne sont pas les leurs.
Nos limites
Aucun certificat de sécurité aujourd’hui
Avertissement
Aucune attestation, aucun logo
White Glove Labs ne détient aujourd’hui aucune attestation de sécurité délivrée par un tiers. Nous n’affichons aucun logo de certification. Ce site n’a pas de mur de certifications. Lorsqu’un contrôle relève d’un fournisseur comme Anthropic ou GitHub, il est le leur, et nous vous renvoyons à leur documentation. Si un contrat vous demande une attestation, dites-le-nous lors de l’appel. Nous vous dirons où nous en sommes et ce qu’il faudrait pour y arriver.
Référence
Six étapes et douze domaines de contrôle
Voir les douze domaines de contrôle
Voici la liste de vérification derrière les contrôles ci-dessus, à l’intention d’un comptable, d’un avocat ou d’un assureur qui la demande. Le regroupement est le nôtre. Ce n’est pas une norme publiée, il ne porte aucune accréditation et aucune autorité ne l’a examiné. Les six étapes forment l’architecture selon laquelle nous concevons. Les douze domaines couvrent le même terrain plus en détail, et y ajoutent quatre domaines qui enveloppent tout le système.
| Domaine de contrôle | Étape de l’architecture | En langage clair |
|---|---|---|
| 1. Reddition de comptes et droits de décision | Aucune étape : enveloppe le système | Qui répond de ce que font les agents. |
| 2. Flux de travaux et évaluation de l’incidence | Aucune étape : enveloppe le système | Quelles tâches conviennent à un agent, et ce que coûterait une erreur. |
| 3. Classification des données, protection des renseignements personnels et gestion des documents | 01 Sources approuvées et classification des données | Quelles données sont privées, et quels documents vous conservez. |
| 4. Identité, rôles et droit d’accès minimal | 02 Identité, rôles et outils selon le droit d’accès minimal | Quelle personne ou quel outil peut utiliser quel compte. |
| 5. Contrôles des modèles, des requêtes, des outils et des connecteurs | 03 Contrôles des modèles et des requêtes | Quel modèle, quelles consignes et quels outils chaque agent peut utiliser. |
| 6. Ancrage documentaire, provenance et citations | 03 Contrôles des modèles et des requêtes | Des réponses qui montrent d’où elles viennent. |
| 7. Évaluation et essais en équipe rouge | 04 Évaluations et seuils d’acceptation | Des tests avec une note de passage, et des tentatives de mettre une compétence en échec. |
| 8. Approbation humaine, incertitude et escalade | 05 Approbation humaine et escalade | Une personne approuve le travail qui compte, et l’agent passe la main quand il ne peut pas trancher. |
| 9. Surveillance, vérification, coûts et contrôle des changements | 06 Surveillance, vérification, incidents et changements | Une trace de ce que les agents ont fait, de ce que cela a coûté et de ce qui a changé. |
| 10. Intervention en cas d’incident, retour arrière et continuité du service | 06 Surveillance, vérification, incidents et changements | Un plan pour le jour où quelque chose va mal : arrêter, annuler, reprendre. |
| 11. Accessibilité et langues officielles | Aucune étape : enveloppe le système | Un travail que votre équipe et vos clients peuvent utiliser, dans l’une ou l’autre langue officielle. |
| 12. Fournisseurs et responsabilité partagée | Aucune étape : enveloppe le système | Qui répond de quoi entre Anthropic, GitHub et nous. |
Prochaine étape
Commencez par un appel de 30 minutes
Dites-nous ce que fait votre équipe chaque semaine, et posez-nous toute question sur cette page. Nous vous disons quel forfait convient, ou qu’aucun ne convient encore.