TL;DR

Beaucoup d’offres se revendiquant « souveraines » installent une partie chez le client mais expédient toujours les prompts/réponses vers des LLM tiers (souvent hors UE). Juridiquement (CLOUD Act, transferts transatlantiques) et opérationnellement, cela casse la chaîne de confiance. Chez Understand Tech, on distingue clairement :

SaaS zero-trust (UE) : inférence sur nos serveurs en Europe, aucun appel externe par défaut, chiffrement zéro-trust (ni nous ni l’hébergeur n’avons les clés). Très sûr, mais pas “souverain” au sens strict (l’inférence n’est pas chez vous).
Privé “air-gapped” (votre cloud/on-prem) : 100 % local sans Internet, LLM open-weights (ex. Qwen, GPT-OSS, Mistral, Nemo) exécutés chez vous, BYOK/KMS client, journaux chez vous. C’est la souveraineté utile.
Dans les deux modes, l’utilisation d’un LLM externe est optionnelle (activable par assistant), avec un passage via un proxy assurant la protection contre les fuites de données et la traçabilité des échanges.
Ordre de grandeur infra privé : ~1–2 k€ / mois pour des centaines d’utilisateurs (selon dimensionnement).

1) Pourquoi le débat « souveraineté » est mal posé

SaaS ≠ souverain dès que l’inférence s’effectue hors de votre périmètre (même en UE) ou dépend d’APIs externes : vous ne maîtrisez ni l’exécution ni l’accès potentiel via des lois extraterritoriales (CLOUD Act).
En France, l’État pose un cadre : SecNumCloud et doctrine Cloud au centre / Cloud de confiance (immunité vis-à-vis des lois extraterritoriales, localisation UE, gouvernance). Si vos flux IA quittent votre périmètre ou reposent sur des services non qualifiés, votre promesse de « souveraineté » est fragile.
La CNIL rappelle les risques spécifiques des systèmes génératifs (bases légales, minimisation, fuites de données, erreurs, etc.).

Conséquence

Installer une UI « on-prem » mais router les conversations vers des LLM tiers reste insuffisant. Sans maîtrise de l’endroit où s’exécute l’inférence, de qui détient les clés, des logs et des flux réseau, on n’a pas de souveraineté opérable.

2) Ce que dit le droit (et pourquoi ça vous concerne dès 2025)

EU AI Act Entrée en vigueur 1ᵉʳ août 2024 ; obligations GPAI à 12 mois (août 2025) ; autres obligations phasées jusqu’en 2026. Amendes jusqu’à €35 M ou 7 % du CA mondial selon la gravité.
NIS2 Transposition au 17 oct. 2024 et exigences de cybersécurité renforcées (supervision/pénalités).
Transferts & extraterritorialité EU-US DPF (adéquation 2023) facilite les transferts, mais le CLOUD Act demeure : un provider US peut être requis de produire des données où qu’elles résident. D’où l’intérêt des déploiements sans egress et des opérateurs qualifiés.
ANSSI Recos “hébergement des SI sensibles dans le cloud” et “IA générative” : maîtrise de l’hébergement/dépendances, sécurité by-design, et préférence pour des offres qualifiées SecNumCloud pour données sensibles.

3) Les trois « patterns » de faux-contrôle qu’on voit sur le terrain

Plateforme “on-prem”, LLM “off-prem” : UI & vecteurs chez vous, mais prompts vers API externe → Traçabilité incomplète, exposition juridique, dépendance réseau. (ANSSI recommande de maîtriser les interactions internes/externes du SI).
Bring-your-cloud mais clés éditeur : l’éditeur garde le KMS/logs → vous ne contrôlez pas la révocation ni les accès latéraux. (Logique SecNumCloud : maîtrise des clés et protection juridique).
LLM “open” mais licence fermée : confondre open-weights permissifs (ex. Qwen sous Apache-2.0) et « open » “community” (ex. Llama 3 avec contraintes). Les droits d’usage/redistribution ne sont pas les mêmes.

4) Notre thèse : la souveraineté utile = Contrôle d’Entreprise (CE)

Un cadre simple, vérifiable :

A. Contrôle des données Chiffrement au repos/en transit et chiffrement applicatif (avant persistance des embeddings & historiques). Aucun flux sortant par défaut pendant l’inférence (egress-deny), activation externe opt-in et traçable. (Aligné avec les recos ANSSI “IA générative”).

B. Contrôle des clés BYOK/KMS client : rotation/révocation côté client ; l’éditeur n’a jamais d’accès aux clés. (Cohérent avec l’esprit SecNumCloud).

C. Contrôle de l’inférence L’inférence s’exécute dans votre VPC (ou on-prem) avec LLM open-weights (Mistral/Mixtral, Qwen, GPT-OSS, Nemo…) ou un provider qualifié que vous acceptez. Zéro Internet requis en mode privé.

D. Contrôle des journaux & conformité Journaux d’accès/inférence chez vous ; rétention/masquage RGPD ; export SIEM ; alignement AI Act/NIS2 (traçabilité, risk management).

5) Comment Understand Tech met ce cadre en pratique

Deux modes de déploiement (choix clair)

SaaS zero-trust (UE), contrôle élevé Inférence sur nos serveurs en Europe ; aucun appel externe par défaut ; zéro-trust : ni Understand Tech ni l’hébergeur n’ont les clés de déchiffrement (clés détenues/derivées côté client). Option LLM externe : opt-in par assistant via proxy (DLP, masquage, journalisation, tagging juridique).
Privé “air-gapped” (votre cloud/on-prem), souveraineté utile 100 % local sans Internet (egress-deny), LLM open-weights exécutés chez vous, BYOK/KMS client, journaux chez vous, aucune télémétrie sortante. Ordre de grandeur : ~1–2 k€ / mois d’infra pour des centaines d’utilisateurs, selon GPU/CPU, taille d’index et SLO.

Modèles & perfs (toujours dans l’environnement choisi)

Understand AI : petit LLM open-source fine-tuné RAG (latence basse, coût contenu) par défaut.
Autres familles : Mixtral/Mistral (Apache-2.0), Qwen (nombreuses variantes Apache-2.0), GPT-OSS, Nemo, etc.

Chiffrement & isolement (concret)

Chiffrement applicatif des documents, embeddings, historiques, via échange de clés éphémères ; clés distinctes pour feedbacks vs prompts/réponses (pas d’appariement crypto inter-collections).
BYOK/KMS client : Understand Tech ne peut techniquement pas lire vos contenus.
Air-gap logique : inférence sans réseau externe ; dépendances vendorisées locales.

No-code, gouvernance & traçabilité

Assistants IA no-code (fichiers, URLs, GitHub/SharePoint/…), guardrails par assistant, contrôles d’accès par corpus, masquage PII.
Journaux (qui/quoi/quand) + export SIEM ; politiques d’usage documentées (AI Act/NIS2).

Des organisations de premier plan nous font confiance dans des domaines sensibles comme la santé, semi-conducteurs, industrie et défense, pour déployer nos assistants soit en mode privé “air-gapped” (LLM 100 % local, egress-deny), soit en SaaS zero-trust (clés inaccessibles à l’éditeur et à l’hébergeur). Objectifs récurrents : recherche documentaire citée sur corpus internes, assistance technique et génération de rapports auditables, avec gouvernance (BYOK/KMS client, export SIEM) et conformité (AI Act, NIS2, RGPD) au cœur du dispositif.

6) Clarifier les idées reçues (FAQ express)

“On reste souverain en envoyant les prompts à l’étranger avec de bons contrats.” → Les contrats n’annulent pas les risques d’accès légal (CLOUD Act). La réduction technique de la surface d’exposition (inférence locale, zéro egress) est la mitigation la plus robuste.
“Le EU-US DPF a tout réglé.” → Il améliore les transferts, mais n’éteint ni les obligations sectorielles, ni le risque résiduel ; d’où l’orientation SecNumCloud pour les données sensibles.
“Open source = libre de tout.” → Distinguer open-weights permissifs (Apache-2.0 : Mistral/Mixtral, Qwen…) des licences community (ex. Llama 3) qui imposent des conditions spécifiques.

7) Checklist « 30 minutes » pour un CEO/CISO

Où s’exécute l’inférence ? (Votre VPC/on-prem ?) Quelles sorties réseau existent pendant l’inférence ?
Qui détient les clés ? (BYOK réel ? rotation/révocation côté client ?)
Quels modèles ? (Open-weights permissifs vs. “community” ; politique de mises à jour des poids).
Journaux et conformité (RGPD/AI Act/NIS2 : traçabilité, registres, évaluation de risques).
Modes dégradés (fonctionnement sans Internet, PRA/PCA).
Gouvernance métier (no-code, guardrails, contrôle d’accès par corpus, masquage PII).

8) Notre engagement (mesurable) chez Understand Tech

Par défaut, zéro egress en mode privé.
Inférence locale par LLM open-weights (Qwen, GPT-OSS, Nemo…) ou provider qualifié choisi par vous.
BYOK/KMS client, échange de clés éphémères, chiffrement applicatif des embeddings & historiques.
Auditabilité : journaux chez vous, export SIEM, documentation modèle/données conforme AI Act/NIS2.
Expérience no-code pour les métiers, sans sacrifier sécurité ni traçabilité.

9) Qu’est-ce qu’on appelle « souverain » demain ?

Pour nous, la vraie souveraineté est vérifiable : si vous coupez l’Internet, l’assistant continue à fonctionner sur vos données, et personne ni l’éditeur, ni un État tiers ne peut techniquement lire vos contenus. Ça se teste en audit. C’est ce que nous livrons en déploiement privé.

Références utiles

AI Act : entrée en vigueur, jalons GPAI (12 mois), phasage jusqu’en 2026.
NIS2 : transposition au 17/10/2024 ; ressources ENISA.
SecNumCloud / Cloud au centre : recos ANSSI & doctrine DINUM.
CLOUD Act : portée extraterritoriale.
CNIL & IA générative : recommandations & clarifications.
Licences open-weights : Mixtral/Mistral (Apache-2.0), Qwen (Apache-2.0), vs Llama 3 (Community).