# Ce qui ne doit pas sortir n'a pas à vous bloquer.

> Données de santé, dossiers clients, code propriétaire, volumes qui feraient exploser la facture : certains usages n'ont pas vocation à partir dans le cloud. Plutôt que d'y renoncer, on les sert depuis votre infrastructure, derrière une [passerelle](https://www.heyintent.com/jargon#passerelle) (point de passage commun) qui route chaque requête au bon endroit.

Intent, page « Thème 05 · Modèles locaux » : https://www.heyintent.com/modeles-locaux

[Réserver un échange](https://calendar.app.google/wnM7uS8CjYFGzqnv9) · [LinkedIn](https://www.linkedin.com/in/yann-jezequel-67a53b7/)

## Vos questions

### « Certaines données ne doivent pas sortir. Donc on ne fait rien. »

C'est le raisonnement qui bloque le plus de PME. Pourtant la question n'est pas « cloud ou rien », c'est « quelle donnée a besoin de quel niveau ». Les données sensibles peuvent être traitées par un [modèle ouvert](https://www.heyintent.com/jargon#modele-ouvert) (paramètres du modèle accessibles) hébergé chez vous ou chez un hébergeur européen. Le reste continue d'aller vers les modèles cloud, qui restent meilleurs sur beaucoup de tâches.

**Ce que je fais :** Une classification des données en trois niveaux, et une [passerelle](https://www.heyintent.com/jargon#passerelle) (point de passage commun) qui route chaque requête selon le niveau. Vous ne renoncez pas au sujet, vous le découpez.

Mots-clés : Classification, Routage, Local vs cloud

### « Peut-on faire tourner une IA chez nous ? Faut-il un GPU ? Combien ? »

Oui, sous conditions. Un serveur avec une ou deux [cartes graphiques](https://www.heyintent.com/jargon#gpu) (processeur de calcul), chez vous ou chez un hébergeur européen, peut servir un [modèle ouvert](https://www.heyintent.com/jargon#modele-ouvert) (paramètres du modèle accessibles) de taille moyenne à une équipe, tant que le nombre de requêtes simultanées reste modéré. Ce qui dimensionne : le modèle choisi, la longueur des documents traités et le nombre d'utilisateurs en même temps.

Et le local a des coûts que le cloud n'a pas : le matériel ou sa location, l'électricité, les mises à jour, et quelqu'un pour s'en occuper le jour où ça tombe. Il devient intéressant à partir d'un certain volume, ou d'une contrainte forte sur les données. Pas avant.

**Ce que je fais :** Je mesure la charge réelle sur un [GPU](https://www.heyintent.com/jargon#gpu) (processeur de calcul) loué à l'heure, puis je compare le coût complet du local et du cloud sur votre volume, avant de recommander un achat ou un abonnement.

Mots-clés : [vLLM](https://www.heyintent.com/jargon#vllm) (logiciel exécutant les modèles), [GPU](https://www.heyintent.com/jargon#gpu) (processeur de calcul), Hébergeur UE, Dimensionnement

### « Un modèle open source sera-t-il assez bon pour nous ? »

Parfois oui, parfois non. Pour classer, extraire, résumer ou répondre sur vos propres documents, les [modèles ouverts](https://www.heyintent.com/jargon#modele-ouvert) (paramètres du modèle accessibles) actuels suffisent souvent. Pour du raisonnement long ou du code complexe, les modèles cloud gardent l'avantage. Personne ne peut le savoir sans mesurer sur vos cas.

**Ce que je fais :** Un [benchmark](https://www.heyintent.com/jargon#benchmark) (test comparatif) tiré de vos cas réels compare cloud et local, usage par usage, avant de décider.

À lire aussi : [« Comment savoir si ça marche vraiment ? »](https://www.heyintent.com/evaluation#comment-savoir-si-ca-marche)

Mots-clés : [Benchmarks](https://www.heyintent.com/jargon#benchmark) (test comparatif), Qwen · Llama · Mistral · Gemma, Qualité vs coût

### « Cloud souverain, hébergeur français : est-ce une vraie option ? »

Héberger les données en Europe ne suffit pas à garantir leur protection contre des lois extraterritoriales. Je vérifie l'offre précise, les sociétés qui l'opèrent, leurs sous-traitants et les accès possibles. Un fournisseur français ou européen doit lui aussi être évalué sur ces critères.

**Ce que je fais :** Une cartographie des options d'hébergement par niveau de donnée, en séparant localisation des données et droit applicable, avec les conditions de chacune.

Mots-clés : Régions UE, Hébergeur français, Mistral (fournisseur de modèles), Conditions

### « Comment éviter de dépendre d'un seul fournisseur ? »

En ne codant jamais contre un fournisseur directement. Une [passerelle](https://www.heyintent.com/jargon#passerelle) (point de passage commun) expose une seule [API](https://www.heyintent.com/jargon#api) (interface entre logiciels) à vos applications, les [prompts](https://www.heyintent.com/jargon#prompt) (consigne au modèle) et les [jeux d'évaluation](https://www.heyintent.com/jargon#jeu-d-evaluation) (cas de test) sont versionnés, et changer de modèle devient une décision mesurée : on rejoue le [benchmark](https://www.heyintent.com/jargon#benchmark) (test comparatif), on compare, on bascule. La passerelle réduit le coût du changement, elle ne le supprime pas : les prompts et les sorties sont à retester.

**Ce que je fais :** Une [passerelle](https://www.heyintent.com/jargon#passerelle) (point de passage commun) unique, des [prompts](https://www.heyintent.com/jargon#prompt) (consigne au modèle) versionnés, et un [benchmark](https://www.heyintent.com/jargon#benchmark) (test comparatif) que l'on rejoue avant chaque changement de modèle.

À lire aussi : [« Un nouveau modèle sort tous les mois. Faut-il changer ? Comment le savoir ? »](https://www.heyintent.com/evaluation#changer-de-modele)

Mots-clés : [Passerelle](https://www.heyintent.com/jargon#passerelle) (point de passage commun), [API](https://www.heyintent.com/jargon#api) (interface entre logiciels) unifiée, Réversibilité, [Benchmark](https://www.heyintent.com/jargon#benchmark) (test comparatif)

### « Nos applications parlent à trois fournisseurs différents, sans vue d'ensemble. »

C'est le signe qu'il manque une couche. Une [passerelle](https://www.heyintent.com/jargon#passerelle) (point de passage commun) comme OmniRoute offre une seule [API](https://www.heyintent.com/jargon#api) (interface entre logiciels) compatible OpenAI à toutes vos applications, route chaque requête vers le cloud ou le local selon la sensibilité, et apporte ce qui manque : quotas, journaux, repli en cas de panne, et une facture lisible.

**Ce que je fais :** La [passerelle](https://www.heyintent.com/jargon#passerelle) (point de passage commun) en place, les applications migrées une à une, et un tableau de bord des coûts par usage.

Mots-clés : [OmniRoute](https://www.heyintent.com/jargon#passerelle) (point de passage commun), Quotas · Logs, Repli, Coûts par usage

## Ce que je mets en place

Un modèle exécuté sur vos serveurs, un point de passage pour les requêtes et des tests pour décider. Le choix dépend de vos contraintes.

### Serveur d'inférence

[vLLM](https://www.heyintent.com/jargon#vllm) (logiciel exécutant les modèles) pour servir des [modèles ouverts](https://www.heyintent.com/jargon#modele-ouvert) (paramètres du modèle accessibles) (Qwen, Llama, Mistral, Gemma) sur vos [GPU](https://www.heyintent.com/jargon#gpu) (processeur de calcul), en local ou chez un hébergeur européen. Capacité adaptée à vos usages, compression du modèle si nécessaire et suivi de charge.

Mots-clés : [vLLM](https://www.heyintent.com/jargon#vllm) (logiciel exécutant les modèles), [Open weights](https://www.heyintent.com/jargon#modele-ouvert) (paramètres du modèle accessibles), [GPU](https://www.heyintent.com/jargon#gpu) (processeur de calcul), Hébergeur UE

### Passerelle de routage

[OmniRoute](https://www.heyintent.com/jargon#passerelle) (point de passage commun) ou équivalent : une seule [API](https://www.heyintent.com/jargon#api) (interface entre logiciels) compatible OpenAI pour toutes vos applications, qui route chaque requête vers le cloud ou le local selon la sensibilité, avec quotas, journaux et repli.

Mots-clés : [OmniRoute](https://www.heyintent.com/jargon#passerelle) (point de passage commun), [API](https://www.heyintent.com/jargon#api) (interface entre logiciels) unifiée, Routage, Quotas · Logs

### Choisir en mesurant

Parfois oui, parfois non. Un [benchmark](https://www.heyintent.com/jargon#benchmark) (test comparatif) tiré de vos cas réels compare cloud et local, usage par usage, avant de décider.

Mots-clés : [Benchmarks](https://www.heyintent.com/jargon#benchmark) (test comparatif), Qualité vs coût, Latence, [Non-régression](https://www.heyintent.com/jargon#non-regression) (vérification après modification)

Briques : [vLLM](https://www.heyintent.com/jargon#vllm) (logiciel exécutant les modèles), [OmniRoute](https://www.heyintent.com/jargon#passerelle) (point de passage commun), Ollama (exécution des modèles), Qwen (famille de modèles), Llama (famille de modèles), Mistral (fournisseur de modèles), Gemma (famille de modèles)

Livrable : un serveur d'inférence dimensionné, une passerelle en place, et le benchmark qui a décidé de l'un et de l'autre.

## Votre entreprise

vos données, vos équipes, vos outils

<!-- parity:orbit-questions -->

[Thème 01 · Conformité & données](https://www.heyintent.com/conformite)

[« Nos équipes mettent des données clients dans ChatGPT. On a le droit ? »](https://www.heyintent.com/conformite#donnees-clients-chatgpt)

[Thème 02 · Sécurité](https://www.heyintent.com/securite)

[« Un agent qui a accès à nos emails et à nos fichiers, ce n'est pas dangereux ? »](https://www.heyintent.com/securite#agent-acces-emails-fichiers)

[Thème 03 · L’IA au quotidien](https://www.heyintent.com/environnements)

[« On a pris des licences. Personne ne s'en sert vraiment. »](https://www.heyintent.com/environnements#licences-inutilisees)

[Thème 04 · Agents autonomes](https://www.heyintent.com/agents)

[« Un agent, c'est quoi exactement par rapport à ChatGPT ? »](https://www.heyintent.com/agents#agent-vs-chatgpt)

[Thème 05 · Modèles locaux](https://www.heyintent.com/modeles-locaux)

[« Certaines données ne doivent pas sortir. Donc on ne fait rien. »](https://www.heyintent.com/modeles-locaux#donnees-qui-ne-sortent-pas)

[Thème 06 · Mesurer les résultats de l’IA](https://www.heyintent.com/evaluation)

[« Comment savoir si ça marche vraiment ? »](https://www.heyintent.com/evaluation#comment-savoir-si-ca-marche)

<!-- /parity:orbit-questions -->

### Ce que les thèmes partagent

<!-- parity:relations -->

- [Conformité & données](https://www.heyintent.com/conformite) et [Sécurité](https://www.heyintent.com/securite) : données autorisées, accès limités
- [Conformité & données](https://www.heyintent.com/conformite) et [Modèles locaux](https://www.heyintent.com/modeles-locaux) : fournisseurs, hébergement
- [Sécurité](https://www.heyintent.com/securite) et [Agents autonomes](https://www.heyintent.com/agents) : droits, validation humaine
- [Sécurité](https://www.heyintent.com/securite) et [L’IA au quotidien](https://www.heyintent.com/environnements) : connecteurs, extensions
- [L’IA au quotidien](https://www.heyintent.com/environnements) et [Agents autonomes](https://www.heyintent.com/agents) : outils, contexte métier
- [Agents autonomes](https://www.heyintent.com/agents) et [Mesurer les résultats de l’IA](https://www.heyintent.com/evaluation) : taux d’erreur, test comparatif
- [Modèles locaux](https://www.heyintent.com/modeles-locaux) et [Mesurer les résultats de l’IA](https://www.heyintent.com/evaluation) : cloud ou local, mesuré
- [L’IA au quotidien](https://www.heyintent.com/environnements) et [Mesurer les résultats de l’IA](https://www.heyintent.com/evaluation) : temps rendu, adoption

<!-- /parity:relations -->

Choisissez un thème pour lire ses questions et voir les sujets qu’il partage avec les autres.

Intent fait tenir l'ensemble


## Références de réalisation logicielle

> Yann a su nous aider à construire les produits qui nous ont permis de fidéliser et conquérir de nouveaux clients. Des solutions concrètes et pragmatiques adaptées à des besoins complexes.
>
> — Guillaume Petrault, Directeur des opérations (A3 distrib / Nielsen)

> Yann a toujours été la ressource qui nous a aidés à convaincre des clients complexes, et à proposer des solutions vraiment pragmatiques. Même après ma reconversion professionnelle, je fais toujours appel à lui pour mes outils digitaux.
>
> — Aude Blanc-Brude, Ex-CEO (2BO&CO, Thérapeute)

> La mise en place de notre nouvelle vitrine internet était une étape importante pour Inmind. Maxime, Jeremy et Yann ont su nous accompagner de l'idée à la mise en production de notre site, qui correspond pleinement à nos attentes.
>
> — Quentin Montardy, CEO (InmindVR)

> Yann ne se contente pas de développer, il construit des solutions qui créent de la valeur. Les outils qu'il a réalisés ont été décisifs pour notre exit, et sa vision stratégique continue d'être un pilier dans le développement de NBI. Un vrai partenaire technique sur le long terme.
>
> — Hervé Pochat, CEO (Amset, NBI)

> Yann apporte un calme précieux. Il prend le temps d'analyser les problèmes complexes pour proposer des solutions réfléchies et durables. Sa capacité à structurer le code, documenter les choix et débloquer les situations difficiles, toujours avec sérénité, en fait un partenaire de confiance.
>
> — Nathan Benchimol, CEO (Nomiks)

> Yann a été pendant très longtemps le partenaire qui nous a amené la culture du développement. Il nous a construit beaucoup de produits et de sites, et nous a permis de faire les bons choix au niveau de notre stack technique pendant de nombreuses années.
>
> — Marc Cozic, Ex-RI (Agir recouvrement)

> Travailler avec Yann, c'est assez sécurisant, les projets avancent au rythme déterminé, et on n'a pas de mauvaises surprises, ni au niveau des livrables, ni au niveau financier. Il possède aussi un grand sens de la pédagogie, ce qui rend les choses techniques accessibles et les décisions simples.
>
> — Elsa Lyon, CEO Elyope & PhD (Elyope)

## Contact

Des données qui ne peuvent pas sortir, et un projet bloqué à cause de ça ? Un premier échange suffit pour savoir si le local est une option.

Votre nom, votre email et votre message sont transmis via Pipedream pour vous répondre. Voir les destinataires, la conservation et vos droits dans la [politique de confidentialité](https://www.heyintent.com/privacy).

Pour me contacter : le formulaire du site, [contact@heyintent.com](mailto:contact@heyintent.com) ou [réservez un échange](https://calendar.app.google/wnM7uS8CjYFGzqnv9).

- [Réserver un créneau](https://calendar.app.google/wnM7uS8CjYFGzqnv9) : 30 minutes, en visio
- [LinkedIn](https://www.linkedin.com/in/yann-jezequel-67a53b7/) : échanger directement
- [Formulaire de contact](https://www.heyintent.com/#contact)
- [contact@heyintent.com](mailto:contact@heyintent.com)
