Lorsque vous utilisez des assistants tels que ChatGPT, Gemini ou Claude, ce que vous tapez est envoyé aux serveurs de l'entreprise et la réponse y est produite. À côté d'eux, les modèles « à poids ouverts », dont les fichiers entraînés peuvent être téléchargés et exécutés par n'importe qui sur son propre ordinateur ou serveur, se répandent rapidement.
Que signifie « poids » ?
Un modèle de langage stocke ce qu'il apprend du texte pendant l'entraînement dans des milliards de valeurs numériques (paramètres, ou « poids »). Le fichier du modèle consiste principalement en ces poids. Avec un modèle à poids ouverts, ce fichier est partagé, de sorte que le modèle peut fonctionner sans connexion internet ni les serveurs de l'entreprise.
Poids ouverts équivaut-il à open source ?
Pas toujours. Selon la « Définition de l'IA open source » publiée par l'Open Source Initiative (OSI) en 2024, pour qu'un modèle compte comme open source, le code d'entraînement et des informations suffisantes sur les données d'entraînement doivent également être partagés, et l'utilisation doit être sans restriction. De nombreux modèles populaires ne partagent que leurs poids et sont assortis de leurs propres termes de licence, par exemple exigeant une permission supplémentaire pour les entreprises au-dessus d'un certain nombre d'utilisateurs ou restreignant certains usages. Lisez donc la licence d'un modèle avant de l'utiliser commercialement.
Familles de modèles bien connues
- Llama : Développé par Meta, pionnier dans la popularisation des modèles à poids ouverts.
- Mistral : Modèles de l'entreprise française Mistral AI.
- Qwen : Famille de modèles multilingues d'Alibaba.
- DeepSeek : Modèles de l'entreprise chinoise DeepSeek, remarqués notamment pour le raisonnement et le codage.
- Gemma : Modèles ouverts relativement petits et efficaces de Google.
Ces familles publient souvent de nouvelles versions ; consultez toujours leurs pages officielles pour l'état actuel et les licences.
Comment les exécuter sur un ordinateur
Des outils gratuits tels qu'Ollama, LM Studio et llama.cpp vous permettent de télécharger et d'exécuter des modèles ouverts en quelques clics ou une seule commande. Les modèles sont généralement compressés avec une méthode appelée « quantification » pour qu'ils nécessitent moins de mémoire. Les petits modèles peuvent tourner même sur un ordinateur portable récent, tandis que les grands modèles ont besoin de beaucoup de mémoire et d'une carte graphique puissante. En règle générale, plus le modèle est grand, plus il est performant et plus il a besoin de matériel.
Avantages
- Confidentialité : Les données ne quittent jamais votre appareil, un gros atout quand on travaille avec des documents sensibles.
- Utilisation hors ligne : Une fois téléchargé, le modèle peut fonctionner sans connexion.
- Personnalisation : Les organisations peuvent affiner le modèle sur leurs propres données pour des tâches spécifiques.
- Maîtrise des coûts : Pour une utilisation intensive, l'exécution sur leur propre matériel peut être plus prévisible pour certaines organisations.
Limites et risques
- Ils nécessitent du matériel et quelques connaissances de configuration.
- Les petits modèles peuvent faire des erreurs et halluciner plus souvent que les plus grands modèles fermés.
- Comme les mesures de sécurité peuvent facilement être modifiées par les utilisateurs, les débats sur les mauvais usages se poursuivent.
- Téléchargez les fichiers de modèles uniquement depuis des sources de confiance.
Licences : ce qu'il faut surveiller avec les modèles « ouverts »
Pouvoir télécharger les poids d'un modèle ne signifie pas que vous pouvez l'utiliser librement pour n'importe quel usage. Le texte de la licence est ce qui décide vraiment, et il y a des différences importantes entre les familles :
- Licences permissives : Certains modèles, comme Mistral 7B, ont été publiés sous la licence Apache 2.0, et DeepSeek-R1 sous la licence MIT. Ces licences autorisent généralement l'utilisation commerciale et la modification.
- Licences communautaires : Les modèles Llama de Meta sont distribués sous leur propre licence communautaire ; par exemple, les entreprises de plus de 700 millions d'utilisateurs actifs mensuels doivent obtenir une licence séparée, et le respect d'une politique d'utilisation acceptable est attendu.
- Conditions d'utilisation : Les modèles Gemma de Google sont soumis à un texte distinct de conditions d'utilisation et à une liste d'utilisations interdites.
- Différentes licences au sein d'une même famille : Dans certaines familles, comme Qwen, la licence peut changer selon la taille du modèle, il faut donc lire séparément la page de chaque version.
Si vous envisagez d'utiliser un modèle dans un produit ou un service, vérifiez la licence et la politique d'utilisation pour la version exacte que vous avez téléchargée ; en cas de doute, demandez un avis juridique.
Quel matériel suffit ? Un calcul de mémoire approximatif
Il existe un moyen simple d'estimer la mémoire dont un modèle a besoin : multipliez le nombre de paramètres par le nombre d'octets par paramètre. En précision 16 bits (2 octets), un modèle de 7 milliards de paramètres a besoin d'environ 14 Go de mémoire pour les poids seuls. Avec une quantification 4 bits, le même modèle tombe à environ 4 à 5 Go, ce qui le rend exécutable sur de nombreux ordinateurs portables actuels.
S'ajoute à cela de la mémoire supplémentaire qui augmente avec la longueur de la conversation (le cache de contexte), il est donc sage de laisser une marge au-dessus de l'estimation. Le projet llama.cpp, largement utilisé pour exécuter des modèles localement, et son format de fichier GGUF permettent d'exécuter des modèles quantifiés sur le processeur même sur des ordinateurs sans carte graphique ; la vitesse, cependant, varie considérablement selon le matériel.
Sources et lectures complémentaires
- Open Source Initiative (OSI), « The Open Source AI Definition 1.0 » (2024).
- Meta AI, pages de la licence Llama et de la politique d'utilisation acceptable.
- Hugging Face, hub de modèles ouverts et documentation.
- Documentation officielle d'Ollama et de LM Studio.
- Apache Software Foundation – Apache License 2.0
- Meta – Llama 3 Community License Agreement
- ggml-org – llama.cpp (GitHub) et documentation GGUF
Laisser un commentaire
Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont marqués *