Aller au contenu
Traduction automatique — une version relue arrive bientôt.
Changer de langue: FR
Mon apprentissageAjouter à Chrome
Progression du parcours 0%

Leçon 9 5 min

Choisissez un modèle sur l'appareil adapté

Les modèles sur l'appareil s'exécutent entièrement dans votre navigateur, gratuitement et en privé, et fonctionnent hors ligne une fois installés. Choisissez-en un que votre appareil peut gérer.

Ouvrez Local AI

Dans la barre latérale, ouvrez IA locale (ou Settings › Local models). Les modèles sont regroupés par tâche (Chat, Image classification, Speech-to-text, Embeddings…), avec un champ de recherche et un filtre par moteur : WebLLM, TensorFlow.js ou transformers.js. Vous choisissez un modèle ; AWFlow choisit le moteur.

La page Local AI : l’espace de stockage utilisé par les modèles sur l’appareil, réparti par moteur (WebLLM, TF.js, Transformers), une liste de tâches à gauche (Chat, Embeddings, tâches de vision et d’audio) et des cartes de modèles à droite, comme Llama 3.2 1B Instruct avec sa taille, ses variantes et son état d’installation.La page Local AI : l’espace de stockage utilisé par les modèles sur l’appareil, réparti par moteur (WebLLM, TF.js, Transformers), une liste de tâches à gauche (Chat, Embeddings, tâches de vision et d’audio) et des cartes de modèles à droite, comme Llama 3.2 1B Instruct avec sa taille, ses variantes et son état d’installation.
A model card: size, device fit and install state

Une fois un modèle installé, il fonctionne hors ligne, ne coûte rien à l’usage, et aucun texte, image ou audio ne quitte votre appareil.

Lisez la compatibilité avec l’appareil

Ouvrez un modèle de chat, par exemple Llama 3.2 1B Instruct. Ses variants sont le même modèle à différentes précisions. Chaque variante affiche une taille estimée et une device fit : Fits comfortably, Tight fit ou Exceeds memory, calculée d’après la mémoire estimée et la prise en charge matérielle de votre appareil. Une variante plus petite sacrifie un peu de qualité contre moins de mémoire et un chargement plus rapide.

Installez et testez

Cliquez sur Installer sur une variante. Les téléchargements s’exécutent en arrière-plan, un à la fois, pour que vous puissiez continuer à travailler. Une fois terminé, cliquez sur Test pour confirmer que cela fonctionne sur cet appareil. Pour un modèle de chat, cliquez sur Set default : l’assistant le préfère, et les nouveaux nœuds Web LLM en sont préremplis.

La vue détaillée de Llama 3.2 1B Instruct sur la page Local AI, défilée jusqu’à Use it in (Web LLM, Transformers Chat, Run Local Model) et Variants : quatre précisions (q4f16_1 ≈ 879 MB, q4f32_1 ≈ 1.1 GB, q0f16 ≈ 2.5 GB, q0f32 ≈ 5.0 GB), chacune avec un bouton Install.La vue détaillée de Llama 3.2 1B Instruct sur la page Local AI, défilée jusqu’à Use it in (Web LLM, Transformers Chat, Run Local Model) et Variants : quatre précisions (q4f16_1 ≈ 879 MB, q4f32_1 ≈ 1.1 GB, q0f16 ≈ 2.5 GB, q0f32 ≈ 5.0 GB), chacune avec un bouton Install.
Install a variant

Si le test échoue, essayez une variante plus petite : la prise en charge matérielle varie d’une machine à l’autre.

À retenir

  1. Local AI liste les modèles par tâche, avec une taille estimée et une compatibilité avec l'appareil pour chaque variante.
  2. Les variantes plus petites se chargent plus vite et demandent moins de mémoire.
  3. Set default fait d'un modèle de chat celui dont les nouveaux nœuds Web LLM sont préremplis.