Leçon 3 5 min
Utiliser un modèle local partout
Un modèle installé une seule fois sert Aria, vos agents et vos workflows, sans nouveau téléchargement.
Essayer dans AWFlow
Ouvrez le workflow de cette leçon dans AWFlow. Vous le vérifiez avant tout enregistrement.
Dans Aria
Choisissez un modèle sur l’appareil dans le sélecteur de modèle du composeur, ou cliquez sur Set default sur un modèle de chat : l’assistant le privilégie, et les nouveaux nœuds Web LLM en sont préremplis. En mode Demandez, Aria peut aussi classer une image, modérer un texte ou transcrire un audio avec un modèle local et répondre à partir du résultat. Si aucun modèle adapté n’est installé, il vous indique quel type ajouter.
Dans un agent
Choisissez un modèle sur l’appareil dans l’onglet Modèle du créateur, ou activez la compétence IA sur l’appareil.
Dans un workflow
- Les Local AI nodes font chacun une seule tâche, comme Classify Image, Summarize, Translate, Transcribe Audio (Whisper) ou Run Local Model.
- Web LLM et Transformers Chat se branchent dans l’emplacement Modèle d’un nœud d’IA, comme Basic LLM Chain ou Tools Agent.
- Local Classifier, Local Q&A Model et Local Embeddings se branchent de la même façon, pour classer du texte, citer des réponses d’une base de connaissances ou transformer du texte en vecteurs sur cet appareil.
Un modèle installé sur la page Local AI est utilisé sans nouveau téléchargement. L’exemple ci-dessous lit la page sur laquelle vous êtes et la résume avec un modèle Web LLM : choisissez un modèle installé la première fois.
Deux autres options locales
- Chrome AI : un nœud qui envoie un prompt au modèle intégré à Google Chrome (Gemini Nano), sans clé d’API. Il ne fonctionne que dans Chrome, où Google le déploie encore.
- Ollama : quand Ollama tourne sur votre ordinateur, chaque modèle que vous avez téléchargé apparaît dans le sélecteur de modèle d’Aria sous Ollama · cet ordinateur. Il n’est pas dans le navigateur, mais rien ne quitte votre machine.
À retenir
- Set default fait d’un modèle de chat votre modèle par défaut dans le navigateur, qu’Aria privilégie.
- Les agents l’utilisent depuis l’onglet Model ou la compétence On-device AI.
- Les workflows l’utilisent via les nœuds Local AI, Web LLM et Transformers Chat.