AWFlow veut devenir l'OpenRouter de l'IA qui tourne dans votre navigateur

L'objectif. Dites-le lentement.Une introduction de 3 secondes avant le premier chapitre.L'objectif. Dites-le lentement.Une introduction de 3 secondes avant le premier chapitre.

Enfermé. Choisissez un moteur, il contrôle vos modèles.Un modèle préparé pour un moteur ne se charge pas dans un autre.Trois formes de prises. Toutes transportent l'électricité.Formes différentes, même fonction — l'analogie s'applique aux moteurs d'IA navigateur.Même chose à l'intérieur. Même calcul IA, trois formats différents.WebLLM utilise des poids compilés MLC ; TF.js utilise model.json ; transformers.js utilise ONNX.Des adaptateurs nécessaires. Vous choisissez un format et y restez.Aucun format de modèle commun n'existe encore dans le navigateur.Enfermé. Choisissez un moteur, il contrôle vos modèles.Un modèle préparé pour un moteur ne se charge pas dans un autre.

Un routeur cache tout ça derrière une seule interface.L'appelant décrit une tâche ; le routeur choisit le moteur et le modèle.Trois tâches dont votre app pourrait avoir besoin.Chat, vision et audio nécessitent actuellement des moteurs différents.Trois moteurs à initialiser et maintenir.Chaque moteur a sa propre API load, initialise et infer.Le travail se distribue vers le bon moteur.Chaque tâche va vers le moteur dont les modèles peuvent la faire.Un routeur cache tout ça derrière une seule interface.L'appelant décrit une tâche ; le routeur choisit le moteur et le modèle.

Changer le modèle sans rien réécrire.Si le modèle est un nœud dépendance, le changer est une modification d'une étape.Connaître la tâche. Chat, vision et transcription nécessitent des moteurs différents.Un registre de tâches mappe chaque type de travail aux moteurs et familles de modèles supportés.Connaître le matériel. Un modèle qui ne rentre pas est inutile.Estimer la mémoire avant de proposer un téléchargement ; afficher un avertissement si incertain.Télécharger le bon format. Chaque moteur a le sien.Builds MLC pour WebLLM, model.json pour TF.js, ONNX pour transformers.js.Router par travail, pas par nom de moteur.L'appelant décrit la tâche ; le routeur résout quel modèle installé la gère.Changer le modèle sans rien réécrire.Si le modèle est un nœud dépendance, le changer est une modification d'une étape.

123

1. 1Regroupé par tâcheChat, embeddings, vision, transcription.
2. 2Une carte par modèleMoteur, taille et compatibilité appareil.
3. 3Stockage partagéUn seul téléchargement, utilisé partout.

C'est le routeur rendu visible.La page est l'interface entre vous et les trois couches de moteurs en dessous.Tâches en premier. Vous voyez des travaux, pas des noms de moteurs.Modèles WebLLM, TF.js et transformers.js affichés dans une seule liste, groupés par tâche.Une carte par modèle montre ce dont vous avez besoin.Taille, compatibilité estimée et état d'installation. Le moteur est un détail d'implémentation.Un install, partout. L'assistant, les agents et les nœuds de workflow partagent le même modèle.Un modèle installé sur IA locale est utilisable par n'importe quel nœud Web LLM sans re-téléchargement.C'est le routeur rendu visible.La page est l'interface entre vous et les trois couches de moteurs en dessous.

Changez le modèle et le travail fonctionne toujours.La couche de résolution trouve le nouveau modèle ; le nœud de workflow reste le même.Vous envoyez un travail. AWFlow l'envoie au bon moteur.Le nom de tâche est résolu en moteur et modèle à l'exécution.Le moteur est choisi automatiquement. Vous ne le nommez jamais.La résolution tâche-vers-moteur est faite par la couche IA locale.Le résultat revient. Sans nom de moteur dedans.La sortie est identique quel que soit le moteur qui a traité la requête.Changez le modèle et le travail fonctionne toujours.La couche de résolution trouve le nouveau modèle ; le nœud de workflow reste le même.

123

1. 1Sur cet appareilGratuit, privé, hors-ligne une fois installé.
2. 2Ou un fournisseur cloudVotre clé si un travail demande plus.
3. 3Commencer à chatterMême interface dans les deux cas.

Le choix est le vôtre dès le premier écran.Les utilisateurs ne sont pas enfermés dans un modèle ou un moteur à l'inscription.Sur cet appareil signifie qu'un moteur d'IA navigateur fait le travail.Sélectionne un modèle Web LLM installé depuis la page IA locale.Ou un fournisseur cloud avec votre clé API.Chat avec OpenAI, Anthropic ou Google, appelé directement depuis le navigateur.Même interface dans les deux cas. Changez le modèle, l'expérience reste la même.L'assistant n'expose pas quel moteur traite la requête.Le choix est le vôtre dès le premier écran.Les utilisateurs ne sont pas enfermés dans un modèle ou un moteur à l'inscription.

Le fait. Chaque site ou extension garde sa propre copie.Cache Storage et IndexedDB sont partitionnés par origine ; pas de registre de modèles inter-origines.Le mythe. Un téléchargement, un gigaoctet.Une bibliothèque système est installée une fois et partagée par chaque processus.Le fait. Chaque site ou extension garde sa propre copie.Cache Storage et IndexedDB sont partitionnés par origine ; pas de registre de modèles inter-origines.

L'IA navigateur en est au même stade. Le chemin est clair.Trois îles, pas de format commun — même forme que l'IA cloud en 2022.Le cloud avait le même désordre. Les routeurs l'ont nettoyé.Avant les routeurs : SDK par fournisseur, facturation par fournisseur, migration par fournisseur.L'IA navigateur en est au même stade. Le chemin est clair.Trois îles, pas de format commun — même forme que l'IA cloud en 2022.

Les résumés en tête. Chat juste derrière. (Résultats d'exemple.)Exemple uniquement.À vous. Quel est le travail dont vous avez besoin ?Résultats d'exemple, étiquetés à l'écran ; aucune donnée n'est collectée.Les résumés en tête. Chat juste derrière. (Résultats d'exemple.)Exemple uniquement.

Trois. Les problèmes difficiles sont au-dessus de tout produit particulier.Le stockage par origine et les formats spécifiques aux moteurs doivent être résolus au niveau de la plateforme web.Un. WebLLM, TF.js et transformers.js sont des îles aujourd'hui.Chaque moteur attend son propre format de modèle ; aucun format inter-moteurs n'existe.Deux. AWFlow se place devant les trois.Installez sur IA locale ; l'assistant, les agents et les workflows utilisent tous le même modèle.Trois. Les problèmes difficiles sont au-dessus de tout produit particulier.Le stockage par origine et les formats spécifiques aux moteurs doivent être résolus au niveau de la plateforme web.