Analyse technique
L'introduction de la fonctionnalité de clé API fournie par l'utilisateur représente un changement architectural fondamental. Techniquement, l'extension a été refacteurisée d'un service monolithique - où le modèle backend était fixe et les coûts étaient inclus - vers un middleware ou une "couche d'expérience" sophistiqué. Sa valeur principale réside maintenant dans son interface utilisateur, son ingénierie de prompts, sa gestion du contexte, sa mise en forme des sorties et son intégration des workflows, tandis que l'inférence calculatoirement intensive est déléguée aux points de terminaison externes spécifiés par l'utilisateur.
Cela nécessite une gestion robuste des clés côté client (probablement avec un stockage local sécurisé), un routage dynamique des demandes vers différentes APIs de fournisseurs (OpenAI, Gemini, etc.), et une normalisation des formats de réponse disparates en une expérience utilisateur cohérente. Le développeur doit maintenir la compatibilité avec les spécifications d'API évoluantes de chaque fournisseur, une tâche technique non négligeable. Cette approche introduit également de nouveaux aspects concernant la latence et la fiabilité, car les performances de l'outil dépendent désormais partiellement du fournisseur de modèle choisi par l'utilisateur et des conditions réseau. Du point de vue de la sécurité, cela transfère la responsabilité de la protection des clés API aux utilisateurs, tandis que l'application doit s'assurer que les clés ne sont pas exposées dans les journaux ou pendant la transmission.