Tokenmaxxing : microsoft en la mira, la ia coûteuse et la course aux bots
Des millions d’utilisateurs, et même les grandes entreprises, s’en remettent désormais à l’intelligence artificielle pour gagner du temps et de l’efficacité. ChatGPT, Gemini, Copilot… ces outils sont devenus indispensables, mais une nouvelle pratique, le « tokenmaxxing », émerge et suscite des inquiétudes.
Satya nadella et sa obsession des tokens
Le patron de Microsoft, Satya Nadella, a admis être lui-même captivé par cette méthode. Il s’agit de mesurer la productivité des employés en fonction du nombre de « tokens » – unités de texte, de code ou de données – qu’ils parviennent à traiter grâce à ces chatbots. Pour Nadella, c’est devenu une véritable obsession, et une source potentielle de coûts considérables.
L’exemple d’une entreprise qui a dépensé 500 millions de dollars en un seul mois sur la plateforme Claude AI, suite à un simple oubli de limitation d’utilisation, illustre parfaitement ce risque. Microsoft craint que ses 11 000 employés ne se laissent entraîner dans une course effrénée à l’exploitation de l’IA.
Le coût caché de l’ia
L’utilisation intensive des chatbots a un impact direct sur les coûts de Microsoft. Chaque token traité représente un investissement en puissance de calcul et en énergie. Une demande excessive pourrait rapidement ruiner le budget de l’entreprise. Nadella pointe du doigt : « Ne pas utiliser les modèles de pointe pour des problèmes qui ne le nécessitent pas ». La solution ? Le « Mode Auto » de Copilot, qui analyse chaque requête et sélectionne automatiquement le modèle le plus adapté, évitant ainsi l’usage de ressources coûteuses pour des tâches simples.
La fondation linux à la rescousse
Face à cette situation, la Fondation Linux a mis en place la Tokenomics Foundation. Cette initiative vise à établir des normes claires, des métriques de performance et de bonnes pratiques pour la gestion des tokens, notamment pour les entreprises utilisant ces outils. Le marché de l’intelligence artificielle, jusqu’alors peu régulé, risque de se structurer autour de ces nouvelles règles.
Les prévisions sont alarmantes : l’utilisation mondiale des tokens devrait augmenter de 24 % d’ici 2030, atteignant 120 milliards de tokens par mois. Le coût de l’inférence, c’est-à-dire le temps de réponse de l’IA, devrait également exploser, passant de 106 milliards de dollars en 2025 à plus de 255 milliards en 2030. Un gouffre financier qui pourrait redéfinir le paysage de l’IA.