Ia : la fin des largesses budgétaires, pylon ouvre la voie
Marty Kausas, PDG de Pylon, a pris une décision qui en dit long sur l'évolution du paysage technologique : freiner les dépenses en tokens, ou faire face à une facture de 1,4 million de dollars. Une simple constatation – l'approche des 150 employés déclenchait une multiplication par trois des coûts liés à Anthropic – a sonné le glas de l'ère du “jeton à volonté”.
Des limites imposées, un nouveau paradigme
Le constat est clair : l'enthousiasme initial pour l'IA, et les budgets illimités qui l'accompagnaient, se heurte à une réalité économique implacable. Kausas a donc imposé des limites aux employés non techniques, une mesure qui, selon ses dires, ne fait que commencer. Le vice-président des finances de Pylon est désormais à la recherche du juste équilibre, cherchant à déterminer où fixer ces seuils.
Ce revirement n'est pas isolé. Sam Altman, le charismatique PDG d'OpenAI, a lui-même été surpris par la rapidité avec laquelle la conversation autour des budgets IA a évolué. Si, début d'année, les dépenses étaient perçues comme un investissement logique, elles sont désormais considérées comme un “problème énorme”. OpenAI a englouti pas moins de 34 milliards de dollars l'année dernière dans la course à l'IA, une somme vertigineuse qui remet en question la viabilité de ce modèle.
Du “tokenmaxxing” au retour à la réalité
L'euphorie du “tokenmaxxing”, cette tendance à encourager les ingénieurs à dépenser sans compter en tokens, est en train de s'estomper. Max Kan, analyste de tokenomics chez SemiAnalysis, avait encore vanté les mérites de ces budgets généreux quelques mois plus tôt, estimant qu'ils pouvaient doubler la productivité des employés. Mais Coinbase, Walmart et Amazon ont rapidement tiré la sonnette d'alarme, imposant des limites et abandonnant les classements internes basés sur la consommation de tokens.
Certains, comme Ken Stillwell, directeur financier et des opérations de Pega, ont toujours été sceptiques. Il qualifie le “tokenmaxxing” de “narrative incroyablement intéressée” de la part des entreprises d'IA. Pega a certes limité les requêtes dépassant un certain seuil, mais n'a jamais imposé de quotas stricts, une position qui s'avère aujourd'hui particulièrement pertinente.
Un nouveau système de castes en gestation ?
Le changement est radical. Les ingénieurs doivent désormais justifier leurs besoins en puissance de calcul, certains chefs d'équipe se retrouvant à négocier les tokens de leurs employés comme s'il s'agissait d'un investissement au style “Shark Tank”. Les recruteurs, quant à eux, proposent des allocations de tokens comme argument de vente pour attirer les talents.
L'analogie avec les “Juegos del Hambre” n'est pas anodine. Un développeur a même comparé la situation à une lutte pour les “miettes” de puissance de calcul. Brock Simon, ancien consultant chez Bain & Company, souligne que la restriction de l'accès aux outils peut pénaliser durablement la carrière de certains employés. Le risque est de voir émerger un système de castes corporatives, où l'accès à l'IA devient un privilège réservé à quelques élus.
Le chef de l'IA d'une grande banque a d'ailleurs ironisé sur la tendance à se vanter des dépenses en tokens, les qualifiant de simple “métrique de vanité”. Dans ce nouveau contexte, l'optimisation des ressources s'impose, comme l'illustre l'augmentation de l'utilisation de routeurs de modèles pour mieux gérer les coûts. La startup MindFort, malgré ses six employés, a dû revoir sa “ratio de tokens par personne”, un aveu d'une réalité désormais incontournable : l'ère de l'abondance est révolue.
Le jeu des tokens est loin d'être terminé. Si les prix devraient baisser avec l'arrivée de nouveaux acteurs comme Google, la question de l'allocation et de l'utilisation efficace de ces ressources restera au cœur des débats. La bataille pour les tokens ne fait que commencer.