Le prix caché de l'IA menace les développeurs indépendants et les startups

Une IA plus intelligente fait grimper les coûts pour les développeurs, car les flux de travail gourmands en jetons font exploser les factures, tandis que les startups ressentent la pression et que les grandes entreprises absorbent le coup avec leur échelle.

L'IA devient de plus en plus performante, mais son coût augmente également. La hausse des coûts met à rude épreuve les startups et les développeurs indépendants qui s'appuient sur les modèles les plus récents.

Selon le Wall Street Journal , le prix unitaire de l'IA est en baisse, mais l'essor des tâches complexes signifie que les développeurs dépensent beaucoup plus de jetons (tokens). Ce qui était présenté comme la course à la création de « l'IA la plus intelligente » se transforme rapidement en une compétition pour savoir qui peut se permettre les systèmes les plus coûteux.

La fuite de jetons (tokens) transforme des tâches simples en charges de travail coûteuses

Même les requêtes d'IA les plus basiques peuvent consommer des centaines, voire des milliers de jetons, tandis que les tâches avancées nécessitent bien plus de ressources. Les données du Wall Street Journal montrent :

• Questions-réponses de base sur le chatbot : 50 à 500 jetons.
• Résumé du document court : 200 à 6 000 jetons.
• Assistance de code de base : 500 à 2 000 jetons.
• Écriture de code complexe : 20 000 à 100 000+ jetons.
• Analyse de documents juridiques : 75 000 à 250 000+ jetons.
• Flux de travail d'agent en plusieurs étapes : 100 000 à 1 million de jetons et plus.

Les startups font face à des factures de plus en plus élevées

Pour les petits développeurs, les coûts grimpent rapidement. Les utilisateurs de Cursor, un outil de codage, ont vu leurs crédits mensuels disparaître en quelques jours après la mise à jour des tarifs de l'entreprise.

Replit a introduit une tarification à l'effort, qui augmente les coûts pour les tâches complexes. Ce changement a suscité une vague de plaintes sur Reddit, certains utilisateurs menaçant d'abandonner, même si l'entreprise affirme que les offres Entreprise génèrent toujours des marges allant jusqu'à 90 %.

Les grands acteurs restent en position de force. Ivan Zhao, PDG de Notion, a déclaré au WSJ qu'AI avait réduit ses marges d'environ 10 %, mais que l'entreprise restait rentable à grande échelle.

Les coûts vont au-delà des jetons. L'IA avancée exige également une puissance de calcul et une énergie considérables, un fardeau que les petits développeurs peinent à absorber.

L'avantage des grandes entreprises technologiques en matière d'infrastructures met en danger leurs concurrents plus petits

Le coût de la concurrence dans le secteur de l'IA atteint des milliers de milliards. McKinsey estime que les dépenses mondiales en infrastructures d'IA pourraient atteindre 6 700 milliards de dollars d'ici 2030, une échelle qui favorise les entreprises disposant des capitaux nécessaires pour construire ou acheter les ressources dont elles ont besoin.

Les entreprises qui maîtrisent l'ensemble de la chaîne de valeur, des puces et ordinateurs à l'énergie, sont bien placées pour prospérer. Une analyse de Reuters révèle que les entreprises disposant de leur propre infrastructure détiennent un avantage décisif sur les développeurs plus petits, qui doivent s'appuyer sur des fournisseurs tiers, ce qui les rend vulnérables à la hausse des coûts et aux contraintes d'approvisionnement.

Les grandes organisations bénéficient également d'un contrôle budgétaire plus strict. Une étude de CloudZero révèle que les dépenses consacrées à l'IA augmentent de plus d'un tiers d'une année sur l'autre, de nombreuses entreprises y consacrant déjà plus de 100 000 dollars par mois. Les entreprises peuvent suivre leurs coûts et mesurer leur rentabilité grâce à des outils dédiés, une fonctionnalité souvent inaccessible à la plupart des startups.

La survie dans la course à l’IA dépendra-t-elle de qui pourra payer ?

Pour de nombreux développeurs, l'avenir est incertain. Certains se tournent vers des modèles open source plus petits pour réduire les coûts, tandis que d'autres expérimentent des invites plus légères pour maîtriser l'utilisation des jetons.

Ces demandes croissantes de jetons, a rapporté le WSJ, ont déjà alimenté un débat sur qui seront les gagnants et les perdants de l'IA.

Pour les startups, la survie peut dépendre de leur capacité à s’adapter à la hausse des coûts ou risquer d’être complètement exclues de la course à l’IA.

La concurrence pour l'infrastructure d'IA ne se limite pas aux startups. Meta a conclu un accord majeur avec Google pour renforcer sa capacité cloud.