Lorsqu’un site web se charge rapidement ou qu’un système d’exploitation fonctionne sans problème, c’est grâce à la mise en cache, un processus informatique largement utilisé pour un accès rapide aux données, qui consiste à stocker les données fréquemment utilisées dans la mémoire de l’ordinateur.
Les algorithmes de mise en cache ont peu évolué depuis leur invention dans les années 1960. Aujourd’hui, une équipe de chercheurs de la Harvard John A. Paulson School of Engineering and Applied Sciences (SEAS), dirigée par Juncheng Yang, professeur adjoint d’informatique, travaille à moderniser ces stratégies informatiques essentielles, alors que les centres de données, très gourmands en énergie, traitent un volume d’informations toujours plus important à l’ère de l’IA.
« La mise en cache existe depuis plus de 60 ans et constitue l’un des concepts fondamentaux de l’informatique », a déclaré Juncheng Yang. « Nos travaux s’appuient sur la mesure et visent à comprendre le fonctionnement de nos systèmes modernes. »
Un article de Yang et ses collègues décrivant de nouvelles solutions pour la mise en cache de logiciels a reçu une mention honorable du meilleur article lors de la récente conférence informatique Very Large Data Bases ( VLDB 2026 ) qui s’est tenue à Boston.
L’article , intitulé « Demystifying and Improving Lazy Promotion in Cache Eviction » ou « Démystifier et améliorer la promotion paresseuse dans l’éviction du cache », a été dirigé par Yang en collaboration avec des chercheurs de l’Université Carnegie Mellon, où Yang a obtenu son doctorat. Il a été publié dans les Actes de la dotation VLDB .
Le coût caché des mises à jour du cache
Non seulement les grands centres de données utilisent d’énormes quantités de mémoire pour la mise en cache, ce qui consomme de l’énergie lors de leur fonctionnement et de leur fabrication, mais les caches sont présents à tous les niveaux de l’infrastructure informatique : des processeurs aux systèmes d’exploitation, en passant par les bases de données, les services cloud et l’infrastructure de périphérie, a poursuivi Yang. Améliorer l’efficacité du cache pourrait apporter de nombreux avantages, au-delà d’une simple accélération des applications.
La mise en cache repose sur des algorithmes d’éviction qui déterminent quelles données conserver et lesquelles supprimer. L’algorithme LERU (Least Recently Used), couramment utilisé aujourd’hui, place systématiquement une donnée en tête de file d’attente lors de son accès. Selon Yang, ces opérations sont énergivores et difficilement extensibles, ce qui engendre d’importants goulots d’étranglement dans le trafic web et serveur.
Nouvelles mesures et réduction des frais généraux
Dans leur article, Yang et son équipe ont analysé les principales techniques actuelles de mise en cache logicielle, notamment LRU, en les classant par ordre d’efficacité et en décrivant leurs compromis. Les chercheurs ont également introduit une nouvelle métrique, l’efficacité de promotion, qui mesure le nombre moyen d’accès au cache générés par chaque promotion.
S’appuyant sur ces observations, ils ont proposé deux techniques avancées pour améliorer encore l’évolutivité et l’efficacité d’un système de cache : la réinsertion différée FIFO et l’éviction guidée par l’âge. Ces techniques optimisent les algorithmes existants en réduisant le nombre d’opérations de promotion tout en préservant l’efficacité du cache. Les évaluations de l’équipe ont montré que ces techniques réduisaient les opérations de promotion du cache de 20 % à 60 %.
Les algorithmes de mise en cache précédemment développés par l’équipe de Yang ont été utilisés par des centaines de bibliothèques logicielles libres ainsi que par de grandes entreprises technologiques traitant des pétaoctets de données par jour. Le prix VLDB récompense cinq articles de ce groupe de recherche sur la mise en cache lors de conférences d’informatique depuis 2023.
https://seas.harvard.edu/news/improving-data-access-energy-intensive-computing
