Predictive Speculative KV Replication for Bursty LLM Inference
Résumé indisponible pour cet article.
Les meilleurs longs formats de Hacker News, relus plus calmement.
Résumé indisponible pour cet article.
La seule centrale nucléaire hongroise de Paks sera contrainte de s'arrêter entièrement car le niveau du Danube est trop bas pour l'alimentation en eau de refroidissement, a déclaré le Premier ministre Péter Magyar. Magyar a demandé aux Hongrois de limiter les activités fortement consommatrices d'énergie entre 17h00 et 22h00 et a évoqué la possibilité de coupures tournantes ainsi que l'établissement de listes de consommateurs dont la consommation pourrait être restreinte. En Roumanie, l'un des deux réacteurs de Cernavodă a déjà été arrêté pour la même raison et l'opérateur tente d'éviter l'arrêt du second qui priverait le pays de production nucléaire. Dans plusieurs pays, le débit du Danube a chuté à des niveaux inédits depuis des décennies, autour d'un tiers de la moyenne en certains points, ce qui a mis au jour des épaves et des ossements anciens et paralysé la navigation fluviale. Les scientifiques attribuent ces vagues de chaleur et l'assèchement des cours d'eau au changement climatique, l'Europe se réchauffant plus rapidement que la moyenne mondiale et s'exposant à un risque accru d'incendies.
J'ai implémenté un algorithme de type map-reduce pour graphes en utilisant Apache DataFusion en déchargeant au maximum les données sur disque et en privilégiant les scans en masse plutôt que l'accès aléatoire. DataFusion gère le spill, les sort-merge joins, les agrégations, la planification et l'exécution, ce qui rend mon code très léger et m'a permis d'exécuter PageRank sur un graphe d'un milliard d'arêtes avec 5 Go de mémoire et de calculer les composantes faiblement connexes d'un graphe de deux milliards d'arêtes avec 10 Go. J'ai implémenté PageRank comme un modèle Pregel exprimé via des jointures et agrégations (SMJ ou HJ selon le cas) et 15 itérations prennent environ 30 minutes avec des résultats vérifiés exacts. Pour les composantes faiblement connexes j'ai utilisé l'approche "In-database connected component analysis" de Bögeholz, en symétrisant les arêtes et en observant un pic à près de 4 milliards d'arêtes avant que la contraction ne réduise rapidement la taille et que l'algorithme converge en une vingtaine d'itérations. J'ai néanmoins rencontré des problèmes occasionnels, notamment des deadlocks liés à FairSpillPool et l'absence de support pour exploiter un pré-tri sur disque dans SMJ, et j'identifie plusieurs pistes d'optimisation comme le partitionnement par plage, la fusion join+agg et l'exploration d'autres formats que Parquet.
Cette enquête décrit comment Red Bull a financé et soutenu des chercheurs et des études pendant plus d'une décennie pour contester les risques de mélanger boissons énergétiques et alcool. Une grande partie des études financées par l'entreprise a conclu qu'il n'y avait pas de sur-risque, alors que la plupart des travaux indépendants trouvent le contraire. Des chercheurs ont pointé des biais méthodologiques et des conflits d'intérêts dans plusieurs publications liées à Red Bull, et certains universitaires ont refusé de participer à des études qu'ils jugeaient mal conçues. Le rapport de l'Autorité européenne de sécurité des aliments de 2015 a cité ces travaux et a largement influencé des décisions politiques, contribuant entre autres à la décision de Health Canada d'abandonner des avertissements permanents. L'article évoque aussi des cas tragiques liés à la consommation conjointe d'alcool et de boissons énergétiques et les appels à davantage d'information et de réglementation pour mieux protéger les jeunes.
Manifest a lancé en mars un routeur LLM intégré à sa passerelle, l'a déprécié en juin et l'a retiré définitivement le 1er septembre après quatre mois d'usage et environ 7000 utilisateurs cloud. Le routeur classait les requêtes en quatre niveaux de complexité (simple, standard, complexe, raisonnement), mais l'équipe a constaté que la complexité d'une tâche ne peut pas être déduite du seul prompt car des éléments de contexte émergent lors d'appels d'outils ou de recherches. Ils ont observé que la mise en cache réduit beaucoup plus les coûts d'inférence (lectures de cache 75–90 % moins chères) et rend souvent inutile le reroutage vers un autre modèle en raison de l'importance des prompts système et de l'historique de conversation. Le basculement automatique entre modèles nuit à la cohérence du comportement et à la maîtrise des outils par les ingénieurs, ce qui diminue la qualité des sessions de travail. En conclusion, même si le routage peut être utile dans certains cas, Manifest estime que pour la plupart des usages les gains financiers sont compensés par des coûts supplémentaires difficiles à estimer, et qu'il est préférable de s'en tenir à un modèle unique éprouvé.
Le texte critique le modèle traditionnel où les applications contrôlent les données des utilisateurs et propose de remplacer l'authentification auprès d'applications par une autorisation d'accès aux bases de données personnelles. L'auteur présente ayb, un projet open source qui permet de créer et partager facilement des bases de données et d'autoriser des applications via OAuth2 sans écran de connexion. L'expérience vise à rendre la création d'une base aussi simple qu'un document, avec sauvegardes automatiques et intégration facile pour les développeurs grâce à une bibliothèque ayb.js. L'approche réduit la quantité de données stockées côté application et permet de révoquer l'accès, mais elle déplace la confiance vers des hébergeurs de bases de données. L'auteur souligne les défis pour les données collaboratives et sociales et propose d'explorer la collaboration, la synchronisation locale‑distante et des outils pour aider les développeurs à adopter ce modèle.
Une intervenante décrit l'utilisation d'un capteur linéaire industriel pointé depuis la fenêtre d'un train pour capturer des photos extrêmement larges. La méthode consiste à assembler plusieurs milliers de lignes capturées par seconde pour former une image panoramique cohérente. Elle aborde les difficultés de mesurer la vitesse et de collecter chaque ligne suffisamment rapidement pour éviter les artefacts. Elle évoque également les problèmes liés au traitement et à l'affichage d'images de très grande largeur. Le contenu est diffusé sous licence Creative Commons BY‑SA 4.0 et comprend un enregistrement audio téléchargeable.
Un groupe de travail Go Collections a été formé fin 2025 pour proposer l'ajout de structures de données de collection courantes à la bibliothèque standard et présente un ensemble de propositions pour Go 1.28. Les propositions incluent maphash.Hasher (déjà publié en go1.27) et de nouveaux types génériques tels que container/hash.Map, container/hash.Set, container/set.Set (représenté par map[T]struct{}), container/mapset, container/ordered.Map et container/heap/v2.Heap. Des interfaces de contraintes abstraites non exportées (_AbstractCollection, _AbstractMap, _AbstractSet) utilisent la polymorphie bornée récursive pour permettre l'écriture d'opérations génériques sur différentes implémentations de collections tout en garantissant la conformité dans les tests. Les choix d'API favorisent la simplicité et l'efficacité asymptotique : les méthodes retournent autant d'information que possible (par exemple Map.Set et Map.Delete renvoient l'élément précédent et un booléen), les opérations d'algèbre d'ensembles existent en versions purement fonctionnelle et mutative (-With), et DeleteFunc est conservée pour des gains d'efficacité. De nombreuses opérations restent prises en charge par des opérateurs intégrés ou le package maps existant, et l'équipe prévoit d'observer l'usage pour décider d'éventuelles additions utilitaires comme maps.Contains, ContainsAll et DeleteAll.
L'article examine le débat scientifique autour des large reasoning models (LRM) qui affichent des succès spectaculaires dans des tâches mathématiques et de programmation. Plusieurs études montrent que les chaînes de raisonnement générées par ces modèles ne sont pas nécessairement fidèles aux processus internes et peuvent parfois être remplacées par des éléments insignifiants sans altérer la réponse. Des chercheurs comme Subbarao Kambhampati avancent que les LRMs opèrent principalement par une forme d'« approximate retrieval », c'est‑à‑dire en puisant et en recomposant massivement des exemples appris plutôt qu'en exécutant des algorithmes de raisonnement fiables. D'autres équipes et industriels, notamment chez OpenAI et DeepMind, soulignent les progrès récents, l'usage d'outils de vérification externes et le rôle des architectures agentiques dans les succès rapportés. La synthèse est que ces modèles peuvent être utiles et puissants dans des domaines vérifiables, mais restent des boîtes noires dont il faut vérifier les résultats et éviter d'attribuer trop vite une interprétation anthropomorphique aux traces textuelles, qualifiées de mnémotechniques illusoires.
Il y a vingt-cinq ans, l'auteur a soutenu un projet open source et reçu un CD d'OpenBSD et un t‑shirt affichant le code Blowfish comme symbole d'une protestation contre les restrictions d'exportation de la cryptographie. Le texte rappelle que ces contrôles américains ont surtout entravé les acteurs respectant la loi, tandis que les déterminés trouvaient des solutions et des technologies à l'étranger. L'auteur compare cette histoire aux tentatives actuelles de restreindre l'accès à l'IA de pointe, où des licences et des interdictions selon la nationalité sont utilisées pour limiter qui peut manipuler les modèles. Il est souligné que ces restrictions peuvent affaiblir la défense en contraignant les spécialistes et en laissant des attaquants libres d'exploiter des vulnérabilités, comme l'ont montré des incidents récents. La conclusion est que, comme pour la cryptographie, l'accès global aux modèles de frontier AI finira probablement par s'étendre, mais cela exigera des actions délibérées et des arrangements internationaux pour contourner les limites imposées par certains gouvernements.