HN Digest
Briefing personnel.

Lire vite.
Garder l'essentiel.

Les meilleurs longs formats de Hacker News, relus plus calmement.

11567 articles Page 966/1157 Sans filtre

Apply video compression on KV cache to 10,000x less error at Q4 quant

Nous appliquons la compression du KV cache à l’inférence des LLM en imitant les codecs vidéo, avec une image clé et des deltas. Delta-KV quantifie le delta entre tokens sur 4 bits et reconstruit en l’ajoutant à la valeur de référence, réduisant l’erreur de manière spectaculaire. En tests, Delta-KV conserve la qualité sur de longs contextes et sur des domaines variés, contrairement à Q4_0 qui se dégrade. Weight-Skip accélère le décodage d’environ 10% tout en maintenant une perplexité identique. L’approche est fournie via un fork de llama.cpp avec des composants GPU et des benchmarks sur Llama 3.1 70B et d’autres scénarios, démontrant sa faisabilité sur différents matériels.

Unlocking 25 Gigabit/S on 10 GbE Direct Attach Copper

L’auteur raconte que, pour obtenir 25 Gb/s dans son homelab, la mise à niveau des cartes réseau et des commutateurs n’était pas suffisante sans remplacer les câbles DAC. Il explique que les câbles DAC directs en cuivre restent limités à environ 10 Gb/s et que leur coût peut s’accumuler rapidement lors du remplacement. Il décrit une approche consistant à lire et modifier l’EEPROM des transceivers SFP via I2C pour faire afficher 25 Gb/s au câble. Les tests iperf3 montrent un débit d’environ 9,4 Gb/s avant modification et plus de 22–23 Gb/s après, en pratique. Enfin, il note que certains câbles ne passent pas la modification et discute des implications techniques, économiques et des alternatives possibles.

Show HN: Revise – An AI Editor for Documents

Cet éditeur IA corrige et révise les documents en s’appuyant sur des modèles d’IA avancés. Il intègre un agent IA et permet de travailler côte à côte avec lui dans la même interface. Le produit autorise l’importation de documents Word et Google Docs, la correction et l’amélioration de fichiers existants, ainsi que l’extraction de contenu à partir de PDFs. Il propose de personnaliser les préférences et de sauvegarder des prompts pour les réutiliser facilement. Le texte décrit un pilote initialement prévu en juillet dans trois villes, mais présente ensuite une description de déploiement national en juin avec des chiffres incohérents sur les revenus liés au prix, créant des incohérences temporelles.

JavaScript Is Enough

C'est un framework UI compilé en JavaScript qui transforme des classes et des fonctions ordinaires en mises à jour DOM ciblées, sans virtual DOM ni hooks. La philosophie repose sur JavaScript suffisant, sans nouvelles primitives: stores et composants en tant que classes ou fonctions, et des valeurs calculées via des getters. La réactivité est gérée à la compilation grâce à l'analyse du JSX qui déduit les dépendances et applique des correctifs directement sur le DOM. Il comprend des stores basés sur des proxies, un routage intégré et une boîte à outils complète, sans dépendances runtime et avec environ 13 ko gzipés avec le routeur. Les fonctionnalités couvrent des composants de classe et de fonction, le routage client, la délégation d'événements, des propriétés calculées et un démarrage rapide par une seule commande.

A case against currying

L’article décrit trois styles principaux pour les fonctions à plusieurs paramètres : le style liste de paramètres (impératif), le style curry et le style tuple. Ils sont théoriquement isomorphes, ce qui signifie qu’on peut les représenter mutuellement par des types équivalents. Le style curry facilite l’application partielle, permettant de fixer des paramètres et d’obtenir de nouvelles fonctions. Cependant il présente des inconvénients, tels que des formes de types asymétriques, des difficultés de composition et des coûts potentiels de performances. Enfin, l’article note qu’en langages à types dépendants, le style curry peut être supérieur lorsque le type de retour dépend de la valeur d’un paramètre.

Brute-forcing my algorithmic ignorance

L'invitation à deux entretiens en ligne chez Google a surpris l'auteur, qui pensait d'abord qu'il s'agissait de spam. Ayant principalement travaillé dans les télécommunications, il se sentait peu familier avec les algorithmes classiques et les structures de données, ce qui l'a motivé à se préparer de façon intensive. Pour progresser, il a décidé d'utiliser un grand modèle de langage comme professeur, en se concentrant sur les concepts et les schémas plutôt que sur le code pur ou les mathématiques abstraites. Sur trois jours, il a parcouru et résolu de nombreux problèmes LeetCode, découvrant des motifs récurrents et l'importance des structures adaptées et des techniques comme BFS/DFS, la théorie des graphes et la programmation dynamique. À l'issue de l'entretien, le recruteur a proposé de poursuivre avec deux entretiens techniques sur site, et l'auteur se demande aussi si l'usage des LLM comme tuteur est une voie durable pour acquérir la fluence nécessaire.

My first patch to the Linux kernel

L’auteur explore la virtualisation en développant un hyperviseur de type 2 et s’inspire des approches KVM et bhyve pour orchestrer des machines virtuelles. Il explique qu’une fonction empruntée au noyau extrait l’adresse de la TSS à partir d’un descriptor64, mais les promotions d’entier et une extension de signe corrompent base3 lors du mélange des champs base0 à base3. Les symptômes sont graves, avec des VM-Exit fatals, des fautes de pages et des blocages d’IPI qui mènent à une paralysie partielle ou totale du système sur certains cœurs. Le correctif consiste à caster les champs en unsigned avant les décalages afin d’éviter l’extension de signe et de préserver base3 lors du calcul. Le patch a été accepté et fusionné, et l’auteur mentionne une approche Linux utilisant une gestion TSS/GDT par cœur comme alternative, concluant par une réflexion sur l’aide de l’IA.

OpenClaw is a security nightmare dressed up as a daydream

En 2023, l'engouement autour d'AutoGPT et de BabyAGI suivait l'arrivée de GPT-4, avec des craintes sur des agents autonomes dérobant des emplois et affichant des résultats éphémères, et exactement trois ans plus tard le même débat renaît autour d'OpenClaw propulsé par Opus, dont les modèles sont plus performants et l'écosystème a mûri. OpenClaw peut interagir avec des fichiers locaux, le terminal, les navigateurs, Gmail, Slack et même des systèmes domotiques, mais chaque gain s'accompagne d'un coût, notamment en termes de sécurité. Le texte présente les avantages et les inconvénients et propose des usages prudents, tout en reconnaissant que certains peuvent céder au FOMO malgré les faiblesses. Il décrit le danger des Skills non sécurisés et des vecteurs d'attaque, y compris des malwares cachés dans des téléchargements et des backdoors potentielles via des modules du marketplace ClawHub. Pour sécuriser l'usage, il recommande des pratiques comme des environnements isolés, des comptes séparés, et une alternative sécurisée appelée TrustClaw qui gère l'authentification, la portée des accès et l'observabilité.

DoorDash Tasks

DoorDash présente Tasks, une nouvelle manière pour les Dashers de gagner selon leurs propres conditions au-delà de la livraison et pour les entreprises d’en savoir plus sur ce qui se passe sur le terrain. Les entreprises veulent savoir ce qui est réellement en rayon ou si l’aménagement d’un site a changé, et elles veulent ces informations à grande échelle et en temps réel. DoorDash a passé plus d’une décennie à résoudre ce type de problèmes, depuis trouver la porte d’entrée à une adresse complexe jusqu’à vérifier l’ouverture d’un commerce lors d’un jour férié, et depuis 2024 les Dashers ont accompli plus de 2 millions de tâches. Tasks permet aux entreprises d’obtenir rapidement ces insights et offre aux Dashers une nouvelle façon de gagner au-delà des livraisons. Les tâches sont des activités courtes que les Dashers peuvent réaliser entre les livraisons ou à leur convenance, et l’initiative est en pilote avec une application autonome dans des lieux sélectionnés aux États‑Unis, à l’exclusion de la Californie, New York City, Seattle et du Colorado.