HN Digest
Briefing personnel.

Lire vite.
Garder l'essentiel.

Les meilleurs longs formats de Hacker News, relus plus calmement.

11659 articles Page 186/1166 Sans filtre

Speculative Decoding in vLLM on AMD GPUs

Le décodage spéculatif ajoute une étape de proposition rapide suivie d'une vérification par le modèle cible afin de pouvoir engager plusieurs jetons générés en une seule passe de vérification. vLLM prend en charge cinq approches de drafting — MTP natif, Gemma 4 MTP, EAGLE‑3, DFlash et DSpark — qui diffèrent par les informations cibles utilisées et par le fait que les jetons sont produits séquentiellement ou en parallèle. Les mesures montrent que le gain de débit des jetons sortants varie fortement selon la méthode de drafting, la longueur de la proposition, la famille et la version du modèle, la charge de travail et le comportement d'acceptation, avec plusieurs configurations dépassant 2× d'accélération mais d'autres sous la ligne de base. Le réglage pratique exige d'observer le débit, la longueur moyenne acceptée et les taux d'acceptation par position pour choisir une valeur de num_speculative_tokens adaptée et équilibrer le coût du drafting et de la vérification. La mise en œuvre demande de vérifier la compatibilité des checkpoints, de prévoir l'empreinte mémoire supplémentaire pour les speculators, et éventuellement d'entraîner un speculator adapté en collectant des états cachés représentatifs du modèle cible et des prompts attendus.

Whistle Synth Mac App

L'auteur a publié une application Mac gratuite, sans publicités et open source, destinée aux utilisateurs équipés d'un micro externe et/ou d'écouteurs filaires pour réduire la latence. En retravaillant l'implémentation avec Claude, il a rapproché la latence audio de 80 ms à environ 5 ms en adoptant l'API de callback et d'autres optimisations, et il a supprimé les saccades en séparant la détection du signal et le synthétiseur. Claude a aidé à concevoir de nombreuses voix de synthèse, rendant simples les basses variées tandis que les sons d'aigu se sont révélés plus difficiles et ont abouti pour l'instant à un orgue drawbar satisfaisant. L'application propose une option pour jouer une quinte en dessous du son produit afin d'élargir les plages jouables, mais les tentatives de reproduire des instruments comme la flûte ou un Rhodes n'ont pas donné de résultats convaincants. La publication a impliqué la création d'une icône avec Gemini, la génération d'actifs et d'instructions par Claude, l'adhésion au programme développeur Apple et la vérification d'identité, illustrant l'IA comme un complément pratique au développement.

Live map of public transport in Belgium

Un service cartographique centralise les réseaux de bus, tram, métro et train de plusieurs opérateurs belges sur une seule interface. La carte affiche en temps réel les retards, les arrêts et les horaires de départ. La couverture s'étend à la Région de Bruxelles-Capitale et à toutes les provinces de la Belgique. Le site fournit des informations d'aide, les sources et les politiques de confidentialité et d'utilisation. L'interface signale le chargement de la carte et propose des messages en plusieurs langues.

Methods for Random Gradients (2024)

L'auteur décrit plusieurs méthodes expérimentées pour générer des images dégradées aléatoires, notamment des heightmaps, des dégradés radiaux superposés et des approches assistées par IA. L'approche par heightmap utilisait un bruit de Perlin modifié pour remplir une grille de valeurs entre 0 et 1, puis appliquait des échelles de couleur aléatoires interpolées pour obtenir des dégradés organiques. Une technique performante employait une petite image 2×3 pour un dégradé statique puis des dégradés radiaux SVG superposés et transformés dynamiquement, ce qui a permis d'afficher à chaque chargement de page un dégradé unique tout en restant très léger. L'auteur a aussi exploré la génération d'images par IA avec DALL·E 2 et propose trois directions de prompt — atmosphérique rêvée, texture florale et ciel inspiré — comme preuves de concept pour des dégradés texturés. Bien que certaines variantes n'aient pas été retenues pour l'identité visuelle, ces expérimentations ont révélé des possibilités esthétiques et pratiques pour créer des dégradés variés et performants.

Catching Crumbs from the Table (2000)

Cet article, signé par l'écrivain de science-fiction Ted Chiang, a été publié dans Nature le 1er juin 2000. L'auteur observe que, face à la science métahumaine, les humains sont devenus métascientifiques. L'essai suggère que la tâche humaine consiste désormais à analyser et interpréter des savoirs produits par des intelligences supérieures plutôt qu'à rivaliser directement avec elles. Le texte est court et de nature réflexive, mêlant perspectives littéraires et questionnements sur la position humaine par rapport aux avancées scientifiques non humaines. La notice précise les références bibliographiques et les options d'accès à l'article, dont le DOI et la disponibilité via SpringerLink.

The Dataflow Model Revisited

Il y a onze ans, le papier Dataflow a proposé d'accepter les flux non bornés et hors d'ordre et a présenté un modèle unifié (fenêtres, déclencheurs, watermarks et rétractions) pour arbitrer exactitude, latence et coût. Les auteurs réévaluent leur travail et jugent que les fondations centrales ont bien tenu, en particulier la primauté du temps d'événement, l'inutilité d'attendre la complétude et l'insistance sur une forte consistance. Ils admettent toutefois des erreurs d'interface analytique : la surexposition des fenêtres et des déclencheurs, l'excès d'ingénierie des seconds, et l'omission de reconnaître que flux et tables sont deux représentations du même objet. Les mécanismes qui ont finalement répondu aux objectifs analytiques émanent du répertoire des bases de données, notamment SQL, la maintenance incrémentale des vues et les vues matérialisées avec contrats explicites de fraîcheur. Ils observent en outre que le principe de complétude s'est scindé en deux approches (watermarks pour garder les flux visibles et rafraîchissements cohérents par snapshot où ils ne le sont pas), que le débat batch/streaming est en grande partie sémantique, que la faible latence s'est bifurquée selon la vieille séparation OLTP/OLAP, et qu'à terme le streaming pourrait disparaître hors du domaine analytique.

bzip3

BZip3 est un utilitaire de compression qui combine un codeur d'entropie par mélange de contextes d'ordre 0, une transformée de Burrows-Wheeler rapide basée sur des tableaux de suffixes et un passage RLE avec LZP/PPM pour améliorer les ratios et les performances. Le format vise principalement la compression de texte et de code et s'installe classiquement via ./configure, make et sudo make install, avec des paquets disponibles selon les gestionnaires système comme Homebrew sur macOS. Dans un benchmark sur l'ensemble des versions de Perl, bzip3 a compressé à 546 456 978 octets avec -b 511 et 1 001 957 587 octets avec -b 256, contre 2 056 645 240 pour xz, 3 441 163 911 pour bzip2 et 3 076 143 660 pour zstd. Les temps de décompression relevés sur un disque WD Blue étaient de 4 min 40 s pour xz, 9 min 22 s pour bzip2, 4 min 06 s pour bzip3 en parallèle et 3 min 51 s pour zstd. L'utilisation de lrzip suivie de bzip3 a donné 60 672 608 octets (meilleur que lrzip+lzma à 64 774 202 et lrzip+bzip2 à 75 685 065), le projet précise toutefois des avertissements sur le risque résiduel de perte de données, liste les architectures testées et est distribué sous LGPLv3 avec mentions de contributeurs et composants tiers.