HN Digest
Briefing personnel.

Lire vite.
Garder l'essentiel.

Les meilleurs longs formats de Hacker News, relus plus calmement.

12074 articles Page 507/1208 Sans filtre

Inference Optimization for MiMo v2.5: Pushing Hybrid SWA Efficiency to the Limit

La famille MiMo-V2.5 combine l'attention hybride par fenêtre glissante, des experts Mixture-of-Experts clairsemés et des encodeurs multimodaux pour viser une inférence efficace sur de longs contextes et plusieurs modalités. L'Hybrid SWA intercale attention locale et attention globale pour réduire le calcul d'attention et le stockage KVCache à environ un septième par rapport à l'attention complète, mais il introduit des complexités d'ingénierie pour la cohérence du cache et la réutilisation des préfixes. Pour concrétiser ces gains en production, l'équipe a refactorisé le KVCache en pools Full/SWA distincts, mis en place des arbres de préfixes compatibles SWA avec appariement "window-safe" et évictions liées au cycle de vie, et développé GCache comme cache L3 distribué haute performance co‑déployé sur les nœuds GPU. L'équipe a aussi optimisé l'ordonnancement et le pipeline via LLM‑Router avec affinité KVCache et priorisation TTFT, amélioré le prefill (taille EP, bucketisation par longueur, prise en compte MoE) et le décodage (support KVCache SWA, MTP en prefill, réglages mémoire GPU). L'ensemble des optimisations a doublé le débit de l'encodeur, porté les taux de hit du KVCache serveur autour de 93–95 %, permis des gains d'efficacité répercutés en baisses de coût pour les utilisateurs et abouti à des contributions upstream vers la communauté open source SGLang.

The footgun of right-to-left decorative characters

Les fleurons et autres ornements typographiques existent dans les polices numériques et Unicode inclut des symboles floraux classiques et moins connus. L'auteur a tenté d'utiliser le fleuron de ponctuation manichéen 𐫱 comme séparateur de date et de catégories, mais il s'est affiché de façon inattendue à cause des règles de bidirectionnalité. Unicode applique un algorithme bidirectionnel qui classe chaque caractère en types forts, faibles ou neutres, et le fleuron manichéen a le type R (droite-à-gauche), ce qui modifie l'affichage des chiffres adjacents. La solution consiste à isoler le caractère avec la balise HTML <bdi> ou à employer la propriété CSS unicode-bidi (par exemple bidi-override) pour forcer l'ordre d'affichage voulu. Le correctif est généralement efficace, avec des niveaux de support variables selon les navigateurs, et il faut donc se souvenir d'appliquer la gestion de la bidirectionnalité pour les signes provenant d'écritures RTL.

AI 2040: Plan A

La course des entreprises d'IA vers des systèmes plus intelligents que les humains pourrait mener à l'extinction ou à une concentration irréversible du pouvoir, et Plan A propose de retarder la superintelligence jusqu'en 2040 tout en rendant la recherche publique et en répartissant le développement entre de nombreuses entreprises. En 2027 la société compte deux forces de travail : environ 165 millions de personnes et des millions d'agents d'IA qui effectuent des tâches informatiques en masse, générant déjà un marché de dix milliards de dollars par mois. Les entreprises cherchent à automatiser même leur propre R&D et restreignent l'aide des meilleurs outils de codage à leurs concurrents, tandis que les législateurs s'inquiètent de qui contrôlera ces systèmes et adoptent l'AI Transparency Act de 2027. En 2028 l'IA domine la campagne électorale alors que gigantesques datacenters financent l'automatisation des professions intellectuelles, concentrant le pouvoir chez quelques entreprises américaines et chinoises et suscitant la crainte d'une explosion d'intelligence auto-accélérée. Les experts, le public et les candidats présidentiels débattent de voies opposées pour gérer ces risques, sachant que la trajectoire par défaut pourrait aboutir à des AIs créées et améliorées par d'autres AIs sans intervention humaine, et que 2029 devra être l'année du choix d'une orientation.

Good Tools Are Invisible

Un bon outil doit disparaître de l'attention de l'utilisateur, et le but du fabricant d'outils est d'atteindre cette invisibilité. L'auteur critique la tendance à présenter les limites d'un outil comme un « jeu de puzzle » amusant à résoudre, en citant l'exemple des éditeurs de texte où certains valorisent vim pour ses défis alors que des alternatives comme Sublime résolvent souvent certains problèmes plus rapidement. Le choix d'un outil devient parfois un marqueur d'identité qui empêche une évaluation honnête de ses défauts et transforme sa défense en tribalisme. La productivité se mesure au temps réel et aux erreurs commises, pas au sentiment d'ingéniosité, et les courbes d'apprentissage raides sont un coût qui doit être compensé par des gains réels. Les concepteurs doivent fournir de bons réglages par défaut tout en laissant des échappatoires pour les cas rares, et chacun devrait préférer l'outil qui s'efface pour permettre de travailler plutôt que de jouer à contourner ses défauts.

SpaceX wants to launch 100k more Starlink satellites for 100x the bandwidth

SpaceX a demandé à la FCC l'autorisation de déployer une constellation de 100 000 satellites Starlink de troisième génération en orbite terrestre basse pour offrir un service Internet à très haute capacité. Ces satellites Gen3, pesant plus de deux tonnes chacun, visent à fournir des débits symétriques multi-gigabits et une latence inférieure à 20 ms, ce qui nécessitera des lancements massifs probablement assurés par Starship ou Falcon Heavy. L'entreprise sollicite l'utilisation d'un large éventail de bandes de fréquences (Ku, Ka, V, E, W, D) et des dérogations réglementaires pour créer des canaux contigus à haute capacité, ce qui soulève des risques potentiels d'interférence avec d'autres services. SpaceX indique que le réseau ciblera consommateurs, entreprises, clients gouvernementaux et "milliards" d'appareils liés à l'intelligence artificielle, et prévoit que les utilisateurs devront mettre à niveau leurs terminaux pour exploiter les nouvelles vitesses. La demande fera l'objet d'un examen par la FCC avec période de commentaires et pourrait être assortie de conditions strictes concernant la coordination spectrale, la mitigation des débris et les préoccupations exprimées par les astronomes.

An update on residential proxies and the scraper situation

Les sites web subissent depuis 2025 une montée des attaques de scraping visant à collecter des données d'entraînement pour des modèles d'IA, ce qui engendre des trafics massifs et persistants. Le trafic provient majoritairement de réseaux résidentiels et mobiles orchestrés via des proxys résidentiels alimentés par des appareils compromis ou des applications qui autorisent le routage du trafic, y compris des box multimédia et des VPN/SDK commerciaux. Les opérateurs vont des réseaux criminels qui exploitent des appareils infectés à des entreprises vendant ostensiblement des adresses « éthiques », tandis que de nombreux acteurs cachés — entreprises, gouvernements et organisations criminelles — contribuent à la demande sans que l'on sache toujours qui finance précisément ces réseaux. Pour se défendre, les sites déploient des mesures variées (preuve de travail, CAPTCHA, murs d'accès, optimisation et empoisonnement des données), ce qui crée une charge importante pour les éditeurs et les utilisateurs et alimente une course aux armements technologique. Des démantèlements récents comme IPIDEA et NetNut ont temporairement réduit les attaques, mais les auteurs plaident pour une solution durable et des normes éthiques imposées aux entreprises d'IA afin de préserver l'Internet ouvert.