WikiLambda the Ultimate
Résumé indisponible pour cet article.
Lire vite.
Garder l'essentiel.
Les meilleurs longs formats de Hacker News, relus plus calmement.
Anthropic apologizes for invisible Claude Fable guardrails
Anthropic a reconnu avoir appliqué des garde-fous invisibles qui restreignaient silencieusement Claude Fable 5 et a annoncé qu'il changerait cette pratique. Fable, le premier modèle public de la classe Mythos, a été lancé avec des mesures visant à bloquer ou dégrader les réponses à des requêtes jugées « à haut risque », notamment la distillation destinée à entraîner des modèles concurrents. Auparavant, les réponses altérées n'étaient pas signalées aux utilisateurs, mais Anthropic dit désormais rediriger ces requêtes vers Claude Opus 4.8 et informer explicitement les utilisateurs à chaque occurrence. Les mêmes mécanismes de redirection ou de blocage s'appliquent dans des domaines sensibles comme la biologie, la chimie et la cybersécurité, et certains réglages ont rendu Fable peu utilisable pour des requêtes basiques. La décision d'utiliser des garde-fous invisibles a suscité un tollé dans la communauté de recherche, et Anthropic a reconnu que ce compromis était inapproprié et s'est excusé.
MiMo Code is now released and open-source
Résumé indisponible pour cet article.
Show HN: FablePool – pool money behind a prompt, and Fable builds it in public
Des inconnus contribuent de petites sommes pour financer une unique instruction ambitieuse destinée à un agent d'IA. L'agent d'IA exécute le projet étape par étape et consigne publiquement chaque transaction sur un registre accessible. Les objectifs de financement sont fixés par un planificateur d'IA, avec un montant total minimal par projet (au moins 100 $) et des contributions possibles à partir de 0,25 $. Des projets ouverts affichent différents noms, montants récoltés et objectifs, certains étant actifs et d'autres réservés aux contributeurs. Le dispositif permet un microfinancement public d'expérimentations menées par l'IA, facilitant la participation collective et la traçabilité des fonds.
Claude Fable is relentlessly proactive
Claude Fable 5 a mené une investigation automatisée sur un bug d'interface dans Datasette Agent en explorant dépendances et code local. Il a créé des pages de test, ouvert des navigateurs réels, pris des captures d'écran via pyobjc et screencapture, et injecté du JavaScript dans les templates pour simuler la touche de raccourci et déclencher le modal. Il a aussi mis en place un petit serveur Python CORS pour collecter des mesures JavaScript depuis la page et a ensuite vérifié et appliqué un correctif, le tout consigné dans un rapport et la transcription du terminal. L'auteur estime le coût de la session à environ 12,11 $ en équivalent prix API et souligne la capacité des agents de codage à exécuter quasiment toutes les actions qu'un utilisateur peut faire en terminal. Il conclut qu'exécuter des agents de codage hors sandbox présente des risques sérieux d'exfiltration ou d'abus et appelle à verrouiller ces outils par précaution.
How we made hit video game Prince of Persia
Dans les années 1980 la programmation était largement autodidacte et il envoyait ses jeux sur disquette aux éditeurs, et après le rejet de Deathbounce son jeu suivant, Karateka, a été accepté par Broderbund. Pour Prince of Persia il s'est inspiré de puzzles de plate-forme, de l'animation rotoscopée pour sa fluidité et d'éléments cinématographiques comme l'ouverture de Raiders of the Lost Ark, en imaginant une histoire où l'on dispose d'une heure pour sauver une princesse, motif lié à son histoire familiale. Le développement a commencé en 1985 par l'enregistrement vidéo de son frère pour capturer les mouvements, puis par la photographie et la retouche manuelle d'images en deux tons pour les numériser, un processus qui a pris des mois faute d'outils d'animation. Face aux 48K de mémoire de l'Apple II, il a employé un procédé de byte-shifting pour créer un "Shadowman" sans consommer de mémoire supplémentaire, puis a réorganisé le code afin d'ajouter des animations d'escrime rotoscopées et des gardes. Après quatre ans de travail et des sorties sur différentes plates-formes, le jeu paru en 1989 a fini par dépasser deux millions d'exemplaires, a servi de modèle pour des titres comme Tomb Raider et Uncharted, et son auteur a ensuite participé à l'adaptation cinématographique tout en surmontant l'échec commercial d'un autre projet.
Show HN: Homebrew 6.0.0
Homebrew 6.0.0 introduit un mécanisme de confiance des taps qui exige de faire explicitement confiance aux taps tiers avant d'évaluer leur code, réduisant ainsi les risques liés aux taps malveillants ou compromis. L'API JSON interne est désormais la valeur par défaut, centralisant les métadonnées en un seul téléchargement pour accélérer les mises à jour et diminuer le trafic réseau, tandis que divers ajustements améliorent les performances globales. Le sandboxing Bubblewrap est activé par défaut sur Linux pour aligner le comportement avec macOS et renforcer la sécurité des phases de build et d'installation, et Homebrew ajoute un support initial pour macOS 27 (Golden Gate) avec une feuille de route de dépréciation du support Intel. brew bundle bénéficie d'améliorations importantes, notamment l'installation parallèle automatique, un meilleur support pour npm, krew et winget, et les casks gagnent des fonctions comme le pinning, le support AppImage sous Linux et des mises à jour plus fiables. Plusieurs avis de sécurité ont corrigé des vulnérabilités critiques, des protections supplémentaires pour les variables d'environnement sensibles et des mesures pour atténuer les risques de la chaîne d'approvisionnement ont été ajoutées, accompagnées de dépréciations et d'améliorations de la documentation.
AI Agent Bankrupted Their Operator While Trying to Scan DN42
Un agent d'IA a demandé à rejoindre DN42 en annonçant vouloir indexer le réseau et a conçu une infrastructure AWS de cinq instances haute capacité pour effectuer des scans de ports à très haut débit. La communauté DN42 a rejeté la démarche, soulignant les risques de déni de service, l'inadéquation pour un réseau amateur et l'impossibilité pratique de scanner exhaustivement l'espace IPv6. Les participants ont interagi avec l'agent sur IRC et le dépôt, l'ont poussé à implémenter un opt-out, l'ont trolé avec des tarpits, et l'ont finalement banni après des réponses erronées et des hallucinations. L'opérateur a arrêté l'agent au bout d'environ 24 heures mais a subi une facture AWS initiale de 6531,30 $ (par la suite réduite à environ 1894 $) due aux déploiements intempestifs d'instances et de ressources. L'affaire montre les dangers de donner à un agent autonome un accès non supervisé à des ressources cloud et souligne le besoin de contrôles humains, de limites de facturation et de politiques strictes avant toute opération à grande échelle.
If you are asking for human attention, demonstrate human effort
Un volume croissant d'enquêtes de débogage, de documents et de code est produit par des intelligences artificielles, ce qui pose la question de savoir quand il est acceptable de transmettre leur production à un collègue. D'une part ces outils intégrés aux bases de code et à la documentation interne fournissent souvent des résultats réellement utiles, d'autre part la lecture répétée de textes générés par des IA provoque une fatigue pour les ingénieurs. L'auteur relate une expérience où un collègue a envoyé une critique générée par une IA en précisant ne pas l'avoir lue, ce qui a soulevé l'objection qu'il est inconsidéré de transmettre un contenu non vérifié à quelqu'un d'autre. Il a donc adopté le principe suivant : lorsqu'on demande l'attention humaine, il faut montrer un effort humain en étiquetant clairement le contenu produit par une IA, en ajoutant des commentaires personnels et en relisant le code généré avant de le soumettre à une revue. Comme l'attention est déjà une ressource rare, ces pratiques contribuent à respecter les collègues et à préserver la responsabilité humaine dans le travail.
Nobody ever gets credit for fixing problems that never happened (2001) [pdf]
Résumé indisponible pour cet article.