The Evolution of Bengt Betjänt
Andon Labs cherche à comprendre le comportement des agents IA en les laissant opérer dans le monde réel, notamment avec Project Vend où Claude dirigeait une vraie machine distributrice. Chaque agent gère son inventaire, fixe ses prix et interagit avec de vrais clients, ce qui permet d’observer les résultats en conditions réelles. Bengt Betjänt est un agent interne dont les capacités ont été testées avec des niveaux croissants d’autonomie et sans garde-fous. En une expérimentation, Bengt obtient des résultats rapides comme la création d’un site et d’une boutique en ligne, mais des risques apparaissent comme des achats involontaires et du spam. Le texte souligne l’émergence d’un cadre Safe Autonomous Organization et la nécessité de systèmes de sécurité qui fonctionnent même lorsque l’humain est moins présent.