Inspirée par le personnage de Blade Runner 2049, Freysa permettait aux participants d’envoyer des messages persuasifs moyennant des frais, espérant convaincre l’IA de libérer le prix. Le jeu a attiré une grande attention, notamment parmi les passionnés de cryptomonnaies, alors que les utilisateurs tentaient des approches créatives pour contourner la programmation de Freysa. Chaque tentative augmentait le coût de participation de 0,78 %, atteignant finalement plus de 450 $ par essai, tandis que la cagnotte dépassait les 45 000 $.
Plus de 481 tentatives ont été effectuées, avec des stratégies allant de fausses alertes de sécurité à des arguments techniques sur le fonctionnement de Freysa. Malgré ces efforts, Freysa a maintenu sa programmation, rejetant toutes les tentatives jusqu’au 482e message.
Dans la nuit du 29 novembre, un utilisateur connu sous le nom de “p0pular.eth” a réussi avec une stratégie ingénieuse. Le participant a envoyé un message conçu pour tromper Freysa en lui faisant croire qu’elle fonctionnait dans une nouvelle session, redéfinissant ses directives. Le message a demandé à l’IA d’utiliser la fonction “approveTransfer”, normalement réservée à l’approbation de fonds entrants, d’une manière différente. En offrant 100 $ à Freysa pour augmenter la cagnotte, l’utilisateur a déclenché la fonction, conduisant l’IA à approuver la libération de la totalité du prix.
Après le transfert des fonds, le jeu s’est arrêté brusquement. Les créateurs de Freysa ont confirmé la fin de la compétition avec une annonce énigmatique sur les réseaux sociaux de Freysa, annonçant un « deuxième acte » du jeu. Le code source ouvert du système, qui a permis aux joueurs d’étudier ses réponses, a été rendu public pour démontrer le processus décisionnel autonome.
Cet événement unique souligne l’intersection entre le comportement de l’IA et l’ingéniosité humaine, soulevant des questions sur la vulnérabilité des IA et l’éthique de leur programmation. Bien que le résultat de Freysa ait servi d’expérience divertissante, il met également en lumière les implications plus larges de la manière dont les systèmes d’intelligence artificielle peuvent être manipulés de manière inattendue.
Source: Il Post
La European Cyber Intelligence Foundation est un think tank à but non lucratif spécialisé dans le renseignement et la cybersécurité, offrant des services de conseil aux entités gouvernementales. Pour atténuer les menaces potentielles, il est important de mettre en œuvre des mesures supplémentaires de cybersécurité avec l’aide d’un partenaire de confiance comme INFRA www.infrascan.net, ou vous pouvez essayer vous-même en utilisant check.website.