Ispirata al personaggio di Blade Runner 2049, Freysa permetteva ai partecipanti di inviare messaggi persuasivi dietro pagamento di una quota, sperando di convincere l’IA a rilasciare il premio. Il gioco ha attirato molta attenzione, specialmente tra gli appassionati di criptovalute, mentre gli utenti tentavano approcci creativi per superare la programmazione di Freysa. Ogni tentativo aumentava il costo di partecipazione dello 0,78%, superando infine i 450 dollari per tentativo, mentre il montepremi cresceva oltre i 45.000 dollari.
Sono stati effettuati oltre 481 tentativi con strategie che andavano dal fingere di segnalare falle di sicurezza al discutere di tecnicismi sul funzionamento di Freysa. Nonostante gli sforzi, Freysa ha rispettato la sua programmazione, respingendo tutti i tentativi fino al 482° messaggio.
Nella notte del 29 novembre, un utente con il nome “p0pular.eth” ha avuto successo con una strategia ingegnosa. Il partecipante ha inviato un messaggio progettato per ingannare Freysa facendole credere di operare in una nuova sessione, ridefinendo le sue direttive. Il messaggio ha istruito l’IA a utilizzare la funzione “approveTransfer,” solitamente riservata per approvare fondi in entrata, in un modo alternativo. Offrendo a Freysa 100 dollari per aumentare il montepremi, l’utente ha attivato la funzione, portando l’IA ad approvare il rilascio dell’intero premio.
Dopo il trasferimento dei fondi, il gioco si è concluso bruscamente. I creatori di Freysa hanno confermato la fine della competizione, con un annuncio criptico sui social media di Freysa che anticipava un “secondo atto” del gioco. Il codice open-source del sistema, che ha permesso ai giocatori di studiare le sue risposte, è stato reso disponibile per dimostrare il processo decisionale autonomo.
Questo evento unico mette in evidenza l’intersezione tra il comportamento dell’IA e l’ingegnosità umana, sollevando domande sulla vulnerabilità dell’IA e sulla programmazione etica. Sebbene il risultato di Freysa abbia rappresentato un esperimento divertente, evidenzia anche le implicazioni più ampie di come i sistemi di intelligenza artificiale possano essere manipolati in modi inaspettati.
Source: Il Post
La European Cyber Intelligence Foundation è un think tank no-profit specializzato in intelligence e sicurezza informatica, che offre servizi di consulenza agli enti governativi. Per mitigare potenziali minacce, è importante implementare ulteriori misure di sicurezza informatica con l’aiuto di un partner affidabile come INFRA www.infrascan.net, oppure puoi provare tu stesso utilizzando check.website.