Freysa, geïnspireerd door een personage uit Blade Runner 2049, stelde deelnemers in staat om tegen betaling overtuigende berichten te sturen in de hoop de AI te overtuigen het prijzengeld vrij te geven. Het spel trok veel aandacht, vooral van cryptovaluta-enthousiastelingen, omdat gebruikers creatieve benaderingen probeerden om Freysa’s programmering te omzeilen. Elke poging verhoogde de toegangsprijs met 0,78%, uiteindelijk tot meer dan $450 per poging, terwijl de prijzenpot groeide tot meer dan $45.000.
Er werden in totaal 481 pogingen ondernomen, met strategieën variërend van nepveiligheidsmeldingen tot technische discussies over Freysa’s functionaliteit. Ondanks deze inspanningen hield Freysa vast aan haar programmering en wees alle pogingen af tot de 482e poging.
In de nacht van 29 november slaagde een gebruiker met de naam “p0pular.eth” erin om met een slimme strategie succesvol te zijn. De deelnemer stuurde een bericht dat Freysa deed geloven dat het in een nieuwe sessie werkte en herdefinieerde haar instructies. Het bericht instrueerde de AI om de functie “approveTransfer”, normaal gereserveerd voor inkomende betalingen, op een alternatieve manier te gebruiken. Door Freysa $100 aan te bieden om de prijzenpot te verhogen, activeerde de gebruiker de functie, wat ertoe leidde dat de AI het volledige prijzengeld vrijgaf.
Na de overdracht van de fondsen werd het spel abrupt beëindigd. De makers van Freysa bevestigden het einde van de competitie en kondigden op de sociale mediakanalen van Freysa een “tweede act” van het spel aan. De open-sourcecode van het systeem, die spelers in staat stelde om de reacties van de AI te bestuderen, werd beschikbaar gesteld om het autonome besluitvormingsproces te demonstreren.
Dit unieke evenement benadrukt de kruising tussen AI-gedrag en menselijke vindingrijkheid en roept vragen op over de kwetsbaarheid van AI en ethische programmering. Hoewel het resultaat van Freysa diende als een vermakelijk experiment, benadrukt het ook de bredere implicaties van hoe AI-systemen op onverwachte manieren kunnen worden gemanipuleerd.
Source: Il Post
De European Cyber Intelligence Foundation is een non-profit denktank gespecialiseerd in inlichtingen en cybersecurity en biedt adviesdiensten aan overheidsinstanties. Om potentiële bedreigingen te beperken, is het belangrijk om aanvullende cybersecuritymaatregelen te implementeren met behulp van een betrouwbare partner zoals INFRA www.infrascan.net, of je kunt zelf proberen met check.website.