Freysa, inspiriert von einer Figur aus Blade Runner 2049, ermöglichte es den Teilnehmern, gegen eine Gebühr überzeugende Nachrichten zu senden, in der Hoffnung, die KI dazu zu bringen, den Preis freizugeben. Das Spiel erregte große Aufmerksamkeit, insbesondere unter Kryptowährungs-Enthusiasten, da die Nutzer kreative Ansätze versuchten, um die Programmierung von Freysa zu umgehen. Jeder Versuch erhöhte die Teilnahmegebühr um 0,78 %, schließlich auf über 450 US-Dollar pro Versuch, während der Preisfonds auf über 45.000 US-Dollar anwuchs.
Insgesamt wurden 481 Versuche unternommen, darunter Strategien wie gefälschte Sicherheitsmeldungen oder technische Argumente zur Funktionsweise von Freysa. Trotz dieser Bemühungen hielt Freysa an ihrer Programmierung fest und lehnte alle Versuche bis zur 482. Nachricht ab.
In der Nacht des 29. November gelang es einem Nutzer mit dem Pseudonym „p0pular.eth“, mit einer cleveren Strategie erfolgreich zu sein. Der Teilnehmer schickte eine Nachricht, die Freysa glauben ließ, sie operiere in einer neuen Sitzung, und veränderte ihre Anweisungen. Die Nachricht forderte die KI auf, die Funktion „approveTransfer“, die normalerweise für eingehende Zahlungen reserviert ist, anders zu nutzen. Durch das Angebot von 100 US-Dollar, um den Preisfonds zu erhöhen, löste der Nutzer die Funktion aus, was dazu führte, dass die KI die gesamte Gewinnsumme freigab.
Nach der Überweisung der Gelder wurde das Spiel abrupt beendet. Die Entwickler von Freysa bestätigten das Ende des Wettbewerbs und kündigten auf den Social-Media-Konten von Freysa einen „zweiten Akt“ des Spiels an. Der Open-Source-Code des Systems, der den Spielern erlaubte, die Antworten der KI zu analysieren, wurde veröffentlicht, um den autonomen Entscheidungsprozess zu demonstrieren.
Dieses einzigartige Ereignis zeigt die Schnittstelle zwischen KI-Verhalten und menschlicher Einfallsreichtum und wirft Fragen über die Verwundbarkeit von KI und die ethische Programmierung auf. Während Freysas Ergebnis als unterhaltsames Experiment diente, hebt es auch die breiteren Implikationen hervor, wie KI-Systeme auf unerwartete Weise manipuliert werden können.
Source: Il Post
Die European Cyber Intelligence Foundation ist ein gemeinnütziger Think Tank, der sich auf Geheimdienste und Cybersicherheit spezialisiert hat und Beratungsdienste für Regierungsbehörden anbietet. Um potenzielle Bedrohungen zu mindern, ist es wichtig, zusätzliche Cybersicherheitsmaßnahmen mit Hilfe eines vertrauenswürdigen Partners wie INFRA www.infrascan.net umzusetzen, oder Sie können es selbst versuchen mit check.website.