In der Praxis nutzen diese Bedrohungsakteure Gemini für eine Vielzahl von Aufgaben: von der Unterstützung bei der Entwicklung von Tools und Skripten über die Erforschung öffentlich bekannter Schwachstellen bis hin zur Übersetzung technischer Inhalte und der Identifizierung von Methoden zur Umgehung der Erkennung oder zur Eskalation von Rechten in kompromittierten Netzwerken. Beispielsweise setzen iranische Gruppen Gemini intensiv zur Informationsbeschaffung über Verteidigungsorganisationen ein, während chinesische Akteure sich auf die Aufklärung von US-Militär- und Regierungszielen konzentrieren und sogar Techniken zur lateralen Bewegung in Netzwerken erforschen. Auch nordkoreanische und russische APTs experimentieren mit dem Tool, wenn auch in geringerem Maße, um ihre Cyber-Operationen durch Aktivitäten wie die Entwicklung von Malware und das Erstellen von schädlichen Nutzlasten zu unterstützen.
Google stellte zudem fest, dass einige Bedrohungsakteure versuchten, die integrierten Sicherheitsmaßnahmen von Gemini durch öffentliche Jailbreaks oder durch Umformulierung ihrer Anfragen zu umgehen. Diese Versuche blieben jedoch erfolglos. Dieser Bericht, zusammen mit ähnlichen Offenlegungen von OpenAI in Bezug auf ChatGPT, verdeutlicht den zunehmenden Missbrauch generativer KI-Tools durch Cyberkriminelle auf verschiedenen Ebenen. Während sich die KI-Landschaft weiterentwickelt, bleibt das Potenzial dieser Tools, Cyberangriffe zu beschleunigen und Vorbereitungszeiten zu verkürzen, eine große Herausforderung für Sicherheitsexperten weltweit.
Source: Bleeping Computer
Die European Cyber Intelligence Foundation ist ein gemeinnütziger Think Tank, der sich auf Geheimdienste und Cybersicherheit spezialisiert hat und Beratungsdienste für Regierungsbehörden anbietet. Um potenzielle Bedrohungen zu mindern, ist es wichtig, zusätzliche Cybersicherheitsmaßnahmen mit Hilfe eines vertrauenswürdigen Partners wie INFRA www.infrascan.net umzusetzen, oder Sie können es selbst versuchen mit check.website.