In de praktijk maken deze dreigingsactoren gebruik van Gemini voor verschillende taken: van hulp bij de ontwikkeling van tools en scripts tot het onderzoeken van openbaar bekendgemaakte kwetsbaarheden, het vertalen van technische inhoud en het identificeren van methoden om detectie te omzeilen of privileges te escaleren in gecompromitteerde netwerken. Zo gebruiken Iraanse groepen Gemini intensief voor het verzamelen van inlichtingen over defensieorganisaties, terwijl Chinese actoren zich richten op verkenning van Amerikaanse militaire en overheidsdoelen en zelfs technieken onderzoeken voor laterale beweging binnen netwerken. Ook Noord-Koreaanse en Russische APT’s experimenteren met de tool, zij het in mindere mate, om hun cyberoperaties te ondersteunen met activiteiten zoals malware-ontwikkeling en het maken van schadelijke payloads.
Google merkte ook op dat sommige dreigingsactoren probeerden de ingebouwde beveiligingsmaatregelen van Gemini te omzeilen via publieke jailbreaks of door hun prompts te herformuleren. Deze pogingen waren echter niet succesvol. Dit rapport, samen met soortgelijke onthullingen van OpenAI over ChatGPT, onderstreept het toenemende misbruik van generatieve AI-tools door cybercriminelen op verschillende niveaus. Terwijl het AI-landschap zich verder ontwikkelt, blijft het potentieel van deze tools om cyberaanvallen te versnellen en voorbereidingstijden te verkorten een grote zorg voor beveiligingsexperts wereldwijd.
Source: Bleeping Computer
De European Cyber Intelligence Foundation is een non-profit denktank gespecialiseerd in inlichtingen en cybersecurity en biedt adviesdiensten aan overheidsinstanties. Om potentiële bedreigingen te beperken, is het belangrijk om aanvullende cybersecuritymaatregelen te implementeren met behulp van een betrouwbare partner zoals INFRA www.infrascan.net, of je kunt zelf proberen met check.website.