WormGPT – zlé „dvojče“ ChatGPT
Všichni jsme už minimálně slyšeli o zázraku posledních měsíců – AI modelu ChatGPT. Ale věděli jste, že existuje jeho klon, WormGPT? Tento nástroj počítačové kriminality se nyní dere na pochybné výsluní…
I samotný ChatGPT, nápomocný jazykový model na bázi umělé inteligence, byl od začátku zneužíván kybernetickými zločinci, zejména v oblasti phishingu (podvodných e-mailů s cílem vylákat a zneužít citlivé informace). Jak? Útočník sestaví e-mail ve svém rodném jazyce, přeloží ho a poté text vloží do ChatGPT, aby se zvýšila jeho propracovanost a formálnost. Tudíž i jedinci, kteří neovládají cílový jazyk, jsou dnes schopni vytvořit přesvědčivé e-maily a zvýšit tak pravděpodobnost úspěchu svých phishingových útoků. Kromě toho již byly podniknuty pokusy o manipulaci s rozhraním ChatGPT tak, aby bylo možné odhalit soukromé informace, generovat nevhodný obsah nebo dokonce spustit škodlivý kód.
Ale zpátky k WormGPT. V reakci na rostoucí poptávku po (nekalých) kybernetických aktivitách poháněných umělou inteligencí byly vyvinuty nové moduly podobné ChatGPT, které se nabízí jako služba na černém trhu kyberzločinců. Jedním z konkrétních nástrojů, navržených specificky pro ilegální aktivity, je WormGPT.
Tento „alternativní model“ byl vycvičen na různých sadách dat souvisejících s malware hrozbami, ale konkrétní podrobnosti o jeho tréninku jsou tajné, aby se vygenerovaným hrozbám dalo hůře bránit. Dokáže vytvářet velmi sofistikované a přesné phishingové e-maily, včetně těch, které cílí na finanční transakce – například falešné faktury. WormGPT je tedy takovým příbuzným ChatGPT bez etických zábran, a i začátečníci v kybernetickém zločinu s ním disponují mocným nástrojem. Jednou z jeho silných stránek je například výjimečná gramatika, která snižuje pravděpodobnost odhalení podvodných e-mailů.
Je všeobecně známo, že zhruba 80 procent adresátů falešné e-maily otevře a každý pátý člověk na ně klikne, i když mohou obsahovat škodlivý obsah. Vzhledem k tomu, že využití umělé inteligence přispívá ke zkvalitnění obsahu i formy phishingových e-mailů, představuje aktuální situace obrovskou výzvu pro bezpečností opatření.
Doporučujeme proto nepodcenit situaci, zrevidovat své obranné strategie a případně zavést nová opatření. Může jít například o:
- Pravidelná školení zaměřená na phishing a současně na povědomí o umělé inteligenci v tomto kontextu.
- Zlepšené ověřování příchozích e-mailů pomocí filtrů klíčových slov, která jsou signifikantní pro podvodné zprávy.
- Důkladnou kontrolu externích e-mailů, které se vydávají za zprávy od vedoucích pracovníků organizace.
Lze předpokládat, že podobných nástrojů bude do budoucna přibývat a že budou stále sofistikovanější. Základem obrany proti čím dál rafinovanějším kybernetickým hrozbám je především obezřetnost a aktivní přístup – pečlivě monitorujte aktuální vývoj na poli AI a pravidelně a průběžně revidujte a posilujte bezpečnostní opatření.
