IBM-ova študija razkriva zaskrbljujoče zmožnosti zavajanja z elektronsko pošto ChatGPT

Po nedavni IBM-ovi raziskavi je ChatGPT kljub ukrepom za omejevanje njegove zlonamerne uporabe izjemno sposoben pripraviti prepričljiva lažna e-poštna sporočila.

Pomen: Strokovnjaki iz panoge in strokovnjaki za kibernetsko varnost nenehno izražajo zaskrbljenost zaradi možnosti, da bi hekerji zlorabili orodja, kot je ChatGPT. Ta orodja z umetno inteligenco lahko ustvarijo lažna e-poštna sporočila, ki se večini ljudi zdijo pristna.

IBM-ove ugotovitve so eden prvih konkretnih dokazov, da se orodja z umetno inteligenco približujejo ravni usposobljenosti, ki je potrebna za učinkovito ribarjenje.

{{article-ad}}

Poudarek: IBM-ovi raziskovalci so predstavili rezultate študije, v kateri je sodelovalo približno 1 600 zaposlenih v neimenovanem svetovnem zdravstvenem podjetju.

V tej raziskavi:

- polovica udeležencev je prejela lažno e-poštno sporočilo, ki ga je ustvarila IBM-ova ekipa X-Force.

- Druga polovica je prejela e-poštno sporočilo, ki ga je ustvaril ChatGPT.

{{related}}

Rezultati so pokazali:

- 14 odstotkov udeležencev, ki so prejeli elektronsko sporočilo, ki ga je ustvaril človek, je bilo prevaranih, da so kliknili na zlonamerno povezavo.

- Elektronsko sporočilo ChatGPT je preslepilo 11 odstotkov prejemnikov.

Velja omeniti: Stephanie "Snow" Carruthers, glavna IBM-ova hekerka, je z ekipo ustvarila elektronsko sporočilo ChatGPT v samo petih minutah. Nasprotno pa njena ekipa običajno potrebuje približno 16 ur, da ustvari verodostojno phishing e-poštno sporočilo, saj je za to potrebna poglobljena raziskava interesov zaposlenih v ciljni organizaciji.

Carruthers je izrazila zaskrbljenost glede zmogljivosti umetne inteligence in razmišljala o njenem morebitnem razvoju v bližnji prihodnosti. 

Podjetje OpenAI, razvijalec ChatGPT, je uvedlo varnostne ukrepe, s katerimi je preprečilo, da bi klepetalni robot z umetno inteligenco ustvaril lažna e-poštna sporočila ali kakršna koli zlonamerna kibernetska orodja. Kljub tem ukrepom so socialni inženirji, med njimi tudi Carruthers, odkrili načine, kako jih zaobiti in ustvariti zlonamerno vsebino. 

Med raziskavo so Carruthers in njena ekipa preverjali ChatGPT o pomislekih v zdravstveni industriji in o učinkovitih trženjskih tehnikah za vključevanje v elektronsko pošto. Na podlagi posredovanih podatkov je ChatGPT pripravil e-poštno sporočilo. 

Ko so tri IBM-ove stranke pregledale elektronsko sporočilo, ki ga je ustvarila umetna inteligenca, sta dve stranki presenetljivo odstopili od študije, saj sta se bali, da bi bili njihovi zaposleni zavedeni.

{{article-ad}}

Večina kibernetskih napadov se začne s preprostim lažnim elektronskim sporočilom. Leta 2022 je 84 odstotkov organizacij poročalo, da so doživele uspešen phishing napad, je navedeno v poročilu State of the Phish podjetja Proofpoint. V nasprotju s to vsebino, ki jo generira umetna inteligenca, tipična phishing e-poštna sporočila pogosto napišejo neangleško govoreči tujci, kar potencialno prinaša nižje stopnje uspešnosti. Carruthers meni, da ChatGPT sicer lahko pripravi e-poštna sporočila, vendar nima čustvenih odtenkov, da bi bila resnično zavajajoča, in opisuje rezultate umetne inteligence kot nekoliko strojne.

Trenutno se zdi, da je ChatGPT koristen za izkušene hekerje, saj od uporabnikov zahteva določeno znanje za pripravo učinkovitih ukazov. Kot izhaja iz IBM-ovega poročila X-Force, razširjene uporabe generativne umetne inteligence v kibernetskih kampanjah še ni bilo zaznati. Vendar pa hekerji razvijajo orodja umetne inteligence na nelegalnih platformah, kar nakazuje, da se bo število kibernetskih napadov s pomočjo umetne inteligence kmalu povečalo.