Europol upozorava da kriminalci već uvelike koriste ChatGPT

Tekst članka se nastavlja ispod banera

Osim što su oko ChatGPT-a i sličnih jezičnih modela zabrinuti oni, kojima bi takvi sustavi mogli preuzeti radna mjesta, njihove napredne mogućnosti zabrinjavaju i agencija i organizacije zadužene za provođenje zakona.

Upravo uslijed sve veće pozornosti, koju javnost pridaje jezičnim modelima umjetne inteligencije, Europol je u svojem Innovation Labu organizirao niz radionica, s ciljem da njihovi stručnjaci istraže kako se ChatGPT koristi u kriminalne svrhe, javlja Bug.

Smatraju da će ovo istraživanje pomoći njihovim istražiteljima u svakodnevnim zadacima, jer će ih upoznati s novim malicioznim praksama. Izvješće proizašlo iz ovih radionica dostupno je i javnosti.

Tamna strana jezičnih modela

Kako rastu mogućnosti i područja primjene velikih jezičnih modela, njihova potencijalna primjena za zlonamjerne radnje također raste, a ono što u Europolu vide u budućnosti je zabrinjavajuće. Njihovi stručnjaci istaknuli su nekoliko područja, gdje bi AI sustavi mogli donijeti najviše promjena.

Kao prvo, tu su prevare i socijalni inženjering, pri čemu ChatGPT i slični sustavi omogućavaju stvaranje uvjerljivih tekstova, koji se potom koriste za phishing ili zavaravanje žrtava. Kriminalci sada lakše mogu uvjeriti svoje žrtve da one komuniciraju sa stvarnim osobama, a potom od njih izvući potrebne podatke, novac i slično.

Drugo istaknuto područje tiče se dezinformacija, budući da jezični modeli vrlo lako i brzo stvaraju uvjerljive tekstove sa željenim narativom i ne uvijek činjenično točnim informacijama. Naposlijetku, ističe se i klasični kibernetički kriminal, budući da ChatGPT ima i mogućnost stvaranja programskog koda. Već je primijećeno da se njime koriste hakeri, koji sada i bez mnogo tehničkog znanja mogu razviti maliciozne aplikacije.

Zaključci i preporuke

Kako će rasti prihvaćenost jezičnih modela i kako se njihov broj bude povećavao, Europol predviđa da će policije i istražitelji u cijelom svijetu morati postati svjesniji njihovih mogućnosti, kako bi bili u stanju predvidjeti i spriječiti zloupotrebu.

Kad je riječ o preporukama, Europol savjetuje prije svega podizanje svijesti o malicioznim primjenama ChatGPT-a i srodnih alata, za što se dokazi već mogu vidjeti u praksi. Istražitelji moraju već sada početi razvijati vještine, koje će im omogućiti prepoznati i spriječiti različite oblike kriminalne zloupotrebe velikih jezičnih modela. Tehnološki sektor, pak, i oni koji ulažu u ovakve sustave, morali bi u njih ugraditi, i konstantno unaprjeđivati sigurnosne mehanizme za borbu protiv neželjenih primjena.