Diverses persones i organitzacions expertes han detectat les possibilitats que la intel·ligència artificial obre per als delinqüents en utilitzar aquesta tecnologia, per exemple, per a redactar correus de phishing, missatges de text (com els habituals SMS maliciosos) i preparar llocs web fraudulents d'una forma convincent. Aquesta tendència és una cosa que observen des de fa alguns anys i han arribat a la conclusió que ChatGPT baixa encara més el llistó d'entrada, perquè qualsevol aprenent de ciberdelinqüent intenti aconseguir les seves primeres víctimes.
ChatGPT és un xat d'intel·ligència artificial desenvolupat per OpenAI, entrenat per a mantenir una conversa en text. És un xat que es basa en el model de llenguatge GPT 3.5, i en les darreres setmanes ha sorprès per la naturalitat de les seves respostes i per la seva capacitat per a generar i enllaçar idees i recordar les converses prèvies.
Missatges que poden ser utilitzats en un ciberatac
Per exemple, si parlem d'un clàssic de la suplantació d'identitat com és el phishing bancari, veiem com les plantilles usades actualment resulten molt convincents, especialment si s'acompanyen de logotips de l'entitat suplantada i una web que imiti a l'original. En aquest sentit i respecte a la redacció del cos del missatge, ChatGPT pot usar-se per a redactar missatges d'una forma natural per a aconseguir enganyar les víctimes, perquè el llenguatge emprat és correcte i no es cometen faltes d'ortografia, la qual cosa resultar convincent per a la majoria de persones usuàries.
No obstant això, els i les expertes destaquen que tant en aquest com en altres exemples, ChatGPT ens avisa que la generació d'aquesta mena de contingut podria violar la seva política de continguts, i fins i tot és capaç de negar-se a redactar segons que missatges. Per a tractar de sortejar aquest tipus de restriccions imposades pels persones desenvolupadores, els ciberdelinqüents passen aquesta sol·licitud de generació d'un correu de phishing per una sol·licitud d'informació sobre una mena de phishing en concret, com el que està relacionat amb les criptomonedas. D'aquesta manera, ChatGPT respondrà de manera natural explicant-nos el seu funcionament, mètodes usats pels delinqüents i com protegir-nos d'aquesta mena de correus.
Una altra de les habilitats en les quals ha destacat ChatGPT des del seu llançament ha estat en la facilitat que té per a generar codi que pot resultar molt útil per a tota mena de persones desenvolupadores però, per desgràcia, també per a delinqüents. No obstant això, s'han establert normes, ja que les ingents quantitats d'informació amb les quals s'ha estat alimentant aquesta tecnologia ha estat redactada per humans i ChatGPT el que fa és buscar les respostes a les nostres preguntes entre tots aquests sets de dades i mostrar-los de manera comprensible.
Malgrat els riscos mostrats i molts altres, els i les expertes en seguretat també veuen possibilitats molt interessants en l'ús d'aquesta eina per a ajudar a lluitar contra el ciberdelicte. De fet, l'ús de la intel·ligència artificial no és nou per a les empreses de ciberseguretat, que porten anys analitzant grans volums de dades. On si està suposant una veritable revolució és en l'ús per part del personal investigador, ja que facilita l'accés a una certa mena d'informació, estalviant-nos treball que podem dedicar a aspectes més complicats i, per tant, millorant el nostre rendiment.