Microsoft i OpenAI informen que els pirates informàtics estan utilitzant ChatGPT per millorar els ciberatacs Dijous, Febrer 15, 2024

Microsoft i OpenAI han revelat que els pirates informàtics ja utilitzen grans models de llenguatge com ChatGPT per perfeccionar i millorar els seus ciberatacs. En investigacions recentment publicades, Microsoft i OpenAI han detectat intents de grups russos, Corea del Nord, iranians i xinesos que usen eines com ChatGPT per investigar objectius, millorar els scripts i ajudar a crear tècniques d'enginyeria social.

"Grups ciberdelinqüents estan explorant i provant diferents tecnologies d'IA en un intent d'entendre el valor potencial de les seves operacions i els controls de seguretat que poden haver d'eludir", ha publicat al seu bloc Microsoft.

S'ha trobat que el grup Strontium, vinculat a la intel·ligència militar russa, fa ús de LLM "per entendre protocols de comunicació per satèl·lit, tecnologies d'imatge de radar i paràmetres tècnics específics". El grup de pirateria informàtica, conegut també com a APT28 o Fancy Bear, ha estat actiu durant la guerra entre Rússia i Ucraïna i anteriorment va participar en la campanya presidencial de Hillary Clinton el 2016.

Aquest grup també ha estat usant LLM per ajudar amb "tasques bàsiques de scripting, inclosa la manipulació de fitxers, la selecció de dades, les expressions regulars i el multiprocessament, per automatitzar o optimitzar potencialment les operacions tècniques", segons Microsoft.

Un altre grup de pirates informàtics de Corea del Nord, conegut com a Thallium, ha estat fent servir LLM per investigar vulnerabilitats denunciades públicament i organitzacions dirigides, per ajudar en les tasques bàsiques de scripting i per redactar contingut per a campanyes de pesca. Microsoft ha informat que el grup iranià conegut com a Curium també ha estat fent ús de LLM per generar correus electrònics de pesca i fins i tot codi per evitar la detecció per part d'aplicacions antivirus. Addicionalment, els pirates informàtics xinesos afiliats a l'estat també usen LLM per a investigacions, scripts, traduccions i per refinar les seves eines existents.

Hi ha hagut temors sobre l'ús de la IA en ciberatacs, sobretot perquè han sorgit eines d'IA com WormGPT i FraudGPT per ajudar a la creació de correus electrònics maliciosos i eines de cracking. Un alt funcionari de l'Agència de Seguretat Nacional també va advertir el mes passat que els pirates informàtics estan fent servir IA per fer que els seus correus electrònics de pesca semblin més convincents.

Microsoft i OpenAI encara no han detectat cap "atac significatiu" amb LLM, però les empreses han tancat tots els comptes i actius associats a aquests grups de pirateria. "Al mateix temps, creiem que és una investigació important per publicar per exposar els moviments incrementals en fase inicial que observem actors d'amenaces coneguts que intenten i compartir informació sobre com els bloquegem i contrarestar-los amb la comunitat de defensors", ha explicat Microsoft.

El gegant informàtic està creant un Security Copilot, un nou assistent d'IA dissenyat perquè els professionals de la ciberseguretat identifiquin les infraccions i entenguin millor la gran quantitat de senyals i dades que es generen a través de les eines de ciberseguretat diàriament. El gegant del programari també està revisant la seva seguretat del programari després dels principals atacs al núvol d'Azure i fins i tot de pirates informàtics russos que espien els executius de la companyia.

« Enrere