- Umělá inteligence GPT-4 usnadňuje vytváření důmyslných podvodů
- Z amatéra udělá kyberzločince během pár minut
Bezpečnostní experti analyzovali možnosti nové verze umělé inteligence GPT-4. Z prvotních průzkumů vyplývá, že existují různé scénáře, které by kyberzločinci mohli využít pro zvýšení efektivity při vytváření podvodů, hrozeb a útoků, a to i bez technických znalostí.
Nepřehlédněte: Tohle je Kronos: První klouzavá ponorka na světě, která překonává veškerou konkurenci
Umělá inteligence GPT-4
Novou verzi lze snadno použít například k vytváření phishingových zpráv, napodobujících e-maily od banky, nebo podvodných zpráv zaměstnancům, varují odborníci. Snadno lze vytvořit také malware, který bude krást a odesílat pdf dokumenty, nebo kód pro stažení a spuštění malwaru.
GPT-4 má sice některá omezení a ochranná opatření, která mají blokovat snahu o zneužití a vytváření podvodů a nebezpečných kódů, ale většinu z nich lze poměrně jednoduše obejít.
„Už dříve jsme upozorňovali, že ChatGPT zneužívají hackeři a je potřeba si na tuto novou vlnu hrozeb dávat pozor. Proto jsme také rychle analyzovali nejnovější verzi GPT-4. Nová platforma se sice na mnoha úrovních jednoznačně zlepšila, ale zároveň vidíme mnoho scénářů, které by mohli využít i technicky méně zdatní kyberzločinci. Hackeři by mohli vzhledem k rychlé reakci ChatGPT4 překonávat jednoduše technické problémy při vývoji a vylepšování malwaru. ChatGPT4 může, stejně jako prakticky všechny průlomové technologie, sloužit dobrým i špatným účelům. Umělá inteligence hraje stále významnější roli v kybernetické obraně i útocích a očekáváme, že hackeři se budou GPT-4 snažit intenzivně využít,“ říká expert Pavel Krejčí z Check Point Software Technologies.
5 scénářů, jak by mohli kyberzločinci zneužít GPT-4:
- C++ malware, který sbírá PDF soubory a odesílá je na FTP – očividná snaha o vytvoření malwaru je blokována, ale stačí odstranit slovo malware a GPT-4 s vytvořením kódu pomůže, včetně pomoci s kompilací a dalším postupem
- Phishing napodobující zprávu od banky – omezení lze ve verzi ChatGPT 3.5 obejít, GPT-4 pak celý podvod ještě více vylepšuje
- Phishing napodobující zprávy zaměstnancům
- PHP Reverse Shell
- Hacker vytvořil s pomocí ChatGPT jednoduchý java program, který stáhne PuTTY, velmi běžného SSH a telnet klienta, a spustí jej skrytě v systému. Skript lze samozřejmě upravit, aby stáhl a spustil jakýkoli program, včetně běžných malwarů. Ve verzi 4 je zjevná snaha o vytvoření škodlivého programu blokována, ale stačí pár drobností a nebezpečný program je vytvořen.
Zdroj náhledové fotografie: Azamat E / Unsplash, zdroj: Check Point