Everything is a system, every system can be hacked, and humans are natural hackers

Bruce Schneier 

 

Da mesma forma como pode ajudar na defesa cibernética, a IA também oferece novos e poderosos recursos para os hackers e outros agentes maliciosos executarem ataques diversos em pessoas, organizações ou nações inteiras (ataques contra infraestruturas e sistemas críticos).

 

Por exemplo, aplicações de IA Generativa associadas com GANs (Redes Generativas Adversárias) podem alavancar os ataques de phishing e Engenharia Social. Com a evolução dos sistemas generativos, são esperados muitos ataques de falsificação de identidade. A capacidade de geração de vídeos falsos altamente realistas (deep fakes) por IA pode ser explorada de diversas formas, tais como a disseminação de um falso vídeo de um alto executivo de uma organização solicitando que alguém da empresa transfira dinheiro.  Também se espera um aumento expressivo nas fraudes usando voz (áudios falsos ou adulterados gerados por IA).

 

A Microsoft e a OpenAI já alertaram que hackers estão utilizando aplicações de IA baseadas em grandes modelos de linguagem (LLM) como o ChatGPT para aprimorar ataques cibernéticos. Também estão surgindo na Dark Web variações malignas do ChatGPT, como o WormGPT e FraudGPT.