81 views 5 mins

O verdadeiro “apocalipse” das IAs, e como reagir a ele

em Destaques
segunda-feira, 31 de julho de 2023

Luiz Faro (*)

Nos últimos tempos, o avanço e popularização das Inteligências Artificiais Generativas tem gerado as mais diversas reações, tanto de especialistas como do público em geral. Alguns se preocupam em como essas ferramentas têm o potencial de os substituírem no mercado de trabalho, enquanto executivos já começam a analisar as melhores formas de usarem as IAs para gerarem melhores resultados nos negócios. Já muitos outros temem que cenários apocalípticos inspirados no cinema estejam se tornando cada vez mais reais.

Na conjuntura atual, parece pouco provável que vejamos robôs destruidores patrulhando as ruas, ou uma IA que decida se rebelar e ativar os códigos nucleares das principais potências globais. Mas isso não quer dizer que o risco não exista, ele só assume uma outra forma: a de ataques cibernéticos 100% feitos via Inteligência Artificial.

Podemos usar o popular ChatGPT para exemplificar o que estamos falando. Casos recentes mostram que a ferramenta possui mecanismos internos para que ela evite passar informações indevidas, como o código de um malware, mas são mecanismos que podem ser driblados. Induzindo a IA ao fato de que o cibercriminoso é somente o protagonista de um romance sendo escrito, por exemplo.

Isso já liga o alerta para aquele que talvez seja o maior perigo representado por IAs desse tipo: elas têm o potencial de substituírem completamente o “trabalho braçal”. O criminoso não precisa mais de todo o conhecimento técnico necessário para executar o ataque, basta saber direcionar a ferramenta com os comandos certos, e a velocidade e escala dos ataques atingirão níveis jamais vistos. A máquina não precisa de descanso, tampouco cometerá erros por desatenção.

Existe ainda outro ponto que precisamos levar em consideração: essas IAs estão em constante aprendizado, sempre alimentando sua base de dados com novas informações. Pensando apenas em um potencial uso, a ferramenta pode analisar minuciosamente o ecossistema de segurança de uma empresa alvo, à procura de vulnerabilidades não achadas por um humano, e se adaptar às defesas já existentes.

Se tudo isso já parece preocupante o suficiente, estamos apenas olhando a ponta do iceberg. Basta pensarmos nos inúmeros conteúdos que temos visto nas redes sociais, onde a IA replica a imagem e/ou som de uma figura pública, em tom humorístico. Imagine isso sendo utilizado para forjar o sequestro de alguém. Ouvindo a voz (artificial) de seu ente querido do outro lado da linha, a família ignorará o risco?

Algo pode ser feito? Bom, como vimos, as IAs não são exatamente figuras maléficas que, contrariadas, entrarão em guerra com a humanidade. Então, assim como são armas poderosas nas mãos de criminosos, podem ser para nós também. Sistemas de detecção e resposta a incidentes baseados inteiramente em IA; o uso da ferramenta para um monitoramento constante do perímetro; parcerias com empresas especializadas que ofereçam soluções personalizadas à sua necessidade.

E, claro, o fator humano. Além das dicas primordiais de cuidados com o ambiente digital, é de suma importância conscientizar os colaboradores dos padrões de ataque de uma ameaça de IA. A ferramenta pode ser de extrema utilidade, mas não se manuseada incorretamente por seus beneficiários.

Não é correto dizermos que a ameaça dos ataques cibernéticos 100% gerados por Inteligência Artificial é iminente, pois já é uma realidade em curso. Usá-la para nos proteger dos ataques que ela mesma pode produzir é um caminho, mas que depende de fenômenos, por enquanto, exclusivamente humanos: inovação e criatividade.

(*) É Diretor de Engenharia de Sistemas da Forcepoint.