Um Chevrolet Tahoe por 1 euro: a piada que devia tirar o sono à sua PME

Lembra-se daquele bot da Chevrolet que acabou por vender um carro por um dólar porque um utilizador lho pediu "por favor"? Rimo-nos muito com os memes, mas o que está por trás não tem graça nenhuma se for o senhor a pagar a fatura.

Muitos pensam que isso foi uma curiosidade dos primórdios da IA e que "isso já não acontece". Errado.

Hoje a IA é muito mais inteligente, mas também mais perigosa se lhe entregar as chaves de casa sem olhar. Imagine que esse mesmo bot, em vez de vender carros de brincar, tem permissão para executar processos na sua empresa: consultar faturas, mover dados de clientes ou aceder à sua base de dados de fornecedores.

Um agente mal configurado é um cavalo de Troia que o próprio convidou a entrar. Se um utilizador souber como "reprogramá-lo" em tempo real com um par de frases bem pensadas (a famosa prompt injection), pode fazer com que a sua IA execute processos que lhe custem milhares de euros ou, pior, que divulgue informação que afunde a sua reputação.

A armadilha da "pressa comercial"

Estamos a viver uma autêntica loucura. Parece que, se não implementar IA esta semana, a sua PME vai desaparecer amanhã. Essa pressão para "estar na moda" está a obrigar-nos a correr mais do que devíamos e, em cibersegurança, a pressa acaba sempre mal.

Não se trata de meter ferramentas só por meter. Não é comprar o brinquedo mais recente do mercado. A IA numa empresa não é apenas mais um software; é trocar o motor em pleno voo. E esse motor precisa de governação. Sim, soa a palavra aborrecida de consultor, mas na realidade significa três coisas muito básicas:

1. Estratégia: para que raio quer a IA? Se não souber o "para quê", não saberá onde estão os riscos.

2. Segurança dos dados e processos: tem de vigiar o que a IA lê, com quem fala e que permissões tem para "mexer" nos seus sistemas.

3. Proteção das pessoas: garantir que nem os seus colaboradores nem os seus clientes acabam vítimas de um algoritmo que falou demais.

Implementar IA sem uma estratégia de segurança por trás é como deixar a porta do armazém aberta porque instalou um sensor de luz muito moderno. Muito bonito, sim, mas estão a roubar-lhe a mercadoria enquanto admira o brilho do sensor.

Na Ciberseguridad 720 temos isto claro: a IA deve trabalhar para si, não contra si. E, para isso, antes de carregar no botão "instalar", é preciso pôr a casa em ordem.

Já parou para pensar se o seu novo bot é um aliado ou um bufo com acesso à sua conta bancária? Talvez seja altura de auditar o que se passa lá dentro antes que alguém lhe peça um carro por um euro… e o leve.