Modelos generativos de inteligência artificial, como o ChatGPT da OpenAI, coletam continuamente dados que são utilizados para seu próprio aperfeiçoamento.
Vivaldo José Breternitz (*)
A Itália vê essa coleta de dados como uma possível violação da privacidade do usuário e, como resultado, baniu o ChatGPT no país, a princípio de forma temporária.
De acordo com as autoridades italianas, as duas principais preocupações que levaram à proibição são a falta de autorização dos usuários para coleta de seus dados e a falta de verificação de idade, que expõe as crianças a respostas que são “absolutamente inadequadas para sua idade e consciência”.
O fato que gerou o banimento foi um vazamento de dados ocorrido em 20 de março, que tornou públicas conversas de usuários do ChatGPT e informações sobre pagamentos efetuados pelos mesmos.
A OpenAI tem 20 dias para cumprir a ordem, caso contrário, pode ser multada em até 20 milhões de euros ou 4% do volume de seu faturamento anual em todo o mundo.
Este é mais um problema que os modelos generativos estão começando a enfrentar, após o sucesso estrondoso que obtiveram depois de terem sido lançados, ainda de forma experimental, no final de 2022.
Um problema ainda maior que o banimento pelas autoridades italianas, pode ser a manifestação de expoentes da área de tecnologia, entre outros o CEO da Tesla, Elon Musk, o cofundador da Apple, Steve Wozniak, e Emad Mostaque, CEO da Stability AI, que pediram às empresas que desenvolvem ferramentas como o ChatGPT que suspendam, por pelo menos seis meses, o treinamento das mesmas.
Segundo esses expoentes, seu pedido visa controlar os “profundos riscos à sociedade e à humanidade” que essas aplicações podem provocar; também pedem a intervenção dos legisladores americanos caso não sejam atendidos pelas empresas.
A partir de agora é provável que esses sistemas passem a enfrentar oposição cerrada, o que talvez seja bom para quase todos…
(*) Doutor em Ciências pela Universidade de São Paulo, é professor, consultor e diretor do Fórum Brasileiro de Internet das Coisas.
