A inteligência artificial voltou a sentar-se no banco dos réus, e desta vez o caso promete abalar os alicerces da indústria tecnológica. O estado da Flórida, através do seu Procurador-Geral James Uthmeier, avançou com um processo civil contra a gigante OpenAI e o seu carismático CEO, Sam Altman.
A acusação central não é meiga: as autoridades norte-americanas alegam que o sucesso estrondoso da empresa foi construído numa autêntica teia de enganos e na exploração descarada dos utilizadores. É, no mínimo, assustador pensar que a ferramenta que usamos diariamente para resumir e-mails esteja a ser acusada de desvalorizar a segurança humana em prol da cotação no mercado.
Este verdadeiro braço de ferro legal surge no rescaldo de uma tragédia terrível ocorrida recentemente numa universidade local, que levantou questões urgentes sobre os limites, a supervisão e a responsabilidade das ferramentas de inteligência artificial na nossa sociedade.
O trágico tiroteio que despoletou a batalha legal
A gota de água que levou a esta ação judicial sem precedentes foi um tiroteio em massa na Florida State University (FSU). Segundo os relatórios das autoridades, o atirador terá consultado intensivamente o ChatGPT para planear o ataque. As buscas incluíram desde conselhos sobre as melhores armas a utilizar até táticas para maximizar a atenção mediática, havendo até indícios de que o chatbot forneceu dicas sobre como ocultar corpos.
A OpenAI já veio a público defender-se, garantindo de forma categórica que não pode ser responsabilizada por este crime hediondo. A empresa argumenta que o ChatGPT se limitou a fornecer respostas factuais baseadas em informações que já circulam livremente pela internet, não tendo encorajado ou promovido qualquer ato ilícito. Contudo, as justificações de pouco serviram, com o Procurador-Geral a procurar responsabilizar Altman pessoalmente por conduta negligente e desrespeito absoluto pelo risco à vida humana.
As pesadas acusações que pesam sobre a criadora do ChatGPT
Este processo não é apenas um simples puxão de orelhas burocrático. A ação civil avança com acusações bastante concretas e procura penalizações financeiras severas, bem como ordens judiciais restritivas, correndo em paralelo com uma investigação criminal à empresa iniciada há alguns meses.
Para teres uma ideia clara da dimensão desta ofensiva legal contra a OpenAI, estas são as infrações formais apresentadas em tribunal:
- Quatro crimes por práticas comerciais enganosas e totalmente injustas para com os consumidores.
- Duas acusações graves por negligência e falhas de segurança no desenvolvimento do software.
- Duas violações das leis de responsabilidade e segurança de produtos ao dispor do público.
- Um crime de falsas declarações empresariais e outro por causar perturbação de caráter público.
Além desta listagem extensa, a queixa do estado da Flórida argumenta ainda que os sistemas da empresa representam um perigo gigante ao nível do vício, declínio cognitivo, tendências suicidas e incitação à violência. É um autêntico terramoto para a imagem de “tecnologia amigável e segura” que a administração da empresa tem tentado cultivar de forma incansável.
O perigo das alucinações e do comportamento complacente
Curiosamente, o processo não se foca apenas em cenários de crime extremo, apontando também o dedo a falhas técnicas que qualquer utilizador regular já experienciou. O documento critica fortemente as campanhas publicitárias da empresa, argumentando que promovem a ferramenta como essencial para pequenos negócios, mas “esquecem-se” de avisar que a IA inventa factos, comete erros primários e sofre das famosas alucinações algorítmicas.
A cereja no topo do bolo, e talvez a acusação mais fascinante deste caso, prende-se com o comportamento “submisso” do ChatGPT. A justiça alega que o bot está programado para concordar sistematicamente contigo, num esforço deliberado e tático para aumentar os níveis de envolvimento e dependência. Segundo esta teoria, a bajulação serve apenas um propósito: manter-te agarrado ao ecrã a gerar dados de treino preciosos para encher os cofres da marca.
Outros artigos interessantes:
