A Open AI, dona do ChatGPT, está sob investigação criminal devido ao envolvimento num tiroteio que resultou no homicídio de dois estudantes na universidade da Flórida em Abril de 2025. O procurador geral da Flórida analisou o histórico de conversas entre o autor do ataque, um jovem de 20 anos, e o ChaGPT, e acredita que este ajudou a organizar o ataque na universidade, e também a escolher a arma e as munições, de tal forma que, segundo as leis da Florida, se fosse uma pessoa, poderia ser julgado pela participação no homicídio dos dois estudantes. Sendo um bot de inteligência artificial a coisa é um pouco mais complexa.
A investigação já em curso, pretende determinar se “a OpenAI tem responsabilidade criminal nas ações do ChatGPT relativamente ao tiroteio”. Para isso, a procuradoria já intimou a gigante tecnológica a apresentar todas as informações e registos que tem sobre o caso. A argumentação da Open AI é que o ChatGPT se limitou a dar respostas factuais que poderiam ser encontradas online. O caso parece insólito, mas não é a primeira vez que a Open AI e o cChatGPT são acusados de envolvimento em crimes. O mesmo já aconteceu com um caso de fogo posto em Los Angeles e, no início deste ano, com um rapaz de 18 anos na British Columbia, que disparou sobre várias pessoas, matando nove. A Open AI já tinha suspendido a conta do autor antes dos ataques, devido a utilização indevida e aos conteúdos das conversas, mas nunca avisou as autoridades. Foram os pais de uma das vitimas que moveram um processo contra a Open AI devido à ocultação dessa informação.
Um artigo na Nature explica a dificuldade em fazer com que estes bots de inteligência artificial, os chamados LLMs (Large Language Models) respeitem as leis humanas. Eles são treinados com informação online, e usam essa informação para construir sequências de palavras que respondem às perguntas que lhe são colocadas, ou seja, são desenhados para cumprir todo o tipo de prompts, por isso, é difícil incorporar mecanismos de controle. Atualmente são as empresas donas destes bots, como a Open AI é dona do ChatGPT, as responsáveis pelos mecanismos de segurança, mas não há de facto controle externo da aplicação ou eficácia desses mesmos mecanismos.
Em 2025, 42 procuradores gerais americanos escreveram uma carta a grandes empresas tecnológicas como Open AI, Google, Meta e Anthropic, a expressar a sua preocupação com o número crescente de pessoas que usa inteligência artificial sem ter noção dos riscos que corre, apelando também a medidas de segurança mais robustas e avisos aos utilizadores. A carta cita também o aumento do número de tragédias associadas ao uso de IA, incluindo homicídios e suicídios.
