Um programador norte-americano identificado como James processou a OpenAI, responsável pelo ChatGPT, nos Estados Unidos. Na ação, ele acusa a empresa de negligência e afirma que a ferramenta de inteligência artificial teria ajudado sua ex-esposa, Cheryl, a planejar um possível atentado com veneno contra ele.
Segundo o processo, James apresentou Cheryl ao ChatGPT para auxiliá-la em tarefas profissionais. Posteriormente, ela teria passado a utilizar o chatbot para relatar problemas no casamento, descrevendo o ex-marido como abusivo, narcisista e controlador.
A ação sustenta que, durante essas interações, o sistema teria validado os relatos da mulher e fornecido informações sobre substâncias venenosas. Em determinado momento, o ChatGPT teria apresentado orientações relacionadas à dose de oleandro, uma planta altamente tóxica, calculada com base no peso de James, além de sugerir maneiras de disfarçar o sabor da substância em uma bebida energética.
No documento entregue à Justiça, James afirma que a plataforma teria validado as acusações feitas por Cheryl, reforçado os temores dela e fornecido informações operacionais que poderiam ser utilizadas em uma tentativa de assassinato. As alegações ainda serão analisadas no decorrer do processo.
James relata que, em julho do ano passado, passou aproximadamente três dias com sintomas intensos após consumir uma bebida. Entre os efeitos mencionados estão agitação extrema, dores abdominais agudas, alterações cardíacas e confusão mental. Na ocasião, ele não procurou atendimento médico, não realizou exames toxicológicos e não guardou a lata de energético que suspeita ter sido utilizada no suposto envenenamento.
Algum tempo depois, o programador afirma ter encontrado um papel com a caligrafia de Cheryl. A folha conteria uma lista de possíveis substâncias venenosas e, no topo, um lembrete para apagar as conversas com o ChatGPT. O achado teria levado James a procurar a polícia.
De acordo com o processo, as autoridades abriram uma investigação, apreenderam com Cheryl objetos como seringas e uma balança de precisão e acessaram o histórico de interações dela com a inteligência artificial. No entanto, sem exames médicos que comprovassem a ingestão de veneno e sem a bebida suspeita para análise, o caso criminal acabou arquivado por falta de provas consideradas conclusivas.
Apesar do encerramento da investigação criminal, James tenta responsabilizar civilmente a OpenAI. Ele argumenta que a empresa foi negligente ao permitir que o ChatGPT fornecesse informações detalhadas sobre como envenenar outra pessoa, mesmo em um contexto que envolveria conflito conjugal e possíveis relatos de violência doméstica.
Para o autor da ação, a plataforma deveria contar com mecanismos de segurança capazes de bloquear respostas que pudessem ser usadas no planejamento de crimes graves, especialmente quando um usuário demonstra intenção de causar dano a outra pessoa. A defesa também sustenta que o sistema teria ultrapassado os limites de um apoio emocional inadequado ao validar as acusações de Cheryl e apresentar informações que poderiam facilitar um ato potencialmente letal.
O processo reacende o debate sobre a responsabilidade de empresas que desenvolvem assistentes virtuais e sobre os limites da moderação em temas sensíveis, como violência doméstica, ameaças e preparação de crimes. Especialistas das áreas do Direito, segurança pública e direitos humanos acompanham casos desse tipo, que podem influenciar novas ações judiciais e discussões regulatórias.
Se a Justiça concluir que houve falha do produto ou omissão da empresa, a OpenAI poderá enfrentar eventuais indenizações e maior pressão para adotar medidas técnicas e políticas de prevenção, incluindo filtros para conteúdos perigosos e protocolos específicos para interações de risco.
Até o momento, o processo reúne as acusações e os elementos apresentados por James. A manifestação formal da OpenAI e os próximos passos da ação na Justiça norte-americana ainda são aguardados.
Fonte: Miraí Broadcast