Pais processam OpenAI por não avisar sobre atiradora de ataque no Canadá

Famílias de vítimas de um ataque a tiros em uma escola no Canadá processam a OpenAI e o CEO Sam Altman, acusando a empresa de não ter avisado autoridades sobre sinais de violência em conversas no ChatGPT.

O que aconteceu

Ações foram apresentadas em um tribunal federal de San Francisco e citam sete vítimas. Os processos afirmam que funcionários da OpenAI identificaram a conta da atiradora oito meses antes do ataque e classificaram o caso como "uma ameaça crível e específica de violência armada contra pessoas reais", mas a empresa optou por apenas desativar o perfil.

Famílias dizem que a equipe interna de segurança pediu que a liderança comunicasse a polícia canadense. Segundo as petições, Altman e outros executivos foram informados do risco e decidiram não acionar as autoridades, o que embasa acusações como negligência, responsabilidade por produto e morte por ato ilícito.

OpenAI afirma que reforçou salvaguardas após o caso. Em nota a jornais internacionais, a empresa afirma que tem tolerância zero para abusos.

Os eventos em Tumbler Ridge são uma tragédia. Temos tolerância zero para o uso de nossas ferramentas para ajudar a cometer violência. Como compartilhamos com autoridades canadenses, já fortalecemos nossas proteções, incluindo melhorar como o ChatGPT responde a sinais de sofrimento, conectar pessoas a apoio local e recursos de saúde mental, reforçar como avaliamos e escalamos ameaças potenciais de violência e melhorar a detecção de reincidentes
Comunicado da OpenAI

Pedido de desculpas de Altman entrou no caso como contexto

As ações citam que Altman enviou recentemente à comunidade pedindo desculpas por não ter alertado a polícia. "Embora eu saiba que palavras nunca serão suficientes, acredito que um pedido de desculpas é necessário para reconhecer os danos e a perda irreversível que sua comunidade sofreu", escreveu.

O CEO também disse que pretende buscar formas de evitar novas tragédias. "Reafirmo o compromisso que assumi com o prefeito e o primeiro-ministro de encontrar maneiras de evitar tragédias como essa no futuro", afirmou na carta.

O primeiro-ministro da Colúmbia Britânica, David Eby, reagiu dizendo que a carta não basta. "O pedido de desculpas é necessário e, ainda assim, grosseiramente insuficiente para a devastação causada às famílias de Tumbler Ridge", escreveu em rede social.

Advogados das famílias dizem que esta é a primeira leva de ações e que outras podem ser apresentadas. Ao The Guardian, o advogado Jay Edelson afirmou: "O fato de Sam e a liderança terem ignorado a decisão da equipe de segurança e, então, pessoas morrerem, a cidade inteira ser arruinada, para mim chega bem perto da definição de mal".

Os processos também contestam a eficácia do banimento da conta e dizem que a atiradora teria conseguido voltar à plataforma. A OpenAI, por sua vez, afirma que só soube de uma segunda conta após o ataque.

Como foi o ataque à escola no Canadá

O ataque ocorreu em 10 de fevereiro, em Tumbler Ridge, na província de Colúmbia Britânica. A atiradora, identificada como Jesse Van Rootselaar, de 18 anos, .

Ao todo, nove pessoas morreram e dezenas ficaaram feridas. Antes de ir à escola, a atiradora matou a mãe e o irmão de 11 anos em casa. Na escola, as vítimas incluíram crianças de 12 e 13 anos e uma assistente de ensino de 39 anos; depois, a atiradora se matou.

Uma das sobreviventes, Maya Gebala, de 12 anos, ficou internada em estado grave após ser baleada. Os advogados das famílias disseram que ela passou por quatro cirurgias no cérebro e pode ter sequelas permanentes se sobreviver.