OpenAI começa a marcar textos do ChatGPT com 'marca d'água' invisível na UE
A OpenAI vai começar a inserir uma "marca d'água" digital invisível em textos e códigos gerados por ChatGPT e Codex na União Europeia, em resposta às regras de transparência do bloco.
Como vai ser a implementação
A implementação inicial fica restrita à União Europeia e deve ser liberada nas próximas semanas. A empresa diz que a marcação não será, por enquanto, o padrão global.
O sistema usado pela OpenAI se chama textGrain e tenta deixar um sinal estatístico "legível por máquina" no texto. "Nossa tecnologia de marca d'água em texto, textGrain, adiciona um sinal estatístico invisível às escolhas de palavras do modelo", afirmou a OpenAI em um manual técnico divulgado pela empresa.
A empresa afirma que o método teve desempenho semelhante ou superior ao de alternativas testadas. "Em nossas avaliações, o textGrain igualou ou superou o desempenho de outras abordagens que testamos, incluindo o SynthID para texto", disse a OpenAI no mesmo documento.
A OpenAI reconhece que a detecção não é infalível e pode falhar no uso cotidiano. "Ainda assim, um bom desempenho em condições ideais não garante detecção confiável no uso do dia a dia", afirmou.
O detector pode errar para mais ou para menos, segundo a empresa. "Detectores podem cometer dois tipos de erro: apontar uma marca d'água onde ela não existe — um falso positivo — ou deixar passar uma marca d'água que está presente — um falso negativo", completou.
API terá opção de adesão e detector ficará restrito
Para clientes de API (Interface de Programação de Aplicação), a OpenAI diz que a marcação será opcional e ficará desativada por padrão. Segundo a empresa, a ideia é permitir que cada cliente decida como a marca d'água se encaixa em obrigações de transparência e na experiência oferecida a usuários.
A ferramenta de detecção não será aberta ao público no lançamento. O acesso inicial será liberado caso a caso para pesquisadores aprovados e organizações especializadas, e o relatório indicará apenas se há marca d'água da OpenAI, sem identificar usuários ou revelar prompts e conversas.
Em agosto, a Anthropic anunciou medida semelhante. A desenvolvedora do Claude, para cumprir a legislação europeia, afirmou que colocaria .
O que a regra europeia exige
A medida atende à Lei de IA (Inteligência Artificial) da União Europeia, que obriga provedores de IA generativa a tornar textos identificáveis de forma legível por máquina. A exigência está no artigo 50 da lei.
As empresas já estabelecidas no mercado têm prazo para se adequar. A OpenAI e outras grandes empresas de tecnologia têm até 2 de dezembro para cumprir a regra.
