Nova IA da Meta erra feio e deixa seu Instagram (mais) exposto a golpes

A , uma nova ferramenta de IA para criar e editar imagens que se integra ao Instagram - e, na prática, facilita que qualquer pessoa use fotos de perfis públicos para gerar montagens realistas com o seu rosto. O lançamento já chega cercado de alerta e indignação: para críticos, é uma "receita óbvia para o desastre" e uma "mina terrestre de privacidade" pronta para explodir.

O que aconteceu

*A Meta lançou o Muse Image, um modelo de IA voltado para gerar e editar imagens, disponível no app Meta AI e integrado ao Instagram e ao WhatsApp (com planos de chegar depois ao Facebook, Messenger e a ferramentas para anunciantes).

*No Instagram, a mudança mais sensível é esta: se sua conta é pública e você tem mais de 18 anos, outras pessoas podem marcar seu @ em um pedido para a IA e gerar imagens novas usando sua aparência - o que, na prática, abre caminho para deepfakes (montagens falsas, mas muito realistas).

*Em testes relatados por veículos que já usaram a ferramenta, bastou colocar o nome de usuário de um perfil público no pedido para criar uma imagem em menos de um minuto; quando o perfil era privado, a IA não completou a solicitação.

*A Meta diz que existe um controle para impedir esse tipo de uso, mas ele fica escondido nas configurações e funciona como opt-out (ou seja: você precisa ir lá e desligar).

*Segundo a própria ajuda do Instagram, você não recebe notificação quando alguém cria conteúdo usando suas fotos com recursos de IA da Meta - e imagens já geradas antes de você mudar a configuração não são apagadas automaticamente.

*A empresa afirma ter proteções para barrar conteúdo ilegal, abusivo ou difamatório, mas críticos lembram que pessoas mal-intencionadas costumam encontrar jeitos de contornar essas barreiras.

Como fazer o opt-out no Instagram (passo a passo)

Atenção: essa opção pode não aparecer para todas as pessoas ainda. A Meta está liberando gradualmente a nova ferramenta, começando pelos EUA.

*Abra o Instagram e vá em Configurações.

*Entre em Compartilhamento e reutilização ("Sharing and Reuse").

*Desligue a opção "Permitir que as pessoas reutilizem seu conteúdo no Instagram e com recursos de IA na Meta" ("Allow people to reuse your content on Instagram and with AI features at Meta").

*Ajuste o controle separadamente para Posts e Reels, se aparecerem como botões diferentes.

*Se sua conta for privada, a regra geral é que seu conteúdo não fica disponível para esse tipo de remix por outras pessoas.

IAgora?

A Meta está tentando alcançar concorrentes na corrida pela IA e parece ter conseguido. Dados de benchmark apontam que seu novo modelo de imagens é o segundo melhor da atualidade, atrás apenas do ChatGPT - e superando até o Google, que reinava sozinho nesse nicho há alguns meses.

Com um canhão de produtos (e dados) na sua mão, ela tem um poder de mercado gigante até para pessoas não familiarizadas com IA. Uma pessoa que nunca se interessou em abrir o ChatGPT não terá problemas em acessar o Meta AI dentro de plataformas que já usa como WhatsApp e Instagram.

O recurso de marcar usuários de perfis públicos, contudo, é extremamente problemático e um clássico uso errado de IA. Por mais que haja opt-out e limitações às gerações feitas, é um prato cheio para golpistas e assediadores - o próprio X sofreu processos por usuários criarem imagens pornográficas de outras pessoas sem autorização.

O que o mundo está dizendo sobre isso

Se você tem uma conta pública, precisa mudar suas configurações agora para evitar virar, sem querer, o assunto das criações de IA de qualquer pessoa.
CNET

Uma receita óbvia para o desastre.
Foxglove (via BBC)

É o mais recente sinal de que empresas de IA veem as imagens e os dados das pessoas como matéria-prima a ser explorada.
Privacy International (via BBC)

De todos os aspectos desse lançamento que me deixam desconfortável, nem receber uma notificação quando alguém faz isso parece o maior sinal de alerta de todos.
Wired

Opinião

Texto em que o autor apresenta e defende suas ideias e opiniões, a partir da interpretação de fatos e dados.

** Este texto não reflete, necessariamente, a opinião do UOL.