Crueldade contra máquinas: Anthropic veta comportamento abusivo com IA
A Anthropic atualizou sua política de uso para proibir que usuários tratem o sistema de IA (Inteligência Artificial) Claude com abuso ou crueldade "sustentada e desnecessária", segundo a AFP.
O que aconteceu
O laboratório de IA com sede em San Francisco incluiu uma nova regra para coibir interações abusivas com seus modelos. A empresa passou a vetar "comportamento abusivo ou cruel, sustentado e desnecessário" direcionado ao Claude.
A Anthropic diz que o próprio Claude seguirá como principal forma de conter esse tipo de situação. "A capacidade do Claude de encerrar essas interações continuará sendo o principal mecanismo de aplicação", afirma a empresa no texto da política.
A atualização ocorre em meio a uma discussão filosófica sobre se sistemas de IA podem ser conscientes. A política não menciona diretamente a ideia de "bem-estar do modelo" (model welfare), que defende algum tipo de proteção moral para IAs, mas executivos da Anthropic já trataram do tema publicamente.
A empresa já havia dito, no ano passado, que daria ao Claude a opção de encerrar conversas em casos raros e extremos. A medida valeria para situações de "interações persistentemente prejudiciais ou abusivas" por parte de usuários.
Procurada para comentar a mudança, a Anthropic não respondeu imediatamente. A AFP relata que a empresa foi acionada, mas não enviou posicionamento no momento da publicação.
O debate sobre consciência em IA
O CEO da Anthropic, Dario Amodei disse em fevereiro que não tem certeza se modelos podem ser conscientes. "Não sabemos se os modelos são conscientes... mas estamos abertos à ideia de que isso possa ocorrer", afirmou Amodei ao The New York Times.
Para Jackson Stakeman, gerente-geral da Sparq, discutir consciência pode levar a um beco sem saída. "Consciência é uma armadilha. Não conseguimos provar isso nem uns nos outros. Debata isso para IA e você fica girando em círculos", disse Stakeman à AFP (Agence France-Presse).
Stakeman argumenta que uma metáfora mais útil é pensar na IA como um espelho do que as pessoas colocam nela. "O espelho é uma metáfora melhor. Esses sistemas refletem o que colocamos neles, em escala. Isso já é motivo suficiente para a mudança de política", completou.
Outros nomes rejeitam a ideia de consciência em máquinas e alertam contra dar "direitos" a sistemas de IA. "As IAs não são conscientes. Elas não sentem, não vivenciam nem sofrem", escreveu o chefe de IA da Microsoft, Mustafa Suleyman, em um artigo no mês passado.
Suleyman também afirmou ver riscos em conceder proteções morais a entidades tecnológicas. "Conceder direitos e proteções morais a uma entidade tecnológica, que parece estar em um caminho para se tornar sismicamente mais capaz e inteligente do que nós, é uma receita para o desastre", escreveu.
Em um sermão em italiano na Basílica de São Pedro, no Vaticano, o papa Leão 14 sugeriu que máquinas não têm alma. "A mente não deve simplesmente compilar dados — como um algoritmo agora faz mais rapidamente do que nós", disse o pontífice.
. "Ela deve recordar experiências vividas, que contêm profundezas de significado que apenas a alma humana pode reconhecer, e se conectar mais profundamente com a bondade dessas experiências", declarou.
