Cinco milhões de dólares para saber se a conversa com a IA faz mal

No dia 25 de agosto a Anthropic abriu um edital de cinco milhões de dólares. Dinheiro, acesso ao Claude e apoio técnico para pesquisadores de fora montarem um teste aberto de bem-estar. O resultado vira código aberto, qualquer laboratório pode usar. A empresa diz, no próprio texto, que a setor ainda não tem um padrão claro para quando as pessoas buscam companhia no modelo (a "IA"), ou quando usam a conversa quando estão passando por crises.

O exemplo que ela mesma dá é simples. Pedir dicas de dieta pode ser seguro. No entanto, quando nas conversas com a IA aparecem padrões de compulsão, a mesma dica sobre dieta vira um problema. E crise quase nunca chega no primeiro recado: o risco aparece no meio da prosa. Um teste de uma pergunta só não vê isso.

A empresa procura pessoas de fora da bolha do modelo: clínicos, psicólogos, quem sabe avaliar pessoas de verdade. O teste tem que dizer o que é passar e o que é falhar. Tem que medir o excesso de cuidado também: um modelo que só manda desculpas e telefones de emergência, na hora em que a pessoa precisa de conversa, também erra.

As inscrições vão até 21 de setembro. Quem passar nessa peneira recebe convite para o projeto completo até 5 de outubro.

Em contraponto, a AI Herald leu o mesmo anúncio e apontou o que a empresa admite em público: ainda não dá para saber se o sistema ajuda ou machuca quem mais conversa. A Dealroom encaixou o edital na reta de IPO da Anthropic: confiança como vantagem, não só caridade. Os dois cabem juntos. Quem paga o estudo é a dona do modelo. Quem publica, se o edital valer o que escreve, é gente que não precisa do carimbo dela.