MUNDO

Irônico, dono de IA diz que bombardeio de escola de meninas no Irã foi ‘erro e acontece’

Manifestação pelas meninas mortas em bombardeio dos EUA no Irã

Em uma entrevista à jornalista Emily Chang, no programa The Circuit da Bloomberg, Dario Amodei, CEO da Anthropic, foi confrontado com o impacto letal de sua tecnologia no mundo real.

O cerne do debate foi a revelação de que o modelo de inteligência artificial Claude está integrado ao Maven Smart System, uma plataforma de direcionamento de alvos da Palantir amplamente utilizada pelo exército dos EUA. No primeiro dia de operações militares americanas no Irã, um míssil atingiu uma escola para meninas na cidade de Minab, deixando um rastro de mais de 120 crianças e professores mortos.

A postura de Amodei diante da tragédia acende um sinal de alerta sobre a falta de controle e a frieza corporativa que imperam nos bastidores do Vale do Silício.

Questionado diretamente se o Claude desempenhou um papel na tragédia, Amodei adotou uma postura de distanciamento técnico e isenção de culpa. Embora tenha classificado as mortes como “uma coisa realmente terrível de acontecer”, o executivo minimizou o impacto ético do caso em relação às diretrizes de sua própria empresa:

“Nós não sabemos exatamente como esses modelos foram usados. E sabe, o que você está falando é um caso de uso que nem sequer viola nossas ‘linhas vermelhas’. Nós estamos preocupados que haja 100 vezes mais uso com casos que realmente violem nossas linhas vermelhas”, falou, com um sorriso sardônico.

O CEO escancara o abismo que separa as políticas de relações públicas das empresas de tecnologia da crueldade dos teatros de guerra modernos.

A terceirização da culpa

Diante da provocação da entrevistadora de que a escola possuía um site facilmente localizável no Google — o que deveria ter feito a IA filtrar o alvo —, Amodei usou o argumento da supervisão humana como um escudo para blindar a responsabilidade da Anthropic.

“O princípio que foi obedecido aqui é: um humano toma a decisão final. Eu não sei que papel o Claude ou qualquer outra IA teve, mas tipo, se isso não for uma ilustração de por que esse princípio é tão importante, eu não sei o que é”, declarou.

No atual desenho do sistema, ele prosseguiu, “um humano tomou aquela decisão final, não o Claude”. Essa lógica de descentralização da responsabilidade permite que os criadores de grandes modelos de linguagem (LLMs) vendam suas ferramentas para complexos militares sem carregar o peso jurídico ou moral das baixas civis.

A inteligência artificial agiliza, processa e formata a tomada de decisão em velocidades sobre-humanas, mas o “carimbo final” do soldado serve como salvo-conduto ético para a empresa de tecnologia.

O “marketing do medo” e as distrações de Hollywood

Indagado se a guerra por IA aceleraria ou evitaria a Terceira Guerra Mundial, Amodei preferiu se apoiar em referências cinematográficas.

“Você já viu ‘Dr. Fantástico’, certo? A premissa era tipo, você tem um dispositivo do juízo final que dispara armas nucleares automaticamente quando pensa que armas nucleares estão sendo disparadas contra ele. O que poderia dar errado? Acho que a forma como os conflitos acontecem é que os dois lados atacam um ao outro por incompreensão mútua”, disse.

Ao mesmo tempo em que hiperboliza o poder de mercado e a suposta “onipotência” da ferramenta — inflando a bolha financeira da IA —,  ele desvia a atenção pública de discussões urgentes e incômodas sobre como esses algoritmos já estão falhando e ceifando vidas no presente.

Artigos relacionados

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

Botão Voltar ao topo