#BanhoDeSangue

As preocupações de Dario Amodei, CEO da Anthropic, com o avanço da Inteligência Artificial

A chamada que causou um frisson geral na semana passada foi:

Por trás da cortina. Um banho de sangue de colarinhos brancos.

Mais uma vez, a Axios fura a bolha da imprensa tradicional e traz uma entrevista exclusiva com Dario Amodei, CEO da Anthropic (leia-se Google e Amazon, a empresa do Claude, concorrente do ChatGPT), um dos três caras que mais entende de Inteligência Artificial no mundo.

A chamada em destaque é o título da entrevista em que, Amodei, valendo-se de uma franqueza quase inocente, destaca suas três preocupações:

Primeiro: OpenAI, Google, Anthropic e outras grandes empresas de IA continuam aprimorando significativamente suas capacidades em modelos de linguagem, alcançando e superando o desempenho humano em um número cada vez maior de tarefas. Isso está acontecendo. E está acelerando.

Segundo: o governo dos EUA, preocupado em perder terreno para a China ou em alarmar os trabalhadores com alertas prematuros, fala pouco sobre o tema. A administração e o Congresso norte-americanos nem regulam a IA, nem alertam o público. Isso também está acontecendo e não dá sinais de mudança.

Terceiro: a maioria dos americanos, alheia ao crescente poder da IA e à ameaça que ela representa para seus empregos, presta pouca atenção ao assunto.

Pois bem. Pergunto: a intervenção a seguir faz eco ao alerta de Amodei?

Acho que, quando os meios tecnológicos e científicos aplicados são desenvolvidos, eles simplesmente tendem a ser usados. Pode-se dizer que toda a história recente, em relação à ciência e à tecnologia, mostra que, se você planta a semente da ciência aplicada ou da tecnologia, ela prossegue crescendo — e cresce segundo as leis de sua própria natureza.

E as leis da natureza da tecnologia não são necessariamente as mesmas das leis da nossa natureza. Daí esse sentimento, que tantas pessoas têm, e que se vê em tantas sociedades: a sensação de que o ser humano está sendo submetido às suas próprias invenções — de que agora é vítima de sua própria tecnologia, vítima da sua própria ciência aplicada, em vez de estar no controle dela.

O diagnóstico está certíssimo. Ainda mais porque vem de Aldous Huxley, em 1961!