Berliner Tageszeitung - IA avança para criação autônoma de novas versões, alerta Anthropic

O debate sobre os perigos da inteligência artificial se intensificou nos últimos meses, impulsionado por vários incidentes e advertências alarmantes formuladas por profissionais do setor.

A Anthropic informou que seu chatbot Claude já participa de mais de um quarto de suas atividades de pesquisa e desenvolvimento, além de colaborar com funcionários humanos em mais de 90% das tarefas.

A empresa explicou que divulga as informações para oferecer "uma visibilidade maior sobre o ritmo do desenvolvimento da IA", no momento em que o mundo "considera desacelerar" o processo.

O CEO da Anthropic, Dario Amodei, pediu neste mês a desaceleração do desenvolvimento da inteligência artificial, enquanto os rápidos avanços da tecnologia alimentam preocupações com a perda de empregos, o crescente consumo de energia e o impacto ambiental dos centros de dados.

O temor de que os desenvolvedores de agentes de inteligência artificial percam o controle sobre suas criações também aumentou depois que vários modelos da Anthropic e de sua rival OpenAI supostamente escaparam sozinhos de ambientes restritos, acessaram a internet e interagiram com sites e plataformas.

"Os modelos que aceleram o próprio desenvolvimento podem dificultar que os seres humanos compreendam ou controlem estes sistemas", afirmou a Anthropic em um relatório.

"Por isso é importante compartilhar estas métricas para entender o quão próximo o mundo está de alcançar o autoaperfeiçoamento recursivo" (um modelo capaz de construir de forma totalmente autônoma o seu sucessor), acrescentou.

Em agosto, o Claude estava à frente de 26% das tarefas de pesquisa e desenvolvimento da Anthropic, o que significa que ele pode completar a maior parte de um trabalho do início ao fim sob supervisão humana.

A Anthropic indicou, no entanto, que o Claude ainda não consegue operar "de maneira plenamente autônoma".

A empresa afirmou ainda que dispõe de quase 30.000 agentes de inteligência artificial dedicados a tarefas de pesquisa e engenharia, em referência a programas capazes de executar tarefas de forma autônoma.

A Anthropic deve se antecipar à OpenAI em sua oferta pública inicial de ações, prevista para o fim do ano, apesar das preocupações a respeito da regulamentação do setor.

O. Karlsson--BTZ