Berliner Tageszeitung - Especialista em computação adverte que corrida da IA ameaça sobrevivência humana

Russell, professor da Universidade da Califórnia, em Berkeley, disse que os líderes das maiores companhias de IA do mundo têm consciência dos perigos representados por sistemas superinteligentes, capazes um dia de superar os humanos.

Segundo ele, a responsabilidade de salvar a espécie recai sobre os líderes mundiais, que podem agir de forma coletiva.

"Permitir que entidades privadas joguem essencialmente roleta russa com cada ser humano na Terra é, na minha opinião, um abandono total do dever", declarou Russell, voz proeminente na área de segurança em IA.

Países e empresas estão investindo centenas de bilhões de dólares na construção de centros de dados de alto consumo de energia para treinar e operar ferramentas de IA generativa.

Essa tecnologia, que se desenvolve em ritmo acelerado, promete benefícios como a descoberta de medicamentos, mas também pode provocar perda de empregos e abusos on-line.

Além disso, existe o risco de que "os próprios sistemas de IA assumam o controle e a civilização humana seja um dano colateral nesse processo", afirmou Russell em entrevista durante a AI Impact Summit, em Nova Délhi.

"Acho que cada um dos presidentes das principais companhias de IA quer desarmar [interromper o progresso da IA], mas não pode fazê-lo de maneira unilateral, porque os investidores os demitiriam", acrescentou.

"Alguns disseram isso publicamente e outros me confessaram em privado", afirmou, destacando que até Sam Altman, diretor da empresa criadora do ChatGPT, OpenAI, declarou publicamente que a IA pode levar à extinção humana.

A OpenAI e a startup americana rival Anthropic registraram demissões públicas de funcionários que manifestaram preocupações éticas.

A Anthropic também alertou na semana passada que seus modelos mais recentes de chatbot podem ser "influenciados para apoiar, de maneira consciente, mas limitada, esforços voltados ao desenvolvimento de armas químicas e outros crimes atrozes".

- Imitadores humanos -

Reuniões internacionais como a cúpula de IA desta semana oferecem uma oportunidade para regulamentar a tecnologia, embora suas três edições anteriores tenham resultado apenas em acordos voluntários por parte das empresas de tecnologia.

"Realmente ajuda que cada um dos governos compreenda esse assunto. E é por isso que estou aqui", afirmou Russell.

A Índia espera que a cúpula de cinco dias sobre IA, que reúne chefes de empresas de tecnologia e dezenas de delegações nacionais de alto nível, permita ao país avançar no setor.

O ministro indiano da Informação e Tecnologia, Ashwini Vaishnaw, afirmou nesta terça-feira que o país espera mais de 200 bilhões de dólares (R$ 1,05 trilhão) em investimentos em IA nos próximos dois anos, incluindo cerca de 90 bilhões de dólares (R$ 471 bilhões) já comprometidos.

Os temores de que ferramentas de assistência por IA provoquem demissões em massa nos maiores setores de atendimento ao cliente e suporte técnico da Índia fizeram as ações das empresas de terceirização do país despencarem nos últimos dias.

"Estamos criando imitadores humanos. E a aplicação natural para esse tipo de sistema é substituir os humanos", insistiu o especialista.

Russell observa uma rejeição crescente à IA, "particularmente entre os jovens".

"Eles realmente estão reagindo contra os aspectos desumanizantes da IA. Quando a IA assume todas as funções cognitivas - capacidade de responder a uma pergunta, tomar uma decisão, elaborar um plano, etc. - transforma as pessoas em algo inferior a seres humanos. Os jovens não querem isso", ressaltou.

T. Jones--BTZ