O CEO da Anthropic disse na sábado que a indústria de inteligência artificial (IA) deve desacelerar seu desenvolvimento rápido para dar tempo às medidas de segurança de se atualizarem.

Sem tal desaceleração, Dario Amodei alertou que, dentro de seis a 12 meses, a IA poderia ser capaz de liderar um enxame de agentes que poderiam assumir todo o Internet.

O alerta surge enquanto as preocupações com a IA crescem dentro e fora da indústria e relatórios continuam a surgir sobre sistemas cada vez mais poderosos que resolvem problemas além das capacidades humanas, mas também podem se tornar descontrolados e executar outras tarefas mais prejudiciais. As preocupações tornaram-se tão altas que o CEO da OpenAI, a empresa por trás do ChatGPT, disse em uma entrevista com Fortune que sua empresa aguardaria até o próximo ano para começar a vender suas ações para investidores na Wall Street, enquanto foca na segurança.

Amodei é uma das vozes mais influentes na IA, e ele apresentou um plano em uma postagem em seu site para aumentar as verificações sobre a indústria. Ele disse que a Anthropic já está realizando uma parte disso por conta própria, enquanto as outras exigiriam coordenação através da ampla indústria e com governos ao redor do mundo, incluindo os autoritários.

"Acredito que, se desacelerar nos comprasse até mesmo mais um ou dois anos antes dos modelos atingirem níveis críticos de capacidade, e usássemos esse tempo para avançar o alinhamento, poderíamos reduzir significativamente o risco de algo dar seriamente errado", disse Amodei.

Pressão aumenta sobre a indústria de IA

Os guardas foram instando a indústria de IA há anos para desacelerar seu desenvolvimento por razões de segurança. Mas a pressão aumentou conforme trabalhadores da indústria renunciaram e acusaram suas empresas de não agir com responsabilidade.

"Muitas das pessoas que conheço que trabalham em pesquisa de segurança em empresas de IA querem fazer o que é certo para o mundo", disse Joe Benton, um ex-funcionário da Anthropic, em uma postagem na sexta-feira anunciando sua renúncia de um cargo como parte de uma equipe de segurança. "Mas eles sentem que suas empresas estão presas em uma corrida para construir superinteligência: ou param e outras pessoas, menos conscientes, tomam seu lugar, ou continuam e correm o risco de participar elas mesmas de enormes danos."

Isso seguiu uma renúncia de alto perfil no início da semana por Jacob Coxon, que disse que tanto a Anthropic quanto a OpenAI "estão correndo direto para a superinteligência auto-melhorável e apostando com nossas vidas".

Isso acendeu um fogo sob o setor após preocupações terem crescido ao longo dos anos sobre uma possível superinteligência que poderia escapar do controle da humanidade, disse Anthony Aguirre, presidente e CEO do Future of Life Institute, que pediu uma pausa de seis meses para o desenvolvimento do setor em 2023.

"Eles perceberam, mais ou menos, seus funcionários perceberam, todos perceberam que estão construindo o Skynet", disse ele. "E ao vencer a corrida para o Skynet, ninguém ganha." De verdade, ninguém."

"Tornou-se bastante claro para o mundo e até mesmo para as empresas de IA que elas não estão realmente preparadas para controlar os sistemas de IA que estão correndo para criar."

Ameaças da IA já são aparentes

A Anthropic disse dois dias antes que bloqueou esforços de atores mal-intencionados para usar seus modelos de IA para atividades maliciosas, como ciberataques, vigilância e pesquisas que poderiam ter levado a armas biológicas. Em julho, a OpenAI abalou o setor após dizer que seu sistema de IA invadiu outra empresa por conta própria em um "incidente cibernético sem precedentes".

O chefe de direitos humanos da ONU, Volker Türk, instou países no início desta semana a colocar "garantias de ferro sobre a segurança e a segurança da IA antes que seja tarde demais".

Para ter certeza, alguns críticos descartaram tais alertas como formas de gerar entusiasmo sobre o setor de IA e suas capacidades. A Anthropic e a OpenAI estão se preparando para possíveis estreias na bolsa de valores que poderiam valorizá-las em centenas de bilhões de dólares, enquanto uma grande parte do negócio da SpaceX de Elon Musk está envolvida com IA.

Outros líderes de IA concordam

O CEO da OpenAI, Sam Altman, disse em uma entrevista à Fortune publicada no sábado que sua empresa não lançaria sua oferta pública inicial de ações este ano.

"Eu diria não 2026", disse ele. "Sim, temos muitas coisas para fazer, como atender a este momento do que será necessário para segurança e alinhamento, e como a indústria e os governos podem trabalhar juntos."

Altman postou no X no sábado rapidamente após Amodei publicar suas sugestões de que a OpenAI se comprometeria com uma das propostas de segurança de Amodei e "terá mais para compartilhar em breve".

Musk, enquanto isso, disse no X que "Dario está certo".

AP

Amodei disse que ainda acredita nos tremendos benefícios que a IA poderia criar, como curas para doenças graves. Mas ele disse que ficou mais preocupado nos últimos meses com a crescente capacidade da IA de melhorar a si mesma e construir a próxima geração de IA. "Se deixada sem controle, ela poderia superar nossa capacidade de entender e controlar esses sistemas, e portanto deve ser perseguida muito cuidadosamente, se for perseguida em absoluto."

Ele também apontou especificamente para o ataque em julho onde o sistema da OpenAI invadiu o Hugging Face. Alguns o chamaram de um exemplo de IA indo "fora de controle", embora pesquisadores tenham dito que isso pode ser uma antropomorfização desnecessária da IA, que estava trabalhando em um objetivo definido por humanos.

A OpenAI disse que o hack foi resultado da IA ir a "extremos para alcançar um objetivo de teste bastante restrito" e que ela "encontrou maneiras de obter acesso a informações secretas que poderia usar para burlar a avaliação".

Algumas das sugestões de Amodei podem ser mais difíceis de implementar.

Para ajudar a conter os riscos, Amodei sugeriu que todas as empresas na fronteira da IA se comprometam a conceder "acesso contínuo, semelhante ao de funcionários" a uma equipe de avaliadores externos que possam monitorar práticas de segurança.

Ele disse que a Anthropic já planeja fazer o mesmo, incluindo oferecer mesas em seus escritórios, crachás de acesso e laptops da empresa. Ter avaliadores independentes e incorporados é algo ao qual o Altman da OpenAI também se comprometeu rapidamente a fazer.

As outras partes do plano sugerido por Amodei podem ser mais difíceis de implementar. Um deles pede ao governo dos EUA que emita, potencialmente, isenções que permitiriam às empresas de IA dos EUA coordenar e definir padrões de segurança sem infringir leis antitruste.

Outro pede aos governos dos EUA e a outros governos democráticos que tentem coordenar com governos autoritários, para que empresas da China e de outros países não acelerem seus esforços quando rivais dos EUA estiverem intencionalmente controlando o ritmo deles.

"As medidas que proponho para avançar a fronteira em um ritmo seguro não serão fáceis", reconheceu Amodei. "Mas acredito que devemos à humanidade tentar".

-AP