Um coro expressivo de líderes de empresas de tecnologia está defendendo uma redução do ritmo de desenvolvimento de modelos de inteligência artificial (IA) em todo o planeta. Em uníssono, executivos e pesquisadores ligados ao setor afirmam que é crescente o temor de utilização indevida de sistemas desse tipo, já empregados em atividades que vão de fraudes ao desenvolvimento de armas biológicas.
Essa opinião — a da necessidade de um freio nas pesquisas — é compartilhada pelos chefões da Anthropic (dona do Claude), Dario Amodei, da OpenAI (ChatGPT), Sam Altman, e pelo bilionário Elon Musk, da xAI, Tesla e, entre outras empresas, a SpaceX.
Receba no seu email as notícias de Boletim Metrópoles
Frequência de envio: Diário
Ver todasVer todas as newsletters
A discussão ganhou fôlego com um artigo publicado por Amodei sobre o tema. O texto foi compartilhado na rede social X, de Musk, depois que a Anthropic divulgou, na quinta-feira (10/9), um relatório de inteligência detalhando o emprego de modelos de IA da família Claude em operações cibernéticas e de influência, vigilância, golpes e na criação de armamentos.
Sam Altman comentou no X: “Concordo com Dario”, acrescentando que adotará na OpenAI sugestões feitas por Amodei para aumentar a segurança da criação de modelos de inteligência artificial. Musk arrematou: “Dario está certo”.
Entre no canal de WhatsApp
do Metrópoles
Mais tempo
No artigo, Amodei disse que não estava pedindo a interrupção do treinamento de sistemas de IA ou do progresso da tecnologia. Ele defende que as empresas dediquem mais tempo para alinhar e proteger seus novos modelos. Sustenta ainda que avaliadores de fora das empresas devem analisar a execução desses processos.
“Minha primeira preocupação é que, desde meados deste ano, a IA vem avançando de maneira drasticamente mais rápida, impulsionada por sua capacidade crescente de desenvolver a próxima geração de IA. (…) Se não for controlada, ela poderá superar nossa capacidade de compreender esses sistemas e, portanto, deve ser conduzida com extremo cuidado — se é que deve ser conduzida”, disse Amodei.
Controle em etapas
O CEO da Anthropic propôs uma estrutura de controle da velocidade do desenvolvimento dos modelos em três etapas. A primeira seria reservada para a criação de grupos de avaliadores externos permanentes. Eles teriam acesso semelhante ao de funcionários das empresas de IA para verificar práticas de segurança, investigar incidentes e avaliar não apenas os modelos prontos, mas como foram treinados.
A segunda fase compreenderia uma coordenação entre empresas de IA de países democráticos para estabelecer padrões comuns de segurança e limites para o ritmo do avanço dos modelos. Os governos deveriam participar dessa etapa.
O terceiro momento envolveria uma coordenação internacional, notadamente entre Estados Unidos e China. Amodei reconhece que essa seria a fase mais difícil, por causa da disputa geopolítica em torno da inteligência artificial.
O executivo e fundador da Anthropic também defende a discussão de limites para alguns recursos utilizados na construção dos modelos. Isso inclui o poder computacional, determinados tipos de treinamento e o uso de IA para desenvolver a própria IA.
Conteúdo reproduzido originalmente em: Metropoles por Carlos Rydlewski.
