A jornalista filipina-americana Maria Ressa, vencedora do Prêmio Nobel da Paz de 2021, defendeu a criação de regras para limitar os riscos associados ao avanço da inteligência artificial. Maria Ressa defende regulamentação da inteligência artificial e afirma que o tema deve ser tratado como uma questão de segurança pública, e não apenas como um debate sobre liberdade de expressão ou inovação tecnológica.
Ressa fez as declarações durante uma visita a Oslo, na Noruega, onde participou de uma conferência dedicada às ameaças enfrentadas pelas democracias. Ela também atua como copresidente do painel científico internacional das Nações Unidas sobre inteligência artificial, grupo responsável por avaliar os impactos da tecnologia sobre a sociedade.
Maria Ressa alerta para avanço acelerado da inteligência artificial
Para Ressa, a discussão sobre regulamentação da inteligência artificial precisa ganhar prioridade entre governos, empresas de tecnologia e sociedade civil.
A jornalista argumenta que a tecnologia já ultrapassou a etapa em que seus efeitos estavam restritos a laboratórios ou ambientes especializados. Atualmente, ferramentas baseadas em inteligência artificial estão presentes em redes sociais, mecanismos de busca, aplicativos, chatbots e sistemas capazes de executar tarefas em nome dos usuários.
Na avaliação apresentada por Ressa, a ausência de regras suficientes pode ampliar riscos relacionados à manipulação de informações, comportamento dos usuários e processos democráticos.
Ela defende que cidadãos pressionem seus representantes políticos para que sejam criadas normas capazes de estabelecer responsabilidades para empresas que desenvolvem e operam sistemas de inteligência artificial.
“Questão de segurança pública”, diz vencedora do Nobel
Durante a entrevista, Ressa rejeitou a ideia de que pedir regulamentação para a inteligência artificial seja simplesmente uma tentativa de restringir a liberdade de expressão.
Para ela, a discussão envolve também a segurança das pessoas e o funcionamento das sociedades democráticas.
A jornalista afirmou que o mundo estaria se aproximando de um ponto crítico e que a falta de ação poderia dificultar o controle sobre determinados sistemas tecnológicos.
A declaração ocorre em um cenário de rápida expansão da IA generativa, com ferramentas capazes de produzir textos, imagens, áudios, vídeos e executar tarefas cada vez mais complexas.
Ressa descreve três ondas da inteligência artificial
Durante sua participação no evento, Maria Ressa apresentou uma interpretação própria sobre a evolução da inteligência artificial e dividiu o processo em três grandes fases.
Segundo ela, a primeira onda estaria relacionada às plataformas de redes sociais, que utilizam mecanismos destinados a capturar a atenção dos usuários.
Na visão apresentada pela jornalista, esses sistemas contribuíram para ampliar a polarização social e criar ambientes digitais nos quais indivíduos podem permanecer cada vez mais isolados em comunidades de opiniões semelhantes.
A segunda onda estaria relacionada aos chatbots e à utilização da tecnologia em interações mais próximas com os usuários.
Ressa descreveu essa etapa como uma forma de interação com a própria biologia e intimidade humana, devido à capacidade dos sistemas conversacionais de estabelecer diálogos personalizados.
A terceira onda, segundo a jornalista, envolve a chamada inteligência artificial agentiva e os sistemas multiagentes.
Essas tecnologias são desenvolvidas para executar tarefas, tomar determinadas decisões e agir em nome dos usuários, aumentando o debate sobre autonomia e responsabilidade.
Inteligência artificial pode agir em nome das pessoas
A preocupação de Ressa está especialmente relacionada ao avanço dos modelos capazes de executar ações sem que o usuário precise controlar cada etapa do processo.
Sistemas agentivos podem, dependendo da tecnologia e das permissões concedidas, planejar tarefas, utilizar ferramentas digitais, processar informações e realizar determinadas ações de forma automatizada.
Para a jornalista, essa mudança representa uma diferença importante em relação aos sistemas que simplesmente fornecem respostas.
O debate passa a envolver questões como quem será responsável quando uma ferramenta automatizada causar um dano, quais limites devem ser impostos aos sistemas e como garantir que o usuário mantenha controle sobre as decisões relevantes.
Nobel da Paz de 2021 e crítica às grandes plataformas
Maria Ressa recebeu o Prêmio Nobel da Paz em 2021, em reconhecimento ao trabalho relacionado à defesa da liberdade de expressão e à documentação do uso de tecnologia para manipulação e disseminação de informações.
A experiência da jornalista com o impacto das plataformas digitais está diretamente relacionada à sua preocupação atual com a inteligência artificial.
Ela é cofundadora e CEO do veículo de comunicação filipino Rappler, organização que acompanhou de perto questões envolvendo redes sociais, desinformação e democracia.
Sua posição é que o desenvolvimento tecnológico precisa ser acompanhado por mecanismos capazes de responsabilizar empresas pelos impactos de seus produtos.
Ressa defende responsabilização das empresas de tecnologia
Para a jornalista, um dos primeiros passos para enfrentar os riscos seria responsabilizar as empresas pelos danos causados por suas plataformas e produtos.
Ressa citou processos judiciais nos Estados Unidos envolvendo grandes empresas de tecnologia como exemplos de mecanismos que podem aumentar a responsabilidade das companhias.
Ela também mencionou decisões e acordos relacionados ao uso de plataformas por adolescentes, destacando a necessidade de discutir não apenas a idade dos usuários, mas também os mecanismos de design que podem incentivar o uso prolongado dos serviços.
A discussão sobre responsabilidade empresarial ganhou importância com a expansão de ferramentas digitais capazes de influenciar comportamentos em grande escala.
Limites para adolescentes não seriam suficientes
Ressa também comentou iniciativas adotadas pela União Europeia e por países como a Austrália para estabelecer limites de idade no acesso às redes sociais.
Segundo a jornalista, essas medidas podem representar uma resposta a determinados riscos enfrentados por crianças e adolescentes, mas não solucionariam completamente o problema.
A preocupação apontada por ela é que mecanismos considerados potencialmente viciantes não atingem exclusivamente os jovens.
Adultos também utilizam plataformas projetadas para manter a atenção dos usuários por longos períodos.
Por isso, Ressa defende que as discussões regulatórias considerem o funcionamento das próprias ferramentas digitais, e não apenas a idade de quem as utiliza.
Manipulação política também preocupa
Outro ponto destacado pela vencedora do Nobel da Paz é o impacto das plataformas digitais sobre os processos políticos.
Ressa argumenta que mecanismos de recomendação e sistemas desenvolvidos para maximizar o engajamento podem contribuir para a circulação de conteúdos polarizadores.
Na avaliação apresentada pela jornalista, o problema não estaria restrito a um determinado grupo etário.
Ela afirma que usuários adultos também podem ser influenciados por sistemas digitais desenvolvidos para explorar aspectos emocionais e comportamentais.
O alerta ganha relevância diante da utilização crescente de inteligência artificial para produzir e distribuir conteúdos em grande escala.
Debate sobre IA envolve Estados Unidos e China
A regulamentação da inteligência artificial também está relacionada à disputa tecnológica entre Estados Unidos e China.
Alguns críticos das propostas de regulamentação argumentam que regras muito rígidas poderiam reduzir a velocidade de inovação e prejudicar a posição de um país na competição tecnológica internacional.
Ressa rejeitou esse argumento durante a entrevista e afirmou que ele seria utilizado como justificativa para evitar regras mais rigorosas.
A jornalista também citou diferenças entre as regras aplicadas a determinadas plataformas na China e as práticas observadas em outros mercados.
Como exemplo, mencionou restrições de idade associadas ao TikTok disponível no mercado chinês.
Europa busca estabelecer regras para inteligência artificial
A União Europeia aparece entre os principais exemplos internacionais de tentativa de estabelecer normas para sistemas de inteligência artificial.
O debate europeu envolve diferentes níveis de risco e procura estabelecer obrigações para desenvolvedores e operadores de sistemas de IA.
A discussão internacional, entretanto, ainda está em andamento e apresenta diferenças importantes entre países.
Enquanto algumas nações priorizam regras específicas para determinados usos da tecnologia, outras defendem modelos mais flexíveis voltados principalmente à inovação.
Esse cenário contribui para uma disputa global sobre como equilibrar desenvolvimento tecnológico, segurança, direitos individuais e competitividade econômica.
Ressa propõe alternativas às grandes plataformas
Além da regulamentação, Maria Ressa defende a criação de plataformas de comunicação que não estejam completamente submetidas aos interesses das grandes empresas de tecnologia.
A jornalista compara essa ideia à criação de estruturas de interesse público, argumentando que ambientes digitais seguros poderiam desempenhar função semelhante à de espaços públicos tradicionais.
O objetivo seria criar locais em que usuários pudessem conversar sem depender exclusivamente dos modelos comerciais das grandes plataformas.
Rappler Communities aposta em ambiente descentralizado
Ressa citou como exemplo uma iniciativa desenvolvida pelo próprio Rappler.
O veículo lançou o Rappler Communities em 2023, utilizando um protocolo de código aberto chamado Matrix para criar um ambiente de comunicação descentralizado.
Segundo a jornalista, a proposta é aproximar a redação de seus leitores e permitir que os próprios usuários participem das conversas em um espaço diferente das grandes redes sociais.
O projeto também passou a envolver outros veículos de comunicação das Filipinas e, posteriormente, começou a ser expandido para outros meios de comunicação do Sudeste Asiático.
Objetivo é criar ambientes digitais mais seguros
A proposta defendida por Ressa parte da ideia de que a infraestrutura digital também pode ser pensada como um serviço de interesse público.
Nesse modelo, plataformas de comunicação poderiam ser desenvolvidas priorizando segurança, privacidade, participação dos usuários e qualidade das interações.
A jornalista afirma que o objetivo não seria apenas permitir que as pessoas falem umas com as outras, mas criar condições para que elas também consigam ouvir opiniões diferentes.
Para Ressa, essa característica seria importante para o funcionamento das democracias.
Inteligência artificial amplia debate sobre autonomia
A discussão apresentada por Maria Ressa ocorre justamente quando a inteligência artificial passa por uma mudança de escala.
Durante anos, ferramentas digitais foram utilizadas principalmente para recomendar conteúdos, organizar informações e automatizar tarefas específicas.
Agora, sistemas mais avançados conseguem interpretar instruções complexas, utilizar ferramentas externas e realizar sequências de ações.
Essa transformação levanta uma série de questões jurídicas e sociais.
Entre elas estão a responsabilidade por decisões automatizadas, proteção de dados, transparência dos algoritmos, segurança dos usuários e limites para sistemas capazes de agir de forma autônoma.
Regulamentação ainda é tema de disputa internacional
Apesar do avanço das discussões, não existe uma única abordagem internacional sobre como regulamentar a inteligência artificial.
Governos, empresas, pesquisadores e organizações da sociedade civil apresentam propostas diferentes sobre o nível de intervenção necessário.
Parte do setor tecnológico defende que regras precisam preservar espaço suficiente para pesquisa e inovação.
Organizações voltadas à proteção de direitos digitais, por outro lado, defendem mecanismos mais fortes de transparência, responsabilidade e proteção dos usuários.
O debate tende a continuar à medida que novos modelos de IA entram no mercado e passam a executar tarefas mais complexas.
O que está em jogo
A preocupação central apresentada por Ressa está relacionada ao equilíbrio entre inovação tecnológica e proteção da sociedade.
De um lado, a inteligência artificial pode ampliar produtividade, acelerar pesquisas e criar novas ferramentas para empresas, governos e cidadãos.
De outro, o uso inadequado ou pouco supervisionado dessas tecnologias pode gerar problemas relacionados à privacidade, desinformação, manipulação, discriminação e segurança.
A questão levantada pela jornalista é como criar regras capazes de reduzir esses riscos sem impedir o desenvolvimento de novas tecnologias.
Debate sobre IA deve envolver sociedade e governos
Para Maria Ressa, a construção de regras não deve ficar restrita às empresas que desenvolvem os sistemas.
A jornalista defende participação ativa dos cidadãos e pressão sobre governos para que o tema seja tratado como uma questão de interesse público.
Essa abordagem coloca a regulamentação da inteligência artificial dentro de um debate mais amplo sobre democracia, direitos digitais e responsabilidade empresarial.
Enquanto novas ferramentas são desenvolvidas em ritmo acelerado, governos de diferentes países continuam discutindo quais limites devem ser estabelecidos.
Inteligência artificial entra em nova fase
A expansão dos sistemas agentivos e multiagentes representa uma nova etapa no desenvolvimento da tecnologia.
Em vez de apenas responder a perguntas, determinadas ferramentas já podem executar tarefas, organizar processos e interagir com outros sistemas.
Essa capacidade aumenta a importância de mecanismos de supervisão e controle.
É justamente nesse ponto que o alerta de Maria Ressa ganha espaço no debate internacional: para ela, a sociedade precisa estabelecer regras antes que determinados sistemas alcancem um nível de autonomia difícil de controlar.
O debate sobre regulamentação da inteligência artificial, portanto, envolve não apenas tecnologia, mas também segurança, democracia, direitos individuais e responsabilidade das empresas que desenvolvem essas ferramentas.
