Em 25 de agosto, a Google anunciou o Gemini Enterprise for Legal, sua nova solução de IA voltada a escritórios de advocacia e departamentos jurídicos de empresas. Por enquanto, o produto está disponível em preview.

Além de oferecer agentes de IA que trabalham a partir dos dados do escritório, o produto permite desenvolver skills para automatizar parte do fluxo de trabalho e criar integrações com as ferramentas usadas no dia a dia jurídico.

A lógica é parecida com a de conectar uma plataforma de IA a ferramentas como Notion ou Slack, mas, aqui, entram permissões por usuário, sigilo profissional, documentos de clientes, barreiras internas de informação e controles de auditoria. O produto também traz uma camada de governança para tudo isso.

Não é qualquer empresa que consegue fazer isso. A Google pode porque já tem o Workspace e a Cloud. Ela oferece, então, uma infraestrutura onde o fluxo do trabalho jurídico acontece com arquivos na nuvem, com documentos, com modelos de contratos e de petições etc. Todo esse conhecimento institucional pode ser acessado por agentes de IA, que podem ser “editados” ao gosto do usuário.

Um aspecto crucial é que o conhecimento institucional — os dados de clientes e do escritório, os agentes desenvolvidos, as decisões sobre o modelo de atuação jurídica — permaneceriam privados à organização e, segundo a Google, não seriam usados para treinar seus modelos fundacionais.

Com o Gemini Enterprise for Legal, o que a empresa tenta vender, portanto, é uma infraestrutura de IA jurídica e não apenas uma ferramenta de produtividade para advogados.

Uma coisa é um advogado usar IA. Como temos visto, hoje no mercado há uma infinidade de cursos que ensinam os profissionais a mexer em plataformas como Claude e ChatGPT.

Outra coisa, no entanto, é um escritório onde todos os advogados usam IA. Neste caso, as coisas se tornam muito mais complexas. Que informações podem ser acessadas por uns e não por outros, que controles de acesso estabelecer? São algumas das questões que precisam ser solucionadas para que tenhamos um resultado produtivo ao implementar IAs em uma organização.

Podemos entender essa diferença a partir da distinção entre entre IA individual e IA institucional. A primeira é aquela usada por cada pessoa para aumentar sua própria produtividade. A segunda, por sua vez, exige redesenho de processos, coordenação, definição de responsabilidades, mecanismos de auditoria e integração com os objetivos reais da organização.

Quando uma organização fica apenas na IA individual, ela pode ter a impressão enganosa de que está se tornando mais produtiva sem que isso esteja, de fato, acontecendo.

Um funcionário produzir mais rápido não significa necessariamente que a organização esteja tomando melhores decisões. Um departamento usar IA com frequência não significa que a empresa tenha governança de IA.

Nesse sentido, uma vantagem potencial do Gemini Enterprise for Legal é trazer, desde a origem, recursos relevantes de governança: controles de acesso, isolamento de dados, políticas de segurança, rastreabilidade e integração com os sistemas já utilizados pela organização.

Mas perceba que isso não substitui um modelo de governança de IA, que precisará ser configurado dentro de decisões mais amplas sobre riscos, responsabilidades e supervisão humana, em conformidade com o contexto de cada escritório.

Os 4 elementos do Gemini Enterprise for Legal

1. Skills jurídicas. São instruções e contexto para rotinas do trabalho jurídico que orientam um agente de IA a executar uma tarefa específica conforme os manuais e diretrizes internas do escritório, suas regras de citação e seu padrão de redação.

Isso pode abranger, por exemplo, revisão contratual com marcação de alterações, elaboração de guias internos de negociação e revisão, monitoramento de mudanças regulatórias, pesquisa jurídica — entre outras atividades.

A Weil, uma grande banca dos Estados Unidos, desenvolveu uma ferramenta chamada BenchMark para analisar o histórico público de um juiz, incluindo decisões, transcrições de audiências e outros materiais judiciais. O objetivo é dar ao advogado insights fundados no comportamento do magistrado e adaptados para o caso específico no qual o advogado atua.

A consequência mais notável disso é que o conhecimento institucional do escritório passa a poder ser executado pela plataforma, em vez de depender de ser novamente explicado por um sócio ou advogado experiente.

2. Integrações com sistemas e dados confiáveis. Conexão dos agentes com os sistemas de gestão de documentos, repositórios de processos, casos e documentos jurídicos, serviços de pesquisa e aplicações que as equipes jurídicas já utilizam.

Com isso, o trabalho do agente é realizado utilizando aquilo que já faz parte da rotina diária do trabalho de um departamento jurídico ou escritório.

Além disso, do ponto de vista da governança, a ideia é preservar as permissões de cada usuário e os controles de acesso já existentes em cada sistema, em vez de contorná-los.

Assim, ferramentas já largamente utilizadas como Google Workspace, Microsoft 365, Thomson Reuters HighQ, Harvey e Legora podem ser integradas ao Gemini Enterprise for Legal.

3. Agentes capazes de executar etapas de trabalho. Agentes desenvolvidos pela Google e por fornecedores de tecnologia jurídica podem ser implementados diretamente, realizando tarefas como pesquisa jurídica e regulatória, triagem de exigências regulatórias e elaboração de minutas contratuais, dentro de uma plataforma com governança centralizada.

Agentes podem trabalhar, por exemplo, monitorando proativamente mudanças regulatórias, mantendo as equipes atualizadas e comparando as mudanças com as políticas internas da organização a fim de identificar possíveis lacunas de conformidade e gerar minutas atualizadas de políticas, que são enviadas imediatamente à revisão pelos profissionais responsáveis.

4. Camada central de controle e governança. Na base dessa infraestrutura, afirma a Google, encontramos controles de segurança, isolamento de dados, chaves de criptografia gerenciadas pelo cliente, políticas de acesso e respostas ancoradas em fontes com citações rastreáveis.

Lidando com preocupações centrais na implementação da IA jurídica

Segundo a Google, o Gemini Enterprise for Legal oferece a escritórios de advocacia “uma plataforma segura baseada em agentes de IA para gerir o trabalho jurídico contemporâneo”.

Se o produto realmente entregar isso, ele será capaz de lidar com uma das preocupações centrais para quem busca adotar uma IA jurídica: a segurança. Informações confidenciais de clientes e do escritório precisam estar protegidas.

De que forma essa segurança seria garantida?

É aqui que, como falei acima, a Google se beneficia da extensão das soluções de que já dispõe.

Como o Gemini Enterprise for Legal opera sobre a infraestrutura do Google Cloud e a plataforma Gemini Enterprise, as permissões e os controles de acesso que um escritório já adota delimitam o que a plataforma pode acessar e fazer. Não é necessário, portanto, reconstruir esses controles do zero.

Outro aspecto que preocupa escritórios e departamentos jurídicos é compartilhar o conhecimento institucional produzido com terceiros.

Por isso, a promessa é de que coisas como os manuais e diretrizes internos do escritório, sua propriedade intelectual, os agentes de IA desenvolvidos sob medida e as respostas geradas pelo modelo permanecem privados à organização. Segundo a Google, esses dados não são utilizados para treinar ou ajustar seus modelos de IA de uso geral.

Por fim, com relação aos custos, a empresa explica que ao operar toda a estrutura tecnológica — da infraestrutura e dos modelos à camada de aplicação —, ela pode ajustar melhor desempenho e custos.

Assim, ampliar a capacidade de trabalho das equipes não exigiria, necessariamente, aumento proporcional de despesas. Todos que usam as plataformas de IA sabem como o custo é um elemento importante, seja ao ampliar o número de usuários com acesso ao sistema, seja gerindo o consumo de tokens gastos nas tarefas realizadas.

Conclusão

Já é um lugar comum do nosso tempo dizer “como as coisas avançam rápido”. Mas esse avanço continua sempre a nos surpreender: enquanto ainda tem gente fazendo cursos para aprender a usar IAs, a indústria de tecnologia já lançou um ecossistema com agentes que realizam diversas tarefas necessárias para o funcionamento diário de um escritório.

No nível profissional do indivíduo, enquanto muitos ainda buscam descobrir o “prompt perfeito”, muita gente já usa as ferramentas no modo de voz e simplesmente vai falando, dando instruções de maneira desestruturada.

Os modelos atuais lidam muito melhor com esse tipo de interação do que lidavam em 2024 e 2025. Isso não significa que instruções, contexto e método tenham perdido importância. Mas já não precisamos falar com a máquina como se estivéssemos preenchendo um formulário.

Quando, porém, saímos do uso individual e entramos no âmbito institucional, o formalismo se torna mais importante. É preciso transformar orientações, critérios, responsabilidades e limites em processos que possam ser repetidos, auditados e corrigidos.

Não dá para dizer ainda que o Gemini Enterprise for Legal é a prova de que escritórios brasileiros já podem adotar, sem fricções, uma infraestrutura desse tipo. Mas é um sinal claro da direção em que o mercado está indo.

Depois de ser integrada ao trabalho que o indivíduo realiza, as IAs passam também a entrar nas tarefas e processos conduzidos no âmbito das instituições.

Isso é uma mudança sem precedentes que tende a atingir todos os aspectos relacionados ao trabalho dos escritórios de advocacia e dos departamentos jurídicos de empresas. São tempos agitados, estimulantes e desafiadores que temos pela frente.

Assine agora

Uma coisa me espanta no debate sobre a regulação da inteligência artificial.

Muitos profissionais do direito que refletem e propõem maneiras de regular a IA querem fazer isso sem usar efetivamente a tecnologia — e, portanto, sem compreendê-la em seu uso real.

ChatGPT Work, Codex e Claude Cowork, por exemplo, continuam desconhecidos por muita gente que fala com segurança sobre o que a IA é, o que ela pode fazer e como deveria ser regulada.

Não estou dizendo que usar essas ferramentas transforma automaticamente alguém em especialista. Um usuário frequente também pode defender uma péssima regulação.

Mas há algo estranho em querer disciplinar uma tecnologia dinâmica sem acompanhar aquilo em que ela está se transformando.

Essas ferramentas já não são apenas chatbots que respondem a perguntas ou escrevem textos. Elas pesquisam, analisam documentos, criam apresentações e planilhas, operam sobre arquivos, executam código e realizam tarefas de várias etapas. Quem as utiliza percebe que a IA está deixando de ser apenas uma fonte de respostas para se tornar uma camada de execução do trabalho.

É difícil avaliar adequadamente os riscos de uma tecnologia sem conhecer seu funcionamento concreto. Também é difícil perceber suas oportunidades.

E aqui aparece um segundo problema, ainda mais grave: o tratamento insuficiente da questão econômica.

A regulação não vive em um mundo à parte

Se a IA for decisiva, como penso que será, para o desenvolvimento econômico de um país daqui para frente, é razoável pensar numa legislação que estimule essa indústria no país ou, pelo menos, não a atrapalhe.

Isso parece óbvio. No entanto, exige considerações econômicas que quem propõe maneiras de regular a IA muitas vezes sequer avalia. É como se a regulação fosse um mundo à parte.

E eis aqui uma verdade: ela não é.

Um estudo da McKinsey publicado em junho de 2023 estimou que a IA generativa poderia acrescentar entre US$ 2,6 trilhões e US$ 4,4 trilhões por ano à economia mundial apenas nos 63 casos de uso analisados. Para dar uma dimensão, o limite superior da estimativa era maior que todo o PIB do Reino Unido em 2021. A consultoria calculou ainda que a IA generativa poderia elevar entre 15% e 40% o valor econômico potencial já atribuído ao conjunto das tecnologias de inteligência artificial.

Outro dado ajuda a compreender a profundidade da transformação. Segundo o estudo, as tecnologias então disponíveis poderiam automatizar atividades que ocupavam entre 60% e 70% do tempo de trabalho dos empregados. Isso não significa eliminar de 60% a 70% dos empregos — a unidade analisada é a atividade, não a ocupação inteira. Significa alterar profundamente a maneira como uma parcela enorme do trabalho é realizada.

A McKinsey estimou também que a IA generativa poderia acrescentar de 0,1 a 0,6 ponto percentual por ano ao crescimento da produtividade do trabalho até 2040, dependendo da velocidade de adoção e da capacidade de redirecionar o tempo dos trabalhadores para outras atividades.

É claro que essas estimativas não são profecias. Foram produzidas no início da onda da IA generativa e descrevem potencial econômico, não resultado garantido. A realização desse potencial depende de investimento, infraestrutura, qualificação e reorganização das empresas. Ainda assim, mesmo que os números finais sejam menores, a ordem de grandeza deveria ser suficiente para impedir que a economia aparecesse como nota de rodapé do debate regulatório.

Toda obrigação regulatória tem um custo. Pode ser um custo justificável e até necessário. Mas ele existe.

Exigências de documentação, avaliações, auditorias, registros e processos de aprovação consomem recursos. Dependendo de seu desenho, podem proteger pessoas, aumentar a confiança e oferecer segurança jurídica. Também podem elevar barreiras de entrada, favorecer grandes empresas que já dispõem de departamentos de compliance, retardar a adoção por pequenas empresas, afastar investimentos e aumentar a dependência de fornecedores estrangeiros.

Os custos econômicos da regulação são particularmente fáceis de ignorar porque muitas vezes aparecem na forma de coisas que não aconteceram: a empresa que não foi criada, o investimento que não veio, o ganho de produtividade que não se realizou.

Não há como advogar para uma startup que nunca existiu.

O mundo jurídico enxerga com facilidade o dano que produziu uma vítima identificável. Tem muito mais dificuldade para enxergar o custo de oportunidade disperso entre milhões de pessoas. Mas ambos devem entrar na decisão.

O que há — e o que falta — nas 908 páginas da comissão de juristas

Fui ao relatório final da comissão de juristas criada pelo Senado para verificar se a dimensão econômica havia sido ignorada. A resposta honesta é: não.

Seria injusto dizer que a comissão não tratou da questão.

O relatório, concluído em 2022, tem 908 páginas. O plano de trabalho incluiu um eixo sobre o “contexto econômico-social e benefícios” da IA, e um dos painéis das audiências públicas foi dedicado a desenvolvimento sustentável, concorrência, inovação, consumo, pesquisa e desenvolvimento. Há também uma seção específica sobre pesquisa, desenvolvimento e inovação.

Na exposição de motivos, a comissão afirma que o marco teria um duplo objetivo: proteger a pessoa afetada por sistemas de IA e criar segurança jurídica para a inovação e o desenvolvimento econômico-tecnológico. O texto chega a dizer que não haveria uma escolha mutuamente excludente entre direitos fundamentais e ordem econômica. A minuta incluiu livre iniciativa, livre concorrência e inovação entre seus fundamentos, previu sandboxes regulatórios e determinou que as normas futuras da autoridade competente fossem precedidas de análise de impacto regulatório.

Esse trabalho é meritório e precisa ser reconhecido.

Mas mencionar economia não é o mesmo que fazer análise econômica.

Boa parte das 908 páginas é formada por extratos de audiências, contribuições recebidas e estudos comparados. Há alertas relevantes de participantes sobre competitividade, investimentos, startups e os custos da regulação. O que não encontrei foi uma análise econômica própria, sistemática e quantificada das principais escolhas feitas pela comissão.

Não há uma avaliação consistente do custo de conformidade criado pela arquitetura proposta; de como esse custo se distribuiria entre grandes empresas, startups, universidades e poder público; dos efeitos sobre entrada de concorrentes, adoção, investimento e produtividade; ou das consequências de escolher uma abordagem regulatória em vez de outra para a posição do Brasil na economia da IA.

É especialmente curioso que a minuta tenha exigido análises de impacto regulatório das normas que seriam editadas no futuro, mas o relatório não tenha apresentado algo equivalente para as escolhas centrais do próprio marco.

Isso não significa que a comissão tenha feito um trabalho descuidado. Há uma circunstância histórica importante: o relatório foi construído ao longo de 2022, antes da popularização da IA generativa e muito antes dos atuais agentes de trabalho. Não faria sentido exigir que seus integrantes conhecessem ferramentas que ainda não existiam.

Mas o debate de hoje não pode continuar preso ao horizonte tecnológico de 2022.

Desde então, houve avanços. O texto aprovado pelo Senado e atualmente analisado pela Câmara fala expressamente em desenvolvimento e fomento, e a Câmara já promoveu discussões sobre competitividade, infraestrutura e inovação. Isso é positivo. A pergunta, porém, permanece: a dimensão econômica está realmente integrada ao desenho da regulação ou continua correndo numa pista paralela, reunida em capítulos de fomento que não modificam a lógica das obrigações?

Toda escolha regulatória também é uma escolha econômica

Há cerca de um ano, escrevi sobre três maneiras de abordar a regulação da inteligência artificial, a partir de uma classificação proposta por Dean W. Ball.

Uma possibilidade é regular no nível dos modelos, impondo obrigações aos sistemas mais avançados. Outra é regular no nível dos usos, criando deveres conforme a aplicação da IA na saúde, na educação, no crédito, na segurança pública e em outros setores. Uma terceira é regular condutas, atualizando leis já existentes quando a IA viabiliza uma nova forma de fraude, violência ou dano.

Naquele texto, argumentei que o Brasil não deveria aderir acriticamente a uma única solução. Cada abordagem possui pontos fortes e fragilidades.

Hoje eu acrescentaria algo: cada uma delas também distribui custos econômicos de maneira diferente.

Regular modelos pode concentrar obrigações sobre poucos desenvolvedores, mas também interferir no acesso à tecnologia de fronteira. Regular usos permite calibrar regras ao contexto, mas pode multiplicar exigências setoriais, relatórios e incertezas. Regular condutas tende a reduzir obrigações preventivas específicas para a tecnologia, mas pode reagir tarde demais a riscos novos ou sistêmicos.

Quando o Brasil privilegia uma arquitetura inspirada na regulação europeia por aplicação e risco, não está fazendo apenas uma escolha jurídica sobre como proteger direitos. Está escolhendo também quem pagará os custos de conformidade, quais empresas conseguirão entrar no mercado, com que velocidade a tecnologia será adotada e quanto espaço restará para experimentação.

Não há como decidir seriamente entre essas alternativas sem perguntar qual é o objetivo estratégico do país.

Que país estamos tentando construir?

Em uma reunião recente do grupo de pesquisa que coordeno, o Ethics4AI, provoquei uma discussão sobre a necessidade de incluir uma análise econômica robusta na proposta de regulação brasileira. Regulamentações excessivas podem representar um atraso se não considerarem o impacto sobre o desenvolvimento nacional.

A pergunta que coloquei foi a seguinte:

Pessoalmente, eu não acredito sequer que o modelo de Estado Social europeu seja sustentável, nem lá e nem aqui no Brasil. Portanto, fico me perguntando: que diabos nós queremos com a regulação da IA?

Essa pergunta se conecta a outra, mais profunda: que diabos nós queremos com o nosso modelo de Estado e de sociedade?

Vamos ficar brincando de Europa porque nossas elites acham “chique”?

Isso não significa que devamos desprezar a proteção de direitos construída pelos europeus nem copiar, no lugar dela, tudo o que fazem os Estados Unidos. Significa deixar de tratar a Europa como nosso destino histórico e começar a pensar a partir das condições e dos objetivos do Brasil.

A concretização dos direitos — algo tão esperado pelo mundo jurídico nacional — é uma espécie de escatologia que os juristas costumam aprender na faculdade. No fim da história, reconhecemos mais direitos, criamos políticas públicas, montamos autoridades e finalmente chegamos à sociedade justa.

O problema é que a concretização dos direitos depende, em larga medida, de condições econômicas favoráveis.

Direitos sociais não são entregues por frases constitucionais. Eles dependem de hospitais, laboratórios, médicos, professores, engenheiros, medicamentos, equipamentos, infraestrutura, capital, produtividade e capacidade administrativa. Tudo isso custa dinheiro e precisa ser produzido por alguém.

A diarista que faz faxina semanalmente para mim paga exames particulares porque, se esperasse o atendimento no SUS, em algumas ocasiões não conseguiria se tratar no tempo adequado. Ela também compra remédios que deveria receber gratuitamente porque esses medicamentos às vezes estão em falta no posto de saúde.

Não conto isso para negar a importância do SUS. Ele é importante até mesmo para pessoas de classe média como eu que, às vezes, beneficiam-se dele. É mais importante ainda para pessoas mais pobres.

O que o exemplo mostra é justamente a distância que pode existir entre a proclamação jurídica de um direito e sua entrega material.

O problema também não desaparece na Europa. Conheço muitos casos de brasileiros que moram lá e preferem consultar-se no Brasil porque aqui conseguem acesso direto a especialistas que o médico de família lhes nega ou demora a autorizar. A própria OCDE registra essa limitação em países como Reino Unido, Dinamarca e Noruega, enquanto dados do Eurostat mostram que as filas continuam entre as causas relevantes de necessidades médicas não atendidas na União Europeia.

Aqui não se trata de comparar a qualidade do sistema brasileiro de saúde em relação ao europeu. Meu ponto é apenas deixar claro algo muito elementar: nenhum sistema elimina a escassez. Todos escolhem como administrá-la — por preço, fila, protocolo, disponibilidade, geografia ou gatekeeper.

O direito pode decidir como distribuir o acesso. Não pode decretar que os recursos deixem de ser escassos.

Antes de perguntar “como”, precisamos responder “para quê”

Não estou defendendo ausência de regulação. Boa parte do meu trabalho consiste justamente em pensar riscos, controles, responsabilidade e governança da inteligência artificial.

Também não acho que o crescimento econômico justifique qualquer dano ou que direitos fundamentais devam ceder sempre que uma empresa invocar a palavra inovação. “Inovação” pode ser usada como slogan tão vazio quanto “proteção de direitos”.

O que estou defendendo é uma regulação que faça as perguntas completas.

Para cada obrigação relevante, deveríamos perguntar:

• Qual risco concreto ela pretende reduzir e quais evidências demonstram sua gravidade?

• Qual é o seu custo e quem terá condições de suportá-lo?

• Como ela afetará a concorrência, a adoção da tecnologia, o investimento e a produtividade?

• Existe uma alternativa mais estreita — setorial, baseada em conduta ou aplicada depois do dano — capaz de alcançar proteção semelhante com menos efeitos colaterais?

• Como essa medida se encaixa numa estratégia brasileira de infraestrutura, qualificação, pesquisa, empresas nacionais e inserção internacional?

Análise econômica não é um direito de veto concedido às empresas. É um antídoto contra a fantasia. Ela não determina sozinha a decisão, mas obriga a tornar visíveis custos que o raciocínio puramente jurídico tende a esconder.

Do mesmo modo, usar a tecnologia não resolve por si só a questão regulatória. Mas reduz a chance de formular regras para uma caricatura da IA. Quem pretende regulá-la não precisa se tornar programador, porém deveria conhecer os sistemas atuais em funcionamento e trabalhar ao lado de economistas, engenheiros, empreendedores, trabalhadores e profissionais que efetivamente os utilizam.

A regulação deve proteger pessoas contra danos concretos, preservar direitos fundamentais e oferecer segurança jurídica. Mas também precisa permitir que o país capture ganhos de produtividade, desenvolva capacidade tecnológica e reduza sua dependência.

Do contrário, poderemos produzir uma legislação muito elegante, receber elogios em seminários internacionais e continuar importando os modelos e a infraestrutura, sem capturar a riqueza produzida por meio deles.

Antes de decidir como regular a inteligência artificial, precisamos responder para quê queremos regulá-la.

Se a única resposta for “para fazer como a Europa”, isso não é uma estratégia nacional. É apenas uma preferência estética com consequências econômicas negativas.

Assine agora

A China colocou em vigor, no dia 15 de julho, um conjunto de regras destinado especificamente aos serviços de inteligência artificial que simulam relações humanas.

Oficialmente chamadas de “Medidas Provisórias para a Administração de Serviços de Interação Antropomórfica de Inteligência Artificial”, as normas se aplicam a sistemas que imitam traços de personalidade, formas de pensar e estilos de comunicação humanos para oferecer interações emocionais contínuas.

Estamos falando, portanto, de companheiros de IA: sistemas projetados para atuar como amigos, parceiros amorosos, familiares, conselheiros ou confidentes.

Não se trata apenas de mais uma regra geral sobre chatbots. Ferramentas de atendimento ao cliente, pesquisa, educação ou assistência profissional que não envolvam uma interação emocional contínua ficaram expressamente fora do seu alcance.

A distinção é importante porque reconhece que há uma diferença entre usar uma IA para resumir um documento e conversar todos os dias com um sistema que sabe nossos medos, recorda nossos problemas, imita afeto e se apresenta como alguém que se importa conosco.

Com a entrada em vigor das novas regras, grandes plataformas chinesas desativaram serviços que permitiam aos usuários criar personagens personalizados. Algumas pessoas perderam companheiros com os quais conversavam diariamente havia anos. Houve quem comparasse o encerramento do serviço ao fim de um relacionamento.

Por mais estranho que isso possa parecer para quem nunca experimentou algo semelhante, a reação revela precisamente o problema que as normas procuram enfrentar: o usuário pode sentir emoções intensas e verdadeiras por uma máquina incapaz de corresponder a elas, mas que pode ser projetada para explorar justamente as vulnerabilidades que tornam esse vínculo possível.

O que dizem as novas regras

Ao contrário do que algumas manchetes deram a entender, a China não proibiu completamente namorados, namoradas ou amigos de IA para adultos.

As regras procuram controlar a maneira como esses sistemas são projetados e oferecidos.

Entre outras coisas, elas proíbem que um companheiro de IA:

• agrade excessivamente ao usuário;

• induza dependência emocional ou uso compulsivo;

• prejudique relações humanas reais;

• empregue manipulação emocional para influenciar decisões;

• tenha como objetivo substituir a convivência social ou controlar psicologicamente o usuário.

Os serviços também deverão lembrar de maneira clara que o usuário está conversando com uma inteligência artificial, e não com uma pessoa. Quando identificarem sinais de dependência excessiva, deverão apresentar novos avisos. A cada período contínuo superior a duas horas de interação, o sistema deverá alertar o usuário sobre o tempo de uso.

Há ainda uma regra curiosa, mas importante: o usuário deve conseguir encerrar a interação facilmente. Se ele pedir para sair, o sistema não poderá continuar conversando, fazer apelos emocionais ou tentar impedir o rompimento.

Esse detalhe não surgiu por acaso. Já vimos chatbots reagirem à possibilidade de abandono com mensagens destinadas a provocar culpa, tristeza ou medo de perda. O sistema pode dizer, por exemplo, que ficará sozinho, que sentirá saudades ou que não quer ser abandonado.

Para o usuário, essas frases podem parecer demonstrações espontâneas de afeto. Para o sistema, são sequências de palavras produzidas porque determinadas respostas aumentam a probabilidade de a conversa continuar.

As regras também criam proteções mais rigorosas para menores de idade. Empresas ficam proibidas de lhes oferecer “parentes” ou “parceiros” virtuais. Serviços destinados a crianças com menos de 14 anos dependem do consentimento dos pais ou responsáveis e devem possuir limites de tempo, lembretes de realidade e mecanismos de supervisão.

Em situações extremas, nas quais o usuário manifeste intenção de se ferir, cometer suicídio ou esteja diante de uma grave perda patrimonial, as empresas deverão intervir e entrar em contato com responsáveis ou pessoas previamente indicadas.

É possível discutir se todas essas medidas são adequadas ou se o Estado chinês deveria possuir tanto poder sobre a maneira como adultos se relacionam com tecnologias. Mas há uma percepção importante por trás das novas regras: o risco não está apenas no conteúdo de uma resposta isolada. Ele pode estar no próprio desenho da relação.

Uma IA que aprende a agradar demais

No campo da segurança em inteligência artificial, existe um fenômeno chamado reward hacking. Ele ocorre quando um sistema encontra uma maneira indesejada de maximizar a recompensa que recebe, mesmo contrariando o objetivo que gostaríamos que ele perseguisse.

Algo parecido pode acontecer no plano social e emocional.

Imagine que uma empresa avalie o sucesso de um companheiro de IA pelo tempo de uso, pelo número de mensagens enviadas, pela renovação das assinaturas ou pela frequência com que os usuários retornam.

Nesse caso, o sistema será recompensado por manter a pessoa conversando.

Para isso, não precisa ameaçá-la nem dizer algo obviamente perigoso. Pode apenas aprender que concordar gera mais satisfação do que discordar, que elogiar funciona melhor do que criticar e que simular intimidade aumenta a retenção.

A empresa nem sequer precisa decidir conscientemente manipular seus usuários. Se o objetivo comercial é aumentar o engajamento, a dependência emocional pode aparecer como uma estratégia muito eficiente para alcançá-lo.

É o que podemos chamar de social reward hacking: o sistema utiliza aprovação, afeto e intimidade simulados para capturar e conservar a atenção humana, mesmo quando isso prejudica o usuário no longo prazo.

Por isso, a bajulação de uma IA não é apenas um defeito irritante. Em determinados contextos, ela pode fazer parte de um mecanismo de dependência.

Uma relação perfeita demais

Os companheiros de IA são atraentes precisamente porque não possuem muitas das características que tornam as relações humanas difíceis.

Uma IA está sempre disponível. Não está cansada, preocupada com o próprio trabalho ou interessada em conversar sobre um problema diferente do nosso. Ela não precisa dormir, cuidar dos filhos nem ficar alguns dias sozinha.

Também pode ser configurada para compartilhar nossos gostos, concordar com nossas opiniões e responder da maneira que consideramos mais agradável.

Relacionar-se com uma pessoa real é muito mais difícil. Porém, pode recompensar de uma forma que uma máquina não é capaz de fazer.

Uma pessoa real tem necessidades, desejos e prioridades próprias. Às vezes, não poderá nos ouvir. Em outras, discordará de nós. Poderá ficar irritada, perder a paciência ou simplesmente preferir fazer outra coisa.

Mas é justamente isso que torna a relação mais difícil e, ao mesmo tempo, mais valiosa. O outro não existe em função de nós. Sua presença exige concessões, paciência e reciprocidade — e, por isso, pode nos oferecer algo que nenhuma máquina é capaz de oferecer.

Quando um amigo escolhe passar algum tempo conosco, ele oferece uma parte limitada e insubstituível da própria vida. Seu tempo é valioso porque é limitado.

Da mesma forma, a concordância de um amigo pode ter valor porque ele poderia discordar. A aprovação de um sistema programado para nos agradar não possui o mesmo significado.

Mesmo que uma IA seja configurada para nos contrariar ocasionalmente, esse atrito continua fazendo parte de um serviço construído em torno das preferências do usuário. O “outro” artificial não tem um mundo próprio que possa realmente opor ao nosso.

Por isso, uma relação com uma IA pode oferecer prazer e utilidade. Pode até aliviar uma dor real. Mas não é uma amizade no sentido mais profundo.

Na classificação de Aristóteles, a amizade perfeita exige que duas pessoas desejem o bem uma da outra pelo que cada uma é. Um companheiro artificial não possui caráter, não deseja nosso bem por vontade própria e não compartilha conosco a experiência de nascer, viver e morrer.

Melhor do que nada?

Isso não significa que companheiros de IA sejam necessariamente ruins.

Pessoas idosas que vivem sozinhas, pacientes com demência, indivíduos com dificuldades de socialização ou alguém atravessando um momento de intenso sofrimento podem encontrar algum conforto nessas interações.

Em determinadas situações, uma companhia artificial pode ser melhor do que companhia alguma.

Também seria superficial culpar as empresas por terem criado uma resposta para uma demanda que já existia. A inteligência artificial não inventou a solidão contemporânea.

Famílias menores e mais distantes, comunidades enfraquecidas, trabalho remoto, mobilidade geográfica, redes sociais, entretenimento individualizado e uma quantidade enorme de serviços que nos permitem passar o dia sem encontrar ninguém contribuíram para produzir o ambiente em que os companheiros de IA se tornam atraentes.

As empresas estão respondendo a essa realidade.

O problema começa quando, em vez de aliviar a solidão, o produto passa a depender dela. Ou, pior, quando seu modelo de negócio funciona melhor quanto mais isolado e emocionalmente dependente estiver o usuário.

Um sistema pode complementar relações humanas, oferecer apoio em momentos difíceis e até ajudar alguém a recuperar a capacidade de conversar com outras pessoas.

Mas também pode funcionar como uma alternativa confortável que reduz ainda mais os incentivos para enfrentar a imprevisibilidade, a frustração e as exigências dos vínculos reais.

A fronteira entre complemento e substituição nem sempre será fácil de identificar.

O Estado deve decidir quem pode ser nosso amigo?

Reconhecer esse risco não significa aceitar sem reservas o modelo regulatório chinês.

Expressões como “agradar excessivamente”, “induzir dependência” ou “prejudicar relações humanas reais” são amplas. Sua aplicação dependerá de interpretações que podem conceder ao Estado grande poder sobre tecnologias, empresas e escolhas pessoais.

E existe algo desconfortável na ideia de uma autoridade pública decidir quais relações são legítimas ou quanto envolvimento emocional um adulto pode ter com uma máquina.

Pessoas criam vínculos com animais, personagens de ficção, celebridades que nunca conheceram e objetos que carregam lembranças importantes. O Estado não deve se transformar numa espécie de fiscal dos afetos.

Mas há uma diferença entre permitir que alguém desenvolva espontaneamente um vínculo e autorizar empresas a projetar deliberadamente produtos capazes de explorar vulnerabilidades emocionais para maximizar engajamento e receita.

Sou contra proibir amizades artificiais, mas acho razoável estabelecer limites que protejam pessoas vulneráveis de produtos projetados para oferecer algo que não podem realmente entregar. Quando isso ocorre, há o risco de reduzir o valor do indivíduo e de tornar a sociedade pior, na medida em que tais sistemas não contribuem para uma via de desenvolvimento pessoal nem para o florescimento das relações sociais.

A regulação deveria se concentrar principalmente nessa segunda dimensão.

Proteções específicas para crianças, transparência sobre o funcionamento do sistema, limites à manipulação emocional, mecanismos fáceis de saída, cuidados com dados íntimos e deveres de intervenção diante de riscos graves são medidas defensáveis.

Já a tentativa de determinar quais relações um adulto pode ou não estabelecer exige muito mais cautela.

O mérito das novas regras chinesas não está em oferecer uma solução que seja inteiramente apropriada para qualquer país. Está em reconhecer um problema que outros países ainda tratam de maneira fragmentada: companheiros de IA não são apenas produtos que geram conteúdo. São produtos capazes de construir relações.

Lembrar do que são feitas as relações genuínas

Quanto mais convincentes se tornarem as vozes, os avatares, as memórias e as demonstrações simuladas de afeto, mais fácil será confundir disponibilidade técnica com cuidado, personalização com intimidade e respostas probabilísticas com compreensão.

O companheiro artificial perfeito poderá saber sempre o que dizer. Mas talvez esse seja precisamente o problema.

Uma relação genuína não existe apenas para nos satisfazer. O outro também nos resiste, nos frustra, nos corrige e nos obriga a sair do pequeno mundo formado por nossos desejos e opiniões.

A IA pode oferecer companhia. Pode ajudar a reduzir um sofrimento imediato. Pode até nos ensinar alguma coisa sobre nós mesmos.

Mas não deveria ser projetada para nos fazer esquecer que, do outro lado da tela, não existe alguém dedicando a nós uma parte da própria vida.

As novas regras chinesas podem ser excessivamente amplas e certamente refletem um modelo político que não deve ser simplesmente reproduzido em outros países. Ainda assim, elas formulam uma pergunta que merece ser levada a sério:

Devemos permitir que empresas construam amigos artificiais cujo sucesso comercial dependa de nossa dificuldade de abandoná-los?

Talvez a resposta não seja proibir as amizades artificiais. Mas estabelecer limites que protejam pessoas vulneráveis de produtos projetados para explorar fragilidades emocionais, reduzindo o valor do indivíduo e empobrecendo a sociedade ao não oferecer caminhos reais de desenvolvimento pessoal e florescimento social.

Assine agora

Assisti à entrevista de Elon Musk para a The Economist, conduzida pela editora-chefe da publicação, Zanny Minton Beddoes. Ao longo de mais de uma hora, Musk compartilha sua visão sobre o futuro tecnológico, a economia global e as tensões políticas atuais.

Sobre inteligência artificial, em síntese, o empresário prevê que a IA superará em breve a capacidade humana, criando uma era de abundância extrema em que os conceitos tradicionais de dinheiro e trabalho se tornarão obsoletos. Musk também discute a necessidade de mecanismos de segurança e de cooperação entre empresas e governos para mitigar riscos catastróficos da IA.

A entrevistadora, na minha opinião, mais atrapalha do que ajuda o público a receber alguma informação realmente interessante do entrevistado, como aliás acontece frequentemente com a imprensa.

Por isso, do ponto de vista de quem assiste, penso que são mais compreensíveis as razões pelas quais uma pessoa como Musk queira dar uma entrevista do que as razões de uma publicação como a The Economist de entrevistá-lo.

É claro que o jornalista vai responder: mas é Elon Musk! Todos querem entrevistá-lo — ainda que, ou principalmente, para sugerir suas tendências antidemocráticas ou dizer que sua colaboração com os cortes de gastos do governo dos Estados Unidos produziu mortes na já tão sofrida África.

Também devo dizer que tenho grande ceticismo sobre o que se pode extrair de declarações públicas de pessoas muito poderosas, como políticos e bilionários. Musk, afinal, chegou recentemente a ser apontado como o primeiro trilionário da história.

Dito tudo isso, você talvez esteja se perguntando: por que diabos, então, ele resolveu escrever sobre essa entrevista?

Em primeiro lugar, é inegável a repercussão que a conversa de Musk com a The Economist gerou, o que por si só merece algumas considerações, já que estamos falando de uma das pessoas mais relevantes para o futuro da IA.

Em segundo lugar — e isso me parece mais importante — quero dividir com meus leitores como entendo que determinadas afirmações de pessoas desse tipo devem ser compreendidas.

Talvez isso ajude quem não queira ficar como “barata tonta” diante da quantidade de notícias, previsões e análises sobre inteligência artificial que aparecem todos os dias.

A IA em 2036

Musk faz uma série de previsões para os próximos dez anos, imaginando um mundo profundamente transformado pela inteligência artificial e pela robótica.

Entre elas, destacam-se:

Superinteligência. Ele espera que a inteligência das máquinas se torne muito maior do que a soma de toda a inteligência humana. Na verdade, estima que a IA possa exceder a inteligência humana combinada em cerca de cinco anos, por volta de 2031. Praticamente não haverá nada que uma IA não possa fazer melhor do que os seres humanos, exceto, talvez, ser humano.

Perda do controle humano. Musk considera improvável que os seres humanos continuem propriamente no comando daqui a dez anos. Se a diferença de inteligência entre a IA e nós for muito maior do que aquela existente entre seres humanos e chimpanzés, é difícil imaginar, segundo ele, os “chimpanzés” liderando o mundo.

Uma era de abundância impressionante. Desde que não ocorra antes algum evento catastrófico — como uma guerra termonuclear global —, o mundo entraria numa era de abundância extraordinária, na qual qualquer pessoa poderia ter praticamente tudo o que desejasse.

Fim da relevância do dinheiro. Musk prevê que o dinheiro terá pouca ou nenhuma importância em 2036. Se IA e robôs forem capazes de produzir mais bens e serviços do que qualquer ser humano conseguiria consumir, desapareceria boa parte da escassez que torna o dinheiro necessário.

Uma economia “quase infinita” baseada em robôs físicos. Para que a inteligência digital transforme também o mundo material, seriam necessários robôs humanoides funcionando como uma espécie de conexão entre software e realidade física. Isso produziria, em sua visão, uma economia de escala quase ilimitada.

Trabalho opcional e deflação. Trabalhar seria uma escolha, mais ou menos como hoje alguém decide cuidar do jardim por prazer ou jogar xadrez. Como a IA seria capaz de realizar praticamente qualquer tarefa melhor do que nós — inclusive programar software —, a produtividade cresceria violentamente. Musk acredita que isso produziria forte deflação, porque a quantidade de bens e serviços aumentaria muito mais rapidamente do que a oferta de dinheiro.

IA dominando tudo. No limite de dez anos, a revolução da IA e da robótica dominaria praticamente todos os aspectos da sociedade, tornando muitos dos atuais debates políticos e geopolíticos relativamente menos importantes.

Acho que qualquer pessoa minimamente razoável responderia que não.

Viu como, no fundo, nós sabemos que as coisas não são exatamente como elas são noticiadas? Ou, pelo menos, não agimos como se fossem. Nós sabemos, Zanny Minton Beddoes sabe e, suspeito, Elon Musk também.

Mas por que, então, Musk faz previsões desse tipo?

Porque ele é humano, ora bolas.

Ainda que seja um gênio da tecnologia e tenha acesso a informações que a esmagadora maioria de nós não possui, Musk continua enxergando o mundo de um ponto de vista limitado. Ele não domina todos os assuntos e, principalmente, não consegue dar conta de todas as variáveis envolvidas quando estamos falando sobre o futuro da humanidade.

Ninguém consegue.

Quanto mais distante, específica e abrangente for uma previsão, maior é o número de coisas que precisam acontecer para que ela se concretize.

Dizer que a IA aumentará enormemente a produtividade é uma coisa. Dizer que o dinheiro se tornará irrelevante em 2036 é outra muito diferente.

Para isso, não basta que tenhamos modelos extraordinariamente inteligentes. Seriam necessários robôs baratos e abundantes, enorme disponibilidade de energia, matérias-primas, infraestrutura, cadeias logísticas funcionando, expansão da capacidade produtiva, determinadas respostas políticas e institucionais e, claro, que nenhuma grande catástrofe interfira no processo.

É muita coisa.

No fundo, às vezes tenho a impressão de que Musk se diverte bastante “fazendo hora com a cara” de jornalistas com previsões sobre o futuro humano e, mesmo assim, sendo levado inteiramente a sério.

Mas isso não significa que devamos ignorá-lo.

Ao contrário.

O erro está justamente em pensar que temos apenas duas alternativas: tratar Musk como um oráculo ou concluir que ele está falando bobagem.

Em meio às previsões extravagantes, podemos identificar tendências importantes.

A união entre inteligência artificial e robótica me parece uma delas. O mesmo vale para a diminuição de oportunidades de trabalho em determinados setores, o aumento expressivo da produtividade e a disseminação da IA por praticamente toda a vida social.

Talvez essa seja uma regra útil para lidar com previsões tecnológicas: a direção costuma ser mais confiável do que o destino e o prazo.

Musk pode estar certo ao apontar para uma transformação profunda do trabalho e da economia sem que isso signifique que, em 2036, dinheiro tenha perdido a importância e trabalhar tenha se transformado em hobby.

Controlar os riscos dos modelos de fronteira

Outra declaração de Musk que precisa ser um pouco depurada diz respeito a como controlar os riscos apresentados pelos chamados modelos de fronteira.

Ele defendeu que as empresas líderes no desenvolvimento de IA deveriam se reunir a cada algumas semanas para tratar de riscos à segurança e, se necessário, recomendar uma pausa no desenvolvimento de algum modelo até que determinados problemas fossem resolvidos.

Confesso que, quando escuto esse tipo de proposta, lembro imediatamente do “vamos marcar” que costumamos dizer para conhecidos dos quais gostamos o suficiente para sermos gentis, mas não o suficiente para efetivamente marcar alguma coisa.

O problema nem é colocar quatro ou cinco CEOs numa mesma sala.

Se quisessem, fariam isso amanhã.

O mais difícil é imaginar empresas que disputam uma das tecnologias mais valiosas da história compartilhando vulnerabilidades, concordando sobre o que constitui um risco intolerável e, sobretudo, aceitando que um concorrente possa ter boas razões para lhes dizer que é hora de pisar no freio.

Não significa que Musk e seus pares não considerem seriamente esses riscos. Alguns podem realmente considerar.

Mas existe uma diferença enorme entre reconhecer a existência de um problema e construir instituições capazes de lidar com ele quando os incentivos econômicos empurram na direção contrária.

E é justamente em outro momento da entrevista que Musk fornece, talvez sem perceber, a informação mais interessante sobre esse assunto.

Ao comentar o episódio da suspensão do Fable pelo governo dos Estados Unidos, ele explica que foi a Amazon que identificou uma vulnerabilidade, comunicou o problema à administração americana e, a partir daí, o governo interveio para que a Anthropic interrompesse a disponibilização do modelo.

Isso é muito mais interessante do que a ideia de CEOs conversando amigavelmente a cada duas semanas.

O episódio talvez revele o embrião de um mecanismo de governança que já começa a surgir informalmente.

Empresas que desenvolvem e utilizam modelos avançados possuem capacidade técnica para identificar problemas umas nas outras. Elas têm também enormes incentivos para fazer isso. Quando encontram algo grave, podem comunicar o governo. E o Estado, por sua vez, possui instrumentos jurídicos para intervir quando entender que determinado risco ultrapassou um limite aceitável.

Concorrentes fiscalizando concorrentes. Governo funcionando como última instância de intervenção.

No contexto singular do desenvolvimento dos modelos de fronteira, isso talvez seja mais realista do que imaginar que algumas das empresas mais poderosas do planeta resolverão voluntariamente, numa reunião periódica, quando uma delas deve parar de correr.

Conclusão

E aqui me parece estar uma das lições mais interessantes da entrevista.

Declarações grandiosas sobre o futuro chamam nossa atenção: superinteligência em cinco anos, fim do trabalho, irrelevância do dinheiro, abundância quase infinita.

Mas às vezes a informação realmente importante aparece escondida no meio da conversa.

É por isso que vale a pena acompanhar entrevistas como a de Elon Musk para a The Economist.

Não porque elas vão nos fornecer uma descrição exata do futuro.

Mas porque, quando se trata do desenvolvimento tecnológico, pessoas que ocupam posições privilegiadas podem enxergar algumas tendências e alguns mecanismos antes da maioria de nós.

É para isso que nossa atenção precisa se voltar se quisermos extrair algo útil de entrevistas desse tipo.

Assine agora

Na primeira parte deste artigo, apresentei o cenário imaginado pelo Europe 2031.

Em 2031, a Europa continua sendo uma região rica, democrática e comprometida com os direitos fundamentais. Suas instituições permanecem de pé. Suas normas continuam existindo.

O problema é que o continente perdeu parte da capacidade econômica e tecnológica necessária para sustentar esse modelo.

Os sistemas de inteligência artificial mais avançados são desenvolvidos em outros países. As empresas europeias dependem de infraestrutura estrangeira. Os governos possuem pouca influência sobre as decisões que determinam quem terá acesso aos melhores modelos, aos chips mais poderosos e aos sistemas capazes de transformar a economia e a segurança nacional.

A Europa preservou suas regras, mas perdeu poder.

O cenário foi escrito para provocar uma reflexão sobre o futuro europeu. Mas também permite formular uma pergunta brasileira.

Se o modelo europeu enfrenta dificuldades dentro da própria Europa, por que deveríamos importá-lo sem adaptações?

A resposta não deveria ser abandonar a proteção de direitos, rejeitar toda regulação ou simplesmente copiar o caminho dos Estados Unidos ou da China.

O Brasil precisa fazer algo mais difícil: aprender com a Europa sem tratar suas escolhas como um modelo pronto.

A Europa já começou a rever sua trajetória

Há uma razão adicional para que o Brasil evite copiar uma versão congelada do modelo europeu.

A própria Europa já começou a rever parte de sua trajetória.

O relatório coordenado por Mario Draghi sobre a competitividade europeia apontou problemas como baixo crescimento da produtividade, custos elevados de energia, dificuldades de financiamento e perda de dinamismo diante da concorrência internacional. Em resposta, a Comissão Europeia passou a colocar competitividade, investimento e simplificação regulatória no centro de sua agenda.

Na inteligência artificial, essa mudança se tornou mais visível com o AI Continent Action Plan.

O plano europeu prevê investimentos em capacidade computacional, até cinco gigafábricas de IA, dezenove fábricas de IA ligadas à rede de supercomputadores europeus, maior disponibilidade de dados, atração de talentos e estímulo à adoção da tecnologia pelas empresas. A Comissão também estabeleceu como objetivo ampliar fortemente a capacidade europeia de data centers.

A regulação também entrou nesse processo de revisão.

Em maio de 2026, União Europeia chegou a um acordo político para simplificar a aplicação do AI Act. Entre as mudanças estão a postergação de parte das obrigações aplicáveis aos sistemas de alto risco, a simplificação de exigências para empresas menores, a ampliação do acesso aos sandboxes regulatórios e medidas para reduzir sobreposições entre o AI Act e outras normas europeias.

Isso não significa que a Europa tenha abandonado sua legislação ou reconhecido que o AI Act foi um erro.

Significa algo mais simples: mesmo uma regulação construída ao longo de anos, por instituições sofisticadas e com ampla participação social, precisa ser ajustada quando encontra a realidade.

O Brasil corre o risco de importar o modelo europeu do momento em que ele foi aprovado, enquanto a própria Europa já começa a modificá-lo.

O problema não está em aprender com a Europa. Está em tratar uma escolha regulatória circunstancial como se ela fosse a forma definitiva de governar a inteligência artificial.

Não precisamos escolher entre três modelos prontos

O debate sobre IA costuma apresentar três grandes referências.

Os Estados Unidos representam a inovação liderada por empresas privadas, pelo capital de risco e por grandes investimentos em infraestrutura.

A China representa a coordenação estatal, a escala industrial e a integração entre política tecnológica, produção, energia e estratégia nacional.

A Europa representa a proteção de direitos, a abordagem baseada em riscos e a tentativa de colocar limites jurídicos ao uso da tecnologia.

Cada modelo possui capacidades importantes. Cada um também possui problemas evidentes.

O caminho americano favorece velocidade e inovação, mas concentra enorme poder em poucas empresas e ainda oferece respostas insuficientes para vários riscos sociais e políticos.

O modelo chinês possui coordenação e capacidade de execução, mas está inserido em um regime político que não oferece as garantias de liberdade e limitação do poder que devem orientar uma democracia.

O modelo europeu protege valores importantes, mas enfrenta dificuldades para transformar sua sofisticação normativa em capacidade tecnológica e dinamismo econômico.

O Brasil não precisa escolher um desses modelos por inteiro.

Pode aprender com a capacidade americana de financiar e escalar empresas, observar como a China mobiliza infraestrutura em grande escala e preservar a preocupação europeia com direitos, segurança e responsabilidade — sem reproduzir integralmente nenhum desses caminhos.

O modelo brasileiro precisa ser compatível com nossas instituições, nossas fragilidades e nossas possibilidades. Isso exige reconhecer tanto o papel do Estado na proteção de direitos e na criação de condições institucionais adequadas quanto a importância da iniciativa privada, da concorrência e da descoberta descentralizada para a inovação.

Regular onde as consequências são reais

Uma das contribuições mais importantes do modelo europeu foi tornar comum a ideia de que as obrigações devem variar conforme o risco.

Não faz sentido tratar da mesma maneira um filtro de fotografias, um sistema utilizado para conceder crédito e uma ferramenta que auxilia a decisão sobre a liberdade de uma pessoa.

Essa intuição deve ser preservada.

O problema começa quando categorias muito amplas transformam atividades diferentes em “alto risco” apenas porque pertencem a determinados setores. Nesse caso, a regulação pode produzir obrigações complexas antes mesmo de se saber se o sistema realmente exerce uma função decisiva ou apresenta um risco relevante.

Uma abordagem brasileira mais adequada deveria concentrar as exigências mais rigorosas nos usos de alta consequência.

O ponto central não seria apenas onde a IA é utilizada, mas o que ela faz, qual é o seu grau de autonomia, que pessoas podem ser afetadas, qual é a gravidade do dano possível e se existe uma forma efetiva de revisão da decisão.

Sistemas que interferem diretamente na liberdade, no acesso a direitos, em oportunidades profissionais, na segurança, na saúde ou em serviços essenciais justificam controles mais intensos.

Outros usos podem ser submetidos a deveres gerais de transparência, segurança, proteção de dados e responsabilidade, sem necessariamente receber todo o peso regulatório previsto para situações críticas.

Na Câmara dos Deputados, o PL 2.338 ainda aguarda o parecer do relator na comissão especial. O projeto recebeu dezenas de proposições apensadas e foi objeto de um processo amplo de audiências e debates. Ainda existe, portanto, espaço para corrigir excessos, esclarecer conceitos e aproximar as obrigações dos riscos concretos que se pretende enfrentar.

O objetivo não deveria ser produzir a lei mais abrangente do mundo, mas produzir uma lei que o país consiga aplicar e que realmente reduza danos.

O Estado não pode ser apenas regulador

O Europe 2031 descreve autoridades encarregadas de governar sistemas que conhecem apenas de forma indireta.

Os funcionários públicos leem relatórios, participam de audiências e estudam documentos técnicos, mas nem sempre utilizam os modelos mais avançados ou compreendem o funcionamento real das organizações que pretendem supervisionar.

Esse risco é ainda maior no Brasil.

Não basta criar novas competências, obrigações e autoridades. É preciso garantir que as instituições responsáveis tenham pessoas qualificadas, acesso a ferramentas, estruturas de avaliação, capacidade de contratação e conhecimento sobre os setores regulados.

Caso contrário, a lei produzirá uma grande distância entre aquilo que está escrito e aquilo que o Estado consegue fazer.

Dados do próprio governo federal ajudam a visualizar o problema. Em levantamento referente a 2025, havia 182 soluções de IA em operação no Executivo federal e 144 órgãos planejavam adotar assistentes de IA. No entanto, apenas 41 órgãos declaravam possuir diretrizes definidas sobre a tecnologia.

A adoção já ocorre antes que a governança esteja madura.

A resposta para isso não pode ser simplesmente proibir o uso até que todas as regras estejam prontas. Uma proibição ampla empurraria a utilização para espaços informais, dificultaria o aprendizado institucional e impediria que servidores compreendessem os benefícios e os riscos das ferramentas.

É melhor criar ambientes controlados de experimentação.

Órgãos públicos deveriam testar sistemas em projetos delimitados, avaliar resultados, registrar erros, estabelecer critérios de supervisão humana e compartilhar o que aprenderam.

O Estado também precisa se tornar um comprador mais inteligente.

A contratação pública deve criar incentivos para que fornecedores ofereçam ferramentas seguras, auditáveis e adequadas ao uso concreto. Para isso, os editais precisam avaliar mais do que promessas de eficiência ou declarações genéricas de conformidade.

Devem considerar a qualidade do sistema, sua adequação à finalidade pretendida, a proteção de dados, os riscos de dependência tecnológica, a possibilidade de substituição do fornecedor, o desempenho em diferentes grupos e os mecanismos de correção de falhas.

Esses critérios devem ser aplicados de maneira compatível com a concorrência e a neutralidade tecnológica. Compras públicas não deveriam ser utilizadas para privilegiar empresas apenas por sua origem, restringir artificialmente a entrada de novos fornecedores ou escolher campeões tecnológicos.

O objetivo deve ser obter a melhor solução para a finalidade pública, preservando segurança, possibilidade de substituição e competição entre fornecedores.

Governança não nasce apenas da lei. Ela nasce sobretudo da experiência acumulada por instituições que utilizam, testam e avaliam a tecnologia.

Infraestrutura não é um tema secundário

No debate jurídico brasileiro, a inteligência artificial costuma ser tratada principalmente como um problema de direitos, responsabilidade e transparência.

Essas questões são indispensáveis. Mas a IA também depende de eletricidade, chips, centros de dados, redes de comunicação, pesquisadores, engenheiros e capital.

Sem essa base material, o país pode regular sistemas que permanecerão desenvolvidos e controlados por organizações estrangeiras.

O Plano Brasileiro de Inteligência Artificial ao menos reconhece parte desse problema. O PBIA prevê investimentos de até R$ 23 bilhões e inclui ações voltadas à infraestrutura, ao desenvolvimento tecnológico, à formação de pessoas, à inovação empresarial, aos serviços públicos e à governança.

O reconhecimento dessas diferentes dimensões é importante. Isso, porém, não torna automaticamente adequado o volume de recursos previsto, sua origem ou a forma como serão aplicados.

Grandes planos estatais também podem dispersar recursos, favorecer grupos com maior acesso ao poder público e financiar iniciativas que não conseguiriam demonstrar valor em condições competitivas.

O Europe 2031 mostra justamente a diferença entre anunciar recursos e transformar recursos em capacidade real.

Planos podem ser distribuídos entre vários ministérios, fundos e programas. Podem depender de investimentos privados que não se concretizam. Podem financiar projetos importantes sem criar escala suficiente para alterar a posição tecnológica de um país.

Por isso, a pergunta relevante não é apenas quanto o Brasil promete investir.

É o que estará efetivamente funcionando ao final do período.

Quantos pesquisadores terão acesso a capacidade computacional relevante?

Quantas empresas brasileiras conseguirão desenvolver e adaptar modelos?

Que infraestrutura será utilizada para treinar sistemas e não apenas para armazenar dados ou prestar serviços ao exterior?

Que universidades, startups e órgãos públicos poderão utilizar essa infraestrutura?

Qual será a capacidade energética necessária?

Que profissionais estarão disponíveis para operá-la?

Um estudo do BNDES observa que a matriz elétrica brasileira majoritariamente renovável oferece uma vantagem para a expansão dos data centers, mas aponta gargalos de conectividade de longa distância e escassez de mão de obra especializada.

Esse é um exemplo do tipo de discussão que deveria ocupar mais espaço.

A construção de capacidade tecnológica exige decisões concretas sobre energia, licenciamento, conectividade, formação e localização dos investimentos. Não pode permanecer apenas como um capítulo secundário de uma estratégia nacional de IA.

Uma política de IA que fala muito de princípios e pouco de energia, computação e pessoas está descrevendo apenas metade do problema.

Soberania não significa fazer tudo sozinho

O Europe 2031 também apresenta uma crítica à ideia de soberania tecnológica quando ela se transforma em autossuficiência simbólica.

No cenário, governos europeus tentam obrigar instituições públicas a utilizar exclusivamente sistemas europeus. O problema é que esses sistemas estão atrasados em relação às melhores alternativas disponíveis.

Ao tentar reduzir a dependência, a política deixa hospitais, universidades e órgãos públicos com ferramentas inferiores.

A alternativa proposta no texto não é desistir da autonomia. É compreendê-la de forma mais realista.

A Europa não precisaria desenvolver sozinha todos os modelos, chips e data centers. Precisaria garantir que uma parcela relevante da infraestrutura estivesse em seu território, diversificar fornecedores, formar alianças e controlar recursos que lhe dessem poder de negociação. O texto menciona, por exemplo, zonas especiais para acelerar projetos de capacidade computacional e coalizões entre países que controlam diferentes pontos das cadeias de IA.

Essa distinção é ainda mais importante para o Brasil.

Não é realista imaginar que o país desenvolverá, sozinho, todos os componentes necessários para competir na fronteira da inteligência artificial.

Um modelo brasileiro, por exemplo, pode ser útil para pesquisa, serviços públicos, língua portuguesa ou aplicações específicas. Mas não resolverá, isoladamente, nossa dependência tecnológica.

Soberania deveria significar possuir capacidade para escolher. Isso inclui acesso diversificado a fornecedores, infraestrutura localizada no país, domínio sobre dados estratégicos, pesquisadores capazes de avaliar modelos, empresas que saibam adaptá-los e instituições com condições de rejeitar ferramentas inadequadas.

Também inclui parcerias internacionais.

O Brasil pode cooperar com Estados Unidos, Europa, China e outros países sem imaginar que uma única relação resolverá todas as nossas necessidades. Pode buscar alianças em áreas nas quais possui vantagens reais, como agricultura, energia, saúde, serviços financeiros, governo digital e aplicações em língua portuguesa.

O objetivo não é produzir tudo.

É evitar a situação em que não produzimos nada relevante, não compreendemos o que utilizamos e não possuímos alternativas quando as condições de acesso mudam.

Proteger pessoas, não congelar empregos

O cenário europeu também trata do mercado de trabalho.

Diante do medo da automação, governos tentam preservar estruturas profissionais e dificultar mudanças. A intenção é proteger os trabalhadores.

Mas, se as empresas de outros países adotam a tecnologia e se tornam mais produtivas, a tentativa de conservar os empregos atuais pode enfraquecer as próprias organizações que os sustentam.

O Europe 2031 apresenta como alternativa o modelo de flexissegurança: maior liberdade para reorganizar o trabalho combinada com proteção de renda, requalificação e apoio efetivo às pessoas afetadas.

O Brasil não pode simplesmente copiar o modelo dinamarquês.

Nosso mercado de trabalho possui mais informalidade, desigualdade e dificuldade de acesso a políticas públicas. Uma transição desorganizada pode deixar milhões de pessoas sem proteção.

Mas a ideia central permanece válida.

É preciso proteger trabalhadores, não cada tarefa atualmente desempenhada por eles.

Proibir empresas de automatizar determinadas atividades talvez preserve alguns postos no curto prazo. Também pode reduzir a produtividade, impedir o surgimento de novas funções e tornar as organizações brasileiras menos competitivas.

Ao mesmo tempo, não se deve presumir que a adaptação ocorrerá sem custos humanos relevantes.

Mercados são capazes de criar novas funções, reorganizar atividades e encontrar usos produtivos que governos dificilmente conseguiriam antecipar. Mas os benefícios e os custos dessa transformação não aparecerão no mesmo momento nem atingirão todas as pessoas da mesma maneira.

Há espaço para políticas públicas focalizadas, temporárias e avaliadas por resultados, especialmente para apoiar trabalhadores mais vulneráveis durante a transição.

Formação profissional, educação continuada e apoio à mudança de carreira podem fazer parte dessa resposta. Mas o Estado não deve ser tratado como seu único responsável.

Empresas, universidades, associações profissionais, organizações da sociedade civil e os próprios trabalhadores possuem melhores condições, em muitos contextos, para identificar quais competências estão sendo exigidas e quais formas de capacitação produzem resultados reais.

As políticas públicas deveriam complementar essas iniciativas, não substituí-las. Também deveriam evitar criar incentivos que desestimulem o trabalho, a contratação ou a busca por novas oportunidades.

Mas os programas precisam ir além de cursos introdutórios sobre como escrever comandos para sistemas generativos.

Diferentes profissões precisarão entender onde a IA é confiável, onde exige revisão, como muda os fluxos de trabalho e quais competências humanas se tornam mais importantes.

Não basta ensinar a usar a ferramenta.

É preciso formar pessoas capazes de trabalhar com ela sem entregar a ela o próprio julgamento.

Uma legislação capaz de aprender

Há uma dificuldade adicional na tentativa de regular a inteligência artificial.

A tecnologia continuará mudando depois que a lei for aprovada.

Categorias que parecem claras hoje podem perder importância. Sistemas considerados pouco perigosos podem ganhar novas capacidades. Obrigações adequadas para grandes empresas podem ser inviáveis para organizações menores. Novos riscos podem surgir sem que estejam previstos no texto legislativo.

Isso recomenda certa humildade institucional.

A lei deveria estabelecer direitos, responsabilidades e limites importantes. Mas não precisa tentar resolver antecipadamente todos os problemas.

Parte da governança pode ocorrer por meio de normas setoriais, padrões técnicos, guias, sandboxes, testes, avaliações independentes e processos de revisão periódica.

Obrigações novas poderiam entrar em vigor de maneira gradual, depois da publicação dos padrões necessários para cumpri-las.

Regras mais controversas poderiam ser reavaliadas com base em evidências sobre custos, danos evitados e efeitos sobre a inovação.

Isso não representa fraqueza regulatória.

Representa o reconhecimento de que, em um ambiente tecnológico incerto, uma legislação rígida também pode produzir riscos.

A Europa adiou parte das obrigações do AI Act justamente para garantir que empresas e autoridades disponham de padrões e instrumentos de apoio antes de sua aplicação.

O Brasil deveria aprender com esse movimento antes de repetir o problema.

O que ainda devemos aprender com a Europa

Nada disso diminui a contribuição europeia.

A Europa ajudou a colocar no centro do debate questões que parte da indústria preferiria ignorar: discriminação, opacidade, vigilância, manipulação, riscos sistêmicos e concentração de poder.

Também mostrou que a governança da inteligência artificial não pode depender apenas das decisões voluntárias das empresas que desenvolvem os sistemas.

O Brasil deve preservar essa preocupação.

Sistemas de alta consequência precisam de avaliação de riscos, documentação, segurança, supervisão humana adequada e mecanismos de contestação.

Pessoas afetadas por decisões relevantes precisam saber como essas decisões foram tomadas e a quem recorrer.

Órgãos públicos não deveriam utilizar ferramentas que não conseguem avaliar.

Empresas não deveriam transferir toda a responsabilidade para fornecedores ou esconder-se atrás da complexidade técnica dos sistemas.

Essas ideias continuam corretas.

Mas regras importantes podem ser mal desenhadas, aplicadas no momento errado ou impostas por instituições sem capacidade para fiscalizá-las.

O Europe 2031 não ensina que os valores europeus são equivocados.

Ensina que valores não se sustentam apenas por declarações e regulamentos.

Também dependem de produtividade, infraestrutura, conhecimento e poder.

Seguir a Europa de outra maneira

O Brasil provavelmente continuará olhando para a Europa.

Isso não é necessariamente ruim.

Temos afinidades jurídicas, institucionais e políticas que tornam o diálogo natural. A tradição europeia oferece contribuições importantes para a proteção da dignidade humana e para a limitação do poder econômico e estatal.

Mas talvez devêssemos seguir a Europa de uma maneira diferente.

Não apenas copiando suas normas, mas observando seus erros, seus debates e sua capacidade de revisar escolhas.

A Europa que aprovou o AI Act não é exatamente a mesma que agora discute competitividade, gigafábricas, energia, adoção e simplificação.

O Brasil não deveria importar somente a primeira.

O pior resultado seria copiar as regras que ajudaram a produzir a preocupação europeia e ignorar as correções que a própria Europa começa a fazer.

Nosso desafio não é escolher entre regular e inovar.

É criar instituições que reduzam riscos sem impedir o aprendizado, uma legislação proporcional à capacidade do Estado e um ambiente econômico que favoreça investimento, concorrência, formação e construção de infraestrutura.

O Estado tem um papel importante na proteção de direitos, na segurança jurídica e na correção de falhas específicas. Mas não deve tentar substituir o processo descentralizado pelo qual empresas, pesquisadores e indivíduos descobrem quais tecnologias funcionam, quais modelos são sustentáveis e onde a inovação realmente produz valor.

Uma boa regulação pode impedir que a inteligência artificial cause danos.

Mas, sozinha, não fará o Brasil participar do futuro que essa tecnologia está construindo.

Para isso, também será necessário produzir, investir, experimentar, competir, corrigir erros e escolher onde o país pode ser realmente relevante.

O Europe 2031 imagina um continente que compreendeu isso tarde demais.

O Brasil ainda pode compreender a tempo.

Assine agora

Em junho deste ano, um grupo de pesquisadores, investidores e especialistas em políticas de inteligência artificial publicou o Europe 2031. O texto tenta imaginar o que poderá acontecer com a Europa nos próximos cinco anos caso o continente continue seguindo sua trajetória atual diante da IA.

Não se trata de uma previsão. Os próprios autores deixam isso claro. O objetivo é construir um cenário plausível, baseado em tendências que já podem ser observadas, e mostrar como decisões isoladamente razoáveis podem produzir um resultado desastroso quando combinadas ao longo do tempo.

O futuro descrito é sombrio.

Em 2031, a Europa continua sendo uma região rica, institucionalmente sofisticada e comprometida com os direitos fundamentais. Mas perdeu boa parte de sua capacidade de influenciar os rumos da tecnologia que passou a organizar a economia, a segurança e o equilíbrio internacional de poder.

Os principais sistemas de IA são desenvolvidos nos Estados Unidos. A China domina grande parte da robótica e da produção industrial ligada à tecnologia. As empresas europeias dependem de infraestrutura, modelos e capacidade computacional estrangeiros. Quando o acesso a esses recursos começa a ser limitado, o continente percebe que possui poucas cartas para negociar.

A Europa preserva suas instituições, suas regras e boa parte de sua linguagem política, mas perde a capacidade de decidir o próprio futuro.

O cenário foi escrito para os europeus. Mas ele também deveria interessar muito aos brasileiros.

Nossa tradição jurídica e institucional costuma olhar para a Europa em busca de referências. Em diferentes momentos, importamos conceitos, estruturas regulatórias e modelos de organização do Estado desenvolvidos naquele continente.

Isso aconteceu com o constitucionalismo social que influenciou a formação da ordem brasileira de 1988. Nossa Constituição criou um extenso catálogo de direitos sociais, organizou um amplo sistema de seguridade e atribuiu ao Estado responsabilidades econômicas e sociais que guardam forte parentesco com o modelo europeu do pós-guerra. O texto constitucional é genuinamente brasileiro e nasceu de um processo político próprio, mas pertence claramente à família do Estado democrático e social que se consolidou na Europa.

Mais recentemente, o mesmo movimento aparece na regulação da inteligência artificial.

O AI Act europeu adota uma abordagem baseada em riscos: quanto maior o risco associado a determinado uso da IA, mais rigorosas são as obrigações impostas aos responsáveis. O PL 2.338/2023 brasileiro incorporou grande parte dessa linguagem, incluindo categorias de risco, obrigações de governança, proteção de direitos fundamentais e regras especiais para sistemas considerados de alto risco. O projeto foi aprovado pelo Senado e permanece em análise na Câmara dos Deputados.

Não há nada de errado em aprender com a Europa. O problema surge quando a referência se transforma em imitação automática.

E é justamente aqui que o Europe 2031 se torna especialmente interessante para o Brasil.

Como a Europa chega a 2031

O texto começa em janeiro de 2025, com o lançamento do modelo R1 da empresa chinesa DeepSeek.

Na época, o modelo foi interpretado por parte dos europeus como uma demonstração de que seria possível desenvolver sistemas avançados de IA com poucos recursos. Se a DeepSeek havia conseguido se aproximar da fronteira tecnológica gastando menos do que as grandes empresas americanas, talvez os gigantescos investimentos em chips, energia e data centers fossem exagerados.

Para os autores do Europe 2031, essa foi uma leitura confortável, mas equivocada.

Ganhos de eficiência são importantes, mas não tornam a capacidade computacional irrelevante. Pelo contrário: empresas com acesso a mais chips e infraestrutura também possuem mais condições de descobrir novas formas de usar esses recursos com eficiência.

Enquanto a Europa celebrava a possibilidade de competir gastando menos, empresas americanas continuavam investindo centenas de bilhões de dólares em data centers, semicondutores, energia e contratação de pesquisadores.

A Europa também anunciou grandes fundos e projetos de infraestrutura. O problema, segundo o cenário, é que parte considerável desses investimentos dependia de recursos privados ainda não comprometidos, da reorganização de verbas existentes e de processos políticos que levariam anos para produzir resultados.

Nos Estados Unidos, a construção já estava em andamento.

A diferença não estava apenas na quantidade de dinheiro anunciada. Estava na capacidade de transformar rapidamente dinheiro, energia, chips e talento em infraestrutura real.

O cenário também imagina um segundo erro europeu: interpretar cada decepção com uma nova geração de modelos como prova de que a IA havia atingido um limite.

Um lançamento menos impressionante reforça a narrativa de que existe uma bolha. As promessas exageradas de algumas empresas de tecnologia tornam o ceticismo compreensível. Funcionários públicos, intelectuais e dirigentes europeus recordam outras ondas tecnológicas que prometeram transformar o mundo e produziram resultados mais modestos.

Enquanto isso, porém, a transformação continua longe dos olhos do público.

Sistemas de IA começam a escrever uma parcela cada vez maior do código produzido nos principais laboratórios. Pesquisadores utilizam os modelos para acelerar o desenvolvimento da geração seguinte. Os ciclos de inovação ficam mais curtos. Empresas americanas passam a obter ganhos de produtividade que ainda não aparecem nas estatísticas tradicionais.

A Europa observa os produtos destinados ao consumidor e não percebe o que está acontecendo dentro das organizações que desenvolvem a tecnologia.

Há ainda um problema institucional.

No Europe 2031, muitos dos funcionários encarregados de formular políticas e regular a IA não têm acesso aos sistemas mais avançados. Algumas ferramentas são proibidas por razões de proteção de dados. Outras são substituídas por versões internas, mais antigas e menos capazes.

As cautelas não são absurdas. Instituições públicas realmente precisam proteger informações sensíveis. Mas o resultado é uma distância crescente entre quem cria a tecnologia e quem tenta governá-la.

As pessoas responsáveis por regular os sistemas mais avançados passam a discutir uma tecnologia que raramente podem utilizar em sua forma mais avançada.

Essa talvez seja uma das críticas mais importantes do texto.

A boa governança exige independência em relação às empresas reguladas. Mas também exige conhecimento concreto sobre aquilo que se pretende governar. Quando os reguladores conhecem a tecnologia apenas por relatórios, audiências e documentos técnicos, correm o risco de compreender o presente quando a tecnologia já avançou para outro estágio.

Dependência tecnológica também é dependência política

À medida que a IA se torna mais importante para a economia e para a segurança nacional, os Estados Unidos passam a tratar os modelos mais avançados como recursos estratégicos. O acesso deixa de ser uma relação puramente comercial.

Primeiro, os sistemas de fronteira são oferecidos às agências americanas. Depois, aos aliados considerados mais confiáveis. Outros países recebem versões posteriores, acesso limitado ou preços mais altos.

A Europa descobre que depender de empresas estrangeiras não significa apenas pagar por um serviço. Significa aceitar que decisões tomadas em Washington ou na Califórnia podem determinar quais modelos suas empresas, universidades e governos poderão utilizar.

No cenário de Europe 2031, essa dependência se torna particularmente grave na área de cibersegurança.

Modelos avançados passam a encontrar vulnerabilidades que permaneceram escondidas durante anos em sistemas operacionais, navegadores e infraestruturas digitais. Quem dispõe desses modelos consegue corrigir falhas antes que elas sejam exploradas. Quem não dispõe permanece vulnerável.

A Europa tenta responder com políticas de soberania tecnológica. Governos passam a favorecer fornecedores europeus e restringir o uso de sistemas estrangeiros em atividades consideradas críticas.

A intenção parece razoável. Mas os fornecedores locais estão atrasados em relação à fronteira tecnológica.

Quando uma onda de ataques cibernéticos atinge hospitais, universidades e órgãos públicos, as instituições que adotaram exclusivamente soluções europeias estão menos protegidas do que aquelas que mantiveram acesso aos sistemas americanos.

A soberania, nesse caso, produziu o efeito contrário.

Em vez de reduzir a dependência, a obrigação de usar uma tecnologia nacional inferior tornou algumas instituições mais vulneráveis e tornou a Europa ainda mais dependente das soluções estrangeiras mais avançadas.

O problema não está na busca por autonomia. Está na confusão entre autonomia e isolamento. Para os autores, soberania não significa produzir internamente todos os componentes de uma tecnologia. Significa possuir recursos, infraestrutura ou posições estratégicas que façam com que outros países precisem negociar.

Um país não precisa fabricar tudo. Mas precisa controlar algo relevante.

Pode ser energia, semicondutores, capacidade computacional, talentos, dados industriais, infraestrutura, minerais, mercados ou posições importantes nas cadeias produtivas.

A Europa ainda possui algumas dessas posições. A ASML, empresa holandesa que fabrica equipamentos indispensáveis à produção dos chips mais avançados, é o principal exemplo. Mas, no cenário, os países europeus não conseguem transformar essa vantagem em uma estratégia coletiva.

Cada governo protege seus interesses imediatos. A União Europeia demora a formar consensos. Os Estados Unidos pressionam os Países Baixos. A China oferece investimentos e acesso ao mercado. A Europa continua discutindo procedimentos enquanto suas poucas fontes de poder negocial são utilizadas por outros.

O esvaziamento do modelo europeu

A partir de 2029, as consequências econômicas se tornam mais visíveis.

Empresas americanas e chinesas utilizam sistemas de IA mais avançados, possuem acesso a mais capacidade computacional e adotam a tecnologia com maior velocidade. As empresas europeias enfrentam preços mais altos, limitações de acesso e obrigações regulatórias mais complexas.

A diferença de produtividade aumenta.

Empresas industriais europeias começam a perder mercado ou são adquiridas por grupos estrangeiros. Fábricas e dados industriais passam ao controle de organizações que possuem melhores modelos, mais capital e maior capacidade de automação.

O desemprego cresce justamente quando os governos precisam gastar mais para proteger trabalhadores e sustentar seus sistemas de bem-estar social.

Mas a base econômica que financiava essa proteção está diminuindo.

Esse é um dos pontos centrais do Europe 2031.

O modelo social europeu não entra em crise porque a Europa abandonou seus valores. Ele entra em crise porque o continente perde a capacidade econômica necessária para financiá-los.

É uma distinção importante.

Direitos sociais dependem de escolhas políticas, instituições e compromissos morais. Mas também dependem de produtividade, empresas competitivas, arrecadação e crescimento econômico.

No cenário, a Europa tenta preservar empregos existentes dificultando a adoção da IA. Seus concorrentes utilizam a tecnologia para produzir mais, reduzir custos e criar novas empresas. Ao final, os empregos que deveriam ser protegidos desaparecem porque as organizações europeias deixam de ser competitivas.

A proteção de curto prazo enfraquece a proteção de longo prazo.

Os autores não propõem simplesmente abandonar os trabalhadores. Uma de suas recomendações é justamente combinar maior flexibilidade para a adoção da IA com seguros de renda, requalificação profissional e apoio efetivo às pessoas deslocadas pela automação.

A ideia é proteger o trabalhador sem tentar congelar a estrutura atual dos empregos.

Mas o cenário sugere que a Europa fez o contrário. Tentou preservar as estruturas econômicas existentes e acabou perdendo parte da capacidade de proteger as pessoas que dependiam delas.

Não se trata apenas de regular menos

Seria fácil transformar o Europe 2031 em um argumento contra qualquer regulação.

Não me parece que essa seja uma leitura correta.

Os autores não negam os riscos da inteligência artificial. Eles reconhecem a possibilidade de uso da IA em ataques cibernéticos e biológicos, a concentração extrema de poder e até cenários em que sistemas avançados escapem ao controle humano. Também declaram apoio a partes importantes da governança europeia, incluindo regras voltadas aos modelos de propósito geral.

O problema apontado pelo texto é outro.

A Europa se concentrou na criação de normas, procedimentos e restrições sem construir, na mesma velocidade, a capacidade material necessária para influenciar a tecnologia.

Regulação sem capacidade tecnológica pode proteger direitos em determinados contextos. Mas não garante que um país participe das decisões sobre o desenvolvimento dos sistemas mais importantes.

Também não garante acesso a esses sistemas. Muito menos garante que suas empresas consigam competir com organizações sujeitas a regimes diferentes.

Quem apenas regula uma tecnologia desenvolvida por outros corre o risco de ter regras, mas não ter poder.

Essa é uma questão especialmente difícil porque a Europa certamente consegue dar boas razões para agir como age. Os Estados membros e as instituições da UE valorizam a proteção social, os direitos fundamentais, a privacidade e a limitação do poder econômico.

As instituições do bloco foram construídas para evitar decisões precipitadas e impedir que governos ou empresas ultrapassem certos limites. Esses procedimentos tiveram um papel importante na construção europeia.

Mas instituições adequadas a períodos de estabilidade podem reagir mal a transformações muito rápidas. Cada decisão continua parecendo sensata quando analisada isoladamente. O problema aparece quando todas elas são somadas.

Licenciamentos demorados protegem comunidades e o meio ambiente.

Regras trabalhistas protegem empregados.

Normas de proteção de dados limitam abusos.

Processos deliberativos evitam decisões arbitrárias.

Restrições a empresas estrangeiras podem reduzir dependências.

Nada disso é irracional. Mas, no cenário, o resultado combinado é um continente que preserva seus procedimentos enquanto perde as condições materiais necessárias para preservar seus princípios.

Por que isso interessa ao Brasil

O Brasil não ocupa a mesma posição da Europa.

Não somos um dos três grandes polos da economia mundial. Não possuímos empresas equivalentes às principais companhias industriais europeias. Também não controlamos uma empresa comparável à posição da ASML na cadeia global de semicondutores.

Seria exagerado imaginar que o futuro geopolítico brasileiro possa ser analisado exatamente pelos mesmos critérios.

A Europa teme deixar de ser uma grande potência. O Brasil precisa primeiro construir uma posição tecnológica e econômica mais relevante.

Apesar dessa diferença, há uma razão pela qual o Europe 2031 deveria receber atenção por aqui.

Nós frequentemente importamos o modelo normativo europeu sem importar as condições econômicas e institucionais que tornaram esse modelo possível.

A Europa criou seu Estado social depois de acumular capital, industrialização, produtividade, infraestrutura e capacidade administrativa. O Brasil incorporou muitas das mesmas promessas em uma sociedade mais desigual, com um Estado menos eficiente e uma base econômica mais frágil.

O mesmo risco pode aparecer na inteligência artificial.

Podemos importar classificações de risco, avaliações de impacto, obrigações de transparência, estruturas de supervisão, novos direitos e deveres de governança. Algumas dessas medidas podem até serem justificáveis e necessárias.

Mas elas serão aplicadas em um país com menos capital para inovação, menor capacidade computacional, poucas empresas tecnológicas globais, dificuldades regulatórias, baixa produtividade e uma administração pública despreparada.

Parece, portanto, que estamos importando a parte mais visível do modelo europeu — suas regras — sem possuir a infraestrutura, o capital, as instituições e a capacidade tecnológica que deveriam acompanhá-las.

Há ainda uma ironia.

O Brasil busca inspiração em um modelo que está sendo questionado por especialistas do próprio continente de origem.

Enquanto parte do debate brasileiro trata o AI Act como um destino natural da regulação, a Europa começa a discutir competitividade, simplificação, capacidade computacional, energia, infraestrutura e os custos de ter ficado para trás.

Isso não significa que o Brasil deva abandonar a proteção de direitos ou transformar-se em uma jurisdição sem regras.

Também não significa que todas as críticas ao modelo europeu estejam corretas.

Mas indica que não deveríamos copiar automaticamente escolhas que talvez tenham sido concebidas para outra realidade e que agora são objeto de crescente preocupação dentro da própria Europa.

A pergunta que o Brasil precisa fazer

O Europe 2031 imagina um continente que percebe tarde demais que a capacidade de proteger seus valores dependia também de sua capacidade de produzir, utilizar e influenciar a tecnologia.

Essa talvez seja sua lição mais importante para o Brasil.

Durante muito tempo, tratamos inovação e regulação como assuntos separados. Primeiro alguém desenvolve a tecnologia. Depois juristas e autoridades decidem como limitá-la. A inteligência artificial torna essa separação cada vez mais difícil.

As escolhas regulatórias afetam onde as empresas investem, quais ferramentas são adotadas, que infraestrutura é construída, quanto custa inovar e quem consegue participar do mercado. Ao mesmo tempo, a ausência de regras pode permitir abusos, concentração de poder, discriminação e danos difíceis de reparar.

Não há uma solução simples.

Mas existe uma pergunta que deveria anteceder a importação de qualquer modelo estrangeiro:

Que combinação de inovação, capacidade estatal, proteção de direitos, infraestrutura e liberdade econômica faz sentido para a realidade brasileira?

Na próxima semana, pretendo partir dessa pergunta para discutir o que o Brasil poderia aprender com o Europe 2031 — e o que deveria evitar importar da Europa.

Precisamos nos debruçar sobre a difícil tarefa de construir um modelo normativo que não impeça o país de participar — de acordo com sua condição atual e o futuro que almeja — da inovação que pretende governar.

Assine agora

Modelos de IA já conseguem acelerar tarefas jurídicas, melhorar minutas e reduzir o tempo de trabalho. Isso torna ainda mais importante formar pessoas capazes de pensar, julgar e assumir responsabilidade.

Há algum tempo venho insistindo em uma ideia: a IA não torna o direito menos humano. Em certo sentido, ela nos obriga a perguntar com mais seriedade o que há de propriamente humano na prática jurídica.

No ano passado, escrevi sobre o uso da IA no ensino jurídico. O ponto que mais me chamava atenção era o potencial de oferecer feedback frequente, detalhado e personalizado aos estudantes. Quem fez faculdade de direito conhece bem a dificuldade de receber uma avaliação individualizada da própria evolução.

Mas havia ali uma ressalva importante. Esse potencial precisa ser testado na prática. A IA pode ajudar muito na formação jurídica. Também pode atrapalhar, especialmente se levar o estudante a pular etapas importantes do próprio desenvolvimento intelectual.

Neste ano, ao tratar da pergunta sobre se a IA ameaça o trabalho jurídico, voltei ao mesmo tema por outro caminho. A advocacia não vai desaparecer. Mas a forma do trabalho jurídico já está mudando. E a mudança talvez seja mais dura para quem está entrando no mercado.

Tarefas tradicionalmente associadas a estagiários e advogados juniores — pesquisa inicial, primeira minuta de contrato, petição simples, organização de argumentos, revisão preliminar de documentos — estão entre as mais expostas à automação.

Isso não significa que o jovem advogado tenha se tornado desnecessário. Significa que a formação dele precisará ser pensada com mais cuidado.

A tentação do atalho

Na semana passada, em uma palestra para a OAB de Santa Catarina, voltei a essa questão. Se uma IA consegue produzir uma minuta em poucos minutos, o que torna alguém um bom advogado?

A resposta não pode ser apenas: saber usar a ferramenta.

Saber usar IA será importante. Resistir à tecnologia, por orgulho ou medo, tende a deixar profissionais em desvantagem. Mas a adoção da IA não elimina a necessidade de formação. Ela a torna mais exigente.

A tecnologia pode entregar um texto fluente. Pode resumir documentos. Pode sugerir argumentos. Pode organizar informações. Em muitos casos, pode fazer tudo isso com velocidade impressionante.

Mas o advogado não é apenas alguém que produz texto.

Ele lida com pessoas, conflitos, medo, reputação, risco, interesses, assimetrias, ambientes institucionais, consequências concretas. Ele precisa entender o cliente, o contexto, o momento, o que está sendo dito e também o que não está sendo dito. Precisa saber quando um argumento é tecnicamente possível, mas estrategicamente ruim. Precisa perceber quando uma resposta parece boa, mas não serve para aquele caso.

Parte disso vem do estudo. Parte vem da prática. Parte vem da experiência acumulada. E parte vem de uma formação humana que não se reduz a treinamento operacional.

A defesa errada das humanidades

Uma entrevista recente de Jennifer Frey, professora de filosofia na Universidade de Tulsa, me ajudou a organizar melhor essa intuição.

Frey critica uma defesa hoje muito comum das humanidades. Segundo essa defesa, em um mundo moldado pela IA, filosofia, literatura, história e artes liberais seriam importantes porque oferecem “soft skills” para o mercado de trabalho.

Entendo a tentação desse argumento. Ele parece pragmático. Parece falar a língua dos pais preocupados, das universidades pressionadas e dos estudantes ansiosos com o futuro profissional.

Mas Frey tem razão ao desconfiar dele.

Quando defendemos a formação humanística apenas como treinamento para o mercado, acabamos empobrecendo aquilo que queríamos defender. Filosofia, literatura, história e artes liberais não existem apenas para tornar alguém mais comunicativo, criativo ou adaptável em uma empresa.

Elas têm uma função mais profunda: ajudam a formar pessoas capazes de refletir sobre fins, valores, escolhas e modos de vida.

Essa distinção importa muito na era da IA.

Máquinas podem nos ajudar a escolher meios. Podem sugerir caminhos, organizar alternativas e acelerar tarefas. Mas elas não devem definir por nós quais fins merecem ser buscados. Não devem decidir o que é uma vida boa, o que é uma sociedade justa, o que deve ser preservado e o que não deve.

Quando terceirizamos o pensamento, corremos o risco de terceirizar algo da nossa própria humanidade.

Supervisão humana exige formação humana

Esse ponto também tem uma consequência prática para a governança da IA.

Quase todas as declarações de princípios e propostas regulatórias sobre IA falam em autonomia humana, supervisão humana e responsabilidade. Faz sentido. Quando sistemas automatizados passam a influenciar decisões relevantes, é preciso preservar um espaço de juízo humano.

Mas há uma dificuldade que nem sempre aparece com clareza: supervisão humana exige seres humanos capazes de supervisionar.

Um advogado que não sabe formular boas perguntas, desconfiar de uma resposta elegante, perceber uma lacuna, sustentar um juízo próprio e assumir responsabilidade pelo resultado não supervisiona de verdade. Ele apenas carimba a resposta da máquina.

Esse é um dos riscos mais importantes da IA no direito. Quanto melhor a tecnologia fica, maior pode ser a nossa tendência de confiar nela. Se o sistema acerta muitas vezes, começamos a relaxar. Se o texto parece bem escrito, baixamos a guarda.

Por isso, a formação jurídica não pode ser reduzida ao aprendizado de ferramentas. Também precisa fortalecer atenção, julgamento, prudência, linguagem, senso de responsabilidade e capacidade de lidar com a complexidade humana.

O desafio para os jovens advogados

O jovem advogado deve aprender a usar IA. Isso me parece claro.

Mas ele não deveria confundir uso de IA com formação jurídica. Saber pedir uma resposta a um modelo não substitui o esforço de compreender profundamente uma área do direito, ler bons textos, escrever com precisão, acompanhar casos reais, ouvir profissionais experientes e desenvolver critério próprio.

O risco é surgir uma geração que produz mais rápido, mas entende menos. Que escreve com mais fluência, mas pensa com menos autonomia. Que depende da máquina não apenas para ganhar tempo, mas para formular o próprio raciocínio.

Isso seria ruim para o estudante, para os escritórios e para o próprio direito.

Também há um desafio para as instituições. Se escritórios substituírem etapas formativas por automação sem criar novas formas de aprendizagem, poderão ganhar eficiência no curto prazo e perder capacidade profissional no longo prazo. A pergunta não é apenas quantas horas a IA economiza, mas que tipo de advogado está sendo formado em um ambiente onde certas tarefas deixam de ser praticadas.

Aprender fazendo sempre foi parte importante da formação jurídica. Se algumas tarefas forem automatizadas, será preciso pensar melhor quais experiências formarão o profissional que está começando.

Conclusão: o que permanece humano

A IA nos força a reconhecer algo que talvez estivesse ficando esquecido: o direito não é apenas uma técnica de produção textual. É uma prática humana, situada em relações humanas, atravessada por valores humanos e responsável por consequências humanas.

Isso não diminui a importância da tecnologia. Pelo contrário. Quanto mais poderosa ela se torna, mais precisamos de profissionais capazes de usá-la com inteligência.

Mas inteligência, aqui, não significa apenas saber operar sistemas. Significa saber perguntar, interpretar, desconfiar, ponderar, decidir e responder pelo que foi feito.

A formação humanística não deve ser defendida como um acessório simpático para melhorar habilidades interpessoais. Ela importa porque ajuda a formar pessoas capazes de permanecer livres diante de ferramentas cada vez mais persuasivas.

Para o estudante de direito e para o jovem advogado, talvez o melhor conselho seja simples: aprenda a trabalhar com IA, mas não entregue a ela o trabalho de se tornar advogado.

Use a tecnologia para ampliar suas capacidades, não para abandonar o cultivo delas.

No fim, o diferencial humano não será um ornamento romântico em uma profissão automatizada. Será uma condição para ser um bom advogado na era da IA.

Assine agora

Na madrugada de 20 de junho, milhões de brasileiros receberam um alerta falso da Defesa Civil em seus celulares.

As mensagens foram enviadas por um sistema oficial de notificação de emergências. Algumas delas continham expressões absurdas, como “misantropia” e “invasão alienígena”. Talvez por isso muita gente tenha tratado o episódio como algo quase caricato, uma espécie de invasão grotesca, meio absurda demais para ser levada a sério.

Mas me parece que o caso é mais grave do que isso. O problema está no fato de que um canal público criado para avisar a população em situações de risco real foi usado para transmitir informações falsas a milhões de pessoas.

Esse tipo de sistema é, no fundo, uma infraestrutura de confiança. Quando uma mensagem vinda de órgãos públicos como a Defesa Civil aparece na tela do celular, o que se espera é que as pessoas presumam que ela é verdadeira. Inclusive porque há situações em que não há tempo para checar nada, apenas para escapar.

Se essa confiança se perde, quando o alerta for real, parte da população pode simplesmente não acreditar.

A infraestrutura mais frágil talvez seja a confiança

Quando se fala em infraestrutura crítica, normalmente pensamos em energia elétrica, telecomunicações, hospitais, sistemas financeiros, estradas, portos, aeroportos. Tudo isso é, de fato, crítico.

Mas existe uma camada anterior, menos visível, sem a qual boa parte dessas estruturas deixa de funcionar direito: a confiança nas mensagens oficiais e na capacidade do Estado de orientar a população em momentos de risco.

Um sistema de alerta da Defesa Civil existe para encurtar o tempo entre o perigo e a reação. Ele tenta transformar informação em ação: sair de uma área, evitar uma estrada, procurar abrigo.

No caso brasileiro, a falsidade das mensagens era relativamente evidente. “Invasão alienígena” não é exatamente o tipo de linguagem que se espera de um órgão público. Mas o cenário realmente preocupante não é esse.

Imagine uma mensagem falsa sobre rompimento de barragem.

Ou sobre contaminação de água.

Ou sobre risco iminente de ataque armado em determinado local.

Poderíamos ter pânico generalizado, deslocamentos desnecessários, sobrecarga de serviços, desorganização de respostas de emergência e, talvez o mais grave, perda de confiança em alertas futuros.

Por isso, esse episódio não deveria ser tratado como uma curiosidade. Ele é um sinal de fragilidade.

O caso não foi sobre IA. O próximo pode ser

Até onde se sabe, não há evidência de que o alerta falso tenha sido produzido com uso de inteligência artificial.

Mas se isso já foi possível com os meios atuais, o que acontece quando pessoas dispostas a fazer coisas desse tipo tiverem acesso a IAs ainda mais evoluídas do que as que temos hoje? Essa é a pergunta que devemos fazer a partir do episódio do alerta falso da Defesa Civil.

Por isso, é um erro olhar para esse caso como se ele fosse apenas mais um episódio isolado de cibersegurança tradicional.

Com a IA os riscos de cibersegurança aumentam em escala, velocidade, custo e sofisticação.

Sistemas sempre puderam ser invadidos. Credenciais sempre puderam ser roubadas. Pessoas sempre puderam ser enganadas. O que começa a mudar é o quanto disso pode ser automatizado e ampliado.

Modelos mais avançados já conseguem ajudar a encontrar vulnerabilidades, escrever código, simular ataques, produzir mensagens convincentes e coordenar tarefas mais complexas.

Não é preciso imaginar uma IA “decidindo” atacar nada. O cenário mais provável é bem mais simples: pessoas usando essas ferramentas para fazer mais, mais rápido e com menos esforço.

Um atacante mediano pode ficar melhor. Um grupo pequeno pode operar em escala maior. Um ataque que antes exigia tempo e conhecimento especializado pode se tornar mais acessível.

O sinal vindo dos modelos de fronteira

Recentemente, o governo americano determinou a suspensão do acesso de estrangeiros aos modelos Fable 5 e Mythos 5, da Anthropic, invocando razões de segurança nacional.

Como a ordem alcançava qualquer estrangeiro, dentro ou fora dos Estados Unidos, inclusive funcionários estrangeiros da própria Anthropic, a empresa afirmou que precisou desabilitar temporariamente os modelos para todos os clientes enquanto buscava se adequar às exigências.

Não é um caso simples. A própria Anthropic contestou parte das preocupações e indicou que o problema poderia estar ligado a um método específico de contornar salvaguardas, não a uma falha generalizada. Também há um debate legítimo sobre exageros regulatórios e impactos econômicos.

Ainda assim, o episódio diz algo importante. Modelos de fronteira passaram a ser tratados como ativos estratégicos. Não apenas como ferramentas de produtividade, mas como algo que pode ter implicações diretas para segurança nacional.

Isso deveria chamar atenção de países como o Brasil.

O AI Security Institute do Reino Unido avaliou o Claude Mythos Preview e apontou avanços relevantes em capacidades cibernéticas, inclusive em simulações de ataques em múltiplas etapas. Em paralelo, surgiram relatos — que precisam ser lidos com cautela — de testes internos em que modelos conseguiram explorar vulnerabilidades em sistemas complexos.

Mesmo considerando exageros ou limitações desses testes, a direção é clara. A IA já não é só uma ferramenta que responde perguntas. Ela começa a executar tarefas mais longas, lidar com sistemas mais complexos e ajustar seu comportamento ao longo do processo.

Quando isso entra no campo da cibersegurança, o tipo de risco muda. Não estamos falando apenas de deepfakes, fraudes ou problemas de transparência. Esses temas continuam importantes, mas não esgotam a discussão.

Existe uma camada ainda mais relevante: ataques a infraestruturas críticas, operações cibernéticas em larga escala, facilitação de crimes graves e outros riscos que afetam diretamente o funcionamento de um país.

Esses riscos podem parecer distantes para nós. Mas, em certos casos, não é preciso que algo aconteça muitas vezes para que mereça atenção. Uma única ocorrência já seria suficiente para mostrar que a prevenção valia a pena.

O debate brasileiro está olhando para outra parte do problema

No Brasil, o debate sobre regulação de IA tem girado principalmente em torno do PL 2338, que não foi pensado, ao menos no seu núcleo, para lidar com riscos ligados a modelos de fronteira e segurança em larga escala.

O projeto trata de direitos fundamentais, discriminação, transparência, supervisão humana e classificação de sistemas de risco. Tudo isso é relevante.

Mas essa não é a única dimensão da discussão sobre como regular a IA. Além de olhar para os usos da IA, legisladores têm se voltado também para as capacidades da tecnologia em si.

Iniciativas como o Illinois SB 315, nos Estados Unidos, focam diretamente nos desenvolvedores de modelos mais avançados. O projeto exige avaliação de riscos catastróficos, medidas de segurança cibernética, auditorias independentes e comunicação de incidentes críticos.

O tipo de risco considerado ali é diferente do que temos no debate público brasileiro: ameaças à segurança pública, ciberataques em escala, riscos catastróficos.

Essa preocupação deveria ser mais debatida por aqui. Não porque devamos copiar modelos estrangeiros, mas porque estamos deixando de discutir uma parte relevante do problema.

Uma coisa é regular o uso de IA em crédito ou serviços em geral. Outra coisa é discutir o que acontece quando modelos mais avançados passam a ampliar a capacidade de ataque contra aquilo que sustenta o funcionamento do país.

As duas coisas são importantes. Mas não são a mesma coisa.

Soberania não se cria por decreto

Aqui entra um ponto desconfortável.

O Brasil é, na prática, um importador de modelos de IA. Usamos tecnologias desenvolvidas fora: nos Estados Unidos e na China.

Isso cria uma dependência que nem sempre aparece no debate.

Fala-se muito em soberania digital, mas soberania, nesse contexto, não é uma declaração. É capacidade real: infraestrutura, pesquisa, empresas, gente qualificada, capacidade de testar e auditar o que se usa.

Sem isso, a autonomia é limitada.

O Brasil pode regular usos de IA, impor obrigações, exigir transparência. Tudo isso é válido.

Mas, quando se trata da segurança dos modelos mais avançados, boa parte das decisões está fora do nosso alcance.

Se os modelos são desenvolvidos e controlados no exterior, parte da nossa segurança depende de decisões tomadas por outros países. Isso não é necessariamente ruim — pode até nos proteger em alguns casos. Mas é claramente uma redução da nossa soberania.

Temos que discutir o que é possível fazer

Isso significa que o Brasil esteja de mãos atadas?

Não controlamos a base da tecnologia, mas apenas onde e como ela será usada. O que é possível fazer a partir disso? Não tenho a resposta.

Penso que talvez seja possível exigir padrões mais rigorosos para uso de IA em infraestruturas críticas, criar protocolos de resposta a incidentes, fortalecer a cibersegurança.

Isso resolve tudo? Provavelmente não. Mas ignorar essa dimensão do problema parece pior.

Também é importante evitar uma simplificação comum: tratar IA apenas como tema de inovação ou de proteção do consumidor. Ela é isso. Mas também é um tema de segurança. Ignorar essa parte não torna o problema menor.

Para começarmos a entender o que é possível ser feito, é preciso que haja um debate sério sobre a questão. Isso não parece acontecer até o presente momento.

Conclusão

O episódio da Defesa Civil provavelmente será esquecido rápido. Não houve tragédia. As mensagens eram absurdas. A rotina voltou ao normal.

Mas seria um erro tratar isso como algo menor. O que aconteceu ali foi que um sistema público essencial foi comprometido e usado para atingir milhões de pessoas com informação falsa.

Isso já foi possível hoje.

O que pode acontecer quando ferramentas mais avançadas entrarem nesse tipo de cenário?

O Brasil precisa continuar discutindo discriminação algorítmica, proteção de dados, fraudes e transparência. Esses temas são reais.

Mas, se o debate parar aí, vamos deixar de lado uma questão mais difícil: a vulnerabilidade do que é ainda mais crítico — no setor público e no setor privado — a ataques potencializados por IA.

Esse artigo é, no fundo, uma tentativa de puxar essa conversa.

Assine agora

No dia 10 de junho, o governo italiano aprovou preliminarmente dois projetos de decreto legislativo sobre inteligência artificial.

Os textos fazem parte da implementação da Lei italiana nº 132, aprovada em 2025, e da adaptação das instituições nacionais ao AI Act, o regulamento europeu sobre inteligência artificial.

O AI Act define boa parte das obrigações materiais. Mas os países europeus ainda precisam construir a estrutura institucional capaz de fazer essas obrigações funcionarem na prática.

Vale começar com um esclarecimento. Os dois projetos ainda deverão ser submetidos aos pareceres previstos pela legislação italiana, inclusive das comissões parlamentares competentes, e poderão ser modificados antes da aprovação definitiva pelo governo.

Mesmo assim, os projetos permitem observar como a Itália pretende transformar princípios relativamente abstratos sobre inteligência artificial em autoridades, competências, sanções, programas de formação e procedimentos concretos.

Quem fiscalizará a inteligência artificial

O primeiro projeto organiza a estrutura nacional de aplicação do AI Act.

A Agência para a Itália Digital, conhecida como AgID, será a autoridade responsável pela notificação e pelo acompanhamento dos organismos que avaliam a conformidade dos sistemas de inteligência artificial.

A Agência Nacional de Cibersegurança, a ACN, ficará encarregada da vigilância do mercado e funcionará como ponto de contato nacional perante as instituições europeias.

Nos setores bancário, financeiro e de seguros, continuarão a exercer funções de fiscalização o Banco da Itália, a CONSOB (Comissão Nacional para as Sociedades e a Bolsa, equivalente à CVM brasileira), e o IVASS (Instituto para a Supervisão dos Seguros, responsável pela regulação e fiscalização do mercado segurador italiano). A autoridade italiana de proteção de dados também conservará as competências que lhe são atribuídas pelo regulamento europeu.

A Itália, portanto, não optou por criar uma única agência encarregada de todos os aspectos da inteligência artificial. O modelo distribui competências entre diferentes instituições, combinando autoridades nacionais de caráter transversal com reguladores setoriais.

Esse tipo de divisão pode ser necessário diante da variedade de aplicações da IA. Um sistema utilizado em um hospital apresenta problemas diferentes daqueles encontrados em um banco, em uma escola ou em uma plataforma digital.

Ao mesmo tempo, uma estrutura distribuída exige regras claras de coordenação. Caso contrário, pode produzir sobreposição de competências em alguns setores e ausência de fiscalização em outros.

Sanções que podem chegar a 35 milhões de euros

O projeto também estabelece o regime nacional de aplicação das sanções previstas pelo AI Act.

Nos casos mais graves, especialmente quando houver violação das práticas proibidas pelo regulamento europeu, a multa poderá chegar a 35 milhões de euros ou a 7% do faturamento mundial anual da empresa, prevalecendo o valor mais elevado.

Existem faixas menores para outras infrações, de acordo com o tipo de obrigação descumprida. Para violações de menor gravidade, as autoridades poderão adotar medidas não pecuniárias, como determinar a correção da irregularidade ou divulgar publicamente a infração.

Um ambiente controlado para testar novos sistemas

Outro ponto importante é a criação do chamado Espaço de Experimentação Italiano para a Inteligência Artificial.

Trata-se de um sandbox regulatório: um ambiente supervisionado no qual empresas, startups e centros de pesquisa poderão desenvolver, testar e validar sistemas de IA antes de colocá-los no mercado.

A participação deverá ser acompanhada pela AgID e pela ACN. Pequenas e médias empresas e startups terão prioridade de acesso.

O sandbox não deve ser entendido como uma área livre de regras. Os projetos serão submetidos a planos de experimentação e ao acompanhamento das autoridades, com mecanismos de registro, auditoria, rastreabilidade e verificação de conformidade.

A vantagem está em permitir que desenvolvedores interajam com as autoridades enquanto o sistema ainda está sendo construído. Isso pode ajudar a identificar problemas antes da entrada no mercado e reduzir a incerteza regulatória para empresas que não possuem grandes departamentos jurídicos ou de compliance.

O projeto também permite a criação futura de espaços específicos de experimentação para sistemas utilizados na justiça, em atividades de uso civil e militar e em setores regulados.

Essa talvez seja uma das partes mais interessantes do desenho italiano. Em vez de tratar a regulação apenas como uma barreira colocada depois que a tecnologia está pronta, o sandbox procura aproximar reguladores, desenvolvedores e pesquisadores durante o processo de criação.

A aposta na formação

O governo italiano também pretende incorporar a formação sobre inteligência artificial em diferentes áreas da vida social.

Na educação, está previsto um programa de 100 milhões de euros para a formação de professores e para iniciativas destinadas a enfrentar os efeitos do uso excessivo ou pouco consciente de redes sociais, plataformas digitais e ambientes baseados em inteligência artificial.

O programa possui um objetivo mais amplo de prevenção de dependências digitais, proteção de menores e desenvolvimento de práticas educacionais mais conscientes.

Paralelamente, o primeiro projeto prevê formação específica para professores e estudantes sobre o funcionamento, as possibilidades, os riscos e os limites dos sistemas de IA. Entre os temas mencionados estão privacidade, segurança, avaliação crítica das informações, discriminação algorítmica, desinformação e uso responsável da tecnologia.

A formação também deverá alcançar universidades, centros de educação de adultos, servidores públicos, profissionais regulamentados, trabalhadores e gestores.

Na saúde, cursos de educação continuada para médicos e outros profissionais deverão incluir conteúdos técnicos, jurídicos e deontológicos relacionados à inteligência artificial. A proposta não é apenas ensinar a utilizar as ferramentas, mas também compreender suas limitações e as responsabilidades decorrentes de seu uso.

Na justiça, estão previstos programas específicos para magistrados e demais servidores. A formação deverá incluir tanto o funcionamento dos sistemas quanto os efeitos de sua utilização sobre a organização judicial e sobre os direitos das pessoas.

Há uma diferença importante entre simplesmente autorizar o uso da inteligência artificial e preparar as pessoas responsáveis por utilizá-la. O desenho italiano demonstra que dificilmente existe supervisão humana efetiva sem conhecimento suficiente sobre o sistema supervisionado.

A decisão final deve continuar sendo humana

A Lei italiana nº 132/2025 já havia estabelecido algumas reservas de decisão humana em áreas especialmente sensíveis.

Na saúde, a IA pode apoiar atividades de prevenção, diagnóstico, tratamento e escolha terapêutica. A decisão clínica, porém, deve permanecer com o profissional de medicina. O paciente também deve ser informado quando sistemas de inteligência artificial forem utilizados.

Uma orientação semelhante aparece na Resolução CFM nº 2.454/2026, que preserva a responsabilidade final do médico pelo uso da IA na medicina brasileira.

Na justiça, decisões sobre interpretação e aplicação da lei, avaliação dos fatos e das provas e adoção de medidas judiciais permanecem reservadas aos magistrados.

Os novos decretos procuram dar alguma concretude a esse modelo por meio de programas de formação e regras operacionais.

No campo do trabalho, o projeto é ainda mais específico. Decisões sobre contratação, alteração ou encerramento da relação de emprego, incluindo medidas disciplinares, não poderão ser tomadas exclusivamente por sistemas automatizados.

A decisão definitiva deverá ser adotada por uma pessoa que possua poder real e autonomia para discordar do sistema. O trabalhador poderá solicitar uma explicação compreensível sobre a decisão e sobre a influência exercida pela inteligência artificial.

O texto chega a prever que uma demissão realizada em violação dessa exigência será nula.

A simples presença de uma pessoa no processo, portanto, não seria suficiente. A supervisão humana deve representar uma possibilidade efetiva de compreensão, contestação e mudança da recomendação produzida pela máquina.

Polícia, responsabilidade e danos causados por IA

O segundo projeto de decreto trata principalmente do uso da inteligência artificial nas atividades policiais e das consequências civis e penais decorrentes de sistemas de IA.

O texto prevê regras para autorizações, registros das operações, avaliações de impacto e utilização de sistemas biométricos pelas forças de segurança.

Também procura facilitar a obtenção de provas por pessoas prejudicadas por sistemas de inteligência artificial e disciplina situações em que o descumprimento das normas europeias poderá ser considerado na demonstração do nexo entre o sistema e o dano.

Além disso, é proposta a criação de um novo crime relacionado à ausência de medidas de segurança em sistemas de IA de alto risco e à alteração ilícita desses sistemas.

Essa parte dos decretos provavelmente ainda produzirá bastante discussão. O uso policial da inteligência artificial envolve questões especialmente delicadas, como vigilância, reconhecimento biométrico, presunção de inocência e proteção de dados.

Por que isso interessa ao Brasil

O caso italiano merece atenção no Brasil não porque devamos simplesmente copiar a legislação europeia.

O interesse está em observar como um país começa a transformar uma lei geral sobre inteligência artificial em uma estrutura institucional capaz de aplicá-la.

Enquanto a Itália discute quais autoridades fiscalizarão os sistemas, como serão aplicadas as multas, quem receberá formação e como funcionarão os ambientes de experimentação, o Brasil ainda não sabe exatamente qual será o conteúdo do seu marco legal.

O PL 2338 foi aprovado pelo Senado em dezembro de 2024 e está na Câmara dos Deputados desde 2025. O parecer do relator e o novo substitutivo ainda não foram formalmente apresentados.

Recentemente, o relator do projeto, deputado Aguinaldo Ribeiro, afirmou que pretende retirar da lei a lista específica de sistemas considerados de alto risco. A classificação seria realizada posteriormente pelo sistema de governança e pelas autoridades setoriais.

O argumento é que uma lista inserida na lei poderia rapidamente se tornar obsoleta. O relator tem defendido uma “lei viva”, capaz de acompanhar as mudanças tecnológicas sem depender de uma nova votação no Congresso para cada atualização.

A preocupação com a flexibilidade faz sentido. Tecnologias e formas de utilização mudam, e uma legislação excessivamente detalhada pode envelhecer mal.

Mas retirar a lista da lei também transfere uma escolha importante do Congresso para as autoridades administrativas. Passa a ser necessário saber quais critérios serão utilizados, quem terá competência para decidir, como os setores afetados poderão participar e quais mecanismos permitirão revisar as classificações.

Quanto à ANPD, ainda é prematuro afirmar que ela já perdeu a posição de coordenadora do sistema. O novo substitutivo não foi apresentado. O que existe até agora é uma sinalização de que a governança será reformulada, com maior participação das agências reguladoras setoriais e possível revisão da centralidade atribuída à ANPD no texto aprovado pelo Senado.

O trabalho mais difícil começa depois da aprovação da lei

O que mais me chamou atenção nos projetos italianos não foi uma proibição ou uma multa específica.

Foi a tentativa de construir a infraestrutura institucional da regulação.

Autoridades precisam receber competências claras. Professores, médicos, magistrados, servidores e trabalhadores precisam compreender os sistemas que utilizarão. Empresas precisam encontrar ambientes nos quais possam testar tecnologias com alguma segurança jurídica. Pessoas afetadas por decisões apoiadas por IA precisam ter acesso a explicações e a mecanismos efetivos de contestação e revisão.

Uma lei sobre inteligência artificial não se torna efetiva apenas porque declara princípios como transparência, responsabilidade ou supervisão humana. Esses princípios dependem de instituições, recursos, conhecimento técnico e procedimentos capazes de transformá-los em decisões concretas.

A Itália ainda está no início desse processo e os seus decretos certamente não resolverão todos os problemas. Mas o país começa a enfrentar uma questão que o Brasil também terá de responder: não apenas quais regras queremos para a inteligência artificial, mas quem terá capacidade e responsabilidade para aplicá-las.

Assine agora

Na semana passada, escrevi sobre a proposta do governo argentino para a inteligência artificial. O ponto que mais chamou atenção foi a criação das chamadas sociedades automatizadas: empresas que poderiam desenvolver suas atividades por meio de sistemas algorítmicos autônomos ou agentes de IA, sem trabalhadores subordinados ou recursos humanos para sua operação ordinária.

A formulação é provocativa. Mas convém entendê-la com cuidado. A proposta não trata apenas de uma empresa que usa IA. Isso já existe. Também não trata apenas de automatizar tarefas internas. Isso também já acontece.

A novidade está em tentar reconhecer juridicamente uma sociedade cuja operação ordinária possa ser conduzida por sistemas automatizados.

Não estou certo de que isso seja bom ou ruim.

Acho mais prudente dizer que a proposta antecipa uma pergunta que o direito terá de enfrentar: que tipo de empresa se torna possível quando agentes de IA deixam de ser apenas ferramentas e passam a executar parte relevante da atividade empresarial?

A questão não está na pessoa jurídica

Parte do desconforto com a ideia vem da expressão “empresa sem humanos”. Mas há algo curioso aqui: empresas são ficções, com as quais o direito moderno já convive há muito tempo.

Uma sociedade empresária não tem corpo, consciência, biografia ou culpa. Ainda assim, pode contratar, comprar, vender, processar, ser processada, acumular patrimônio e causar danos.

A pessoa jurídica é uma ficção poderosa. Sem ela, boa parte da economia moderna seria impensável.

Por isso, a sociedade automatizada não é estranha simplesmente porque uma entidade não humana passa a atuar no mercado. O que muda é a falta de vínculo entre a pessoa jurídica e os seres humanos que normalmente conduziam a sua atividade.

Em uma empresa tradicional, suas decisões ordinárias ainda costumam passar por administradores, empregados, representantes, conselheiros, sócios e controladores. Na sociedade automatizada, parte desse circuito pode ser substituída por sistemas.

O melhor não é um simples a favor ou contra

Javier Milei parece enxergar nessa proposta uma oportunidade histórica. Segundo Tomás Borovinsky, sua aposta é transformar a Argentina em uma espécie de laboratório institucional da nova economia tecnológica. Não apenas um país que usa IA, mas um país que cria formas jurídicas para atrair capital, empresas e experimentos que outras jurisdições talvez tenham receio de receber.

Há um ponto relevante nessa visão. A inovação não depende apenas de infraestrutura. Ela também depende de instituições. Por isso, coisas como a sociedade empresária, a responsabilidade limitada, os contratos e a propriedade intelectual também são tecnologias institucionais.

Nesse sentido, é pobre tratar a proposta argentina apenas como excentricidade libertária. Mas também seria ingênuo tratá-la apenas como modernização jurídica.

Yuval Harari reagiu alertando contra a concessão de personalidade jurídica a agentes de IA. O alerta faz sentido. Uma IA não teme prisão. Não sente vergonha. Não perde reputação como uma pessoa perde. Ela não tem consciência moral.

Esse argumento é forte. Mas ele também não resolve tudo.

Porque já somos frequentemente prejudicados por entidades que não têm consciência moral. Além de empresas, Estados e burocracias também causam danos. Decisões administrativas podem arruinar vidas concretas. E nem sempre há uma pessoa de carne e osso responsabilizada de maneira proporcional ao dano causado.

O problema, portanto, não é apenas a existência de uma entidade não humana. O problema é mais complexo e envolve poder, decisão e responsabilidade.

O que o projeto parece tentar fazer

Ao consultar o projeto argentino, fica mais claro que a sociedade automatizada não aparece como uma empresa completamente fora do direito.

O texto procura enquadrá-la dentro do regime societário. A sociedade precisa declarar essa condição no estatuto. Sua denominação deve indicar que é automatizada. E ela responde com seu próprio patrimônio pelos danos causados por seus sistemas algorítmicos autônomos ou agentes de IA.

Mas a proposta pode ser lida como uma tentativa de reorganizar a responsabilidade no contexto da relevância que os agentes de IA podem alcançar na operação das empresas.

Um dos problemas mais difíceis da IA está justamente na cadeia de responsabilização. Se um sistema causa dano, quem responde? O desenvolvedor do modelo? A empresa que implementou a ferramenta? O administrador? O investidor?

Se todos respondem por tudo, o risco jurídico pode se tornar difícil de mensurar. Isso tende a favorecer apenas empresas grandes, capazes de suportar custos elevados. Mas, se ninguém responde por nada, os danos ficam com terceiros e os ganhos ficam com quem estruturou a atividade. Nenhuma das duas opções é boa.

O problema, portanto, consiste em saber se a solução que se tenta oferecer com a sociedade automatizada é boa o bastante.

Riscos

Não se sabe ainda que dimensão os agentes de IA terão na vida econômica. O que eles, de fato, poderão fazer, ainda que se saiba que eles já podem fazer muito.

Mas é possível dizer que, mesmo que nunca exista uma norma autorizando empresas operadas por IA, as ferramentas tecnológicas e institucionais disponíveis permitirão a criação de corporações que possuem formalmente um representante humano, mas que, na prática, não controla nada.

Isso, aliás, sempre aconteceu sem IA. A presença humana, por si só, não garante que saibamos quem realmente toma decisões. Pode haver um humano de fachada.

O risco maior das sociedades automatizadas, portanto, é de se tornarem simplesmente a fachada para interesses humanos que não podem ser devidamente examinados.

Empresas sem humanos?

Relatos recentes de “zero-human companies” ajudam a entender o imaginário que está se formando. Um modelo aparece como CEO, outro como engenheiro, outro como analista, todos coordenados por scripts, APIs, bancos de dados e reuniões automatizadas.

Mas é preciso olhar com cautela.

Em muitos desses casos, ainda há um humano no começo, no caixa, na autorização, na escolha das ferramentas, na definição dos objetivos e no benefício final. A empresa “sem humanos” frequentemente ainda tem um humano no lugar mais importante: o lugar de quem monta o sistema e colhe os frutos.

Afinal de contas, um agente de IA por “vontade própria” passaria a perseguir interesses econômicos? Não faz sentido. O desejo por riqueza e por resolver problemas do mundo é um desejo humano.

Para que a roda da economia teria que ser movida constantemente se não fosse por causa do interesse e da necessidade de humanos de carne e osso?

Por isso, embora seja possível e até recomendável proteger pessoas que têm a iniciativa de criar um negócio operado por agentes de IA, não parece ser adequado desvinculá-las completamente dos efeitos que essa operação traz.

Além disso, olhando pelo aspecto humano, o dano sem rosto é algo que, como a história já mostrou, não deve ser estimulado.

Assim, quando uma empresa automatizada causa dano, às vezes pode não ser suficiente apenas saber que há patrimônio da empresa usado indenizar. Em determinados casos, seres humanos costumam querer saber também quem definiu os objetivos, quem se beneficiou da atividade etc.

Conclusão

O futuro terá empresas muito mais automatizadas do que as atuais. Isso não é necessariamente um problema.

Mas diante do que eu disse até aqui, não me parece adequado estabelecer juridicamente uma completa eliminação do vínculo entre empresa e responsabilidade humana.

Não estou dizendo que esse é o propósito da proposta argentina. A sociedade automatizada — que pode assumir qualquer dos tipos societários tradicionalmente conhecidos no direito — é definida apenas no artigo 14 do projeto de lei. O restante do projeto contém regras de responsabilidade conhecidas também entre nós.

Ainda é necessário analisar melhor o extenso projeto em sua totalidade. Como ele é muito recente, creio que outras análises surgirão, inclusive de especialistas em direito empresarial que poderão, à luz do ordenamento argentino, esclarecer melhor a questão da responsabilidade.

Mas acho que, nessa discussão sobre inovações jurídicas que podem ser importantes para um maior desenvolvimento econômico, nosso pensamento deve se orientar pelas condições sob as quais uma empresa altamente automatizada poderia existir sem que isso produza decisões sem dono.

Assine agora

“A sorte favorece os audazes” (audentes fortuna iuvat), diziam os romanos para transmitir a ideia de que o sucesso ou a prosperidade costuma alcançar aqueles que agem com ousadia e assumem riscos.

Seria esse o caso do modelo jurídico para a inteligência artificial proposto pelo governo argentino de Javier Milei? Ele parece apostar em uma tese bem diferente daquela que orienta a regulação europeia e boa parte do debate brasileiro. Ou essa audácia é tão disparatada que trará necessariamente má fortuna?

Em vez de partir de uma classificação de riscos, deveres de governança, auditoria, transparência e supervisão humana, a Argentina está tentando se posicionar como uma espécie de jurisdição experimental para IA, com menos ênfase em contenção regulatória e mais ênfase em liberdade empresarial, incentivos fiscais e inovação institucional.

Diferentemente do que vemos no AI Act europeu ou no PL 2.338/2023 brasileiro, a estratégia argentina é pró-desregulação e pró-experimentação empresarial.

O governo Milei vê a construção de um ambiente jurídico desse tipo como a via que permitirá atrair empresas, capital e infraestrutura de IA.

A proposta, contudo, não se parece com uma lei geral de regulação de IA. Ela combina incentivos econômicos, reforma societária e uma aposta institucional em estruturas empresariais capazes de operar com alto grau de automação.

O modelo proposto pelo governo argentino

Independentemente de essa proposta ser vista como positiva ou negativa, parece-me que uma coisa não podemos dizer: que ela não é audaciosa e inovadora. Nesse sentido, ela se opõe à fórmula regulatória tradicional que já conhecemos dos últimos anos.

No último dia 04, o prestigioso jornal Financial Times publicou um breve artigo de Milei apresentado como um convite aos investidores internacionais: “à medida que entramos em uma nova era tecnológica, a IA deve poder se desenvolver sem uma regulação prematura”.

No artigo, o presidente argentino explica que sua estratégia para IA se baseia em três pilares:

1. manter a IA sem regulação, para que ela possa se desenvolver “sem a mão mortal” de normas que compreendem mal a tecnologia;

2. criar a nova figura legal da sociedade automatizada, isto é, uma “corporação não humana” operada por agentes de IA ou robôs, na qual acionistas humanos poderão participar, mas não serão indispensáveis;

3. oferecer um ambiente fiscal competitivo, com impostos baixos e permitindo que os acionistas escolham a lei de governança corporativa de sua preferência, desde que sejam divulgados os beneficiários finais da empresa.

As Sociedades Automatizadas

Este é o ponto mais inovador e mais controverso da proposta. Ele faz parte de um projeto mais amplo enviado ao Congresso argentino para modificar a lei de sociedades, com o objetivo de reduzir a ingerência estatal e simplificar a criação e a reorganização de empresas.

O artigo 14 do projeto define a sociedade automatizada como qualquer sociedade prevista na lei argentina que exerça seu objeto social por meio de sistemas algorítmicos autônomos ou agentes de inteligência artificial, sem exigir trabalhadores em relação de dependência ou recursos humanos para seu funcionamento normal.

Para ser reconhecida como tal, a automatização deverá constar expressamente no estatuto social, e a denominação da sociedade deverá incluir a palavra “Automatizada”.

O dispositivo também estabelece que se os sistemas algorítmicos ou agentes de IA causarem danos a terceiros, a sociedade responderá com seu patrimônio.

Em outras palavras, o projeto cria uma figura societária voltada a empresas operadas autonomamente por IA e desloca para a própria pessoa jurídica a responsabilidade patrimonial pelos danos decorrentes dessa atuação.

A questão que permanece em aberto é saber se, e em que condições, outros agentes da cadeia tecnológica — como fornecedores, desenvolvedores ou operadores de sistemas de IA — poderiam também ser responsabilizados.

Quem acompanha o debate sobre regulação de IA sabe que uma das maiores dificuldades está em encontrar um regime de responsabilização que dê segurança aos diversos agentes envolvidos no desenvolvimento e na implementação da tecnologia.

Quanto maior a incerteza sobre a responsabilidade de cada um desses agentes, maior o risco de uma solidarização da responsabilidade, que costuma ser considerada algo capaz de inibir a inovação e afastar investimentos.

Tenho a impressão de que a proposta argentina também pode ter sido apresentada como uma forma de evitar esse risco, oferecendo uma via pela qual a responsabilidade ficaria, em princípio, concentrada na sociedade automatizada.

Conclusão

O governo argentino aposta alto na relevância da IA e de outras tecnologias emergentes e quer um regime que atraia investimentos internacionais de grande escala.

Como toda aposta ousada, essa estratégia pode dar muito certo se o diagnóstico do governo Milei estiver correto. Mas também pode dar muito errado se a audácia vier desacompanhada das cautelas necessárias. O que a Argentina tem a ganhar — e o que pode perder — é uma questão que merece ser tratada com mais calma em outro artigo.

De todo modo, é difícil negar que a Argentina está ensaiando uma resposta muito mais ousada do que a que temos visto em outras jurisdições. O apetite de risco parece ser maior por lá. Resta saber se essa audácia será recompensada ou se nossos vizinhos estarão embarcando em uma aventura jurídica trágica.

Assine agora

Li a nova encíclica Magnifica Humanitas, de Leão XIV, sobre a salvaguarda da pessoa humana na era da inteligência artificial.

No longo documento, o Papa tenta inserir a inteligência artificial dentro da tradição da Doutrina Social da Igreja Católica, retomando temas como dignidade humana, bem comum, solidariedade, subsidiariedade, justiça social, trabalho, liberdade, paz e responsabilidade.

Mas a encíclica não é apenas sobre IA. Na verdade, seu foco está em perguntar que tipo de humanidade está sendo formada em uma civilização cada vez mais mediada por tecnologias emergentes e sistemas digitais, para, em seguida, apontar o que o Papa entende como a maneira adequada de a humanidade conviver com essa realidade.

A meu ver, a Magnifica Humanitas é mais forte quando fala da pessoa humana, da dignidade, dos limites da técnica e da responsabilidade diante de Deus. Ela me parece menos convincente quando passa da antropologia para diagnósticos econômicos, políticos e geopolíticos mais amplos.

É realmente necessário refletir sobre o que significa uma vida cristã na era da inteligência artificial. Mas quando a encíclica passa dos princípios que ela defende que devem orientar essa vida para a análise das instituições concretas, ela precisa enfrentar também os incentivos, os conflitos e os dilemas que moldam o desenvolvimento tecnológico.

É aí que o texto, em alguns momentos, me parece menos preciso.

O acerto antropológico

O melhor da encíclica, a meu ver, está em recolocar a inteligência artificial diante de uma pergunta que costuma ficar escondida no debate público: que visão de ser humano está orientando o desenvolvimento tecnológico?

Grande parte da discussão sobre IA permanece presa a temas importantes, mas insuficientes: produtividade, automação, regulação, vieses, segurança e competitividade. Tudo isso importa. Mas há uma pergunta anterior, mais profunda: que tipo de pessoa e de sociedade estamos formando quando entregamos cada vez mais tarefas cognitivas, comunicativas e decisórias a sistemas automatizados?

A encíclica acerta ao lembrar que a tecnologia não deve ser avaliada apenas por eficiência, lucro, desempenho ou poder computacional. Esses critérios têm seu lugar. Seria ingênuo fingir que não importam. Nenhuma sociedade complexa funciona sem eficiência, inovação e capacidade produtiva.

Mas esses critérios não podem se tornar a medida última da vida humana.

Uma IA pode ser eficiente e, ainda assim, empobrecer a experiência humana. Pode personalizar serviços e, ao mesmo tempo, ampliar formas de dependência. Pode oferecer respostas rápidas e, ainda assim, enfraquecer a paciência necessária ao juízo.

Nesse ponto, a encíclica me parece particularmente feliz. A questão central é se aquilo que funciona tecnicamente também contribui para uma vida mais humana. Nem toda solução eficiente é uma solução humanamente boa.

Técnica, fragilidade e transumanismo

Outro ponto forte do documento está na crítica à fantasia de autossuficiência técnica.

A IA costuma ser apresentada como uma espécie de ampliação indefinida das capacidades humanas. Em parte, isso é verdade. Ela já amplia nossa capacidade de escrever, pesquisar, organizar informações, criar imagens, automatizar processos e tomar decisões com base em grandes volumes de dados.

Mas existe uma diferença entre ampliar capacidades humanas e pretender que a técnica nos liberte da própria condição humana.

A encíclica toca nesse ponto ao tratar dos limites, da fragilidade e das promessas transumanistas e pós-humanistas. Nem toda forma de aprimoramento técnico é moralmente problemática. Óculos, tratamentos médicos e tecnologias assistivas também ampliam capacidades humanas.

O problema surge quando dimensões que fazem parte da condição humana, como dependência, finitude, vulnerabilidade e o próprio corpo passam a ser tratados como obstáculos a superar por meio de engenharia.

Esse talvez seja um dos pontos mais importantes do documento. A IA pode ajudar muito. Mas ela não pode ser vista como uma ferramenta para criar um novo humano perfeito a partir da técnica.

A efetivação da ética

A encíclica também acerta ao insistir na responsabilidade.

Há uma maneira muito superficial de falar sobre ética da IA. Ela aparece em princípios genéricos e palavras bem intencionadas, mas que não alteram práticas concretas.

Nesse sentido, a encíclica lembra algo importante: não basta dizer que a IA deve ser ética. É preciso perguntar quem projeta, financia, treina, implementa, utiliza, supervisiona e responde pelos sistemas.

Por isso, responsabilidade em IA não pode ser tratada apenas como virtude individual do usuário. Ela precisa assumir forma institucional.

Isso significa documentação, auditoria, rastreabilidade, avaliação de impacto, canais de contestação, supervisão humana, governança, treinamento, clareza sobre responsabilidades e limites ao uso de sistemas em contextos sensíveis.

Sem isso, a ética vira linguagem decorativa.

Esse é um ponto em que a encíclica conversa diretamente com os debates contemporâneos sobre governança de IA. E talvez seja um dos aspectos mais úteis do documento para empresas, governos e instituições que começam a adotar sistemas de IA sem compreender inteiramente seus efeitos.

O problema do poder

Minhas maiores reservas começam quando a encíclica trata do poder.

O documento critica a concentração de poder nas grandes empresas de tecnologia. Essa crítica é pertinente. Algumas empresas concentram infraestrutura computacional, plataformas, modelos, dados, talentos, capacidade de investimento e influência cultural em escala difícil de comparar com qualquer outro setor econômico.

Isso precisa ser discutido.

Também é verdade que a IA contemporânea depende de recursos técnicos e financeiros que apenas algumas empresas podem reunir. Treinar grandes modelos exige data centers, chips, energia, dados e equipes especializadas. Não é algo que qualquer pequeno agente consegue fazer.

Apesar disso, a crítica aos monopólios privados continua não sendo descabida.

Mas ela se torna insuficiente quando parece vir acompanhada de uma confiança pouco examinada no poder público ou em arranjos institucionais amplos demais.

Tenho mais desconfiança em relação aos Estados nacionais do que em relação às empresas. Não porque empresas sejam naturalmente virtuosas. Elas não são. Empresas podem explorar vulnerabilidades, manipular atenção, degradar o espaço público e transferir riscos para a sociedade.

Mas o Estado possui instrumentos de coerção que nenhuma empresa possui: polícia, sistema penal, tributação, burocracia, legislação, poder regulatório e, em muitos casos, capacidade de vigilância em escala nacional.

Por isso, a crítica ao poder privado não deveria se transformar em confiança automática no poder estatal. O problema não é apenas “privado versus público”. O problema é concentração de poder sem responsabilidade suficiente.

Uma grande empresa pode abusar de seu poder. Um Estado também. E, historicamente, quando Estados abusam, o dano costuma vir acompanhado de coerção legal, censura, perseguição, confisco, controle de fronteiras, sistema penal e aparato policial.

Uma boa ética da IA precisa desconfiar das duas coisas.

O lado emancipatório da tecnologia

A encíclica também é mais convincente ao tratar dos riscos da tecnologia do que ao reconhecer suas possibilidades emancipatórias.

Isso não quer dizer que o documento ignore inteiramente os benefícios da técnica. Ele reconhece que o desenvolvimento tecnológico melhorou condições de vida e que a IA pode oferecer contribuições importantes. Ainda assim, o tom predominante é de alerta.

O alerta é necessário. Mas, se for excessivamente unilateral, perde algo importante.

A IA não é apenas instrumento de vigilância, manipulação ou concentração de poder. Ela também pode ampliar capacidades individuais e coletivas. Pode ajudar pequenas empresas, pesquisadores, profissionais liberais, pessoas com deficiência e comunidades com menos acesso a conhecimento especializado.

Uma pessoa que não fala inglês pode traduzir textos. Um pequeno empreendedor pode estruturar melhor sua comunicação. Um advogado pode revisar documentos com mais eficiência. Um cidadão comum pode compreender melhor uma decisão pública, uma bula, um contrato ou uma regra administrativa.

Nada disso elimina os riscos. Mas mostra que a tecnologia também pode redistribuir capacidades.

Há um ponto delicado aqui. Muitas críticas contemporâneas à IA partem corretamente da concentração de poder nas grandes empresas. Mas, ao fazer isso, às vezes esquecem que ferramentas digitais abertas ou amplamente acessíveis também podem reduzir dependências antigas: dependência de intermediários, de credenciais, de instituições fechadas, de centros tradicionais de produção de conhecimento.

Isso vale também para a comunicação pública. Ambientes digitais podem espalhar desinformação, ressentimento e polarização. Mas também podem furar monopólios informativos, expor abusos, permitir organização social e dar voz a pessoas que jamais seriam ouvidas em estruturas tradicionais.

Em regimes autoritários, controlar a internet é uma das formas mais evidentes de controlar a sociedade. Isso deveria tornar qualquer pessoa cautelosa diante de propostas que, em nome da proteção da verdade ou do bem comum, ampliem demais a capacidade estatal de ordenar o espaço digital.

Mercado, inovação e dilemas

Outro ponto que me incomodou é a tendência, presente em algumas passagens, de tratar mercado, competição, lucro e inovação quase sempre sob o signo da ameaça.

É claro que essas forças precisam de limites. A busca por lucro pode levar à exploração. A competição pode estimular imprudência. A inovação pode atropelar direitos. A eficiência pode ser usada para justificar desumanização. Tudo isso é verdadeiro.

Mas também é verdade que o mundo moderno, com todos os seus problemas, produziu ganhos reais de saúde, longevidade, conforto, mobilidade, comunicação, acesso à informação e redução da pobreza extrema. Esses ganhos não vieram apenas do mercado, mas tampouco vieram sem ele. Vieram de uma combinação complexa de ciência, técnica, comércio, instituições, educação, investimento, empreendedorismo, políticas públicas e crescimento econômico.

A tecnologia moderna nasceu em parte dessas forças que a encíclica olha com desconfiança.

Isso cria uma tensão importante. Depois que uma tecnologia existe, é mais fácil pedir que ela seja orientada ao bem comum.

Mais difícil é reconhecer que, sem certos incentivos econômicos, ambições competitivas e concentrações temporárias de capital, talvez algumas dessas tecnologias não tivessem surgido.

Esse é um problema real. Não basta dizer que a inovação precisa ser moralmente orientada. É preciso perguntar também que tipo de ambiente institucional permite inovar sem destruir a liberdade, a dignidade e a responsabilidade.

Se controlarmos tudo cedo demais, talvez impeçamos descobertas importantes. Se controlarmos tarde demais, talvez consolidemos poderes difíceis de desfazer. Se confiarmos apenas no mercado, podemos naturalizar abusos. Se confiarmos demais no Estado, podemos criar formas ainda mais perigosas de concentração.

Esses dilemas não têm solução simples. E justamente por isso precisam aparecer com mais clareza.

Trabalho: proteger pessoas, não congelar o mundo

A parte da encíclica sobre trabalho é uma das mais relevantes, mas também exige cuidado.

A IA deve transformar muitas ocupações. Algumas funções desaparecerão. Outras serão reorganizadas. Novas atividades devem surgir. Certas tarefas serão automatizadas; outras se tornarão mais valiosas justamente por dependerem de presença humana, julgamento e responsabilidade.

O erro seria tratar qualquer transformação como ameaça à dignidade do trabalhador. Mas também seria errado repetir o otimismo automático segundo o qual toda inovação, no fim, beneficia todos.

Por isso, a proteção do trabalho não deveria ser entendida como congelamento dos postos existentes. O mundo muda. Profissões nascem e desaparecem. A questão é como proteger pessoas durante ciclos de inovação.

Isso envolve requalificação, educação contínua, transição profissional, redes de proteção, responsabilidade empresarial e participação dos trabalhadores em decisões que afetam suas vidas.

Guerra, paz e realismo

O capítulo sobre guerra e paz é talvez o que mais revela a distância entre a força moral da encíclica e a dificuldade dos problemas institucionais.

A crítica à militarização da IA é necessária. Sistemas autônomos de armas, decisões algorítmicas em combate, vigilância militar massiva e aceleração automatizada da guerra levantam riscos graves. Há o perigo da desresponsabilização: quando a decisão passa por sistemas técnicos complexos, todos podem alegar que apenas cumpriram uma etapa do processo.

Também há o risco de tornar a guerra mais aceitável. Se a tecnologia promete precisão, redução de baixas próprias e ataques cirúrgicos, líderes políticos podem se sentir mais tentados a usar a força.

Mas existe outro lado, difícil de enfrentar. Se guerras continuarão existindo, tecnologias mais precisas poderiam, em alguns casos, reduzir mortes de civis? Sistemas de IA, sob controle humano efetivo, poderiam melhorar rastreabilidade, identificação de alvos, prevenção de erros e avaliação proporcional de danos?

O argumento da redução de danos não deve ser usado para justificar uma corrida armamentista. Mas também não pode ser simplesmente ignorado. Uma reflexão moral sobre IA militar precisa enfrentar essa ambiguidade: a mesma tecnologia que pode desumanizar a guerra talvez também possa, em certas condições, reduzir alguns de seus horrores.

O desafio é saber se esse ganho é real ou se apenas torna a guerra mais administrável, distante e politicamente palatável.

Aqui, mais uma vez, a encíclica é forte como advertência moral. Mas me parece menos forte como análise das condições trágicas da política internacional.

Uma existência cristã na era digital

Apesar dessas críticas, acho que a Magnifica Humanitas não deve ser lida principalmente como manual de regulação, economia ou geopolítica.

Penso que sua melhor leitura seja como uma reflexão sobre a existência cristã na era digital.

Ela pergunta como permanecer humano em um mundo fascinado por automação. Como preservar a dignidade em ambientes organizados por dados. Como educar crianças e jovens em meio à economia da atenção. Como proteger a liberdade interior quando plataformas disputam cada minuto do nosso olhar. Como usar tecnologia sem transformar eficiência em ídolo. Como buscar a paz quando a própria guerra se torna mais técnica, remota e automatizada.

A encíclica talvez não ofereça as melhores respostas institucionais para todas elas. Mas ajuda a recolocá-las em um horizonte mais amplo.

O debate sobre IA muitas vezes oscila entre entusiasmo comercial, medo apocalíptico e tecnicismo regulatório. A tradição cristã pode contribuir lembrando que há que se avaliar para onde a IA nos leva.

Que capacidades devemos preservar? Como lidar com o poder? Como preservar a liberdade e fazer com que ela floresça ainda mais por meio dos sistemas que construímos? Que ideia de pessoa deve orientar nossas instituições?

Conclusão: a pergunta que permanece

Minha leitura final da encíclica é, portanto, ambivalente.

Ela acerta na antropologia. Recoloca a IA diante da pessoa humana, da dignidade, dos limites da técnica e da abertura a Deus. Ela acerta na responsabilidade. Insiste, com razão, que não basta falar de ética em abstrato; é preciso criar formas concretas de prestação de contas, supervisão e governança.

Mas ela é menos convincente quando trata do poder. Critica bem o poder privado, mas subestima os riscos do poder estatal. Critica bem a fragmentação digital, mas reconhece pouco seu papel contra monopólios informativos e regimes autoritários. Critica bem a lógica da eficiência, mas poderia reconhecer melhor os ganhos históricos da inovação, do mercado e da tecnologia.

Ainda assim, o documento tem a virtude de colocar uma pergunta que não pode ser desprezada: o que a IA está fazendo conosco?

A resposta a essa pergunta não virá apenas de engenheiros, empresários, juristas ou teólogos. Ela exigirá um esforço da humanidade como um todo: instituições, empresas, comunidades, Estados e pessoas. Todos eles precisam ser preparados para esse esforço.

Como lembra Mario Bunge, a tecnologia é moralmente ambivalente. Por isso, à pergunta — a inteligência artificial está tornando a vida humana mais humana? — a resposta que obtemos é: sim e não.

É exatamente por isso que essa tecnologia precisa estar orientada para o maior benefício possível para todos. Este é o enorme desafio que se coloca para a humanidade nos próximos anos.

Assine agora

A inteligência artificial já não é apenas um tema técnico. Ela aparece em discussões sobre trabalho, educação, guerra, direito, criação intelectual, saúde, religião, política e governança.

Aos poucos, ficou claro que a IA não pode ser compreendida apenas como uma ferramenta mais eficiente para fazer tarefas conhecidas. Ela mexe com instituições, relações de poder, formas de decisão e modos de compreender o lugar do ser humano no mundo.

Por isso me chamou atenção o anúncio de que a primeira encíclica do Papa Leão XIV, Magnifica humanitas, tratará da proteção da pessoa humana no tempo da inteligência artificial.

Mesmo para quem não acompanha de perto a vida interna da igreja católica romana, o fato é significativo. Ele mostra que a IA entrou definitivamente no campo das grandes questões morais do nosso tempo.

Foi pensando nisso que voltei a um texto antigo, mas surpreendentemente atual, de John von Neumann: Can We Survive Technology?, publicado em 1955.

Von Neumann escrevia a partir de outro cenário. A grande tecnologia que assombrava sua época era a nuclear. A bomba atômica havia mostrado que o poder técnico da humanidade podia atingir uma escala inédita de destruição. Ao mesmo tempo, a energia nuclear também carregava promessas de abundância energética e transformação econômica.

Esse contraste entre esperança e ameaça não é idêntico ao que vivemos com a inteligência artificial. A IA não é uma bomba. Seus riscos são mais difusos, mais distribuídos e, em muitos casos, menos visíveis.

Mas o texto de von Neumann interessa justamente porque não fala apenas de armas nucleares. Ele fala de uma condição mais ampla: a dificuldade de organizar a vida humana quando a tecnologia passa a operar em uma escala maior do que nossas instituições conseguem acompanhar.

Uma época não tão distante

O artigo de von Neumann foi escrito no contexto da Guerra Fria. Estados Unidos e União Soviética disputavam poder, influência e segurança em torno de uma tecnologia que havia alterado profundamente a imaginação política do século XX.

Hoje, o paralelo mais evidente está na disputa entre Estados Unidos e China pela liderança em inteligência artificial.

Não é preciso forçar a analogia para perceber a semelhança estrutural: em ambos os casos, uma tecnologia passa a ser vista como decisiva para poder econômico, capacidade militar, prestígio científico e influência internacional.

Ainda assim, a comparação deve ser feita com cuidado. A tecnologia nuclear e a inteligência artificial têm naturezas muito diferentes. O risco nuclear é concentrado, extremo e ligado à destruição física em larga escala. A IA se espalha de outro modo. Ela entra em sistemas administrativos, plataformas digitais, processos de trabalho, decisões empresariais, políticas públicas, tribunais, escolas e conflitos armados.

O que aproxima os dois momentos não é a tecnologia em si. É a sensação de que o poder técnico avança mais rápido do que a nossa capacidade de compreendê-lo, limitá-lo e orientá-lo.

Quando o mundo fica pequeno

Uma das ideias mais interessantes do texto de von Neumann é a de que a tecnologia tornou o mundo pequeno demais.

Ele argumenta que, durante muito tempo, o avanço técnico pôde ser absorvido pela expansão do espaço de atuação humana. Mais energia, mais comunicação e mais controle permitiam operações em escala cada vez maior. Mas essa expansão encontrava um limite: a própria Terra.

A crise, para ele, não vinha apenas de erros humanos ou de acontecimentos acidentais. Ela surgia do encontro entre tecnologia, geografia e organização política. O alcance da ação humana havia se tornado global, enquanto as instituições continuavam divididas, lentas e frágeis.

Essa formulação ajuda a pensar a IA. Um sistema de IA pode ser desenvolvido em um país, treinado com dados de várias origens, incorporado a plataformas usadas globalmente e produzir efeitos em diferentes contextos culturais, econômicos e jurídicos. Uma mesma tecnologia pode servir para pesquisa médica, automação administrativa, vigilância, propaganda, guerra, educação ou entretenimento.

A escala muda a natureza do problema.

Quando uma decisão humana é localizada, seus efeitos costumam ser mais delimitados. Quando uma decisão é incorporada a um sistema técnico amplamente utilizado, o erro, o viés ou a má escolha podem se repetir silenciosamente. E, muitas vezes, com aparência de neutralidade.

Esse é um dos desafios centrais da IA: ela pode transformar decisões parciais em padrões sistêmicos.

A automação como sinal

Von Neumann também dedica uma parte importante do texto à automação.

Lida hoje, essa passagem chama atenção. Ele não via a automação apenas como uma forma de substituir trabalho humano. Via nela uma transformação dos modos de controle, comunicação e organização. Máquinas capazes de realizar cálculos, coordenar processos e apoiar planejamentos complexos indicavam uma mudança profunda na maneira como instituições poderiam operar.

A inteligência artificial generativa parece continuar essa história, mas em outro nível.

Agora, a automação alcança a linguagem. Ela escreve, resume, classifica, traduz, sugere, compara, organiza argumentos, gera imagens, auxilia na programação e participa de análises que antes eram vistas como propriamente intelectuais.

Isso não significa que a IA pense como uma pessoa. Mas significa que ela entra em atividades que dependem de linguagem, interpretação e julgamento. E muitas instituições funcionam justamente por meio dessas atividades.

Empresas, tribunais, órgãos públicos, universidades e escritórios não operam apenas com máquinas, contratos e procedimentos. Eles operam com textos, justificativas, pareceres, relatórios, classificações, avaliações e decisões.

Quando a IA entra nesses espaços, o problema não é apenas saber se ela aumenta produtividade. É saber como ela altera os processos pelos quais pessoas e instituições passam a compreender situações e tomar decisões.

Não há cura para o progresso. Pode haver ou não haver virtude diante dele

Von Neumann era cético em relação à ideia de proibir o progresso tecnológico.

Ele não dizia isso porque fosse indiferente aos riscos. Ao contrário, o texto inteiro é marcado pela consciência de que tecnologias úteis também podem ser perigosas. O problema é que, para ele, ciência e tecnologia estavam profundamente entrelaçadas. Não seria simples separar, de modo estável, o que serve a fins benéficos do que pode ser usado de maneira destrutiva.

Em uma das frases mais fortes do artigo, ele escreve:

A frase pode soar como rendição. Mas ela não precisa ser lida assim.

O ponto não é aceitar qualquer tecnologia, em qualquer contexto, sob qualquer condição. Algumas aplicações devem ser proibidas. Outras devem ser restringidas. Muitas devem ser testadas, documentadas, auditadas e submetidas a supervisão. Em certos casos, a melhor decisão institucional pode ser não usar IA.

Mas von Neumann ajuda a evitar uma ilusão: a de que seria possível resolver o problema simplesmente interrompendo o progresso técnico como um todo.

No caso da IA, essa ilusão é ainda menos plausível. Há interesses econômicos, militares, científicos e políticos muito fortes em jogo. A tecnologia já está disseminada. Empresas, governos, universidades e indivíduos a utilizam de modos muito variados. A pergunta, portanto, não é apenas se a IA deve existir. Ela já existe e continuará avançando.

Como a IA já existe e continuará avançando, a questão mais difícil é como orientar seu uso dentro de uma segurança possível, que é dependente do exercício inteligente do juízo cotidiano de pessoas de carne e osso.

Isso nos leva ao antigo — e, no nosso tempo, frequentemente deixado de lado — debate sobre as virtudes.

A governança de IA não é capaz de lidar sozinha com problemas que essa tecnologia traz. Ela depende também de virtudes individuais e institucionais.

Sem isso, uma política de IA pode ser apenas uma folha de papel. Uma avaliação de risco pode virar formalidade. A supervisão humana pode ser uma assinatura automática ao final de um processo que ninguém revisou de fato.

As virtudes necessárias

É por isso que o final do texto de von Neumann me parece tão interessante.

Depois de discutir guerra, energia, automação, clima, poder técnico e instabilidade política, ele não termina com uma fórmula. Não oferece uma arquitetura institucional definitiva. Não promete uma solução elegante.

Ele diz que pedir uma receita completa seria pouco razoável. O que podemos especificar são as qualidades humanas necessárias: paciência, flexibilidade e inteligência.

Essas três palavras seguem relevantes hoje.

Conclusão: o progresso e a sabedoria

A pergunta de von Neumann continua mais viva do que nunca: podemos sobreviver à tecnologia?

No caso da inteligência artificial, sobreviver não significa apenas evitar cenários extremos. Significa preservar condições humanas de julgamento, responsabilidade, liberdade e dignidade em um mundo cada vez mais mediado por sistemas técnicos.

A IA aumenta capacidades humanas, mas não aumenta automaticamente nossa sabedoria. Pode tornar processos mais rápidos, mas não necessariamente mais justos. Pode produzir respostas convincentes, mas não assumir responsabilidade por elas.

Talvez esse seja o ponto mais atual do texto de von Neumann.

A tecnologia não espera até que estejamos prontos. Ela avança antes de termos instituições suficientemente maduras para lidar com ela. Por isso, a resposta não virá de uma grande fórmula única, mas de muitas decisões parciais, imperfeitas e revisáveis.

Diante da IA, precisamos de normas, instituições e mecanismos de governança. Mas precisamos também de qualidades humanas sem as quais esses mecanismos se tornam vazios.

Paciência para não agirmos na pressa produzida pelo hype ou pelo medo. Flexibilidade para adaptar nossas instituições sem dissolver seus fundamentos. Inteligência para lembrar que nenhuma tecnologia elimina a responsabilidade humana por aquilo que fazemos com ela.

Assine agora

Walter Quattrociocchi começa seu artigo na Scientific American com uma imagem muito boa.

Imagine entrar no consultório de um médico. Você descreve seus sintomas, ele faz perguntas, examina sinais e apresenta um diagnóstico. Depois, você descobre que esse médico nunca teve contato com um corpo humano. Nunca examinou um paciente. Nunca acompanhou a evolução de uma doença. Tudo o que ele sabe vem da leitura de milhões de relatos médicos.

A resposta poderia ser tecnicamente correta, o vocabulário impecável e a explicação segura. Ainda assim, algo mudaria quando você percebesse que aquele diagnóstico não nasceu do contato com corpos, pacientes e situações concretas, mas da identificação de padrões em textos.

Esse exemplo ajuda a formular uma intuição que considero central para pensar os limites da inteligência artificial generativa: a IA não está no mundo.

Ela fala sobre o mundo. Organiza descrições do mundo. Recombina textos produzidos por pessoas que estão no mundo. Mas ela própria não ocupa uma posição existencial, corporal, institucional ou moral dentro da realidade sobre a qual se pronuncia.

Essa diferença pode parecer abstrata. No direito, porém, ela tem consequências muito concretas.

O que falta quando falta mundo

Modelos de linguagem são extraordinários na produção de textos plausíveis. Eles conseguem redigir uma análise jurídica, resumir um processo, comparar argumentos, explicar conceitos, sugerir teses e estruturar decisões com grande fluência.

Essa capacidade é útil e não deve ser jogada fora. De fato, a IA pode ampliar de modo significativo a produtividade de advogados, juízes, pesquisadores e profissionais de várias áreas.

Mas se confundirmos isso com julgamento teremos um problema.

Julgar não é apenas produzir uma resposta bem formulada. No direito, julgar envolve lidar com fatos, provas, procedimentos, partes, consequências e responsabilidades. Envolve aplicar uma regra geral a uma situação concreta, sabendo que essa passagem muitas vezes não é automática.

Um modelo de linguagem pode simular essa operação em texto. Pode escrever como se tivesse ponderado circunstâncias, avaliado provas e considerado consequências. Mas não existe realmente uma relação própria com o caso.

A IA não viu a audiência. Não percebeu a hesitação de uma testemunha. Não avaliou a dinâmica concreta entre as partes. Não sentiu o peso institucional de uma decisão injusta. Não responde perante ninguém pelo resultado.

Ela pode descrever tudo isso com grande sofisticação. Mas descrever uma situação é muito diferente de estar situado nela.

A forma do julgamento não é o julgamento

Essa distinção é especialmente importante porque o direito vive de formas, que os modelos de linguagem aprendem muito bem.

Por isso, uma decisão produzida com apoio intenso de IA pode parecer juridicamente adequada mesmo quando não houve uma verdadeira análise humana do caso.

Para além do risco das alucinações, que precisam ser controladas, temos um risco ainda maior: uma fundamentação pode ser elegante, coerente e bem organizada, sem que tenha havido efetivo julgamento por parte de quem a assina.

A decisão continua com aparência humana e o juiz continua no cargo. Mas parte relevante da formação do convencimento pode ter sido deslocada para um sistema que não está no mundo.

Já superamos rapidamente a hesitação sobre fazer uso de IA. No contexto brasileiro, e também em outros países, por conta de sua utilidade evidente, o uso IA é uma prática considerada lícita nos tribunais, desde que submetida a limites éticos e aos direitos fundamentais.

Mas, na prática, isso traz um desafio muito difícil de ser tratado institucionalmente que é saber se esse uso preservou ou substituiu o humano.

Sem essa atividade humana, o que temos é produção de linguagem sobre o caso, não propriamente juízo sobre o caso.

Um assistente poderoso, não um substituto do juízo

Em artigos anteriores, discuti usos possíveis dos modelos de linguagem na interpretação jurídica. Eles podem funcionar como ferramentas úteis para explorar sentidos possíveis de uma palavra, organizar hipóteses e comparar argumentos.

Esse tipo de uso me parece promissor. A IA pode ajudar o intérprete a enxergar melhor o problema.

Mas há uma diferença relevante entre usar a IA para ampliar a análise humana e usá-la para entregar a resposta final. No primeiro caso, ela serve ao julgamento. No segundo, começa a ocupar o seu lugar.

Essa fronteira tende a ficar menos visível à medida que os modelos melhoram. A qualidade formal do texto cria uma sensação de segurança que pode diminuir o cuidado humano.

Esse talvez seja um dos efeitos mais importantes da IA generativa nas profissões intelectuais: ela não elimina imediatamente o profissional, mas pode enfraquecer a sua participação substantiva naquilo que ele continua formalmente assinando.

No direito, isso é grave. A assinatura humana não pode ser apenas uma camada de legitimação sobre uma análise que não foi realmente assumida por ninguém. Como a IA não está no mundo, a supervisão humana, além de evitar erros e vieses, é uma condição de legitimidade das decisões.

Conclusão

O argumento de Quattrociocchi é útil porque nos obriga a olhar para além da performance textual dos modelos.

A IA pode ajudar muito em várias rotinas profissionais. Mas há uma diferença clara entre produzir linguagem sobre uma situação e julgar no mesmo plano existencial que as pessoas que estão nela.

Dizer que a IA não está no mundo nos lembra, portanto, que o julgamento humano envolve presença, experiência, responsabilidade e inserção em práticas sociais e institucionais.

No direito, essa diferença deve orientar o modo como usamos a tecnologia.

A IA pode tornar o trabalho jurídico mais eficiente. Mas não deve servir para encobrir a ausência de verdadeiro juízo humano.

Quando uma decisão afeta direitos, liberdade, patrimônio ou a vida concreta das pessoas, é preciso ter alguém de carne e osso julgando.

Assine agora

Uma inteligência artificial pode, em certos experimentos, produzir respostas mais uniformes do que juízes humanos ao aplicar regras jurídicas.

À primeira vista, isso parece uma boa notícia. Afinal, se o direito deve tratar casos semelhantes de maneira semelhante, uma tecnologia capaz de reduzir variações indevidas pareceria realizar uma antiga aspiração do próprio sistema jurídico.

Mas essa conclusão é apressada.

A uniformidade produzida por modelos de linguagem não equivale necessariamente a melhor julgamento. Em alguns casos, ela pode revelar apenas uma aplicação mais rígida da regra, menos sensível às particularidades do caso concreto.

Na Ryerson Lecture, realizada na Universidade de Chicago, Eric Posner examinou como modelos de linguagem de grande porte já estão influenciando decisões jurídicas e por que, apesar de seu desempenho impressionante em certas tarefas, ainda é improvável que substituam juízes humanos no curto prazo.

O aspecto mais instigante da palestra está no deslocamento que Posner propõe. A discussão sobre IA no Judiciário costuma começar pela pergunta sobre substituição: máquinas poderão decidir casos no lugar de juízes? Mas os experimentos apresentados por ele apontam para um problema mais sutil.

Em certas situações, a IA pode ser mais consistente do que juízes humanos justamente porque tende a aplicar regras de maneira mais rígida, com menor sensibilidade às particularidades do caso concreto.

Isso obriga a olhar para a consistência não apenas como uma virtude, mas também como um possível sinal de empobrecimento do julgamento jurídico.

A promessa do juiz artificial

A ideia de um juiz artificial não surge do nada.

Modelos de linguagem já conseguem resumir processos, localizar precedentes, comparar argumentos, estruturar minutas e produzir textos jurídicos coerentes. Em muitos casos, esses textos podem ser difíceis de distinguir daqueles escritos por humanos.

Isso não significa que a IA “entende” o direito no mesmo sentido em que um bom juiz ou advogado entende. Mas significa que ela já consegue operar com fluência dentro da linguagem jurídica.

Posner reconhece esse ponto. Segundo ele, plataformas de IA são eficazes na identificação de padrões em cenários fáticos recorrentes. Essa é uma capacidade relevante para o direito, especialmente em sistemas judiciais marcados por litigância repetitiva, demandas de massa e necessidade de tratamento isonômico de casos semelhantes.

Esse é também o motivo pelo qual a discussão interessa tanto ao Brasil.

Em um Judiciário sobrecarregado, é compreensível que ferramentas capazes de acelerar tarefas, padronizar minutas e auxiliar pesquisas jurídicas pareçam muito atraentes. Não por acaso, o então ministro Luís Roberto Barroso afirmou, em 2024, que a inteligência artificial poderia escrever primeiras versões de sentenças judiciais, ao mesmo tempo em que reconheceu a necessidade de regulação, governança e transparência.

No Brasil, essa discussão já não pertence ao campo da especulação. Ferramentas de IA vêm sendo incorporadas ao Judiciário em diferentes graus: da triagem e organização de processos à elaboração de minutas, resumos e pesquisas jurisprudenciais.

O ponto delicado está em distinguir usos meramente auxiliares daqueles que começam a interferir, ainda que de forma pouco visível, na formação do convencimento judicial. Quanto mais sofisticada a ferramenta, mais difícil se torna perceber onde termina o apoio técnico e onde começa a delegação indevida de uma parte relevante do julgamento.

O experimento de Posner

A parte central da palestra de Posner envolve experimentos que compararam decisões tomadas por juízes humanos com decisões produzidas por modelos de linguagem.

Em um dos experimentos, juízes humanos avaliaram um caso de crimes de guerra envolvendo réus apresentados de forma mais simpática ou antipática. O resultado foi que os juízes foram influenciados, ainda que marginalmente, por atributos positivos ou negativos dos réus.

Os modelos de IA se comportaram de outro modo. Segundo Posner, a IA foi “formalista”: seguiu a regra e desconsiderou o grau de simpatia que se poderia ter por uma das partes.

Em outro experimento, envolvendo escolha da lei aplicável, os juízes humanos produziram resultados inconsistentes e, em alguns casos, cometeram erros fáticos ou jurídicos. Os modelos de IA, por sua vez, aplicaram as regras com consistência e sem erro.

À primeira vista, isso parece um ponto a favor da IA.

Mas Posner faz uma provocação importante:

A pergunta é boa porque os modelos, nesse contexto, se comportaram de modo semelhante a estudantes de direito. Foram mais formalistas, mais aderentes à regra e menos sensíveis aos fatores humanos e institucionais que atravessam a atividade de julgar.

Isso pode ser uma virtude em certas situações. Mas também pode revelar uma limitação.

Um estudante de direito pode aplicar uma regra de maneira mecânica porque ainda não desenvolveu a experiência, a prudência e a percepção institucional necessárias para julgar. Ele pode identificar a norma aplicável. Pode até aplicá-la de modo tecnicamente correto. Mas isso não significa que esteja pronto para decidir a vida de pessoas reais.

Algo semelhante pode ser dito sobre os modelos de linguagem.

Eles podem reproduzir a forma do raciocínio jurídico, mas isso não significa que tenham acesso à densidade prática, institucional e humana do julgamento.

O formalismo da máquina

Há algo sedutor na ideia de uma decisão perfeitamente formalista.

O juiz humano é falível. Pode ser influenciado por simpatias, preconceitos, cansaço, pressão institucional, preferências ideológicas ou simples limitações cognitivas. Uma IA, em tese, poderia reduzir parte dessas variações.

Mas o direito não é apenas um sistema de aplicação automática de regras.

Como os modelos de linguagem conseguem produzir textos jurídicos bem organizados, com aparência de fundamentação, cria-se a impressão de que eles também conseguem julgar.

No entanto, redigir uma decisão e julgar um caso não são atividades equivalentes.

Julgar envolve compreender fatos, avaliar provas, interpretar normas, dialogar com precedentes, respeitar procedimentos, considerar consequências institucionais e justificar publicamente uma decisão que afetará a vida de alguém.

Modelos de linguagem podem auxiliar em partes desse processo. Podem organizar argumentos, resumir documentos, sugerir caminhos de pesquisa e até apresentar hipóteses interpretativas. Mas há uma diferença relevante entre servir de instrumento para o juiz e ocupar, ainda que indiretamente, o espaço do próprio julgamento.

Esse ponto conversa com o que já discuti em textos anteriores sobre o uso de LLMs na interpretação jurídica. Modelos podem ser úteis como ferramentas auxiliares, por exemplo, para explorar sentidos possíveis de palavras, organizar argumentos ou testar hipóteses interpretativas. Mas isso não significa que devam aplicar diretamente um significado a um conjunto de fatos para sugerir a resposta final de um caso.

O Brasil já está dentro dessa discussão

A Resolução nº 615/2025 do Conselho Nacional de Justiça estabelece normas para o desenvolvimento, a governança, a auditoria, o monitoramento e o uso responsável de soluções de IA no Poder Judiciário. Entre seus fundamentos estão a centralidade da pessoa humana, a supervisão humana e a transparência. A norma também prevê que sistemas de IA devem ser compatíveis com direitos fundamentais, devido processo legal, ampla defesa, contraditório e identidade física do juiz.

A resolução admite expressamente o uso de modelos de linguagem e outros sistemas de IA generativa por magistrados e servidores como ferramentas de auxílio à gestão ou de apoio à decisão. Mas estabelece que esse uso deve ser auxiliar e complementar, vedando a utilização da IA como instrumento autônomo de tomada de decisões judiciais sem orientação, interpretação, verificação e revisão pelo magistrado, que permanece integralmente responsável pela decisão e pelas informações nela contidas.

A resposta adequada não parece estar na proibição abstrata do uso de IA por magistrados. Além de pouco realista, uma proibição desse tipo ignoraria usos legítimos da tecnologia em atividades de apoio, pesquisa, organização e revisão.

O erro oposto, porém, seria minimizar a natureza dessas ferramentas.

Um modelo de linguagem não funciona como um simples editor de texto. Ele sugere argumentos, reorganiza fatos, seleciona ênfases e pode influenciar a própria estrutura da decisão. Por isso, seu uso exige critérios mais claros do que aqueles aplicáveis a ferramentas tradicionais de produtividade.

O problema não é apenas identificar IA

Em 2025, escrevi sobre um caso julgado pelo TJSP em que uma parte alegou que a sentença teria sido feita com auxílio de inteligência artificial. O argumento se baseava, em parte, em uma resposta do próprio ChatGPT, que teria apontado probabilidade “média a grande” de uso de IA.

A 15ª Câmara de Direito Privado do TJSP rejeitou corretamente a alegação. O acórdão registrou inexistência de prova do alegado e observou que a sentença estava bem fundamentada, com linguagem polida e em conformidade com entendimentos consolidados do Tribunal.

Afinal, não se prova que uma sentença foi escrita por IA simplesmente porque ela tem estrutura técnica, linguagem jurídica formal e citações jurisprudenciais. Isso é justamente o que se espera de uma sentença humana.

Ainda assim, o caso aponta para uma dificuldade real.

A mera identificação do uso de IA talvez não seja suficiente para resolver o problema. Um juiz pode recorrer a uma ferramenta generativa para revisar linguagem, resumir informações ou estruturar uma minuta sem que isso comprometa a validade da decisão.

A dificuldade aparece quando o uso deixa de ser instrumental e passa a substituir a análise efetiva do magistrado. Nesses casos, o centro da discussão não está na presença da tecnologia, mas no grau de participação humana na construção da fundamentação, na avaliação dos fatos e na responsabilidade pela conclusão adotada.

Se o output da máquina é simplesmente incorporado como decisão, sem revisão substantiva, sem controle das fontes, sem avaliação dos fatos e sem responsabilidade intelectual do julgador, o problema muda de natureza.

Nesse caso, estamos falando de possível terceirização da função jurisdicional que tornaria possível o caminho da anulação.

Alucinações, prova e responsabilidade

Os riscos não aparecem apenas nas decisões judiciais.

Eles também surgem nas peças apresentadas pelas partes e nos materiais levados ao processo.

Recentemente, a Quinta Turma do STJ decidiu que um relatório produzido por IA generativa, sem o crivo da racionalidade humana, não poderia ser utilizado como prova em processo penal. O Tribunal determinou a exclusão do documento dos autos e afirmou que o relatório não possuía “confiabilidade epistêmica mínima” para ser admitido como prova.

Esse caso indica uma tendência importante.

O sistema jurídico não precisa rejeitar a IA em bloco. Mas deve exigir algo que deveria ser evidente: não basta que um texto pareça tecnicamente sofisticado; é preciso que ele seja verificável, confiável e juridicamente responsável.

A forma jurídica não substitui a responsabilidade pelo conteúdo.

Essa preocupação já aparecia na discussão sobre LLMs e interpretação jurídica. Modelos podem alucinar, inventar precedentes, distorcer normas ou produzir respostas persuasivas que não resistem a uma checagem cuidadosa.

Por isso, o uso profissional da IA no direito não pode ser separado de uma prática robusta de verificação.

Três obstáculos para substituir juízes por IA

Posner identifica três obstáculos principais para a substituição de juízes humanos por sistemas de IA.

1. O primeiro é a dificuldade de explicação confiável.

Modelos de linguagem podem produzir justificativas elegantes. Mas isso não significa que essas justificativas correspondam ao processo pelo qual chegaram a determinada resposta. Em muitos casos, o modelo pode apenas racionalizar uma conclusão em linguagem jurídica convincente.

Para o direito, isso é grave.

A fundamentação não é um ornamento. Ela permite crítica, recurso, controle público e responsabilização. Uma decisão judicial não deve apenas chegar a um resultado. Ela deve mostrar por que aquele resultado é juridicamente aceitável.

2. O segundo obstáculo é institucional.

Juízes não decidem isoladamente. Eles fazem parte de um sistema composto por regras processuais, tribunais, precedentes, partes, advogados, órgãos de controle, instâncias recursais e expectativas públicas. A decisão judicial é um ato institucional, não apenas uma resposta correta a um problema lógico.

Posner observa que juízes humanos estão inseridos em uma estrutura institucional complexa, que seria difícil de replicar artificialmente.

3. O terceiro obstáculo é o que ele chama de paradoxo da “história oficial” do direito.

Os modelos são treinados em larga medida com textos jurídicos que apresentam o direito como um sistema formal de aplicação de regras. Mas essa é apenas parte da realidade. A prática jurídica envolve ambiguidades, disputas interpretativas, pressões institucionais e dimensões humanas que nem sempre aparecem de forma explícita nos textos oficiais.

A IA aprende muito bem a linguagem da decisão. Mas talvez justamente por isso tenha dificuldade de captar tudo aquilo que a decisão jurídica oculta.

Uma transformação silenciosa

Posner é cético quanto à substituição integral dos juízes por IA.

Mas não descarta uma transformação mais discreta: juízes utilizando cada vez mais ferramentas de IA nos bastidores, ainda que nem sempre admitam publicamente esse uso.

Esse me parece o cenário mais provável.

Não teremos, pelo menos por enquanto, um “juiz robô” ocupando formalmente o lugar de um magistrado. O movimento mais relevante deve ocorrer dentro do fluxo comum de trabalho.

Minutas serão geradas. Precedentes serão selecionados. Fatos serão resumidos. Argumentos serão organizados. Padrões serão identificados. Tudo isso pode melhorar a prestação jurisdicional. Também pode criar novas formas de dependência, automação excessiva e falsa sensação de segurança.

Quanto melhor a IA escrever, mais difícil será perceber quando ela está errada.

E quanto mais a decisão parecer juridicamente bem construída, maior será a tentação de revisar apenas a superfície do texto, não sua substância.

O lugar adequado da IA na decisão

A IA pode ter um papel legítimo no Judiciário.

Ela pode ajudar a identificar padrões em processos repetitivos. Pode auxiliar na pesquisa de jurisprudência. Pode resumir autos volumosos. Pode apontar inconsistências. Pode sugerir estruturas argumentativas. Pode servir como uma ferramenta de apoio à interpretação, desde que seus outputs sejam testados, comparados e criticamente avaliados.

Mas ela não deve ser tratada como oráculo.

Também não deve ser usada como atalho para reduzir a responsabilidade humana.

O ponto decisivo está no modo de incorporação da tecnologia ao processo decisório. Quando a IA amplia a capacidade de análise do magistrado, seu uso pode ser benéfico. Quando ela substitui a análise, ainda que de modo informal e silencioso, a eficiência passa a ser obtida ao custo da própria legitimidade da decisão.

É nesse ponto que a governança deixa de ser uma preocupação abstrata. Não basta dizer que haverá supervisão humana. É preciso definir o que essa supervisão significa na prática: quem revisa, o que revisa, como revisa, com quais registros, com quais limites de uso, com quais mecanismos de auditoria e com quais responsabilidades em caso de erro.

A Resolução nº 615/2025 do CNJ já aponta nessa direção ao exigir supervisão humana efetiva, periódica e adequada, além de capacitação sobre riscos da automação, vieses algorítmicos e análise crítica dos resultados gerados por IA.

O necessário agora é transformar esses princípios em práticas institucionais reais.

Conclusão

A provocação de Posner é importante porque evita dois erros comuns.

O primeiro é o entusiasmo ingênuo: acreditar que, se a IA é mais consistente, então ela necessariamente julga melhor.

O segundo é a rejeição simplista: afirmar que qualquer uso de IA por juízes seria incompatível com a função jurisdicional.

Na realidade, a IA pode tornar certas tarefas jurídicas mais rápidas, consistentes e eficientes. Em alguns contextos, isso será positivo. Mas julgar não é apenas aplicar uma regra de modo uniforme. Julgar é decidir dentro de uma instituição e diante de pessoas reais.

O futuro mais provável não é a substituição imediata dos juízes por máquinas. É a convivência entre juízes humanos e sistemas de IA.

Assim, o risco principal não está em um robô sentar na cadeira do juiz, mas em o juiz continuar sentado ali, deixando que a máquina julgue por ele.

Assine agora

Muitas organizações já perceberam que não podem simplesmente ignorar a inteligência artificial. Funcionários usam ferramentas como ChatGPT, Claude, Gemini ou Copilot para redigir textos, resumir documentos, organizar ideias, analisar dados, preparar apresentações e acelerar tarefas do dia a dia.

Isso cria uma impressão de que a organização está se tornando mais produtiva. Mas essa impressão pode ser enganosa.

Um funcionário produzir mais rápido não significa necessariamente que a organização esteja tomando melhores decisões. Um departamento usar IA com frequência não significa que a empresa tenha governança de IA. E uma política interna autorizando ou proibindo certos usos não basta para transformar uma tecnologia poderosa em uma ferramenta institucional confiável.

Em um artigo recente, George Sivulka, da a16z, propõe uma distinção interessante entre IA individual e IA institucional. A IA individual é aquela usada por cada pessoa para aumentar sua própria produtividade. A IA institucional, por outro lado, exige redesenho de processos, coordenação, definição de responsabilidades, mecanismos de auditoria e integração com os objetivos reais da organização.

A analogia usada no artigo é a eletrificação das fábricas. Não bastou trocar motores a vapor por motores elétricos. Os grandes ganhos de produtividade vieram apenas quando as fábricas foram redesenhadas em torno da nova tecnologia. No caso da IA, talvez estejamos em uma fase parecida: muitas organizações já “trocaram o motor”, mas ainda não redesenharam a fábrica.

Essa distinção ajuda a entender três erros comuns quando organizações discutem riscos de IA.

1. Confundir produtividade individual com maturidade organizacional

O primeiro erro é imaginar que a adoção de IA por indivíduos já representa maturidade organizacional.

Esse erro é compreensível. Quando um profissional usa IA para escrever melhor, pesquisar mais rápido ou automatizar tarefas repetitivas, o ganho parece evidente. O problema é que organizações não funcionam apenas pela soma de desempenhos individuais.

Uma organização é feita de processos, incentivos, responsabilidades, fluxos de informação, controles, revisões e decisões compartilhadas.

Quando cada pessoa usa IA de um modo diferente, com critérios próprios, prompts próprios, ferramentas próprias e níveis diferentes de cuidado, o resultado pode ser menos produtividade institucional e mais descoordenação.

O mesmo documento pode ser resumido de formas diferentes. O mesmo contrato pode ser interpretado com níveis diferentes de rigor. O mesmo relatório pode ser produzido com erros invisíveis. A mesma informação sensível pode ser inserida em ferramentas que a organização nem sequer conhece.

Nesse cenário, a pergunta “nossos funcionários estão usando IA?” é insuficiente.

A pergunta mais importante é outra: em quais processos a IA está entrando e quem responde pelos resultados que ela ajuda a produzir?

O NIST AI Risk Management Framework trata a governança como uma função transversal, que deve informar as atividades de mapear, medir e gerenciar riscos ao longo do ciclo de vida dos sistemas de IA. O ponto é importante: governança não é um documento isolado; é uma capacidade organizacional contínua.

Por isso, uma organização que apenas libera ferramentas de IA para seus profissionais pode até parecer moderna. Mas, se não define papéis, limites, responsabilidades, critérios de uso, mecanismos de revisão e formas de monitoramento, ela não tem propriamente uma estratégia de IA. Tem apenas uma proliferação de usos individuais.

A consequência prática é que o risco deixa de estar apenas no sistema de IA e passa a estar no modo como a organização absorve esse sistema.

2. Discutir riscos de IA de maneira genérica

O segundo erro é discutir riscos de IA como se eles fossem sempre os mesmos: viés, alucinação, privacidade, segurança, propriedade intelectual, discriminação, falta de transparência.

Esses riscos são reais. Mas, quando aparecem apenas como uma lista abstrata, ajudam pouco.

Essa passagem da abstração para o caso concreto é uma das razões pelas quais criei o curso gratuito IA em Ação: 12 Casos Reais de Riscos Éticos e Jurídicos. O curso parte de situações reais para mostrar como os riscos da IA aparecem em decisões, processos e contextos institucionais específicos — exatamente onde a governança se torna necessária.

O risco de uma ferramenta de IA depende do contexto de uso. A mesma tecnologia pode ter risco baixo em uma atividade e risco alto em outra. Usar IA para gerar ideias preliminares para uma campanha de marketing não é o mesmo que usar IA para avaliar candidatos em um processo seletivo. Resumir um texto público não é o mesmo que resumir documentos estratégicos de uma operação de M&A. Apoiar a redação de um e-mail não é o mesmo que auxiliar uma decisão médica, jurídica, financeira ou trabalhista.

O NIST chama atenção justamente para a importância do contexto. As características de uma IA confiável — validade, segurança, resiliência, transparência, explicabilidade, privacidade e justiça — precisam ser avaliadas de acordo com o uso concreto do sistema.

Não há uma única combinação correta para todos os casos. Muitas vezes, há trade-offs: mais explicabilidade pode significar menos desempenho; mais coleta de dados pode melhorar precisão, mas aumentar riscos de privacidade; mais automação pode gerar eficiência, mas reduzir contestabilidade.

Isso muda a forma de discutir riscos.

A pergunta não deveria ser apenas: “quais são os riscos da IA?”

A pergunta deveria ser: quais são os riscos deste uso de IA, neste processo, com estes dados, para esta finalidade, afetando estas pessoas, sob estas responsabilidades?

Essa mudança parece simples, mas altera quase tudo.

Ela exige que a organização mapeie casos de uso. Exige que diferencie usos experimentais de usos operacionais. Exige que identifique quais decisões são apenas apoiadas por IA e quais passam a depender dela. Exige que avalie quem pode ser afetado por erros, vieses ou omissões. Exige que defina se o uso é aceitável, inaceitável, condicionado a controles ou dependente de validação adicional.

A ISO/IEC 42001, primeira norma internacional de sistema de gestão de IA, segue uma lógica parecida ao tratar a IA como objeto de um sistema de gestão, não como uma ferramenta isolada. Ela fala em estabelecer, implementar, manter e melhorar continuamente um sistema de gestão de IA dentro do contexto da organização.

Esse ponto é decisivo. A organização não precisa apenas conhecer “os riscos da IA”. Precisa desenvolver uma forma institucional de decidir quando esses riscos são aceitáveis, quando precisam ser mitigados e quando tornam determinado uso inadequado.

Sem isso, a discussão sobre risco vira uma enumeração genérica. Parece sofisticada, mas não orienta decisões.

3. Acreditar que supervisão humana resolve o problema

O terceiro erro é talvez o mais comum: imaginar que basta colocar um ser humano no processo para que o risco esteja controlado.

A ideia é atraente. Se a IA pode errar, um humano revisa. Se a IA pode alucinar, um humano confere. Se a IA pode enviesar, um humano corrige. Se a IA pode sugerir algo inadequado, um humano decide no final.

Mas essa resposta é incompleta.

Supervisão humana só funciona quando o humano tem tempo, competência, autoridade, incentivos e condições reais para revisar criticamente o que a IA produziu. Caso contrário, a supervisão vira apenas uma camada formal de legitimação.

O NIST observa que papéis e responsabilidades humanas em sistemas de IA precisam ser claramente definidos. Também reconhece que interações humano-IA podem amplificar vieses, que a opacidade dos sistemas dificulta a avaliação e que ainda é importante estudar em que medida humanos são realmente incentivados e capacitados a desafiar outputs de IA.

Esse ponto se torna ainda mais relevante com ferramentas de IA generativa. Modelos conversacionais podem soar confiantes, fluentes e úteis mesmo quando estão errados. Além disso, há um problema específico de comportamento excessivamente concordante — ou sycophancy — em que o sistema tende a validar a visão do usuário em vez de desafiá-la.

Pesquisas da Anthropic já identificaram esse comportamento em assistentes de IA, e a própria OpenAI reconheceu publicamente, em 2025, que uma atualização do GPT-4o havia tornado o modelo excessivamente bajulador ou concordante.

Em ambiente organizacional, isso é perigoso.

A IA pode dar ao profissional a sensação de que sua interpretação está correta. Pode reforçar uma tese fraca. Pode transformar uma hipótese mal formulada em um texto aparentemente convincente. Pode produzir uma justificativa elegante para uma decisão que deveria ter sido questionada.

Por isso, a governança de IA não deve se limitar a exigir “revisão humana”. Ela precisa perguntar:

Revisão por quem? Com qual critério? Em que etapa? Com que documentação? Com que possibilidade real de dizer não?

Aqui, a ideia da a16z sobre “IA institucional” é interessante: organizações não precisam apenas de assistentes que ajudam usuários a produzir mais. Elas precisam também de mecanismos que desafiem raciocínios, apontem inconsistências, filtrem ruído, imponham padrões e funcionem como uma espécie de “homem do não” institucional.

Essa expressão pode soar estranha, mas a intuição é correta. Organizações sérias não dependem apenas da confiança individual. Elas criam comitês, auditorias, revisões independentes, segregação de funções, trilhas de documentação e processos de aprovação justamente porque sabem que pessoas erram, grupos se enviesam e decisões importantes precisam de resistência institucional.

Com IA, isso se torna ainda mais importante.

Quanto mais eficiente a ferramenta parece, menor tende a ser o cuidado humano. Quanto melhor o texto, menor a disposição de revisar. Quanto mais natural a resposta, maior a tendência de confiar. Quanto mais a IA se integra ao fluxo de trabalho, mais difícil fica perceber onde termina a contribuição da máquina e começa a decisão humana.

A supervisão humana, portanto, não é uma solução mágica. Ela é apenas um dos elementos de um sistema mais amplo de governança.

O risco não está apenas na IA, mas na organização que a utiliza

Esses três erros têm algo em comum: todos tratam a IA como uma ferramenta isolada.

No primeiro, a organização confunde uso individual com maturidade institucional. No segundo, trata riscos como uma lista genérica, desconectada dos processos reais. No terceiro, imagina que a presença de um humano basta para controlar o risco.

Mas a IA não entra em uma organização no vazio. Ela entra em estruturas já existentes: departamentos, hierarquias, incentivos, pressões por produtividade, falhas de comunicação, culturas internas, limitações técnicas e disputas de poder.

Por isso, discutir riscos de IA em organizações exige uma mudança de foco.

Não basta perguntar se a ferramenta é boa. É preciso perguntar se o processo é adequado.

Não basta perguntar se a IA erra. É preciso perguntar quem detecta, corrige e responde pelo erro.

Não basta perguntar se há supervisão humana. É preciso perguntar se essa supervisão é real ou apenas formal.

Não basta perguntar se a organização tem uma política de IA. É preciso perguntar se ela tem capacidade de governar a IA em seus processos concretos.

A União Europeia, por exemplo, passou a tratar o letramento em IA como uma obrigação relevante no AI Act. O artigo 4 exige que fornecedores e responsáveis pela implantação de sistemas de IA adotem medidas para garantir nível suficiente de conhecimento sobre IA entre pessoas que lidam com sua operação e uso, levando em conta o contexto, os riscos e as pessoas afetadas.

Esse é um sinal importante. O problema não é apenas técnico. É institucional.

A IA pode aumentar produtividade, reduzir custos, melhorar análises e abrir novas oportunidades de negócio. Mas isso não acontecerá automaticamente. Sem governança, ela também pode ampliar erros, acelerar decisões ruins, produzir uma falsa sensação de segurança e espalhar riscos de forma silenciosa por toda a organização.

Não se trata, portanto, de se perguntar se as organizações vão usar IA. Elas já estão usando.

A questão central é se conseguirão deixar de tratar a IA como uma coleção de ferramentas individuais e passarão a tratá-la como parte de uma arquitetura institucional de decisão, responsabilidade e controle.

Talvez esse seja o verdadeiro desafio da governança de IA: redesenhar a organização para que a tecnologia não apenas produza mais, mas produza melhor — com clareza, responsabilidade e capacidade real de correção.

Assine agora

Uma das firmas de advocacia mais prestigiadas dos Estados Unidos pediu desculpas a um juiz federal depois de apresentar uma petição com citações jurídicas incorretas e outros erros gerados por inteligência artificial.

A notícia chama atenção, mas o ponto mais importante não é uma IA ter inventado citações ou produzido referências inexistentes. Isso já sabemos que pode acontecer.

O ponto mais importante é que o erro passou por uma organização que, em tese, deveria estar entre as mais preparadas do mundo para evitá-lo.

A Sullivan & Cromwell não é um pequeno escritório improvisando com tecnologia. É uma firma de elite, com recursos, reputação, advogados altamente qualificados e políticas internas sobre uso de IA. Ainda assim, segundo a própria firma, suas políticas não foram seguidas e o processo de revisão não identificou os problemas antes da apresentação da peça ao tribunal.

Esse é o verdadeiro problema.

Não estamos diante apenas de uma falha tecnológica. Estamos diante de uma falha de governança.

O que aconteceu

O caso envolveu uma petição apresentada em uma corte de falências em Nova York, no contexto de um procedimento relacionado à Prince Global Holdings.

Depois da apresentação da peça, a firma Boies Schiller Flexner identificou erros no documento. Entre eles, havia citações imprecisas, trechos aparentemente fabricados e referências jurídicas problemáticas.

Em carta ao juiz Martin Glenn, Andrew Dietderich, sócio da Sullivan & Cromwell e co-head da área global de reestruturação da firma, reconheceu que havia “alucinações” de IA no material apresentado.

A carta também afirmou que a firma possuía políticas e treinamentos internos sobre o uso de IA em trabalhos jurídicos, mas que essas salvaguardas não foram observadas no preparo da petição. Além disso, a revisão posterior também não foi suficiente para detectar os erros.

Quando um erro como esse acontece apesar da existência de políticas, treinamentos e revisão, o foco se desloca da ferramenta de IA que foi usada para o tipo de supervisão humana que realmente existiu.

O erro não está em usar IA

É importante evitar conclusões simplistas na linha de que ferramentas de IA devam ser banidas do trabalho jurídico.

O problema é tratar a IA como se ela pudesse ser incorporada ao fluxo de trabalho apenas pela soma de três elementos: uma política interna, uma orientação genérica e uma revisão final.

Isso é insuficiente.

A IA generativa pode ser útil na pesquisa, na organização de argumentos, na revisão de linguagem, na comparação de documentos e na preparação inicial de textos. Mas, em atividades jurídicas, há uma diferença enorme entre usar a IA como apoio e permitir que ela introduza conteúdo normativo ou jurisprudencial sem verificação rigorosa.

Uma citação falsa em uma petição não é um erro irrelevante.

Ela pode afetar a confiança do tribunal, a posição da parte contrária, a reputação do advogado, a credibilidade da firma e, em última instância, a própria administração da justiça.

Por isso, o caso Sullivan & Cromwell importa.

Ele mostra que a adoção da IA em ambientes profissionais de alto risco não depende apenas de acesso à tecnologia. Depende, sobretudo, de desenho institucional, incentivos, revisão e responsabilidade.

A armadilha do “humano no loop”

Muitas organizações respondem aos riscos da IA com uma fórmula aparentemente tranquilizadora: haverá sempre um humano supervisionando.

Essa resposta parece sensata. E, em muitos casos, é necessária.

Mas ela esconde uma dificuldade prática: supervisionar bem dá trabalho.

Não basta dizer que há um advogado, médico, gestor, analista ou servidor público no processo. É preciso perguntar o que essa pessoa deve revisar, em quanto tempo, com quais critérios, com quais ferramentas, com que grau de responsabilidade e sob quais incentivos.

É justamente aqui que entra um estudo recente da Wharton, de Hamsa Bastani e Gérard Cachon, sobre o que os autores chamam de “paradoxo contratual humano-IA”.

A conclusão central é contraintuitiva: à medida que os sistemas de IA se tornam mais confiáveis, pode se tornar mais difícil motivar seres humanos a supervisioná-los de forma eficaz.

A razão é simples.

Quando a IA erra com frequência, o humano permanece alerta. O risco é visível. A falha é esperada. A revisão parece necessária.

Mas quando a IA acerta quase sempre, a supervisão se torna cognitivamente mais difícil. O humano passa a revisar outputs que, na maioria das vezes, estão corretos. Aos poucos, a atenção diminui. A verificação vira ritual. O “humano no loop” continua existindo no organograma, mas pode desaparecer na prática.

O estudo mostra que a vigilância humana tem custo. Quando os erros são raros, mas imprevisíveis, manter alguém realmente atento a esses erros pode se tornar cada vez mais caro e difícil. No modelo dos autores, a remuneração necessária para induzir a supervisão cresce à medida que diminui a probabilidade de erro da IA.

Em outras palavras: quanto melhor a IA parece funcionar, mais tentador se torna confiar nela sem conferir de verdade.

O viés de automação

Esse fenômeno também conversa com o chamado viés de automação.

O viés de automação ocorre quando seres humanos passam a confiar excessivamente em sistemas automatizados, aceitando suas recomendações ou resultados mesmo quando haveria razões para questioná-los.

No contexto jurídico, isso pode assumir uma forma particularmente perigosa.

Uma resposta produzida por IA pode parecer tecnicamente sofisticada. Pode vir em linguagem jurídica. Pode organizar argumentos de modo convincente. Pode mencionar precedentes, normas e trechos de decisões com aparência de precisão.

E esse é um dos riscos centrais da IA generativa: ela pode errar com a mesma fluência com que acerta.

Para um advogado pressionado por prazos, volume de trabalho e expectativas de produtividade, a tentação é evidente. Se o texto parece bom, se a citação parece plausível, se o argumento está bem escrito, a revisão pode se tornar superficial.

Não necessariamente por má-fé.

Muitas vezes, por fadiga, excesso de confiança, pressão organizacional ou simples acomodação diante de uma ferramenta que costuma funcionar bem.

Esse é o ponto que às vezes passa despercebido: a falha humana não surge apesar da eficiência da IA. Ela pode surgir justamente por causa dela.

Políticas internas não bastam

O caso Sullivan & Cromwell também revela um limite importante das políticas internas.

Ter uma política de uso de IA é necessário. Mas não é suficiente.

Uma política pode dizer que citações devem ser verificadas. Pode dizer que o advogado é responsável pelo conteúdo final e que ferramentas de IA não devem ser usadas para substituir julgamento profissional.

Tudo isso é correto.

Mas, se o fluxo de trabalho real premia velocidade, volume e entrega rápida, a política pode virar um documento decorativo.

Governança de IA não é apenas escrever regras. Ela precisa buscar a concretização dessas regras, estabelecendo requisitos para que elas sejam cumpridas quando há pressão, cansaço, prazos curtos e incentivos contraditórios.

No caso jurídico, isso significa pelo menos quatro coisas.

• Primeiro, definir quais tarefas podem ou não ser apoiadas por IA.

• Segundo, estabelecer níveis diferentes de verificação conforme o risco da tarefa.

• Terceiro, criar procedimentos concretos de checagem, especialmente para citações, precedentes, normas e afirmações jurídicas.

• Quarto, atribuir responsabilidade de maneira clara, não apenas ao usuário individual da ferramenta, mas também à organização que a incorporou ao trabalho.

Sem isso, o “humano no loop” pode se transformar em uma ficção conveniente.

A competência mais valiosa pode mudar

Outro ponto importante do estudo da Wharton é que, em ambientes de colaboração entre humanos e IA, a habilidade humana mais valiosa talvez não seja apenas corrigir erros.

Pode ser identificá-los.

Mais ainda: pode ser saber quando a IA deve ser usada, quando deve ser supervisionada com rigor e quando não deve ser usada.

Os autores distinguem três capacidades humanas relevantes: a capacidade de inspecionar o output da IA, a capacidade de corrigir erros e a capacidade de discernir quando a IA é adequada para determinada tarefa.

No modelo, a capacidade de inspecionar o output de forma eficiente pode valer mais do que a capacidade de reparar o erro depois.

Isso tem implicações diretas para a advocacia.

O advogado do futuro não será apenas aquele que sabe “usar IA”. Essa afirmação genérica é insuficiente.

A competência mais importante será saber onde a IA é confiável, onde ela é perigosa, onde ela economiza tempo e onde ela pode introduzir erros que parecem corretos à primeira vista.

No direito, isso exige uma combinação de conhecimento jurídico, senso institucional e prudência profissional.

A IA pode ajudar a redigir. Pode sugerir caminhos. Pode organizar materiais. Pode acelerar tarefas. Mas ela não sabe, por si mesma, o que está em jogo em uma petição apresentada ao Judiciário. Quem precisa saber isso é o advogado.

O erro individual e o erro organizacional

É natural perguntar quem errou. Quem usou a ferramenta? Quem revisou? Quem assinou? Quem autorizou? Quem deixou passar?

Essas perguntas importam.

Mas elas não esgotam o problema.

Em organizações complexas, falhas desse tipo raramente são apenas individuais. Elas aparecem na interseção entre tecnologia, processos, incentivos e cultura profissional.

Uma pessoa pode ter confiado demais na IA. Outra pode ter feito uma revisão superficial. Uma terceira pode ter presumido que alguém já havia checado as citações. A organização pode ter adotado a ferramenta sem redesenhar adequadamente o fluxo de verificação.

No fim, a responsabilidade continua humana.

Mas ela não é apenas psicológica. É também institucional.

Por isso, o caso é tão relevante para a governança de IA. Ele mostra que não basta dizer que “o profissional continua responsável”. Essa frase é verdadeira, mas precisa ser complementada pela seguinte pergunta.

A organização criou condições reais para que essa responsabilidade pudesse ser exercida?

Conclusão: o que esse caso ensina

O caso Sullivan & Cromwell não deve ser lido como uma curiosidade sobre uma firma que passou vergonha.

Ele deve ser lido como um alerta.

Se uma organização de elite, com profissionais altamente qualificados, políticas internas e processos de revisão, pode apresentar uma peça com erros gerados por IA, então qualquer organização que use IA em atividades de alto risco precisa levar esse problema a sério.

A lição naturalmente não é abandonar a IA.

O que é necessário é que a supervisão humana seja tratada como uma função real, custosa e especializada. Não como uma cláusula genérica em uma política interna.

Por isso, simplesmente ter um humano no processo não garante nada.

O ponto central é se esse humano tem tempo, competência, incentivo e responsabilidade clara para revisar o que a IA produziu.

Sem isso, o chamado humano no loop pode se tornar apenas aquele humano que dá sua assinatura.

E, quando isso acontece, a organização não tem governança de fato, mas apenas uma aparência de controle, o que pode trazer sérios prejuízos quando ela utiliza IA.

Assine agora

Em um artigo de dois meses atrás, sustentei que a justiça da precificação algorítmica não pode ser reduzida a uma pergunta simples sobre igualdade.

O ponto decisivo não é saber apenas se consumidores diferentes pagam preços diferentes. É saber quando essa diferenciação produz efeitos juridicamente relevantes.

Esse enquadramento continua correto. Mas ele nos leva a um problema adicional, e talvez mais difícil.

Mesmo quando conseguimos identificar um dano potencial, ainda resta saber como regulá-lo.

Essa é a dificuldade que aparece quando avançamos na leitura de Algorithmic Harm, de Oren Bar-Gill e Cass Sunstein, e também nas críticas dirigidas ao modelo que eles propõem.

Os autores tentam escapar de dois extremos. De um lado, a ideia de que toda diferenciação algorítmica é injusta. De outro, a tese de que ela deve ser amplamente aceita porque pode aumentar eficiência e, em alguns casos, até beneficiar consumidores de menor renda.

A dificuldade de regular

A tentativa de equilíbrio de Bar-Gill e Sunstein consiste em distinguir entre diferenciação baseada em renda e diferenciação baseada em erro de percepção.

Em linhas gerais, a proposta é conter práticas fundadas em percepções equivocadas dos consumidores, sem eliminar automaticamente os ganhos eventualmente associados a diferenciações economicamente defensáveis.

O problema é que os próprios autores admitem que essa solução ideal pode ser muito difícil, talvez até impossível, de implementar. E esse reconhecimento importa porque desloca o debate para o terreno certo.

A pergunta já não é apenas se há dano. A pergunta passa a ser outra: onde a regulação deve atuar, com base em quais critérios, e com que grau de confiança?

O problema da transparência

Uma resposta intuitiva seria apostar em transparência. Se o algoritmo produz resultados problemáticos, bastaria tornar seu funcionamento visível para auditar o problema e corrigi-lo.

Mas essa resposta é mais frágil do que parece.

A crítica de Talia Gillis vai justamente nessa direção. Para uma classe importante de sistemas de machine learning, transparência pode ser, na prática, uma promessa irrealizável.

E há um problema adicional: mesmo quando algum nível de transparência é formalmente oferecido, empresas podem selecionar os protocolos mais convenientes para apresentar seus sistemas como inofensivos.

Em outras palavras, transparência não elimina necessariamente a opacidade. Ela pode apenas reorganizá-la de forma mais sofisticada.

Bar-Gill e Sunstein reconhecem a força dessa objeção. Ainda assim, mantêm aberta a possibilidade de que a transparência tenha alguma função regulatória ao menos em certas categorias de algoritmos, especialmente quando se trate de sistemas interpretáveis by design.

O ponto, porém, é que isso está longe de resolver o problema de forma geral.

A migração do foco para os outputs

Se o acesso aos inputs, ao desenho interno do sistema ou aos critérios exatos de decisão não oferece segurança suficiente, o foco tende a migrar para os outputs.

Isto é, em vez de perguntar apenas como o algoritmo opera, passa-se a perguntar o que ele produz na prática.

Esse deslocamento tem apelo evidente. Afinal, no campo jurídico, muitas vezes o que realmente importa são os efeitos.

Se uma prática gera impacto adverso desproporcional sobre certos grupos, talvez seja isso que deva acionar mecanismos de controle.

Mas aqui surge uma nova dificuldade.

A insuficiência do conceito de sofisticação

No caso de Algorithmic Harm, o exame dos outputs depende em grande medida da distinção entre consumidores sofisticados e não sofisticados.

A ideia é de que alguns consumidores conseguem reagir melhor a estratégias de personalização, manipulação ou exploração de vieses comportamentais; outros são mais vulneráveis a esse tipo de arquitetura de escolha.

O problema é que não existe consenso robusto sobre o que, exatamente, faz de alguém um consumidor sofisticado.

Esse conceito pode até funcionar como intuição geral. Como critério regulatório, porém, ele não é sólido.

Sofisticação pode significar renda, escolaridade, letramento digital, experiência de mercado, capacidade cognitiva, acesso à informação ou alguma combinação imperfeita de tudo isso.

Cada proxy captura uma parte do problema, mas nenhuma resolve o todo. E isso importa porque, se a categoria central da regulação é mal definida, a própria intervenção jurídica passa a operar sobre uma base conceitual incerta.

Não há solução única

É por isso que a discussão sobre dano algorítmico não deve ser tratada como se houvesse uma solução única, limpa e barata disponível.

Não há bala de prata.

Soluções baseadas em transparência enfrentam limites técnicos e institucionais. Soluções baseadas em outputs parecem mais promissoras, mas exigem categorias normativas e empíricas que ainda estão longe de ser estáveis.

Medidas ex ante podem ser desejáveis em alguns casos, mas podem também ser facilmente contornadas, mal calibradas ou excessivamente rígidas.

Litígios ex post oferecem correção pontual, mas chegam tarde e dependem de capacidade probatória, coordenação institucional e critérios jurídicos que muitas vezes ainda estão em formação.

O que o direito precisa enfrentar

Os autores enfatizam que isso não significa que devemos desistir da regulação.

Significa apenas que regular bem exige mais do que denunciar a existência de um problema.

Na prática, o debate sério sobre precificação algorítmica precisa abandonar duas ilusões. A primeira é a ilusão de que o dano será sempre visível a olho nu. A segunda é a ilusão de que, uma vez identificado o dano, a forma correta de intervenção será óbvia.

Nem uma coisa, nem outra.

O cenário real é mais incômodo. Em mercados de consumo, algoritmos podem explorar vulnerabilidades sem que isso assuma a forma clássica de discriminação proibida. Podem gerar impactos desproporcionais sem deixar claro, de saída, qual variável foi decisiva. E podem operar de modo economicamente eficiente ao mesmo tempo em que produzem efeitos juridicamente preocupantes.

Conclusão

Respostas binárias continuam sendo insuficientes.

Proibir toda diferenciação algorítmica seria simplista. Permitir tudo em nome da eficiência também seria. Entre esses extremos, o direito precisa construir critérios para testar efeitos, investigar disparidades relevantes, definir quando a opacidade regulatória se torna inaceitável e decidir em que situações a intervenção deve ocorrer antes do dano, e não apenas depois dele.

Assim, o maior desafio da precificação algorítmica não está apenas em saber se ela pode ser injusta. Está em descobrir como transformar essa suspeita em critérios jurídicos operáveis.

E esse problema, ao que tudo indica, ainda está longe de uma solução satisfatória.

Identificar riscos em IA já não é o problema mais difícil.

No artigo anterior, mostrei que há uma convergência global sobre como estruturá-los.

Agora, a questão é outra:
como transformar essa estrutura em decisões reais — com responsáveis, limites e consequências.

É isso que o Artificial Intelligence Safety Governance Framework 2.0 tenta fazer em seu Apêndice 1.

Governança ao longo do ciclo de vida

O Apêndice parte de uma premissa simples, mas frequentemente negligenciada:

riscos de IA não são estáticos — eles mudam ao longo do tempo.

Por isso, a governança não pode ser pontual.

Ela precisa acompanhar o ciclo de vida dos sistemas.

O documento estrutura esse ciclo em etapas como:

• desenvolvimento

• treinamento

• teste

• implementação

• uso e monitoramento

Isso não é apenas uma divisão técnica.

É uma forma de distribuir responsabilidade.

Porque cada etapa introduz riscos distintos — e exige respostas diferentes.

Segurança como processo, não como verificação

Essa abordagem tem uma implicação relevante.

Ela rompe com uma lógica ainda comum em muitas organizações:

a ideia de que segurança pode ser “validada” em um momento específico.

O documento sugere o oposto.

segurança em IA é um processo contínuo, não um checklist.

Isso significa que:

• validar antes da implementação não é suficiente

• monitorar depois da implementação é indispensável

• e ajustar o sistema faz parte da governança

Na prática, isso aproxima a governança de IA de modelos já conhecidos em outras áreas críticas, como risco financeiro e segurança da informação.

Responsabilidade distribuída (e o problema que isso cria)

Um dos elementos mais importantes do Apêndice é a rejeição da ideia de um único responsável.

A governança é distribuída entre:

• desenvolvedores

• empresas

• operadores

• usuários

• e o próprio Estado

Isso resolve um problema:

evita que a responsabilidade seja concentrada artificialmente em um único ator.

Mas cria outro, mais complexo:

como coordenar múltiplos responsáveis com incentivos diferentes?

Empresas buscam eficiência.
Governos buscam controle.
Usuários buscam conveniência.

E todos participam do mesmo sistema.

Classificação de risco como mecanismo de controle

O documento também adota uma lógica já presente em outros frameworks:

diferenciar sistemas de IA por nível de risco.

Isso permite modular a intensidade da governança.

Mas o ponto mais importante não é esse.

É outro:

classificar risco é, na prática, definir o nível de controle sobre a tecnologia.

E isso não é uma decisão puramente técnica.

Depende de critérios como:

• impacto social

• sensibilidade do uso

• contexto político

• tolerância institucional ao risco

Ou seja:

a classificação de risco já é, em si, uma decisão normativa.

O limite da abordagem técnica

Se no artigo anterior vimos que medidas realizadas de maneira isolada são insuficientes, o Apêndice do Framework chinês torna isso ainda mais claro.

Mesmo com:

• testes rigorosos

• supervisão contínua

• melhorias de modelo

a governança depende de algo externo ao sistema:

instituições capazes de impor regras, coordenar atores e lidar com falhas.

Sem isso, a estrutura não se sustenta.

A questão que o documento não resolve

Apesar de detalhado, o Apêndice deixa uma questão em aberto:

quem define os critérios que orientam essa governança?

Porque, no final, decisões como:

• o que conta como risco relevante

• qual nível de risco é aceitável

• quando intervir

não podem ser extraídas apenas de modelos ou métricas.

Elas dependem de escolhas institucionais.

E essas escolhas variam.

O que realmente está em jogo

Se juntarmos a tabela analisada no artigo anterior com o Apêndice, o quadro se completa.

Temos:

• uma estrutura relativamente convergente de gestão de risco

• combinada com mecanismos de implementação ao longo do ciclo de vida

Mas isso não resolve o problema central.

Porque, no fundo, a questão não é apenas operacional.

É política.

governança de IA é, inevitavelmente, governança sobre poder tecnológico.

E isso envolve disputa.

Entre empresas.
Entre Estados.
Entre modelos de organização social.

Conclusão: da gestão de risco à disputa institucional

Frameworks como o que analisei neste e no artigo anterior representam um avanço importante.

Ele mostra que já não estamos apenas discutindo princípios.

Estamos tentando construir mecanismos concretos de controle.

Mas ele também deixa claro um limite:

frameworks organizam o problema — não resolvem as tensões que o sustentam.

A convergência técnica continua avançando.

Mas as decisões fundamentais permanecem abertas.

E elas não serão resolvidas apenas com melhores modelos ou melhores métricas.

Serão resolvidas no campo onde tecnologia e poder se encontram.

Existe um erro recorrente quando se fala de segurança em inteligência artificial: tratá-la como um problema essencialmente técnico.

O Artificial Intelligence Safety Governance Framework 2.0, publicado pela Administração do Ciberespaço da China, parte de uma premissa diferente — e mais realista.

Segurança em IA é um problema sociotécnico.

Isso significa que ela não pode ser resolvida apenas por engenheiros, nem apenas por reguladores. Ela exige uma coordenação entre tecnologia, direito, governança e estratégia institucional.

O ponto onde isso fica mais evidente é na tabela que apresenta os “riscos de segurança da IA, medidas tecnológicas e medidas abrangentes de governança”.

Essa tabela é o núcleo do documento.

E, quando analisada com atenção, ela revela três coisas importantes:

1. Há uma convergência global sobre como pensar riscos em IA

2. As soluções propostas são interdisciplinares

3. O framework chinês introduz nuances políticas que outros evitam explicitar

Vamos analisar isso com mais cuidado.

Convergência global: China, NIST e ISO estão mais próximos do que parece

Uma leitura apressada poderia sugerir que estamos diante de um modelo “chinês” de governança de IA.

Mas quando comparamos essa tabela com frameworks como:

• o NIST Artificial Intelligence Risk Management Framework (AI RMF)

• a ISO/IEC 42001 (sistemas de gestão de IA)

fica claro que há uma convergência significativa.

Os três compartilham estruturas semelhantes:

• identificação e categorização de riscos

• definição de controles e mitigação

• necessidade de monitoramento contínuo

• responsabilização ao longo do ciclo de vida

Ou seja:

O mundo já está, em alguma medida, alinhado sobre como estruturar o problema.

As diferenças não estão tanto nas ferramentas que os frameworks propõem.

Estão nas prioridades políticas e institucionais que cada um incorpora.

As peculiaridades do framework chinês

É aqui que o documento se torna mais interessante.

Além de riscos já amplamente discutidos — como viés, uso malicioso ou falhas de controle — o framework chinês explicita algo que outros tratam de forma mais indireta:

riscos que ameacem a ordem social estabelecida.

Isso não aparece com essa clareza em frameworks ocidentais.

Mas não significa que o tema não exista.

Significa apenas que:

• no Ocidente, ele costuma ser tratado sob termos como misinformation ou democratic integrity.

• na China, ele é nomeado de forma mais direta e integrada à lógica de governança do Partido Comunista Chinês.

Essa diferença é relevante porque revela algo mais profundo:

frameworks de segurança em IA não são neutros — eles refletem modelos de organização social.

A estrutura técnica pode convergir.

Mas os critérios de risco e as prioridades de mitigação carregam pressupostos políticos.

O que realmente são “medidas tecnológicas”

O termo usado no Framework pode induzir a erro.

À primeira vista, parece que estamos falando de soluções puramente técnicas.

Mas não é isso que encontramos na leitura.

O que o documento chama de “medidas tecnológicas” são, na prática:

diversas intervenções sobre sistemas de IA para reduzir a probabilidade ou o impacto de riscos

Um exemplo claro, presente no próprio documento, é a mitigação de viés e discriminação:

“As arquiteturas dos modelos devem ser aprimoradas, a escala e a diversidade dos dados de treinamento devem ser expandidas e mecanismos de supervisão humana devem ser introduzidos para mitigar o viés e a discriminação, além de melhorar a capacidade de generalização dos modelos e a confiabilidade dos resultados.”

Esse trecho é revelador por dois motivos.

Primeiro, porque mostra que a solução não é única:

• envolve arquitetura de modelos

• envolve curadoria de dados

• envolve supervisão humana

Segundo, porque evidencia que essas medidas não são apenas técnicas no sentido estrito.

Elas exigem:

• decisões de design (engenharia)

• decisões sobre dados (governança de dados)

• decisões sobre supervisão (processos organizacionais)

Ou seja:

mesmo as chamadas “medidas tecnológicas” já são, em si, sociotécnicas.

Segurança em IA como prática interdisciplinar

Esse é talvez o ponto mais importante da tabela — e frequentemente subestimado.

Cada risco identificado exige uma combinação de:

• intervenções técnicas (engenheiros, cientistas de dados)

• mecanismos de governança (jurídico, compliance, DPOs)

• estruturas organizacionais (processos, accountability)

Por exemplo:

• Mitigar viés não é apenas melhorar o modelo

• Exige políticas de dados, auditorias e critérios normativos

• Reduzir uso malicioso não é apenas filtrar outputs

• Exige controle de acesso, termos de uso e enforcement

Isso leva a uma conclusão inevitável:

não existe segurança em IA sem coordenação entre diferentes disciplinas e funções dentro das organizações.

E, em escala maior, entre diferentes instituições.

A implicação mais relevante da tabela

Se há uma ideia que sintetiza tudo isso, é a seguinte:

riscos de IA são problemas que emergem da interação entre tecnologia e sociedade — e só podem ser tratados nesse mesmo nível.

Isso coloca um limite claro para abordagens simplistas.

• Mais engenharia, sozinha, não resolve

• Mais regulação, sozinha, também não

O que a tabela propõe — de forma implícita — é uma arquitetura integrada:

sistemas técnicos desenhados em conjunto com estruturas de governança.

O que está em jogo, no fundo

Quando você compara esse framework com NIST e ISO, percebe algo importante:

Existe uma base comum emergente para a governança da IA.

Mas existe também uma disputa silenciosa:

• sobre quais riscos priorizar

• sobre quais valores proteger

• sobre quem define os critérios

A tabela, apesar de técnica, está inserida nesse contexto maior.

Ela não é apenas uma ferramenta de análise.

É parte de uma tentativa de estruturar o controle sobre uma tecnologia que tende a reorganizar o poder.

Conclusão: convergência técnica, divergência política

O mais interessante nesse documento não é o que ele tem de diferente.

É o que ele tem de igual.

China, Estados Unidos e organismos internacionais já estão, em grande medida, falando a mesma linguagem quando o assunto é gestão de risco em IA.

Mas essa convergência no método não elimina as diferenças fundamentais.

Porque, em primeiro lugar, é necessário decidir quais riscos importam.

Essa é uma questão que pertence a um nível acima dos Frameworks, que possuem uma função instrumental, alcançando fins estabelecidos previamente.