Artigo

Ângela Cristina Moreira de Santana; Álvaro Freitas Faustino Dias

DOI: 10.22167/2675-6528-202602295

Artigo derivado de Trabalho de Conclusão de Curso (TCC), com conteúdo baseado no trabalho original do aluno e adaptado ao formato editorial da Revista E&S com apoio da ferramenta ResumeAI, solução de inteligência artificial desenvolvida pelo Instituto Pecege para síntese e organização textual.

Resumo

O advento da inteligência artificial como tecnologia disruptiva reconfigurou processos econômicos, institucionais e jurídicos, conferindo centralidade à automação contratual na gestão de relações complexas. A automação contratual revelou-se um fenômeno juridicamente não neutro, com opacidade decisória, geração automatizada de cláusulas abusivas e dificuldades de atribuição de responsabilidade, deslocando a elaboração contratual para o domínio jurídico-normativo. O estudo analisou como a inteligência artificial na automação contratual intensificou a colisão entre eficiência tecnológica e segurança jurídica, e em que medida mecanismos de supervisão humana significativa e de governança algorítmica funcionaram como instrumentos de ponderação normativa para preservar princípios do direito contratual brasileiro. A pesquisa adotou abordagem qualitativa de estudo de casos múltiplos, com análise documental de quatro casos paradigmáticos: Moffatt v. Air Canada, United States v. RealPage, Deloitte/DEWR e INSS/TRF-4ª Região, representando os contextos consumerista, concorrencial, consultivo-contratual e administrativo. A análise identificou cinco padrões estruturais recorrentes – opacidade decisória, substituição da racionalidade normativa por inferências probabilísticas, accountability gap, assimetria informacional e incompreensão semântica – que emergiram de forma sistêmica. O desfecho fragmentado do caso RealPage reforçou a conclusão de que a jurisprudência sobre automação decisória permanece em formação. A governança algorítmica eficaz demonstrou exigir a integração de mecanismos de auditabilidade, responsabilização e supervisão humana, conforme as normas ISO 31000, COSO ERM e ISO 37301, como condição necessária à legitimidade dos sistemas automatizados de gestão contratual.

Palavras-chave: Contratos; Governança algorítmica; Inteligência artificial; Segurança jurídica; Supervisão humana.

1. Introdução

O advento da inteligência artificial (IA) como tecnologia disruptiva inaugurou uma mudança de paradigma em escala global, reconfigurando processos econômicos, institucionais e jurídicos, e conferindo à automação contratual centralidade crescente na gestão de relações complexas. Historicamente, o Direito adapta-se às inovações tecnológicas, tensionando conceitos tradicionais e impulsionando a evolução normativa (Lessig, 2006; Zuboff, 2019). O aumento exponencial do volume contratual e da complexidade regulatória tem estimulado a adoção de sistemas de automação contratual baseados em IA, tornando-a economicamente irresistível. Contudo, essa pressão tende a subvalorizar custos difusos e de longo prazo, como a erosão da supervisão humana e a opacidade decisória, distorcendo o cálculo de eficiência (Han, 2018; Posner, 2014; Shavell, 1980).

A automação contratual revelou-se um fenômeno juridicamente não neutro, com opacidade decisória, geração automatizada de cláusulas abusivas e dificuldades de atribuição de responsabilidade. No plano normativo internacional, o Regulamento (UE) 2024/1689 – AI Act europeu – impõe obrigações de transparência e supervisão humana. No Brasil, o PL 2338/2023, aprovado pelo Senado Federal, aguardava votação na Câmara, e o ordenamento nacional opera em “silêncio normativo eloquente”, mantendo a matéria sob o regime geral do Código Civil, do Código de Defesa do Consumidor e da Lei Geral de Proteção de Dados. Sistemas de IA não são tecnologicamente neutros, incorporando valores e vieses (Coeckelbergh, 2020). A elaboração de contratos, que exige interpretação normativa e ponderação de interesses, não pode ser integralmente substituída sem comprometer a segurança jurídica e princípios como a boa-fé objetiva e o equilíbrio contratual (Mackaay e Rousseau, 2020; Schreiber, 2022).

Apesar dos avanços na análise dos riscos da automação decisória (Floridi et al., 2018; Busuioc, 2021; Wachter, Mittelstadt e Floridi, 2017), a articulação sistemática entre governança algorítmica e os fundamentos do direito privado permanece limitada. Esta lacuna no contexto brasileiro manifesta-se na ausência de uma tipologia doutrinária consolidada para tratar a discriminação algorítmica em relações contratuais e laborais (Mendes e Mattiuzzo, 2019), evidenciando um descompasso entre a incorporação tecnológica e a capacidade do ordenamento jurídico de absorver seus efeitos. A relevância teórica deste estudo reside na necessidade de examinar a compatibilidade entre a racionalidade inferencial dos sistemas de inteligência artificial e os princípios estruturantes do direito contratual, adotando uma perspectiva crítica para evidenciar os limites de compatibilidade da tecnologia com as racionalidades normativas (Schreiber, 2022; Mackaay e Rousseau, 2020; Hildebrandt, 2015).

A hipótese central sustenta que a automação contratual baseada em inteligência artificial não constitui mera inovação instrumental, mas opera uma transformação ontológica silenciosa sobre o próprio instituto contratual. Esta transformação é “silenciosa” porque se manifesta inicialmente como ganho de eficiência operacional, mas seus efeitos normativos, como a substituição do raciocínio jurídico por inferência probabilística, a erosão da supervisão humana e o esvaziamento das categorias protetivas, apenas se revelam a posteriori, quando a litigiosidade emerge ou o dano já está consumado (Hildebrandt, 2015; Surden, 2014).

Os riscos associados à automação decisória não decorrem de falhas episódicas, mas de características estruturais desses sistemas, revelando uma tensão permanente entre a lógica probabilística da IA e os pressupostos do Estado de Direito. Os padrões estruturais recorrentes identificados incluem a opacidade decisória, a substituição da racionalidade normativa por inferências probabilísticas, o accountability gap, a assimetria informacional e a incompreensão semântica (Goodfellow, Bengio e Courville, 2016; Russell e Norvig, 2021; Mittelstadt et al., 2016; Yeung, 2018).

A recorrência desses padrões estruturais sublinha a urgência de compreender os impactos da IA na segurança jurídica e nos princípios do direito contratual. Este estudo se justifica pela necessidade de uma análise aprofundada desses desafios, contribuindo para o desenvolvimento de mecanismos de governança robustos. O objetivo do trabalho é analisar empiricamente os impactos da automação contratual baseada em inteligência artificial sobre a segurança jurídica, a partir de um estudo de quatro casos paradigmáticos em distintos contextos institucionais: consumerista, concorrencial, consultivo-contratual e administrativo, examinando em que medida mecanismos de supervisão humana significativa e governança algorítmica são capazes de mitigar riscos estruturais decorrentes da opacidade decisória, da substituição da racionalidade normativa por inferências probabilísticas, do accountability gap, da assimetria informacional e da incompreensão semântica. Sob perspectiva empresarial, a pesquisa busca identificar parâmetros de implementação capazes de reduzir riscos regulatórios, aprimorar a governança contratual e mitigar passivos decorrentes do uso inadequado de sistemas automatizados.

2. Material e Métodos

A pesquisa classificou-se como aplicada, exploratório-descritiva e qualitativa, buscando compreender os riscos jurídicos associados ao uso de inteligência artificial na gestão contratual e propor parâmetros práticos de governança para organizações e reguladores. Adotou-se o delineamento de estudo de casos múltiplos, adequado à investigação de fenômenos contemporâneos em contexto real e sob distintos arranjos institucionais (Yin, 2015). As técnicas de obtenção de informações incluíram pesquisa bibliográfica, pesquisa documental e levantamento de dados secundários públicos.

A seleção dos casos seguiu amostragem teórica intencional, orientada por três critérios cumulativos: relevância jurídica da controvérsia (evidenciada por decisão judicial, administrativa, regulatória formal ou resolução contratual publicamente documentada); uso de sistema de inteligência artificial ou automação com impacto sobre decisões juridicamente relevantes (função causalmente relevante); e capacidade de evidenciar categorias centrais à pesquisa (opacidade decisória, substituição da racionalidade normativa, accountability gap, assimetria informacional e incompreensão semântica), para comparabilidade entre unidades investigadas sob diferentes arranjos institucionais (Yin, 2015). Foram excluídos casos sem registro formal, sem relação direta com princípios contratuais ou sem documentação pública suficiente.

As buscas foram realizadas nas bases Scopus, Web of Science, SSRN e Google Scholar, utilizando combinações booleanas de descritores em português e inglês, como “contracts”, “inteligência artificial”, “artificial intelligence”, “algorithmic governance”, “algorithmic discrimination”, “contract automation”, “automated decision-making”, “legal certainty” e “AI legal liability”. O período da pesquisa foi de 2010 a março de 2026. O marco inicial de 2010 justifica-se pela consolidação do aprendizado de máquina e o surgimento dos primeiros registros de litigiosidade envolvendo sistemas automatizados. O marco final de março de 2026 corresponde à data de encerramento da coleta de dados, garantindo a atualidade e a incorporação de precedentes recentes, como o caso Deloitte/DEWR (2024-2025) e o julgamento do TRF-4 (janeiro de 2025).

Inicialmente, identificaram-se 27 casos potenciais. Após aplicação dos critérios de elegibilidade, quatro casos foram selecionados como unidades analíticas principais, acompanhados de aproximadamente 40 documentos de suporte, incluindo decisões judiciais, atos regulatórios, relatórios institucionais, registros de incidentes e artigos acadêmicos.

Cada categoria de documento de suporte foi resgatada em fonte específica para assegurar rastreabilidade: decisões judiciais e administrativas foram obtidas nos repositórios oficiais dos tribunais e órgãos competentes (Civil Resolution Tribunal da Colúmbia Britânica, Departamento de Justiça dos Estados Unidos, Tribunal Regional Federal da 4ª Região); atos regulatórios nos portais oficiais dos órgãos reguladores e legislativos (Jornal Oficial da União Europeia, Diário Oficial da União, Câmara dos Deputados, Department of Employment and Workplace Relations australiano); relatórios institucionais nos sítios eletrônicos das organizações envolvidas ou de seus reguladores (Deloitte Austrália, DEWR); registros de incidentes em bases especializadas (AI Incident Database, Responsible AI Collaborative); e artigos acadêmicos nas bases Scopus, Web of Science, SSRN e Google Scholar. A relação individualizada dos 40 documentos de suporte, com indicação de tipo, caso relacionado e fonte de acesso, é apresentada na Tabela 1.

Tabela 1. Distribuição dos documentos de suporte por tipo e por caso paradigmático

Tipo de documento	Air Canada	RealPage	Deloitte/DEWR	INSS/TRF-4	Total
Decisões judiciais e administrativas	2	4	0	2	8
Atos regulatórios e normativos	0	2	1	1	4
Relatórios institucionais	0	1	5	3	9
Registros de incidentes	2	0	4	1	7
Artigos acadêmicos e doutrinários	6	3	0	3	12
Total por caso	10	10	10	10	40

Fonte: Dados originais da pesquisa.

A análise dos dados observou a lógica de replicação teórica para identificar padrões recorrentes em distintos ambientes regulatórios. As informações relevantes foram extraídas por uma matriz analítica padronizada contendo: identificação institucional, sistema de IA utilizado, função decisória, tipo de intervenção algorítmica, riscos jurídicos identificados, princípios afetados, mecanismos de governança existentes, evidências documentais e incidência de incompreensão semântica. A análise ocorreu por meio de análise de conteúdo, com codificação temática orientada pelas categorias definidas a priori (Bardin, 2011). Os resultados possuem finalidade analítica e explicativa, não estatística.

O processo de codificação seguiu as três fases propostas por Bardin (2011): pré-análise (leitura flutuante e sistematização das categorias a priori: opacidade decisória, substituição da racionalidade normativa, accountability gap, assimetria informacional e incompreensão semântica); exploração do material (codificação temática manual, associando trechos textuais a uma ou mais categorias mediante identificação de unidades de registro e de contexto); e tratamento dos resultados (codificação consolidada na matriz analítica padronizada, replicada para os quatro casos). A análise comparativa dos resultados foi realizada por meio de análise cruzada de padrões (cross-case pattern matching), técnica recomendada por Yin (2015) para estudos de casos múltiplos. Adotou-se, ainda, procedimento de checagem de consistência interna, revisando a codificação de cada caso em momento posterior à primeira, com intervalo mínimo de sete dias, para verificar a estabilidade dos critérios aplicados. As categorias não são mutuamente excludentes, permitindo que um mesmo trecho documental fosse codificado simultaneamente em mais de uma categoria.

3. Resultados e Discussão

Fundamentação Teórica e Tecnológica: Inteligência Artificial e Automação Contratual

A inteligência artificial (IA) é um campo que desenvolve sistemas capazes de captar informações e agir com base em objetivos definidos, aproximando capacidades cognitivas humanas por meio de aprendizado baseado em dados (Russell e Norvig, 2021). Sua base é o Aprendizado de Máquina (ML), onde algoritmos extraem regularidades de grandes bases de dados e ajustam seu desempenho (Mitchell, 1997). Sobre o ML, opera o Processamento de Linguagem Natural (PLN), que permite tanto a IA preditiva, para classificação e análise de cenários jurídicos, quanto a IA generativa, para produzir documentos com aparência de redação humana a partir de correlações estatísticas (Jurafsky e Martin, 2024).

No contexto jurídico, essa integração impulsiona a automação da gestão contratual em plataformas de “document automation e contract analytics”, inseridas no “legal analytics” (Abbott, 2020). A IA generativa redige cláusulas e a IA preditiva avalia riscos, mas ambas encontram limites na compreensão do conteúdo normativo e axiológico das relações jurídicas (Ashley, 2017). Sua racionalidade estatística, baseada em correlações históricas, ignora a interpretação de preceitos, juízos de validade e ponderação de princípios, deslocando a decisão do normativo para o probabilístico.

A automação eleva a eficiência em tarefas repetitivas de baixa complexidade normativa, mas dados enviesados ou desatualizados podem comprometer a segurança jurídica. O impacto no ciclo contratual é transversal, mas não homogêneo: nas fases pré-contratual e de execução, os ganhos de escala são reais e os riscos mitigáveis por supervisão humana qualificada. Contudo, na fase de formação, onde o “drafting” exige interpretação normativa e captação da intencionalidade negocial, a substituição algorítmica introduz riscos estruturais de homogeneização indevida e de reprodução acrítica de padrões historicamente assimétricos, tensionando a compatibilidade entre a lógica probabilística e as exigências éticas e normativas do Direito contratual.

Teoria Contratual Contemporânea, Constitucionalização do Direito Privado e Automação Algorítmica

O contrato, na doutrina civilista, é um negócio jurídico bilateral ou plurilateral fundado no acordo de vontades para criar, modificar ou extinguir relações jurídicas patrimoniais (Gonçalves, 2020; Diniz, 2021). A tradição clássica do Direito Contratual, baseada na autonomia da vontade e mínima intervenção estatal, foi tensionada pela constatação de que a igualdade formal não garante equilíbrio material (Atiyah, 1979).

No Brasil, a Constituição de 1988 e o Código Civil de 2002 submeteram a autonomia privada aos limites da função social do contrato e da preservação do equilíbrio contratual (Diniz, 2021; Tartuce, 2023). A boa-fé objetiva, a função social e o equilíbrio contratual atuam como critérios de validade, interpretação e padrões de conduta para intervenção corretiva, especialmente em situações de assimetria informacional (Martins-Costa, 2018; Marques, 2021).

O embate entre a concepção relacional do contrato, baseada na confiança, e a análise econômica do direito, focada na alocação eficiente de riscos, revela um conflito de racionalidades. A análise econômica, alinhada à lógica algorítmica da IA, reduz o indivíduo a métricas de performance, convertendo o sujeito contratual em perfil estatístico (Posner, 2014; Han, 2018). Em contraste, a tradição clássica, que define o ser humano como animal político, enfatiza a capacidade deliberativa sobre o justo e o bem comum (Aristóteles, Política, Livro I, 1253a). A sabedoria prática, ou phronesis, que amolda a norma geral ao caso concreto, é substituída por inferências probabilísticas nos sistemas de IA.

A incorporação acrítica da IA compromete princípios como a boa-fé e o equilíbrio contratual ao substituir a interpretação jurídica por probabilidades matemáticas (Surden, 2014), alterando a essência do ato jurídico de instrumento normativo e consensual para mecanismo preditivo-atuarial (Hildebrandt, 2015; Zuboff, 2019). Isso esvazia as categorias protetivas do direito privado contemporâneo, que pressupõem sujeitos capazes de deliberação, não objetos de inferência estatística.

Riscos Jurídicos na Elaboração Contratual: Opacidade decisória, Vieses, Assimetria Informacional, Incompreensão Semântica e “Accountability Gap”

A opacidade decisória, ou fenômeno caixa-preta, caracteriza a dificuldade de interpretar os processos internos de decisão em sistemas de IA, especialmente em modelos de aprendizado profundo (Goodfellow; Bengio e Courville, 2016; Russell e Norvig, 2021). No contexto jurídico, essa impossibilidade de reconstruir o percurso decisório esvazia exigências de motivação, transparência e responsabilidade, limitando a imputação de responsabilidade e a eficácia da tutela jurisdicional (Mittelstadt et al., 2016).

Os vieses algorítmicos são distorções sistemáticas que produzem decisões ou recomendações injustas, discriminatórias ou desproporcionais, amplificando desigualdades estruturais (O’Neil, 2016). A reprodução de vieses em bases de dados compromete o equilíbrio contratual ao reiterar padrões assimétricos, favorecendo agentes economicamente mais fortes, o que pode afrontar a função social do contrato. Em casos extremos, a exploração algorítmica da assimetria informacional pode configurar situação análoga à lesão (art. 157 do Código Civil de 2002).

Nos quatro casos analisados, o viés não se manifesta com igual nitidez. No caso RealPage, a padronização de preços aproximou-se do risco doutrinário ao favorecer locadores em detrimento de locatários. Nos casos Air Canada, Deloitte/DEWR e INSS/TRF-4, o problema foi erro informacional, incompreensão semântica e opacidade decisória, sem evidência de tratamento diferenciado entre indivíduos. A comprovação empírica de viés exige prova de impacto distributivo desproporcional, o que explica a concentração do contencioso em opacidade decisória e erro informacional, e não em discriminação comprovada.

A opacidade decisória também cria condições para o erro sobre o conteúdo da declaração (art. 139 do CC/2002) e, se houver omissão consciente de informação relevante, pode configurar dolo (art. 147 do CC/2002). Cláusulas automáticas formalmente válidas, mas incompatíveis com a intenção das partes, são anuláveis. Se abusivas (art. 51 do CDC), são nulas de pleno direito.

A assimetria informacional constitui um risco autônomo, pois mesmo com sistemas auditáveis, a parte vulnerável raramente tem acesso, tempo ou conhecimento para verificar a racionalidade das cláusulas ou preços gerados algoritmicamente (Yeung, 2018).

Uma limitação estrutural da IA é a distinção entre sintaxe e semântica no domínio jurídico. Modelos de PLN identificam padrões linguísticos, mas sua atuação se restringe ao plano sintático. O experimento mental do Quarto Chinês ilustra que um sistema pode manipular símbolos com perfeição sintática sem compreender seu significado normativo (Searle, 1980). No direito, isso significa que sistemas de PLN rearranjam símbolos com sofisticação formal, mas permanecem incapazes de compreender seu sentido normativo (Hildebrandt, 2015).

O raciocínio jurídico exige atribuição de sentido normativo fundamentada em princípios, valores e contextos institucionais. A correção formal de cláusulas ou inferências algorítmicas não assegura conformidade material com o ordenamento, gerando uma simulação formal de juridicidade que oculta inconsistências materiais. Essa limitação é clara em contratos de alta complexidade, como fusões e aquisições (M&A), onde a padronização algorítmica tende a reproduzir acriticamente cláusulas de mercado sem adequação ao caso concreto, produzindo formulações disfuncionais ou litigiosas.

A incapacidade da IA de captar o contexto normativo gera consequências graves diante de eventos extraordinários e imprevisíveis. A Teoria da Imprevisão (arts. 317 e 478 do CC/2002) pressupõe um agente capaz de perceber que as circunstâncias divergem das contratadas. Um sistema treinado em dados históricos aplicaria obrigações como escritas, sem distinguir inadimplemento ordinário de força maior, por lhe faltar contextualização normativa. A supervisão humana significativa é, portanto, essencial em momentos de ruptura.

O homo economicus algorítmico aplicaria a multa, enquanto o animal político aristotélico, com phronesis e flexibilidade cognitiva, renegociaria. A criação de soluções de ganho mútuo em crises exige reconhecimento de contexto, ponderação de interesses, empatia e imaginação normativa, faculdades que definem a insubstituibilidade do agente humano.

O accountability gap, decorrente da fragmentação de responsabilidade entre desenvolvedores, operadores e usuários, é tratado na seção de governança algorítmica, que examina mecanismos de explicabilidade, auditoria e avaliação de vieses (Barocas e Selbst, 2016; Goodfellow, Bengio e Courville, 2016).

Governança Algorítmica: Fundamentos Teóricos e Dilemas Regulatórios

A governança algorítmica, conforme Yeung (2018), é o conjunto de mecanismos institucionais, técnicos e normativos que estruturam, guiam ou corrigem decisões e condutas por sistemas algorítmicos. A passagem da regulação por normas para a regulação por código (“code is law”, Lessig, 2006) desloca a definição do lícito e do ilícito para a arquitetura técnica dos sistemas, gerando a “techno-regulation” (Hildebrandt, 2015).

Esse deslocamento gera quatro dilemas regulatórios. O primeiro é a opacidade versus eficiência: a exigência de explicabilidade integral pode reduzir o desempenho preditivo dos modelos de aprendizado profundo (Pasquale, 2015; Kroll et al., 2017). Isso se manifestou no caso INSS/TRF-4, onde a licitude do uso da ferramenta não eximiu a Administração do dever de explicação inteligível.

O segundo dilema é a responsabilização distribuída (accountability gap): decisões algorítmicas resultam de cadeias envolvendo múltiplos agentes, exigindo superar o paradigma bipolar autor/vítima da responsabilidade civil clássica (Bodó et al., 2018; Kroll et al., 2017).

O terceiro dilema é a captura regulatória invertida: a complexidade técnica dos sistemas pode exceder a capacidade de compreensão e fiscalização dos órgãos de controle, fenômeno descrito como “black box society” por Pasquale (2015). Isso foi evidente no caso RealPage, onde os próprios usuários não compreendiam a lógica de precificação.

O quarto dilema é normativo-temporal: a velocidade do desenvolvimento tecnológico supera o ritmo legislativo, criando um “silêncio normativo eloquente” no Brasil. A governança eficaz depende da combinação entre normas estatais principiológicas e autorregulação setorial com accountability externa verificável (Teubner, 2012).

A articulação desses dilemas com os cinco padrões estruturais identificados na análise empírica demonstra que a governança algorítmica não é uma resposta técnica isolada, mas um arranjo institucional multiescalar que combina normas jurídicas gerais (Código Civil, CDC, LGPD), padrões técnicos internacionais (ISO 31000, ISO 37301, ISO/IEC 42001, NIST AI RMF) e mecanismos internos de controle organizacional (compliance, auditoria, comitês de ética), em consonância com o COSO ERM (2017).

Estudo de Casos Paradigmáticos: Análise Prática e Evidências

A análise empírica examinou situações concretas onde sistemas automatizados produziram efeitos juridicamente relevantes em contextos consumerista, concorrencial, consultivo-contratual e administrativo. Os casos evidenciam que a IA introduz opacidade decisória, intensifica assimetrias informacionais, reproduz discriminações estruturais e dificulta a imputação de responsabilidade, exigindo a reinterpretação de institutos como boa-fé objetiva, transparência e dever de informação (Katsh e Rabinovich-Einy, 2017).

Atendimento Automatizado e Responsabilidade: O Caso Air Canada e a Vinculação Jurídica de Informações Errôneas Fornecidas por Chatbots.

No caso “Moffatt v. Air Canada” (2024 BCCRT 149), o Civil Resolution Tribunal da Colúmbia Britânica discutiu a responsabilidade jurídica pelo uso de um chatbot que forneceu informações incorretas sobre tarifas funerárias e reembolso. O consumidor, confiando na informação, adquiriu passagens e teve o reembolso recusado. A companhia aérea alegou que o chatbot era mera ferramenta informacional, sem caráter vinculante. O tribunal rejeitou essa tese, reconhecendo que o sistema integra a estrutura comunicacional da fornecedora, imputando os erros informacionais à organização.

A decisão protegeu a confiança legítima e o dever de informação adequada, reafirmando a boa-fé objetiva na fase pré-contratual. A informação influenciou a vontade do contratante, configurando culpa in contrahendo (art. 422 do CC/2002) e conduta vedada pelo venire contra factum proprium. O caso evidenciou o risco de desinformação algorítmica e a inadequação de estratégias empresariais para diluir responsabilidade via tecnologia. Em governança, o precedente indica a necessidade de controles robustos sobre sistemas de atendimento automatizado, com revisão de conteúdo, supervisão humana, registros auditáveis e atualização normativa. No direito brasileiro, isso se harmoniza com a responsabilidade objetiva do fornecedor (arts. 6º, III, e 14 do CDC) e a revisão de decisões automatizadas (art. 20 da LGPD). Os princípios afetados foram boa-fé objetiva, confiança legítima, dever de informação e vedação ao venire contra factum proprium. A intervenção algorítmica foi de substituição, com o chatbot ocupando o lugar do atendente humano sem supervisão prévia da resposta. Identificou-se erro informacional factual, não incompreensão semântica no sentido estrito.

Caso RealPage: Precificação Algorítmica e Impactos sobre o Equilíbrio Contratual

No caso United States v. RealPage, Inc. (n° 1:24-cv-00710, M.D.N.C., 2024), o Departamento de Justiça dos Estados Unidos questionou o uso de software de precificação locatícia baseado em IA no mercado imobiliário, no âmbito do direito concorrencial. A plataforma coletava e processava dados agregados de mercado, incluindo informações estratégicas compartilhadas entre concorrentes, para sugerir valores de aluguel que maximizavam receitas. Embora formalmente recomendações, essas sugestões exerciam influência relevante, reduzindo a autonomia decisória na formação de preços e operando como alinhamento indireto de condutas econômicas.

A consequência jurídica foi a imputação de possível violação às normas antitruste, sob o fundamento de que o compartilhamento de dados sensíveis e o uso de algoritmo comum poderiam produzir efeitos equivalentes à fixação concertada de preços (Ezrachi e Stucke, 2016). No direito privado, a precificação padronizada restringe a autonomia dos locatários, que não acessam a lógica algorítmica nem conseguem aferir se o preço decorre de formação concorrencial ou de coordenação indireta, aproximando-se da lesão por aproveitamento da condição de necessidade (art. 157 do CC/2002) quando aplicada de modo estrutural. Os princípios afetados foram livre concorrência, livre iniciativa, transparência, boa-fé objetiva e autonomia privada. O risco identificado foi o de cartelização algorítmica, com sistemas opacos sincronizando decisões econômicas. Como lição de governança, o caso demonstra a necessidade de auditoria de algoritmos, limites ao compartilhamento de dados sensíveis e programas de compliance concorrencial adaptados à IA. No Brasil, a conduta poderia ser examinada à luz da Lei nº 12.529/2011.

Em atualização posterior (24 de novembro de 2025), o Departamento de Justiça e a RealPage firmaram acordo para encerrar a ação federal sem reconhecimento de responsabilidade, mediante restrições comportamentais de sete anos. Paralelamente, o litígio multidistrital privado no Tennessee somou acordos superiores a 359,9 milhões de dólares, também sem reconhecimento de culpa. Ações estaduais em Kentucky e Nova Jersey tiveram os pedidos de extinção rejeitados em fevereiro e março de 2026, com os tribunais reconhecendo como plausível a mesma teoria de coordenação algorítmica que a ação federal deixou de adjudicar. O desfecho é, portanto, fragmentado e não consolidado.

Caso Deloitte/DEWR: Elaboração Consultiva com IA Generativa e Responsabilidade por Citações Fabricadas.

Em dezembro de 2024, o Departamento de Emprego e Relações de Trabalho da Austrália (DEWR) contratou a Deloitte para revisar o Targeted Compliance Framework (TCF), sistema automatizado para aplicação de penalidades administrativas. O objeto contratual era um relatório técnico-jurídico sobre a legalidade e adequação normativa do sistema. Após a publicação, pesquisadores identificaram referências acadêmicas inexistentes, citações judiciais fabricadas e erros materiais. A Deloitte reconheceu o uso de IA generativa, apresentou versão corrigida e devolveu parte da remuneração.

Juridicamente, o caso evidenciou cumprimento defeituoso de obrigação de resultado. A prestação foi aceita após correções, com redução negociada do preço, além de impacto reputacional e financeiro para a consultoria. O precedente demonstra que o “accountability gap” pode recair sobre o próprio operador que, ao adotar IA generativa sem protocolo de verificação de outputs, absorveu os custos da ausência de supervisão humana qualificada. Os princípios afetados foram boa-fé objetiva, transparência, confiança legítima, diligência profissional, eficiência administrativa e accountability. O risco identificado foi o da incompreensão semântica da IA generativa: produção de conteúdo juridicamente verossímil, mas materialmente falso. A intervenção caracterizou-se como substituição, com a IA ocupando o lugar da pesquisa e redação jurídica humana sem verificação prévia das referências. Como lição de governança, o precedente demonstra que o uso de IA em serviços técnicos de alta densidade normativa exige supervisão humana qualificada, validação integral de fontes, rastreabilidade de autoria, disclosure do uso de IA e controles contratuais específicos.

Caso INSS: Automação Decisória na Administração Pública Previdenciária

Um precedente paradigmático foi proferido pelo Tribunal Regional Federal da 4ª Região no processo nº 5001305-13.2023.4.04.7005 (28 de janeiro de 2025), discutindo a validade de decisão administrativa previdenciária proferida no contexto do modelo digital de atendimento do INSS. Os fatos decorreram do indeferimento de benefício previdenciário após processamento predominantemente automatizado, com reduzida intervenção humana. A parte autora alegou ausência de motivação suficiente e impossibilidade de compreender os critérios da negativa. O tribunal reconheceu a licitude do uso de ferramentas tecnológicas pela Administração, mas afirmou que a automação não afasta o dever constitucional e legal de motivação: o administrado deve receber explicação clara e inteligível das razões do indeferimento, sob pena de invalidade da decisão e violação ao devido processo administrativo. No plano da proteção de dados, a hipótese configura a situação do art. 20 da LGPD, que garante ao titular o direito de solicitar revisão de decisões tomadas unicamente com base em tratamento automatizado.

Foram afetados os princípios da legalidade, motivação, transparência, devido processo legal, contraditório, ampla defesa, eficiência administrativa e accountability estatal. O risco identificado foi o da opacidade decisória: decisões cujo racional não pode ser reconstruído dificultam controle judicial, defesa técnica e responsabilização por erros administrativos. A intervenção algorítmica caracterizou-se como automação predominante, com reduzida intervenção humana direta, prevalecendo a opacidade decisória sobre a incompreensão semântica. Como lição de governança, o precedente demonstra que sistemas de IA ou automação usados pelo poder público devem incorporar explicabilidade, revisão humana efetiva, trilhas de auditoria, documentação técnica e canais recursais acessíveis. Em matéria estatal, eficiência tecnológica não substitui garantias processuais.

Análise Comparativa, Síntese Analítica e Conclusão dos Casos.

A análise comparativa dos casos permitiu identificar padrões estruturais recorrentes no uso de sistemas de inteligência artificial em contextos decisórios juridicamente relevantes. A característica comum a todos os casos é que os efeitos normativos negativos da automação só foram percebidos a posteriori, quando a litigiosidade emergiu ou o dano já havia se consumado. Isso confirma o qualificador “silenciosa”: a transformação do contrato em mecanismo preditivo-atuarial se processa sob a aparência de eficiência operacional, sem evidência imediata do comprometimento normativo subjacente.

O primeiro padrão é a opacidade decisória, presente em diferentes graus em todos os casos. A dificuldade de reconstruir os critérios algorítmicos compromete a verificabilidade das decisões, afeta o dever de motivação e fragiliza o controle jurídico (Pasquale, 2015; Mittelstadt et al., 2016). Sua manifestação mais intensa ocorreu no caso INSS/TRF-4, onde a ausência de explicabilidade comprometeu contraditório e ampla defesa; a mais difusa, no RealPage, onde a opacidade da precificação impediu a detecção da coordenação algorítmica pelos próprios usuários.

O segundo padrão consiste na substituição parcial da racionalidade normativa por racionalidade inferencial fundada em correlações estatísticas. Esses sistemas operam a partir de padrões extraídos de dados históricos e produzem resultados formalmente consistentes, sem garantia de aderência aos critérios jurídicos aplicáveis (Surden, 2014; Kroll et al., 2017). Isso foi evidente no caso Deloitte/DEWR, onde a IA generativa produziu referências jurídicas plausíveis na forma, mas inexistentes no plano factual, e no Air Canada, onde o chatbot processou a consulta sem acesso ao significado normativo das regras tarifárias.

O terceiro padrão refere-se ao accountability gap, a dificuldade de atribuição clara de responsabilidade quando decisões mediadas por tecnologia decorrem de cadeias distribuídas entre desenvolvedores, operadores, fornecedores e usuários finais (Bodó et al., 2018). Os quatro casos o manifestam de formas distintas: no Air Canada, a empresa tentou transferir o risco ao usuário; no RealPage, a responsabilidade se fragmentou entre a plataforma e as administradoras; no Deloitte/DEWR, o vazio recaiu sobre o próprio operador; no INSS, a Administração invocou a legalidade do sistema para eximir-se do dever de motivação.

O quarto padrão consiste na ampliação das assimetrias informacionais, sobretudo quando apenas uma das partes detém conhecimento ou controle sobre o funcionamento do sistema empregado. Isso restringe a contestação, afeta a transparência e compromete o equilíbrio das relações jurídicas (Yeung, 2018; Zuboff, 2019).

O quinto padrão diz respeito à incompreensão semântica. Sistemas de IA generativa manipulam símbolos com elevada coerência sintática, mas sem acesso ao significado normativo dos elementos que processam (Searle, 1980; Hildebrandt, 2015). No caso Deloitte/DEWR, isso se traduziu na criação de citações inexistentes; no caso Air Canada, na incapacidade do chatbot de compreender corretamente o conteúdo normativo das regras tarifárias aplicáveis.

A recorrência desses cinco padrões demonstra que os riscos associados à automação decisória não decorrem de falhas episódicas, mas de características estruturais desses sistemas, que revelam tensão permanente entre a lógica probabilística da IA e os pressupostos do Estado de Direito, especialmente fundamentação, controle e interpretação normativa (Hildebrandt, 2015).

Quadro 2. Distribuição dos documentos de suporte por tipo e por caso paradigmático [QUADRO 2]

Fonte: Dados originais da pesquisa.

Quadro 3. Confronto dos quatro casos por categoria analítica

Categoria	Air Canada	RealPage	Deloitte/DEWR	INSS/TRF-4
Tipo de intervenção algorítmica	Substituição, o chatbot substituiu o atendente humano como interface oficial, sem supervisão prévia da resposta	Suporte com influência estrutural, recomendações formalmente apresentadas como sugestões, mas com forte aderência das administradoras	Substituição, a IA generativa substituiu a pesquisa e a redação jurídica humana na elaboração de trechos do relatório	Automação predominante, decisão gerada por fluxo automatizado, com reduzida intervenção humana direta
Opacidade decisória	Difusa: falha pontual do chatbot, não da lógica geral do sistema	Intensa: lógica de precificação inacessível até para os próprios usuários (administradoras)	Moderada: relatório técnico não revelou o processo de geração das citações	Máxima: ausência de explicabilidade comprometeu contraditório e ampla defesa
Substituição da racionalidade normativa	Chatbot processou consulta sem compreender o significado normativo das regras tarifárias	Formação de preço deslocada de decisão autônoma para inferência algorítmica coordenada	IA generativa produziu referências jurídicas plausíveis na forma, mas inexistentes no plano factual	Processamento automatizado substituiu motivação individualizada por inferência estatística
Accountability gap	Empresa tentou transferir o risco ao usuário; tese rejeitada pelo tribunal	Responsabilidade fragmentada entre a plataforma (RealPage) e as administradoras de imóveis	Vazio de responsabilização recaiu sobre o próprio operador (a consultoria)	Administração invocou a legalidade do sistema para eximir-se do dever de motivação
Assimetria informacional	Consumidor confiou no canal oficial sem meios de verificar a informação prestada	Locatários sem qualquer acesso à lógica algorítmica de precificação	Contratante (DEWR) confiou na entrega sem mecanismo prévio de verificação de fontes	Administrado sem acesso aos critérios que fundamentaram o indeferimento
Incompreensão semântica	Chatbot manipulou símbolos sem acesso ao significado normativo das regras tarifárias	Padrão pouco evidente neste caso; risco concentrado na coordenação de preços	Manifestação mais intensa: criação de citações e precedentes juridicamente inexistentes	Padrão pouco evidente; risco concentrado na opacidade e na ausência de motivação

Fonte: Resultados originais da pesquisa.

Proposições emergentes do confronto entre os casos:

P1: quanto maior a distância entre o operador do sistema e o usuário final vulnerável, maior a probabilidade de fragmentação do accountability gap entre múltiplos agentes (observado em RealPage e INSS).

P2: a incompreensão semântica manifesta-se com maior intensidade em atividades de geração de conteúdo em linguagem natural (Deloitte/DEWR) do que em atividades de classificação ou decisão binária (INSS).

P3: a opacidade decisória tende a ser mais facilmente contestável pela parte afetada quando existe canal formal de revisão humana previsto em lei (LGPD, art. 20 – caso INSS) do que quando tal canal inexiste (caso RealPage).

Os casos indicam que a incompatibilidade entre IA e direito não é absoluta: a responsabilização do fornecedor, a exigência de motivação administrativa, o controle concorrencial e as sanções contratuais operam como formas de reabsorção normativa dos efeitos da automação, ainda que incompletas (Lessig, 2006; Teubner, 2012). Contudo, sem transparência decisória, supervisão humana qualificada e responsabilidade inequivocamente atribuída, a tecnologia compromete a segurança jurídica e converte ganhos de eficiência em risco institucional.

Tabela 2. Framework de Compliance Algorítmico Aplicado à Gestão Contratual

Categoria	Air Canada	RealPage	Deloitte/DEWR	INSS/TRF-4
Tipo de intervenção algorítmica	Substituição, o chatbot substituiu o atendente humano como interface oficial, sem supervisão prévia da resposta	Suporte com influência estrutural, recomendações formalmente apresentadas como sugestões, mas com forte aderência das administradoras	Substituição, a IA generativa substituiu a pesquisa e a redação jurídica humana na elaboração de trechos do relatório	Automação predominante, decisão gerada por fluxo automatizado, com reduzida intervenção humana direta
Opacidade decisória	Difusa: falha pontual do chatbot, não da lógica geral do sistema	Intensa: lógica de precificação inacessível até para os próprios usuários (administradoras)	Moderada: relatório técnico não revelou o processo de geração das citações	Máxima: ausência de explicabilidade comprometeu contraditório e ampla defesa
Substituição da racionalidade normativa	Chatbot processou consulta sem compreender o significado normativo das regras tarifárias	Formação de preço deslocada de decisão autônoma para inferência algorítmica coordenada	IA generativa produziu referências jurídicas plausíveis na forma, mas inexistentes no plano factual	Processamento automatizado substituiu motivação individualizada por inferência estatística
Accountability gap	Empresa tentou transferir o risco ao usuário; tese rejeitada pelo tribunal	Responsabilidade fragmentada entre a plataforma (RealPage) e as administradoras de imóveis	Vazio de responsabilização recaiu sobre o próprio operador (a consultoria)	Administração invocou a legalidade do sistema para eximir-se do dever de motivação
Assimetria informacional	Consumidor confiou no canal oficial sem meios de verificar a informação prestada	Locatários sem qualquer acesso à lógica algorítmica de precificação	Contratante (DEWR) confiou na entrega sem mecanismo prévio de verificação de fontes	Administrado sem acesso aos critérios que fundamentaram o indeferimento
Incompreensão semântica	Chatbot manipulou símbolos sem acesso ao significado normativo das regras tarifárias	Padrão pouco evidente neste caso; risco concentrado na coordenação de preços	Manifestação mais intensa: criação de citações e precedentes juridicamente inexistentes	Padrão pouco evidente; risco concentrado na opacidade e na ausência de motivação

Fonte: Elaborado a partir de ISO 31000:2018; ISO 37301:2021; ISO/IEC 42001:2023; NIST AI RMF 1.0; COSO ERM (2017).

Aplicabilidade Prática do Framework: Como Utilizar o Checklist na Rotina de Compliance Contratual

O framework apresentado na Tabela 2 não é apenas um instrumento classificatório, mas uma ferramenta operacional para orientar a implementação, o monitoramento e a auditoria de sistemas de inteligência artificial aplicados à gestão contratual. Cada um dos cinco eixos – governança, gestão de riscos, controles operacionais, transparência e monitoramento contínuo – corresponde a uma etapa concreta do ciclo de vida contratual, permitindo ao profissional de compliance, jurídico ou de tecnologia identificar qual controle deve ser acionado.

Na prática, o eixo Governança corresponde à fase anterior à contratação de qualquer sistema de IA, exigindo que a área de compliance aprove a política de uso responsável e designe um AI Officer, cuja ausência nos casos analisados contribuiu para a materialização do risco jurídico. O eixo Gestão de Riscos opera na contratação ou atualização do sistema, por meio de inventário e classificação de risco, replicando o critério do PL 2338/2023 e do AI Act europeu.

Os Controles Operacionais exigem que toda entrega técnico-jurídica gerada com apoio de IA generativa seja submetida a validação humana documentada antes da transmissão a terceiros, replicando a lição do caso Deloitte/DEWR. O eixo Transparência impõe informar ao contratante que uma comunicação foi gerada ou apoiada por IA, replicando o entendimento do caso Air Canada, que afastou a tese do chatbot como ferramenta neutra sem efeitos vinculantes.

Por fim, o Monitoramento Contínuo deve integrar a rotina de auditoria periódica, com registro de indicadores de acurácia, erro e impacto jurídico, permitindo identificar precocemente sinais de risco que, nos quatro casos estudados, só foram percebidos a posteriori. O checklist não é documento estático, mas um roteiro de decisão a ser percorrido sempre que a organização inicia, opera ou encerra o uso de IA em contexto contratual.

A utilização de sistemas de inteligência artificial na elaboração automatizada de contratos compromete a racionalidade normativa do direito contratual de forma graduada. No contexto consumerista (Air Canada), o comprometimento ocorre na fase pré-contratual, pela desinformação algorítmica que frustra a boa-fé e a confiança legítima. No concorrencial (RealPage), pela substituição opaca da formação autônoma de vontade econômica, com risco de cartelização algorítmica. No consultivo-contratual (Deloitte/DEWR), pelo esvaziamento da obrigação de resultado, via incompreensão semântica que produz simulação formal de juridicidade. No administrativo (INSS), pela supressão do dever de motivação e das garantias processuais constitucionais. Em todos os casos, o comprometimento é silencioso, manifestando-se inicialmente como eficiência e revelando seu conteúdo disruptivo apenas quando a litigiosidade emerge.

A automação contratual baseada em IA não constitui mera inovação instrumental, mas promove um deslocamento estrutural do contrato do domínio normativo para o domínio preditivo-atuarial. A erosão da supervisão humana, a substituição do raciocínio jurídico por inferência probabilística e o esvaziamento das categorias protetivas apenas emergem a posteriori, sob a aparência inicial de ganho de eficiência operacional. A incompreensão semântica, identificada como padrão autônomo, confirma que correção sintática não assegura conformidade material com boa-fé objetiva, equilíbrio contratual e função social do contrato, podendo configurar vícios do consentimento ou cláusulas abusivas. No plano regulatório brasileiro, o regime geral fornece proteção parcial, com a LGPD assegurando revisão de decisões automatizadas (art. 20), o CDC impondo responsabilidade objetiva por defeitos informacionais, e o Código Civil exigindo boa-fé em todas as fases do contrato. Organizações com governança algorítmica formalizada podem estar em conformidade antecipada quando o Marco Legal da IA for promulgado, o que representa vantagem competitiva e mitigação de passivo. Os quatro precedentes analisados são recentes (2024-2025) e foram proferidos por órgãos de primeira instância ou de jurisdição limitada, o que impõe cautela quanto à sua generalização, como ilustrado pelo caso RealPage, que teve um desfecho federal por acordo e ações estaduais paralelas que reconheceram a plausibilidade da teoria de coordenação algorítmica. A jurisprudência sobre automação algorítmica ainda está em formação, indicando a necessidade de a doutrina sistematizar critérios para evitar sobre-generalização ou subestimação dos riscos jurídicos da automação contratual.

4. Conclusão

O estudo analisou como a inteligência artificial na automação contratual intensificou a colisão entre eficiência tecnológica e segurança jurídica, e em que medida mecanismos de supervisão humana significativa e de governança algorítmica funcionaram como instrumentos de ponderação normativa para preservar princípios do direito contratual brasileiro. Verificou-se que a automação contratual, em distintos contextos institucionais, gerou cinco padrões estruturais recorrentes: opacidade decisória, substituição da racionalidade normativa por inferências probabilísticas, accountability gap, assimetria informacional e incompreensão semântica. Esses padrões emergiram de forma sistêmica nos casos consumerista, concorrencial, consultivo-contratual e administrativo, confirmando que a transformação do contrato em mecanismo preditivo-atuarial se processa silenciosamente, sob a aparência de eficiência operacional, revelando seus efeitos disruptivos apenas quando a litigiosidade emerge. A incompreensão semântica, identificada como padrão autônomo, confirmou que a correção sintática não assegura conformidade material com a boa-fé objetiva, o equilíbrio contratual e a função social do contrato, podendo configurar vícios do consentimento ou cláusulas abusivas.

A principal contribuição do estudo reside na proposição de um framework de compliance algorítmico, que oferece parâmetros práticos para a implementação, monitoramento e auditoria de sistemas de inteligência artificial na gestão contratual, alinhando-se a normas internacionais e mitigando os riscos identificados. Contudo, a análise de precedentes recentes (2024-2025), proferidos por órgãos de primeira instância ou de jurisdição limitada, impõe cautela quanto à generalização, como ilustrado pelo desfecho fragmentado do caso RealPage, que reforça a conclusão de que a jurisprudência sobre automação decisória permanece em formação. Sugere-se que a doutrina sistematize critérios para evitar a sobre-generalização ou subestimação dos riscos jurídicos da automação contratual, aprofundando a compreensão dos limites de compatibilidade entre a lógica probabilística da inteligência artificial e as racionalidades normativas do direito.

Referências Bibliográficas

Busuioc, M. 2021. Accountable artificial intelligence: holding algorithms to account. Public Administration Review 81(5): 825-836.

Coeckelbergh, M. 2020. Al ethics. MIT Press, Cambridge, MA, United States.

Floridi, L.; Cowls, J.; Beltrametti, M.; Chatila, R.; Chazerand, P.; Dignum, V.; Luetge, C.; Madelin, R.; Pagallo, U.; Rossi, F.; Schafer, B.; Valcke, P.; Vayena, E. 2018. Al4People: an ethical framework for a good Al society. Minds and Machines 28: 689-707.

Han, B.-C. 2018. Sociedade do cansaço. Vozes, Petrópolis, RJ, Brasil.

Lessig, L. 2006. Code: version 2.0. Basic Books, New York, NY, United States. Link/DOI: https://codev2.cc/

Mackaay, E.; Rousseau, S. 2020. An economic analysis of contract law. Edward Elgar, Cheltenham, England. Link/DOI: https://www.e-elgar.com/shop/usd/contract-law-and-economics
9781847206008.html

Posner, R. A. 2014. Economic analysis of law. 9. ed. Wolters Kluwer, New York, NY, United States. Link/DOI: https://aspenpublishing.com/products/posner-economic-analysis-of-law-9e

Schreiber, A. 2018. Manual de direito civil contemporâneo. Saraiva, São Paulo, SP, Brasil. Link/DOI:
https://www.grupogen.com.br/

Shavell, S. 1980. Damage measures for breach of contract. Bell Journal of Economics 11(2): 466-490.
Link/DOI: http://www.law.harvard.edu/faculty/shavell/pdf/11_Bell_J_Econ_466.pdf

Wachter, S.; Mittelstadt, B.; Floridi, L. 2017. Transparent, explainable, and accountable AI for robotics.
Science Robotics 2(6): eaan6080. Link/DOI: https://doi.org/10.1126/scirobotics.aan6080

Zuboff, S. 2019. The age of surveillance capitalism. PublicAffairs, New York, NY, United States. Link/DOI: https://www.hachettebookgroup.com/titles/shoshana-zuboff/the-age-of-surveillance
capitalism/9781610395694/

Artigo oriundo de Trabalho de Conclusão de Curso da Especialização em Compliance e ESG do MBA USP/Esalq

Para saber mais sobre o curso, clique aqui e acesse a plataforma MBX Academy