Parte II - Sobre o Workshop

• Resumo do workshop

  Como garantir direitos em revisões de decisões automatizadas? O workshop irá compreender os mecanismos jurídicos existentes para contestar decisões automatizadas e explorar as interseções entre a LGPD, o ECA Digital e propostas de regulação de IA, examinando temas como transparência algorítmica, intervenção humana e proteção de dados. O objetivo é traçar caminhos para garantir a contestabilidade de sistemas de IA no Brasil, considerando a dimensões sociotécnicas e jurídicas envolvidas.
  

  OBJETIVOS E CONTEÚDOS DO WORKSHOP

  Contestabilidade se refere à capacidade de desafiar e investigar um sistema em todo o seu processo (H. Lyons, E. Velloso, T. Miller, ‘Conceptualising Contestability’, 2021, Proceedings of the ACM on Human-Computer Interaction; K. Alfrink et al., ‘Contestable AI by Design: Towards a Framework’, 2022, Minds and Machines; M. Hildebrandt, Smart Technologies and The End(s) of Law, Edward Elgar, 2015). Com o crescente uso de sistemas de IA, muitos deles opacos e invisíveis, essa capacidade pode ser exercida por meio de direitos de indivíduos ou grupos afetados. A LGPD estabelece um regime jurídico da revisão de decisões automatizadas, e dados do Painel LGPD nos Tribunais (2024 e 2025) indicam que dentre os direitos dos titulares judicializados esse é o mais recorrente. Nas discussões sobre regulação de IA, como no PL 2338/23, incertezas surgem em relação a direitos como os de [ explicação, contestação e supervisão humana dessas decisões. Há, ainda, o direito de contestação previsto no novo Estatuto Digital da Criança e do Adolescente (EDCA). O workshop pretende compreender quais os instrumentos jurídicos existentes no sistema brasileiro para desafiar decisões automatizadas em sistemas de IA e sua aplicação prática; e explorar as possíveis interseções entre o regime da LGPD com o EDCA e propostas de regulação de sistemas de IA. O conteúdo do workshop será estruturado em torno de 2 perguntas: Como decisões automatizadas de sistemas de IA podem ser contestadas no Brasil? E quais caminhos e mecanismos o sistema brasileiro deve adotar para garantir a contestabilidade? Serão abordados eixos temáticos como contestabilidade, explicabilidade e rastreabilidade de sistemas de IA, transparência algorítmica e intervenção humana; além de estudos de caso reais que ilustrem os desafios e oportunidades da contestabilidade em diferentes setores, a aplicação do art. 20 da LGPD, e a comparação do regime de proteção de dados com o EDCA e o PL 2338/23.
  

  RELEVÂNCIA DO TEMA PARA A GOVERNANÇA DA INTERNET

  Compreender a contestabilidade de sistemas de IA e sua prática é relevante para a governança da internet, pois afeta diretamente a transparência e legitimidade de inúmeras aplicações de internet que se valem de sistemas de IA em seus serviços e plataformas, além da proteção de direitos (fundamentais) dos usuários em ambientes digitais, a exemplo da liberdade de expressão, não discriminação e proteção de dados pessoais. Ressalte-se que a governança da internet envolve a criação de normas e práticas que garantam um ambiente digital seguro, justo e inclusivo. Em 2025, a ANPD publicou os resultados da Tomada de Subsídios sobre IA e Revisão de Decisões Automatizadas, e identificou a convergência sobre a necessidade de não apenas o titular ter o direito de contestar a decisão automatizada “de maneira eficiente”, como também ser fundamental que “tenha acesso a informações claras e adequadas sobre os critérios e dados utilizados no processo de decisão” (Nota Técnica nº 12/2025/CON1/CGN/ANPD). E o art. 30 do EDCA, ao dispor sobre o direito de contestar a remoção de conteúdo, pressupõe a possibilidade de a retirada ser decorrente de “análise automatizada”. A contestabilidade de sistemas de IA permite que indivíduos e grupos questionem decisões que afetam seus direitos e interesses juridicamente protegidos, sendo relevante discutir casos e mecanismos reais e os desafios relacionados à revisão dessas decisões. Assim, o workshop está alinhado aos objetivos do Fórum, e o painel promoverá maior conscientização de indivíduos e grupos da sociedade civil dos instrumentos para exercer a capacidade de contestar sistemas de IA e suas decisões, e fomentar a responsabilização de organizações dos setores público e privado que utilizam essas tecnologias. Garantir que os sistemas de IA possam ser desafiados e revisados significa fortalecer importantes pilares da governança da internet, como a proteção de dados, a privacidade, a autodeterminação informativa e os direitos fundamentais.
  

  FORMA DE ADEQUAÇÃO DA METODOLOGIA MULTISSETORIAL PROPOSTA

  A proposta integra os aspectos de diversidade nas dimensões complementares do conteúdo abordado e da participação dos painelistas. O workshop tem como ponto de partida o reconhecimento de que sistemas de IA podem impactar de forma desproporcional grupos vulneráveis, como minorias étnicas, pessoas com deficiência, comunidades de baixa renda e crianças e adolescentes. Trata-se de ponto importante para destacar a relevância da construção de sistemas contestáveis para a concretização do direito de contestação de decisões automatizadas. A partir disso as falas dos painelistas irão expressar a perspectiva não apenas de seus respectivos setores, mas também de suas posições de região, gênero e raça, sobre os desafios e possibilidades atuais e futuras do direito de contestação de decisões automatizadas; e eventuais interseções (ou incongruências) entre leis e regimes jurídicos da LGPD, EDCA e do PL 2338.
  

  FORMAS DE ENGAJAMENTO DA AUDIÊNCIA PRESENCIAL E REMOTA

  O painel contará com a exposição inicial, em 5 minutos, em que a moderadora apresentará o panorama da opacidade e invisibilidade de decisões automatizadas tomadas por sistemas de IA e a pergunta: atualmente, como decisões automatizadas de sistemas de IA são ou podem ser contestadas no Brasil? Quais são os principais desafios concretos? Os painelistas terão a oportunidade de reagir de acordo com a perspectiva ddo setor representado. Numa segunda rodada, em busca de soluções possíveis, outra pergunta será feita: quais caminhos e mecanismos deve o sistema brasileiro adotar para garantir a contestabilidade de sistemas de IA e suas decisões? Cada painelista terá até 5 minutos para responder cada uma das perguntas. Em seguida, serão coletadas até 3 contribuições do público, de modo que cada painelista possa reagir a no mínimo uma pergunta do público. Ao final, os painelistas terão 1 minuto para compartilhar brevemente suas conclusões do debate.
  

  RESULTADOS PRETENDIDOS

  O workshop visa (i) identificar e analisar os instrumentos jurídicos existentes no Brasil para contestar decisões (semi)automatizadas em sistemas de IA, discutindo sua aplicação prática em setores como saúde, finanças e serviços públicos; e (ii) explorar as interseções entre a LGPD, o EDCA e propostas de regulação da IA. Como resultado, espera-se ampliar a conscientização e o domínio técnico-jurídico dos participantes sobre os direitos e meios disponíveis para contestação, favorecendo seu exercício por indivíduos e grupos. Pretende-se também estimular que órgãos públicos, empresas e sociedade civil adotem práticas mais transparentes e participativas a partir dos aprendizados compartilhados. Outro resultado esperado é o fortalecimento do diálogo intersetorial, possibilitando que as contribuições do evento orientem a formulação de recomendações, guias práticos ou melhorias institucionais voltadas à explicabilidade, transparência e intervenção humana nas decisões automatizadas.
  

  RELAÇÃO COM OS PRÍNCIPIOS DO DECÁLOGO

  Liberdade, privacidade e direitos humanos

  TEMAS DO WORKSHOP

  IA - IA e dados | PRIS - Proteção de dados, privacidade e segurança | QJUR - Governança da Internet, multissetorialismo

  ASPECTOS DE DIVERSIDADE RELEVANTE

  Gênero | Cor ou raça | Região

  COMO A PROPOSTA INTEGRARÁ OS ASPECTOS DE DIVERSIDADE

  Este workshop terá a diversidade como ponto focal. No conteúdo, o debate sobre a contestabilidade de sistemas de IA abordará como esses sistemas podem impactar desproporcionalmente grupos vulneráveis, como minorias étnicas, pessoas com deficiência e comunidades de baixa renda. A proposta garantirá que esses aspectos sejam explorados, considerando os riscos de discriminação injusta e abusiva na tomada de decisão automatizada, como em avaliações de crédito e em recrutamento para vagas de emprego, e a possibilidade de incorporação de vieses discriminatórios em sistemas de IA, relacionando-se com os princípios da governança da internet de liberdade, privacidade e direitos humanos. Quanto à composição dos integrantes, reunirá representantes diversos para garantir que múltiplas perspectivas sejam consideradas (em termos setoriais, de gênero, raça e região do país), promovendo um debate inclusivo, capaz de gerar soluções que atendam às necessidades dos segmentos da sociedade brasileira.