Parte II - Sobre o Workshop

• Resumo do workshop

  As IAs têm sido usadas para produzir uma versão mais sofisticada e realista das imagens falsas - as deepfakes. Em 2023, 98% das deepfakes retratavam cenas pornográficas, das quais 99% dos alvos eram mulheres (dados do Home Security Heroes, 2024), indicando a instrumentalização da tecnologia sob uma lógica misógina de acossamento da sexualidade feminina. Diante disso, propomos um debate multissetorial sobre o fenômeno na América Latina que busque combater a violência de gênero no ambiente digital

  OBJETIVOS E CONTEÚDOS DO WORKSHOP

  Com o aprimoramento da Inteligência Artificial, as deepfakes têm se tornado cada vez mais realistas e, consequentemente, mais perigosas, por dificultarem a identificação da sua natureza inverídica. Além disso, a facilidade com que aplicativos e sites podem ser encontrados e acessados na Internet para produzir esse tipo de conteúdo contribui para a intensificação desse problema: qualquer mulher ou menina que tenha uma foto publicada na Internet pode estar sujeita a esse tipo de violência. De acordo com dados do Sumsub (2023), o Brasil é o país que concentra a maioria dos casos de deepfakes da América latina, apesar de haver outros países na região que também apresentam números significativos de casos, como Argentina e Colômbia. Diante disso, o presente workshop tem como objetivo compreender o fenômeno das deepfakes pornográficas, enquanto manifestação da violência de gênero, no contexto latino americano, mapeando tendências comuns e particularidades. Assim, pretende-se discutir, com uma abordagem multissetorial, como a tecnologia vem sendo utilizada para atacar a dignidade sexual de mulheres e meninas na região, destacando as dimensões: a) geracionais, uma vez que tem se tornado comum episódios dessa natureza em ambiente escolar e b) políticas, já que as deepfakes têm sido usadas como forma de descredibilizar candidatas a cargos públicos. Por fim, o painel buscará levantar possíveis estratégias para enfrentar o problema na região, adentrando em iniciativas que tenham o intuito de combater esse fenômeno, com foco especial no Brasil, que tem, ao menos, 3 projetos de leis principais que tratam a questão: o PL 5394/23 da Deputada Erika Kokay (PT/DF), o PL 5467/23 da Deputada Camila Jara (PT/MS) e o PL 5342/23 do Deputado Marcelo Álvaro Antônio (PL/MG). Ao final, pretende-se publicar um relatório oficial sobre as discussões, de modo a fazer avançar o tema junto à comunidade da governança da internet no Brasil e nos demais países da América Latina.

  RELEVÂNCIA DO TEMA PARA A GOVERNANÇA DA INTERNET

  Em 2017, um vídeo pornográfico falso envolvendo a atriz Gal Gadot foi publicado por um usuário do Reddit chamado de “deepfakes”, com isso popularizou-se o uso do termo. A expressão passou a ser utilizada para se referir a qualquer imagem, áudio ou vídeo falso produzido por computador que usam modelos de aprendizagem de máquina. Como especialistas vêm apontando, essa tecnologia tem sido utilizada para atacar, em especial, mulheres e meninas, não se limitando a apenas atrizes e cantoras famosas, mas afetando qualquer uma que tenha fotos compartilhadas na Internet. Nesse contexto, tem sido cada vez mais comum notícias sobre o uso não consentido de imagens para criar deepfakes pornográficas. A título de exemplo, alunos de uma escola em Chorrilhos (Peru) alteraram fotos de suas colegas para vendê-las. No México, investiga-se um estudante por alterar mais 50 mil fotos de alunas do Instituto Politécnico Nacional para vendê-las. Casos semelhantes a esses também foram registrados nas cidades de Recife, Rio de Janeiro e Belo Horizonte. Além desses incidentes, têm sido registrados também ataques como esses a candidatas ao pleito municipal de 2024 no Brasil. Esse tipo de conteúdo pode produzir consequências devastadoras na vida das vítimas, afetando desde de sua integridade física, moral e psicológica até seu emprego e relações familiares. Além disso, o tema aparece como um desafio para pensar aspectos que descambam em novos processos regulatórios da Internet em todo o mundo. Quais as implicações o tema traz para os níveis de aplicação e conexão dos provedores? Como combater e educar para um uso saudável da tecnologia na Internet? Existem contextos ilegítimos a priori, exigindo soluções de curadoria de conteúdo automatizada? Essas são só algumas das reflexões que demonstram como o tema pode afetar a governança multissetorial da Internet, devendo ser debatido de forma aberta e com seriedade, de modo a tornar a internet um espaço seguro e ético para todas as pessoas.

  FORMA DE ADEQUAÇÃO DA METODOLOGIA MULTISSETORIAL PROPOSTA

  Cada setor será estimulado a mostrar seu contexto e ponto de vista sobre o problema. Da representante do governo, espera-se que sejam expostos casos práticos, de modo que possamos ter uma noção de como o Estado tem agido diante da divulgação de deepnudes e como é a proteção das vítimas. Do setor empresarial e científico-técnico, busca-se entender principalmente quais são as precauções que estão sendo adotadas para evitar ou mitigar esses casos. E, por fim, do terceiro setor, procura-se problematizar as iniciativas legais que têm sido propostas. O tempo do painel será dividido da seguinte forma: 1) O moderador terá 5 minutos iniciais para introduzir o tema; 2) serão concedidos então 10 minutos de fala para cada painelista, totalizando 40 minutos; 3) o moderador terá mais 5 minutos para suscitar novas provocações; 4) Os painelistas terão mais 3 minutos para responder, perfazendo um total de 15 minutos; 5) Finalmente, serão destinados 25 minutos para interação com o público.

  FORMAS DE ENGAJAMENTO DA AUDIÊNCIA PRESENCIAL E REMOTA

  O engajamento da audiência no workshop ocorrerá em diferentes etapas. Primeiramente, haverá uma mobilização prévia nas redes sociais das organizações envolvidas, para atrair participantes e sensibilizar o público sobre a importância do tema, usando artes de divulgação e hashtags. Durante o workshop, a audiência poderá interagir por meio do Mentimeter, acessível via QR codes, respondendo a enquetes cujos resultados serão imediatamente debatidos pelos palestrantes em suas falas. Isso permite que a percepção e experiências da audiência sobre o uso de deepfakes para atacar a dignidade sexual de mulheres e meninas sejam incorporadas ao debate. Quem participar presencialmente poderá usar microfones ou cartelas para fazer perguntas, enquanto a audiência remota terá o chat e o aplicativo à disposição. Após o evento, a repercussão será amplificada com a divulgação de imagens e vídeos curtos nas redes sociais, aumentando o impacto e a visibilidade das discussões realizadas.

  RESULTADOS PRETENDIDOS

  O workshop pretende delinear o problema das deepfakes não-consensuais contendo nudez explícita de mulheres, e assim, refletir sobre uma das manifestações mais frequentes de ciberviolência de gênero da atualidade. Nesse sentido, serão abordados, de forma mais detida, as ocorrências em escolas, assim como os casos dirigidos a mulheres na esfera pública, considerando as especificidades desses dois contextos de vitimização. Com isso, pretende-se: (1) Caracterizar e compreender os tipos de casos mais frequentes de deepnudes, ampliando o corpo de conhecimentos sobre o tema; (2) Promover um diálogo entre as ocorrências encontradas nos diferentes contextos, tanto no Brasil como na América Latina; (3) Oferecer insumos para a elaboração de políticas de prevenção à ocorrência desses casos; (4) Oferecer recomendações para responder adequadamente ao problema uma vez que ele ocorre, focando na perspectiva da proteção às vítimas.

  RELAÇÃO COM OS PRÍNCIPIOS DO DECÁLOGO

  Diversidade

  TEMAS DO WORKSHOP

  DINC - Questões relacionadas a gênero | IA - Aspectos éticos da IA | IA - Riscos da IA |

  ASPECTOS DE DIVERSIDADE RELEVANTE

  Gênero | Região | Idade ou geração |

  COMO A PROPOSTA INTEGRARÁ OS ASPECTOS DE DIVERSIDADE

  Mulheres têm sido alvo preferencial dos casos de deepfakes envolvendo nudez explícita. Os dados disponíveis apontam uma diferença extrema quando observados o recorte de gênero, dando escala e aprimoramento técnico aos casos de violência de gênero facilitada pela tecnologia. Nesse sentido, consideramos incontornável à natureza do debate uma mesa composta majoritariamente por mulheres, que concatene não somente conhecimento teórico e prático como também reafirme o compromisso com a representatividade para tratar de um tema do qual todas são vítimas em potencial. Sendo assim, todas as integrantes da mesa são mulheres, sendo observados também os critérios de diversidade racial e regional, ao reconhecer que as experiências da categoria não são homogêneas e respondem aos diferentes contextos de origem e recortes sociais. A regionalidade também foi considerada em âmbito internacional, com uma representante do Peru, que trará uma perspectiva do tema com o recorte mais amplo da América Latina.