Parte II - Sobre o Workshop

• Resumo do workshop

  O painel discutirá os desafios do combate à desinformação no contexto das deepfakes, uma tecnologia que gera conteúdos falsos que dificultam a detecção de informações fraudulentas. Iniciativas como o fact-checking vêm ganhando força, mas a evolução rápida das técnicas de deepfakes cria obstáculos adicionais. O debate abordará o impacto dessas tecnologias, destacando a necessidade de novas estratégias para lidar com a desinformação em um cenário de crescente uso de inteligência artificial.

  OBJETIVOS E CONTEÚDOS DO WORKSHOP

  O workshop busca discutir os desafios de combate à desinformação no cenário das deepfakes, visto que a desinformação afeta significativamente a confiança da população nas instituições democráticas, exacerbando a polarização social (O'Neil, 2017; Albright, 2017; Castells, 2018; Da Empoli, 2019; Han, 2022; Nunes; Traumann, 2023; Fisher, 2023). Iniciativas de fact-checking, com foco na verificação do teor informativo dos conteúdos online, em resposta à crescente demanda por transparência digital (Zattar, 2017; Fonseca et al, 2018) foram propagadas e no Brasil, 51% dos usuários demonstraram habilidades de verificação digital em 2022 (NIC.BR, 2023). Todavia, novos desafios surgem com as deepfakes, que criam imagens, vídeos e áudios de eventos que nunca ocorreram. Além disso, sua detecção é mais complexa e tem sido usada, principalmente em períodos eleitorais, para difundir desinformação. Em 2023, 16 países relataram casos de deepfakes, destacando seu impacto no aumento da polarização política (Funke, Shahbaz, Vesteinsson, 2023). No Brasil, 62% da população relata dificuldades em identificar informações falsas, enquanto 76% foi exposta a desinformação política durante as eleições de 2022 (DataSenado, 2023). Portanto, com a rápida evolução das técnicas de geração de conteúdos falsos dificultando a criação de um método único e eficaz de detecção as deepfakes se torna um tema de preocupação multissetorial (Doss et al, 2023; Bail, 2021; Crawford, 2021). Com a disseminação de fake news cada vez mais sofisticada, o uso de inteligência artificial para gerar deepfakes representa um desafio crescente para a verificação de conteúdos digitais. Desta maneira, esse painel buscará discutir os desafios de combate a desinformação no cenário de crescente uso de Inteligência Artificial para produzir deepfakes que adicionam novas dificuldades ao combate da desinformação.

  RELEVÂNCIA DO TEMA PARA A GOVERNANÇA DA INTERNET

  A desinformação, amplificada pelas deepfakes, apresenta um impacto direto na confiança nas instituições democráticas e na polarização social, temas profundamente relacionados à governança da Internet, uma vez que esta envolve o gerenciamento e regulamentação do uso, conteúdo e segurança online. O workshop alinha-se com essa agenda ao debater sobre como as deepfakes, que empregam inteligência artificial para criar vídeos, áudios e imagens falsas, tornam mais difícil a verificação de informações e ameaçam a transparência e segurança digital. Ao destacar a complexidade das técnicas de geração de deepfakes e os desafios que elas representam para agências de fact-checking, o workshop trata da necessidade de inovar as abordagens de governança. Isso envolve discutir novas regulamentações, promover a colaboração entre governos, plataformas digitais e organizações da sociedade civil, e investir em inovação tecnológica para aprimoramento da detecção de deepfakes.

  FORMA DE ADEQUAÇÃO DA METODOLOGIA MULTISSETORIAL PROPOSTA

  A participação no workshop será realizada a partir de uma primeira rodada de perguntas e respostas, entre a moderadora e os painelistas; e uma segunda em que serão recebidas e respondidas as perguntas do público (presencial e virtual). Assim, haverá uma apresentação inicial pela moderadora de 8mins, seguida por perguntas a cada um dos painelistas em até 2mins. Cada um terá um tempo de 8mins para respostas. Na sequência, o microfone será aberto para a audiência e haverá um tempo de 25mins para debate. Por fim, a moderadora e o relator terão 15mins para o encerramento do painel.

  FORMAS DE ENGAJAMENTO DA AUDIÊNCIA PRESENCIAL E REMOTA

  A fim de gerar um maior engajamento por parte da audiência física e virtual, será destinado um bloco intermediário de até 25mins para interações formadas por perguntas e comentários sobre as discussões até então realizadas, aos painelistas. Além disso, no início do painel, serão apresentadas, pela moderadora, conteúdos audiovisuais em conjunto a uma enquete no Mentimeter (para ser acessada por QR Code). A audiência irá então votar naqueles conteúdos que considera como deepfake. Nos minutos iniciais do bloco de debate, as imagens e o QR Code serão novamente apresentados para a audiência poder votar. Ao final, nos minutos de fala da moderadora, serão apresentados os resultados do Mentimeter e revelados quais conteúdos eram falsos.

  RESULTADOS PRETENDIDOS

  Estimular o diálogo multissetorial entre governos, empresas de tecnologia, organizações da sociedade civil e agências de fact-checking para desenvolver uma abordagem colaborativa na detecção e combate às deepfakes. Especialmente, dentro da dinâmica do painel de discussões com representantes desses setores, buscando direcionar questionamentos aos painelistas sobre o que já foi feito e quais são as próximas etapas necessárias para uma resposta conjunta dos diversos multistakeholders. Assim como enfatizar a necessidade de maior transparência das plataformas de mídia social em relação aos conteúdos gerados por IA, buscando promover maior responsabilidade na moderação de conteúdos. Por fim, propor estratégias de longo prazo para enfrentar os desafios contínuos trazidos pelas deepfakes na governança da Internet, garantindo que a segurança digital e a confiança pública nas instituições sejam protegidas.

  RELAÇÃO COM OS PRÍNCIPIOS DO DECÁLOGO

  Ambiente legal e regulatório

  TEMAS DO WORKSHOP

  EDU – Letramento digital | IA - Riscos da IA | ISCI – Notícias falsas e desinformação |

  ASPECTOS DE DIVERSIDADE RELEVANTE

  Gênero | Cor ou raça | Região |

  COMO A PROPOSTA INTEGRARÁ OS ASPECTOS DE DIVERSIDADE

  O workshop contempla ao critério de diversidade com a composição de palestrantes de todas as regiões do Brasil, endossando uma multiplicidade de perspectivas e experiências locais. A diversidade geográfica enfatiza a importância de incluir vozes de diferentes contextos socioeconômicos e culturais no debate sobre desinformação e deepfakes, promovendo um debate inclusivo e representativo. Ademais, a diversidade de gênero e raça são contempladas. Por fim, os painelistas apresentam diferentes idades, com forte representação da juventude.