Parte II - Sobre o Workshop

• Resumo do workshop

  As deepfakes são frequentemente discutidas no âmbito da desinformação política; no entanto, observa-se um crescente uso dessa ferramenta de criação de conteúdos falsos — como imagens, vídeos e áudios — para a aplicação de golpes financeiros. Diante desse cenário, o workshop propõe um diálogo multissetorial com diversos atores, a fim de que apresentem ações e estratégias de mitigação já em andamento e outras que estão sendo planejadas.
  

  OBJETIVOS E CONTEÚDOS DO WORKSHOP

  As deepfakes, geradas principalmente por aplicações de Inteligência Artificial Generativa — imagens, vídeos e áudios —, são amplamente discutidas em cenários de desinformação e deepnudes. Todavia, elas vêm sendo utilizadas também em golpes financeiros sofisticados, tema ainda pouco debatido, apesar dos danos gerados. Diante disso, o painel busca trazer esse recorte. O avanço dessas práticas é impulsionado por softwares acessíveis e de baixo custo, que facilitam sua disseminação e ampliam os riscos para empresas e usuários do espaço digital. Assim, o objetivo é promover um debate amplo e prático, conectando diferentes perspectivas para construir respostas mais eficazes a um problema que combina desafios tecnológicos, econômicos, sociais e éticos.
  Um estudo do Rancourt e Smaili (2023) aponta custos estimados em US$ 243 mil e US$ 35 milhões às empresas. Usuários do espaço digital também correm riscos, alguns casos envolvem uso da imagem de celebridades e empresas em promoções falsas, explorando engenharia social e confiança em rostos e vozes reconhecíveis. A sofisticação dos golpes faz com que mesmo indivíduos com alto grau de letramento digital possam ser vítimas. Ressalta-se, assim, a importância de medidas voltadas à Educação midiática para diferentes públicos, desde campanhas no contexto escolar para crianças e adolescentes até a conscientização de adultos e idosos.
  A proposta é fornecer um diálogo multissetorial das ações e estratégias de prevenção e mitigação vigentes e futuras. A sociedade civil trará experiências de campanhas de conscientização para alertar populações vulneráveis; o setor privado discutirá iniciativas e práticas adotadas na identificação de golpes e proteção dos clientes; a representante do governo apresentará medidas e políticas em desenvolvimento na esfera pública; e a academia contribuirá com análises técnicas sobre como deepfakes são criadas e como é possível desenvolver soluções que reduzam seus impactos.
  
  

  RELEVÂNCIA DO TEMA PARA A GOVERNANÇA DA INTERNET

  Os casos de uso de deepfakes para instrumentalizar golpes financeiros têm crescido globalmente (FBI, 2024), ampliando riscos para usuários e empresas dos espaços digitais. Diante dessa situação, a sociedade precisa ser melhor instruídas sobre esses novos riscos, de modo a não comprometer a confiança em serviços digitais que têem facilitado várias tarefas essenciais do cotidiano, desde assinar um documento via plataforma do governo (Gov.br) até fazer uma transferência via Pix, sem burocracias e custos adicionais.
  Embora as deepfakes não comprometam diretamente essas infraestruturas digitais, elas vêem mitigando a percepção de segurança que as pessoas têm de usarem-as, especialmente, com a ascensão das deepfakes, justamente por serem conteúdos sintéticos capazes de manipular realidades paralelas com alto grau de verossimilhança. Os efeitos disso são impactos econômicos significativos e uma crescente desconfiança do espaço digital como seguro, o que pode limitar a adesão da população a serviços digitais fundamentais.
  Dito isso, a variedade das vítimas desses golpes financeiros revela como o nível de sofisticação ultrapassa questões apenas de letramento digital. As medidas de Educação midiática são então compreendidas como necessárias sob diferentes abordagens; não apenas em ambientes escolares, mas voltadas também para públicos adultos e idosos de diferentes níveis de escolaridade.
  Em vista disso, esse painel desenvolve uma relevância por 1) tratar de uma tema quente que demanda esforços colaborativos para assegurar o propósito da Internet de ser aberta, segura e livre; 2) Mesclar diferentes perspectivas, com base nos atores multissetoriais de Governança da Internet, para debater estratégias de prevenção de enfrentamento; 3) Chamar atenção para a necessidade de uma aplicação ampla, direcionada e inovadora das medidas de Educação midiática enquanto estratégias de mitigação.
  
  

  FORMA DE ADEQUAÇÃO DA METODOLOGIA MULTISSETORIAL PROPOSTA

  O workshop será realizado a partir de uma primeira rodada de perguntas e respostas, entre o moderador e os painelistas; e uma segunda em que serão recebidas e respondidas as perguntas do público (presencial e remoto). O workshop iniciará com uma apresentação inicial pelo moderador de até 10mins, contemplando a apresentação do Mentimeter para interação inicial com a audiência. Em seguida, serão realizadas perguntas a cada um dos painelistas em até 2mins. Cada um terá até 7mins para as respostas. Na sequência, o microfone será aberto para a participação da audiência (presencial e remota) e haverá 25mins para debate. Por fim, o moderador e a relatora terão 15 mins para o encerramento do painel.
  

  FORMAS DE ENGAJAMENTO DA AUDIÊNCIA PRESENCIAL E REMOTA

  Será destinado um bloco intermediário de até 25mins para perguntas e comentários sobre as discussões até então realizadas pelos painelistas. Também, haverá a seguinte dinâmica: Após a apresentação do painel e antes das fala dos painelistas, o moderador apresentará um QR code com acesso ao Mentimeter, cuja audiência presencial e remota terá até 3mins para responder às perguntas: “o que você associa quando pensa em deepfakes?” e “quão seguro você se sente diante de golpes usando deepfakes?” (numa escala de 0 - muito inseguro - até 10 - muito seguro). As respostas serão exibidas e comentadas pela moderação, a fim de contextualizar o início das perguntas aos painelistas. Os últimos 5 minutos serão focados para explicar a proposta da nota multissetorial (um dos resultados pretendidos), disponibilizando outro QR code em que todos possam enviar contribuições para formulação final. Também será compartilhado pelos integrantes do workshop em suas redes sociais e nas redes de suas organizações.
  

  RESULTADOS PRETENDIDOS

  O workshop pretende estimular o diálogo multissetorial entre diferentes atores, desenvolvendo uma abordagem colaborativa e buscando chamar atenção sobre a temática. Busca-se encontrar estratégias de mitigação possíveis e de longo prazo para o enfrentamento do uso de deepfakes em golpes financeiros. Ademais, como resultado concreto, pretende-se elaborar uma nota multissetorial, construída a partir das contribuições construídas durante e após o painel pelos painelistas e pela audiência presencial e remota. O objetivo é sistematizar recomendações iniciais para estratégias de prevenção e mitigação dos impactos das deepfakes em golpes financeiros. A nota será pública e servirá como referência para orientar os primeiros passos de ação conjunta entre sociedade civil, setor privado, governo e academia.
  

  RELAÇÃO COM OS PRÍNCIPIOS DO DECÁLOGO

  Inovação

  TEMAS DO WORKSHOP

  IA - Riscos da IA | NTIA – Inteligência Artificial | ISCI - Direitos sociais, econômicos e culturais

  ASPECTOS DE DIVERSIDADE RELEVANTE

  Gênero | Cor ou raça | Região

  COMO A PROPOSTA INTEGRARÁ OS ASPECTOS DE DIVERSIDADE

  O workshop é composto por palestrantes de quatro regiões do Brasil, sendo metade dos integrantes, mulheres negras. Há também diversidade de faixas etárias, com alta representação da juventude. A diversidade geográfica enfatiza a importância de incluir vozes de diferentes contextos socioeconômicos e culturais no debate sobre deepfakes e golpes financeiros, promovendo um debate inclusivo e representativo.