Parte II - Sobre o Workshop

• Resumo do workshop

  Este workshop debate o apego entre jovens e adolescentes com IAs de companhia, analisando não apenas o vínculo emocional, mas também o design persuasivo das plataformas e os desafios de privacidade. Discutiremos os riscos da dependência destas plataformas de IA e o impacto nas relações sociais e a governança de dados íntimos, buscando caminhos para um desenvolvimento tecnológico mais ético e seguro para o público jovem e adolescente, resguardando o seu bem-estar.
  
  

  OBJETIVOS E CONTEÚDOS DO WORKSHOP

  O workshop tem como objetivo central analisar o fenômeno do apego de adolescentes a "AI Companions", expandindo a discussão para além da psicologia do usuário, incluindo uma análise crítica da tecnologia e de seu modelo de governança.
  Objetivos:
  Apresentar o conceito de "AI Companions" e as possibilidades de explicação para a popularidade entre jovens e adolescentes.
  Explicar a “Teoria do Apego” como arcabouço para compreender a formação de vínculos emocionais com chatbots.
  Analisar criticamente o design das plataformas, que incentiva o engajamento contínuo e a formação de laços.
  Debater as implicações de privacidade e governança decorrentes da coleta massiva de dados pessoais e sensíveis de um público vulnerável.
  Promover um diálogo multissetorial sobre as responsabilidades de desenvolvedores, pais, educadores e do poder público na criação de um ambiente digital seguro.
  Conteúdos:
  O Vínculo Emocional: Apresentação dos achados de estudos de caso, mostrando como usuários jovens e adolescentes desenvolvem apego e usam o chatbot como "porto seguro".
  O Design Persuasivo: Análise de elementos de design como a customização de avatares, sistemas de recompensa e a monetização de relacionamentos através de modos premium (ex: "parceiro romântico").
  Privacidade de Dados: Discussão sobre a privacidade dos dados dos usuários, tendo em vista o seu uso para publicidade ou utilizados para compor os dados de perfis de avatares nestas plataformas.
  Governança de Dados: Debate sobre a falta de transparência e a necessidade de modelos de governança que protejam os dados íntimos dos adolescentes, conforme a necessidade de desmistificar os algoritmos de IA e fornecer soluções para questões relacionadas à privacidade e segurança.
  
  

  RELEVÂNCIA DO TEMA PARA A GOVERNANÇA DA INTERNET

  Design Ético e Responsabilidade de Plataformas: A discussão move o foco da moderação de conteúdo para a responsabilidade sobre o design. As plataformas de "AI Companions" são projetadas para maximizar o engajamento, o que pode levar à uma relação de dependência e prejudicar aspectos psicossociais. A governança precisa debater se esse design é ético, especialmente quando aplicado a adolescentes, e quais limites devem ser impostos.
  Governança e Privacidade de Dados Sensíveis: Diferente de outras redes sociais, essas IAs coletam dados sobre as emoções, medos e segredos mais profundos dos usuários. Estudos mostram que usuários já se preocupam com o uso desses dados e criam estratégias para se proteger. A governança da Internet tem o papel de estabelecer regras claras para o consentimento, tratamento e proteção desses dados íntimos, questionando os modelos de negócio que os exploram.
  Proteção de Usuários Vulneráveis: A adolescência é um período de alta vulnerabilidade. O uso de IAs como figura de apego pode atrapalhar o desenvolvimento psicológico e ter consequências negativas. A governança multissetorial deve criar salvaguardas que protejam os jovens não apenas de conteúdos nocivos, mas também de arquiteturas de plataforma que podem prejudicar seu desenvolvimento psicossocial e explorar suas necessidades emocionais.
  
  

  FORMA DE ADEQUAÇÃO DA METODOLOGIA MULTISSETORIAL PROPOSTA

  Terceiro Setor: Convite à organização que atua na defesa dos direitos de crianças e adolescentes para trazer a perspectiva da proteção e do impacto social.
  Comunidade Técnica/Acadêmica: Instigando uma discussão sobre as escolhas de design e modelos de negócio.
  Governo: Debatendo a necessidade de políticas públicas e regulações que endurecem os novos desafios de proteção de dados e design ético em IAs de relacionamento.
  Setor privado: Refletindo sobre os modelos legislativos vigentes e propondo reformulações possíveis para novas adequações.
  
  

  FORMAS DE ENGAJAMENTO DA AUDIÊNCIA PRESENCIAL E REMOTA

  O engajamento será promovido através de uma metodologia interativa. Iniciaremos com uma enquete em tempo real via Mentimeter para avaliar o conhecimento e a experiência prévia da audiência com "AI Companions". Após a apresentação inicial de conceitos principais da psicologia, do design e do direito, o debate será estruturado em torno de dilemas, como: “É possível criar um laço afetivo com a IA?”; “Quais são as responsabilidades das plataformas frente ao comportamento do adolescente com a IA de companhia?"; e “O que favorece e o que prejudica o desenvolvimento psicossocial e a autonomia dos adolescentes a partir desta interação?”. A audiência remota e presencial poderá participar ativamente das mesmas discussões de cada dilema através de um formulário online, no qual constará o dilema e um espaço para a plateia opinar sobre o tema. O tempo final será dedicado a perguntas abertas e a exposição pelo moderador de alguns trechos das opiniões no formulário.
  
  

  RESULTADOS PRETENDIDOS

  Pretende-se consolidar o debate sobre AI Companions na perspectiva da realidade nacional, trazendo à tona a fase da adolescência e as causas e efeitos da interação destes com as plataformas. A partir disso, será criado um resumo e um material digital educativo dos principais pontos discutidos no painel. Este material contará com perspectivas legislativas, das políticas públicas, do design e da saúde mental, além das principais dúvidas e comentários originados da plateia, os quais serão representados através de uma nuvem de palavras. Além disso, será elaborado um diagnóstico inicial sobre o conhecimento do público sobre a temática apresentada para dar prosseguimento aos estudos sobre AI companions e adolescentes no território brasileiro.
  
  

  RELAÇÃO COM OS PRÍNCIPIOS DO DECÁLOGO

  Liberdade, privacidade e direitos humanos

  TEMAS DO WORKSHOP

  DINC – Crianças e Adolescentes | IA - Riscos da IA | TSAU - Bem-estar digital

  ASPECTOS DE DIVERSIDADE RELEVANTE

  Gênero | Idade ou geração | Jovens

  COMO A PROPOSTA INTEGRARÁ OS ASPECTOS DE DIVERSIDADE

  O workshop é centrado na perspectiva de idade ou geração, focando nas experiências, vulnerabilidades e processos de formação de identidade dos jovens e adolescentes no ambiente digital. Este grupo é o principal usuário dessas tecnologias e o mais suscetível aos seus impactos pelo processo de desenvolvimento psicossocial. Adicionalmente, o aspecto de gênero será integrado à discussão, analisando como as dinâmicas de relacionamento com IAs podem reproduzir ou reconfigurar estereótipos, a partir de dados que indicam padrões na escolha de gênero para os chatbots, e como isso afeta a experiência do usuário.