ChatGPT lança modo para adolescentes — pais controlam o uso, mas não as conversas

O ChatGPT agora se comporta de forma diferente para adolescentes. A OpenAI lançou o ChatGPT para Adolescentes em 18 de agosto, e o sistema é automático: usuários de treze a dezessete anos recebem uma versão do produto que já vem configurada com limites mais rígidos do que o padrão adulto. Nenhuma ação é necessária por parte do adolescente, e nenhuma adesão é exigida dos pais. O recurso começou a ser implementado globalmente naquela semana e deve concluir sua implantação de duas semanas em todos os mercados.

Os controles parentais, acessíveis por meio de uma conta familiar, são mais cuidadosos do que a maioria das plataformas oferece. Um dos pais pode definir horários de silêncio — janelas específicas do dia em que o ChatGPT fica inacessível para a conta do adolescente — e desativar independentemente o modo de voz, a geração de imagens ou o recurso de memória persistente que permite ao ChatGPT lembrar detalhes ao longo das conversas. Cada um desses itens tem uma chave separada. Há também uma opção de não permitir que a OpenAI use as conversas do adolescente para treinar modelos futuros, algo que não vem ativado por padrão em contas comuns.

O que os pais não podem fazer é ler o que seus filhos digitaram para o ChatGPT. Esta é uma decisão de design deliberada, não uma lacuna na implementação. A posição da OpenAI é que adolescentes que suspeitam que suas conversas possam ser compartilhadas com os pais simplesmente não usarão o produto para as coisas com que realmente precisam de ajuda — e um adolescente que não pode perguntar a uma IA sobre algo sensível, sem julgamento, perde a parte mais útil da tecnologia. Os controles dão aos pais ferramentas para definir limites em torno do tempo e do modo; o conteúdo das conversas permanece privado.

O modelo em si tem restrições embutidas que se aplicam independentemente das configurações parentais. O ChatGPT para Adolescentes tem um tratamento mais rigoroso para tópicos relacionados a automutilação, distúrbios alimentares e violência. O modelo é treinado para redirecionar em vez de engajar nesses assuntos, e as mesmas restrições se aplicam no Modo Estudo — um novo recurso que transforma respostas em quizzes e perguntas práticas em vez de respostas diretas. O Modo Estudo foi projetado para apoiar o dever de casa sem substituí-lo, exigindo que o adolescente recupere informações em vez de simplesmente copiá-las.

A questão da verificação de idade é onde os limites do sistema se tornam aparentes. A OpenAI usa um modelo de previsão de idade, não uma verificação formal de identidade, para classificar os usuários como adolescentes. Adolescentes que forneceram uma data de nascimento falsa ao se inscrever — uma gambiarra comum em plataformas com restrição de idade — provavelmente não serão reclassificados. A implementação é voltada para novas contas e contas com datas de nascimento registradas corretamente. A OpenAI não divulgou qual proporção de sua base de usuários existente está na faixa dos 13 aos 17 anos, mas pesquisadores têm consistentemente descoberto que o grupo é grande e desproporcionalmente intenso no uso de ferramentas de IA para fins acadêmicos.

A lógica de design mais ampla aqui merece uma pausa para reflexão. A OpenAI está tentando equilibrar duas coisas ao mesmo tempo: arquitetura de segurança suficiente para satisfazer pais e reguladores, e privacidade suficiente para ser genuinamente útil para adolescentes. Os horários de silêncio e as restrições de tópicos atendem ao primeiro; a recusa em compartilhar registros de conversa atende ao segundo. Se esse equilíbrio é correto é uma questão sobre a qual pessoas razoáveis podem discordar. O que é notável é que a OpenAI tornou essa troca explícita — eles escolheram a utilidade para o adolescente em vez da vigilância parental, e disseram isso abertamente.

O ChatGPT para Adolescentes já está disponível em todas as plataformas. A implementação global de duas semanas começou em 18 de agosto.

Tags: inteligência artificial, OpenAI, chatgpt, ChatGPT for Teens, controle parental, segurança digital adolescentes