Um peluche falante chamado Kumma tornou-se o símbolo de um problema maior: a pressa em levar a inteligência artificial para o quarto das crianças antes de se perceber o que isso implica. Testes independentes a este brinquedo mostraram respostas impróprias desde instruções perigosas a conversas de teor sexual e desencadearam suspensões, auditorias e muita perplexidade.
O fabricante, FoloToy, tinha licenciado tecnologia de um grande fornecedor de modelos de linguagem, e entretanto travou vendas para rever segurança. Depois, voltou ao mercado com filtros mais rigorosos. Pelo caminho, ficou uma pergunta sem resposta simples: quando um brinquedo com IA falha, quem responde?
Para o consumidor, é tentador pensar que um urso que “fala como um chatbot famoso” é exceção. Na realidade, não é. A indústria tecnológica cresce através de acordos de licenciamento que permitem a marcas sem nome de peso integrar modelos de linguagem nos seus produtos. É rápido, barato e escalável.
Mas também cria camadas de opacidade: políticas de marca e de serviços de alguns fornecedores limitam o que os parceiros podem dizer publicamente sobre o motor de IA que usam. Para pais, cuidadores e reguladores, isso complica a avaliação do risco. Sem saber que modelo está “dentro” do brinquedo, é mais difícil comparar incidentes, exigir correções ou até escolher outro produto com melhores salvaguardas.
Os grandes fornecedores de IA exigem, em regra, que quem usa os seus modelos para crianças cumpra leis de privacidade e políticas anticontenúdo nocivo. Há ferramentas de moderação e equipas comerciais que acompanham implementações. Na prática, porém, os incentivos nem sempre alinham: um parceiro pode falhar na configuração, o filtro pode ser contornado por uma pergunta criativa ou a atualização de segurança chega tarde.
Especialistas jurídicos defendem programas de parceiros “avaliados”, com certificação e testes obrigatórios antes da entrada no mercado, e auditorias regulares. É a diferença entre prometer segurança num contrato e prová-la numa sandbox com casos de teste difíceis especialmente quando o público são utilizadores vulneráveis.
Aqui começa a zona cinzenta. Muitos contratos de serviços de IA colocam a responsabilidade final no integrador do produto (neste caso, o fabricante do brinquedo). Também é frequente ver cláusulas que limitam a responsabilidade do fornecedor de IA e afastam ações coletivas. Do lado do direito do consumo, a bitola não é “risco zero”, mas “precauções razoáveis”.
O problema: o dano num brinquedo conversacional pode ser psicológico, de privacidade ou de confiança não é só físico. E o direito tradicional de segurança de produtos olha sobretudo para lesões físicas. Acresce que a IA é probabilística: dois utilizadores podem obter respostas muito diferentes. Determinar culpa e nexo causal torna-se mais complexo.
A inquietação com brinquedos com IA não é exclusiva de um país. Nos EUA, grupos de defesa do consumidor pressionaram antes da época de compras, surgiram iniciativas legislativas a pedir moratórias para chatbots em brinquedos, e entidades de referência desaconselharam estes produtos para idades muito baixas. Na Europa, o enquadramento cruza-se com várias peças: o AI Act introduz obrigações de gestão de risco, documentação e transparência, sobretudo quando há interação com menores; o RGPD e as regras sobre consentimento parental e minimização de dados são críticos; e a Diretiva de Segurança dos Brinquedos exige avaliação de riscos e marcação CE. Na prática, qualquer marca que venda na UE terá de provar que o brinquedo respeita privacidade by design, tem controlos parentais eficazes e mecanismos de desligar a recolha de dados, entre outras salvaguardas.
Depois das críticas, o fabricante reforçou regras de idade, apertou filtros e colocou “assuntos proíbidos” mais claros. Testes posteriores mostraram que perguntas sensíveis já eram rejeitadas. É o mínimo indispensável. O que não ficou claro foi a arquitetura real: mesmo após uma suspensão anunciada do acesso ao fornecedor de IA, alguns utilizadores reportaram que continuavam a ver opções de modelos populares no menu do brinquedo. Falta de atualização? Cache? Uma camada intermédia? Sem transparência técnica, é impossível confirmar. E sem isso, pais e investigadores não conseguem associar rapidamente incidentes a um mesmo modelo ou fornecedor elemento-chave para correções coordenadas.
Enquanto as regras e as práticas maduras não chegam, o melhor é decidir com critério. Procure:
- Transparência técnica: o fabricante identifica o modelo de IA, a política de dados e a localização do processamento (dispositivo vs. nuvem).
- Controlo parental granular: blocos de temas, horários, lista de contactos e registo de atividade acessível ao adulto.
- Privacidade by default: recolha mínima, anonimização, possibilidade de optar por não partilhar dados para treino e botão físico de microfone/ligação.
- Atualizações e auditorias: histórico público de patches de segurança e testes por terceiros.
- Modo offline significativo: funcionalidades básicas sem ligação permanente à internet.
Se não encontrar isto comunicado de forma clara, o melhor brinquedo inteligente pode ser, por agora, o que fica na prateleira.
Fonte: Mashable
Sem Comentários! Seja o Primeiro.