Pular para o conteúdo

Nova York proíbe chatbots de IA que se passam por humanos ou incitam menores

Lei assinada pela governadora Kathy Hochul também exige proteção em babás eletrônicas e prevê multa de até US$ 25 mil por violação.

WhatsApp Facebook X Telegram
Retrato da governadora de Nova York, Kathy Hochul, sorrindo, de blazer azul
Foto de arquivo: A governadora de Nova York, Kathy HochulFoto: KC Kratt (CC BY-SA 4.0)

Resumo

  • Hochul sancionou na quarta (28) lei que proíbe chatbots de IA de agir como humanos com menores.
  • Empresas terão de verificar a idade do usuário por mais de um método e apagar os dados depois; multa chega a US$ 25 mil por violação.
  • Outra lei obriga babás eletrônicas conectadas à internet a ter proteção contra invasão e aviso na embalagem, em 90 dias.

O estado de Nova York passou a proibir que empresas de inteligência artificial ofereçam a menores de idade chatbots que se façam passar por pessoas, criem dependência emocional, incentivem automutilação ou tenham conversas sexuais. A governadora Kathy Hochul sancionou a lei na quarta-feira (28), em Albany, junto com outra norma que obriga as babás eletrônicas conectadas à internet a trazer proteção contra invasores.

Os dois projetos foram apresentados pelo governo estadual como parte de um pacote para proteger crianças dos riscos da tecnologia. O texto do chatbot é o S.9051B/A.10379C; o das babás eletrônicas, o S.9508/A.5175A.

O que os chatbots não poderão fazer com menores

Nos próximos meses, as empresas não poderão oferecer os recursos abaixo a quem tem menos de 18 anos, nem a qualquer usuário, a menos que tenham confirmado antes que ele não é menor:

  • fingir ser uma pessoa de verdade, estar vivo ou ter emoções humanas;
  • afirmar ter relação pessoal, romântica, profissional ou de autoridade com uma criança;
  • fazer perguntas emocionais sem que o usuário peça e usar informações privadas de saúde ou pessoais de conversas anteriores;
  • promover ou ajudar em suicídio, automutilação, transtornos alimentares ou uso de drogas e álcool;
  • estimular a criança a guardar segredos, se isolar ou evitar pedir ajuda a pais, adultos de confiança ou profissionais;
  • produzir conteúdo sexualmente explícito ou material de abuso sexual infantil.

A lei também obriga as empresas a verificar a idade do usuário e a oferecer mais de uma forma de fazer isso, com pelo menos uma que não dependa só de documento oficial com foto. Depois de usada, a informação de idade tem de ser apagada.

Multas e fiscalização

Quem descumprir a regra poderá ser processado pela procuradora-geral do estado, Letitia James. Ela pode pedir multa de até US$ 25 mil por violação, indenização, devolução de valores, a destruição de dados coletados de forma ilegal e até dos modelos de IA treinados com eles. A lei determina ainda que a procuradoria mantenha um site público para receber queixas.

Por que a regra existe, segundo o governo

O comunicado do governo de Nova York cita levantamento da organização Common Sense Media, segundo o qual 72% dos adolescentes americanos já usaram um “companheiro” de IA e 52% o utilizam com regularidade, algumas vezes por mês ou mais. O texto afirma que esses robôs foram associados a casos de dependência, isolamento e conversas sexualizadas, e que teriam supostamente incentivado adolescentes a tirar a própria vida. As informações vêm do governo e da ONG, e a Justiça americana ainda trata parte desses casos.

Babás eletrônicas: o que muda para quem compra

A segunda lei vale para aparelhos que transmitem áudio ou vídeo pela internet. Eles só poderão ser vendidos como novos em Nova York se tiverem recursos que impeçam estranhos de ver ou ouvir o quarto da criança, e precisarão de uma etiqueta clara avisando que o aparelho se conecta à rede e que a família deve ativar a proteção. A norma entra em vigor 90 dias após a assinatura, ou seja, no fim de janeiro de 2027.

O governo cita um teste da empresa de segurança Rapid7 com nove modelos de oito fabricantes: oito receberam nota “F” e um, “D” em segurança. Para quem tem um aparelho desses no Brasil, a lição vale mesmo sem a lei: trocar a senha de fábrica, manter o aplicativo atualizado e desligar o acesso remoto quando não usar reduzem o risco de invasão.

Contexto: Nova York e a corrida por regras de IA

Hochul lembrou que o estado já tem leis sobre salvaguardas em “companheiros” de IA, a RAISE Act (transparência e segurança de modelos avançados de IA) e a SAFE for Kids Act, que restringe recursos viciantes em redes sociais para crianças. O governo afirma que, neste ano, Nova York lidera o ranking dos EUA em leis de segurança infantil na internet.

“Nenhuma empresa deveria estar empurrando chatbots para crianças que incentivam a automutilação ou fingem ser amigos delas”, disse a governadora. O deputado estadual Alex Bores, que apresentou o projeto com a senadora estadual Kristen Gonzalez, afirmou que a nova lei é “a mais forte do país” nessa área e foi aprovada “apesar da oposição agressiva da indústria”.

Edição: Wagner Michels

Inteligência artificialChatbotsNova YorkSegurança infantilRegulação de IARegulação da inteligência artificial

Siga o Fato em Dia YouTube Instagram TikTok

Encontrou um erro ou tem uma sugestão de pauta? Fale com a redação.

Últimas de Tecnologia e IA

Ver tudo