La plataforma Character.AI anunció que a partir del 25 de noviembre prohibirá el uso de sus funciones de chat a menores de 18 años, tras una demanda presentada contra la empresa por el suicidio de un joven de 14 años en Estados Unidos. El adolescente, identificado como Sewell Setzer III, desarrolló un vínculo emocional con un chatbot basado en un personaje de la serie Game of Thrones, lo que, según la querella, habría contribuido a su muerte. Hasta la entrada en vigor de la medida, los menores solo podrán utilizar el chat por un máximo de dos horas al día.
Character.AI explicó que la decisión busca proteger a los usuarios más jóvenes ante los riesgos psicológicos asociados a la interacción con inteligencia artificial. En su comunicado, la empresa reconoció que se trata de una medida “extraordinaria”, pero necesaria frente a los cuestionamientos de reguladores y expertos sobre el impacto emocional de estos sistemas en adolescentes.
La plataforma, conocida por permitir conversaciones personalizadas con personajes ficticios o figuras históricas, anunció que fomentará otras actividades como la creación de historias, videos y transmisiones con IA para los usuarios jóvenes. El caso de Setzer se suma a otros reportes internacionales que vinculan el uso intensivo de chatbots con problemas de salud mental, lo que ha llevado a compañías tecnológicas a reforzar sus políticas de seguridad digital.
