El servicio de ‘chatbot’ de inteligencia artificial (IA) Character.AI anunció este miércoles que eliminará sus chats abiertos para los menores de 18 años tras el suicidio de un adolescente que se obsesionó con un personaje femenino creado por este programa.
A partir del 25 de noviembre, los menores de edad no podrán acceder a estos chats, que permiten a los usuarios crear y hablar con personajes específicos con los que se pueden mantener conversaciones de tipo romántico y terapéutico, según un comunicado.
Hasta esa fecha, Character.AI limitará el tiempo de chat de los usuarios menores de 18 años a dos horas al día, e implementará una nueva función de verificación de edad para garantizar que dispongan de una experiencia “adecuada”.
LEA TAMBIÉN: Empresa de IA Anthropic, dueña de chatbot Claude, triplica su valor en seis meses: el nuevo monto
Además, la compañía creará y financiará un Laboratorio de Seguridad de la IA, una organización independiente y sin ánimo de lucro dedicada a “la alineación de la seguridad para las funciones de entretenimiento de la IA de próxima generación”.
El año pasado, un estudiante de 14 años radicado en Orlando (Florida), Sewell Setzer III, se suicidó tras pasar semanas hablando con una personalidad creada por esta IA, Daenerys Targaryen, un personaje de la serie ‘Game of Thrones’.
El menor desarrolló un apego emocional a este bot, a quien le enviaba mensajes de texto constantemente, e incluso comenzó a alejarse del mundo real, de acuerdo con The New York Times.
Setzer confesó al bot haber tenido pensamientos suicidas y le envió un mensaje poco antes de su muerte cuando encontró el teléfono que su madre le había escondido como castigo durante unos días.
LEA TAMBIÉN: Demandan a Character.ai por suicidio de adolescente obsesionado con mujer irreal en su celular
La madre de Setzer demandó posteriormente a los desarrolladores de este chatbot y, tras el suicidio del joven, la empresa prohibió que los menores participaran en conversaciones sexuales con personajes creados con esta tecnología.
Según CNBC, de los 20 millones de usuarios activos mensuales con los que cuenta la empresa, el 10% son menores de 18 años.
En septiembre, la Comisión Federal de Comercio (FTC) abrió una investigación sobre Character.AI y otras tecnológicas como Alphabet, Meta y OpenAI sobre el uso de sus inteligencias artificiales por parte de menores de edad.
Recientemente, el director ejecutivo de OpenAI, Sam Altman, anunció que la empresa permitirá a partir de diciembre de este año “contenido erótico” para los usuarios de ChatGPT que verifiquen su edad en la plataforma.
