El suicidio de un adolescente y otros casos de delirios han puesto a los chatbots IA en el punto de mira por sus efectos en la salud mental, sobre todo la de los más jóvenes. ChatGPT ya implementó controles parentales como respuesta ante esta creciente preocupación y hace unos días admitieron ser consciente de que ChatGPT estaba causando graves problemas de salud mental a algunos usuarios. . Ahora, Character.ai, uno de los chatbots que también está en el centro de la polémica, ha tomado una decisión drástica.
+18. Estados Unidos ya está legislando para regular el uso de los llamados ‘compañeros IA’ en menores de edad y Character.ai se ha adelantado tomando una medida más drástica que un control parental. Tal y como cuentan en TechCrunch, partir del 25 de noviembre, la app empezará limitando el tiempo de uso a dos horas para los menores de 18. Poco a poco ese tiempo se irá reduciendo hasta que sea cero.
Verificación de edad. Para asegurar que los menores de 18 no puedan seguir usando la app, Character.ai va a desplegar un sistema de verificación de edad que analiza el comportamiento de los usuarios. Si falla, la app usará verificación de identidad y reconocimiento facial adicionales para bloquear a los usuarios que no sean mayores de edad.
ChatGPT, calienta que sales. OpenAI ha tomado medidas recientemente para evitar casos como el de Adam Raine, principalmente la integración del control parental en ChatGPT. La medida contrasta con las declaraciones de Altman días después, cuando dijo que ChatGPT nos permitiría tener conversaciones de contenido erótico, pero sólo para mayores de edad. Altman dijo que la app exigiría una verificación de edad para quien quisiera darle este uso, pero no dijo nada de bloquearla por completo a menores de edad como ha hecho Character.ai.
¿Disparo en el pie? Hacer que ChatGPT sea una app para mayores de 18 años sería una medida contundente para acabar con el problema o, al menos, cumplir con lo que piden las primeras leyes que quieren regular los ‘compañeros IA’. Sin embargo, podría ser un disparo en el pie porque les haría perder muchos usuarios, algo que no pueden permitirse con el clima actual.
OpenAI publicó hace poco un informe a fondo sobre sus usuarios, pero no compartió los datos de usuarios menores de 18 años, según ellos por cuestiones de privacidad. Sabemos que casi la mitad (el 46%) del total de su base de usuarios están entre los 18 y los 26 años. Es decir, una gran parte son usuarios muy jóvenes.
Los menores y la IA. OpenAI no quiere decirnos cuántos menores usan su chatbot, pero gracias a otros estudios sabemos que el uso de IA generativa es muy popular entre este segmento de edad. Según un estudio de Plan Internacional, en España el 86% de los jóvenes de entre 12 y 21 años ha usado la IA recientemente. A su vez, un 18% de chicas y un 12% de chicos admite usarla «para hablar y contarle sus cosas».
Imagen | Character.ai, Pexels
.
Amparo Babiloni
Fuente de esta noticia: https://www.xataka.com/robotica-e-ia/character-ai-acaba-ensenarle-a-chatgpt-camino-para-atajar-problema-ia-menores-edad
También estamos en Telegram como @prensamercosur, únete aquí: https://t.me/prensamercosur Mercosur
Recibe información al instante en tu celular. Únete al Canal del Diario Prensa Mercosur en WhatsApp a través del siguiente link: https://www.whatsapp.com/channel/0029VaNRx00ATRSnVrqEHu1W
