California dio un nuevo paso en la regulación de las plataformas digitales al prohibir que las redes sociales ofrezcan a menores de 16 años determinadas funciones diseñadas para mantenerlos conectados durante más tiempo. La medida, promulgada por el gobernador Gavin Newsom, apunta directamente a mecanismos como la reproducción automática y los contenidos seleccionados mediante algoritmos a partir del historial y perfil del usuario.

La nueva legislación forma parte de un amplio paquete de normas aprobado el 10 de septiembre para reforzar la protección de niños y adolescentes frente a los riesgos de las redes sociales, la inteligencia artificial y otras tecnologías. California pretende convertirse nuevamente en referente nacional en materia de seguridad digital infantil, en un momento en que aumenta el debate sobre el impacto de los sistemas diseñados para captar y mantener la atención de los usuarios.

El algoritmo queda bajo la lupa

Uno de los principales objetivos es limitar los llamados feeds adictivos. Se trata de sistemas que analizan el comportamiento del usuario —qué mira, cuánto tiempo permanece ante una publicación, qué contenidos comparte o con cuáles interactúa— para seleccionar automáticamente qué mostrarle a continuación.

La nueva norma prohíbe que las plataformas proporcionen a los menores de 16 años funciones como el autoplay y los feeds algorítmicos basados en el historial y el perfil del usuario. En otras palabras, California pretende impedir que las plataformas utilicen determinadas técnicas de personalización para mantener a los adolescentes consumiendo contenido de manera continua.

La discusión no se limita a una determinada red social. La regulación alcanza a las plataformas comprendidas dentro de la legislación estatal, lo que coloca bajo presión a grandes compañías tecnológicas que utilizan sistemas de recomendación y reproducción automática como parte central de sus productos.

¿Por qué preocupa el diseño adictivo?

El debate parte de una característica fundamental de las redes sociales modernas: el contenido ya no llega al usuario de manera neutral, sino que es seleccionado constantemente por algoritmos que intentan predecir qué publicación tendrá mayor probabilidad de captar su atención.

La reproducción automática elimina la necesidad de que el usuario tome una nueva decisión para continuar viendo videos. La navegación infinita, por su parte, permite desplazarse de una publicación a otra prácticamente sin encontrar un punto natural de finalización.

Los reguladores y organizaciones dedicadas a la protección infantil sostienen que estos mecanismos pueden favorecer patrones de uso excesivo entre adolescentes, especialmente cuando se combinan con notificaciones, recomendaciones personalizadas y sistemas de recompensa social.

California ya había aprobado en 2024 la llamada Protecting Our Kids from Social Media Addiction Act, que estableció restricciones a los feeds adictivos y contempló mecanismos de consentimiento parental. La nueva legislación amplía ese esfuerzo regulatorio y endurece el enfoque sobre las funciones específicas que pueden utilizarse para prolongar la permanencia de los menores en las plataformas.

Las empresas enfrentan nuevas responsabilidades

El paquete firmado por Newsom también contempla consecuencias económicas importantes. Las grandes compañías de redes sociales podrían enfrentar multas de hasta un millón de dólares por cada niño afectado cuando se determine que fueron negligentes y causaron daños a menores a través de sus plataformas.

La normativa introduce además nuevas obligaciones relacionadas con la verificación de edad y la protección de la privacidad. El objetivo es que las plataformas puedan determinar cuándo deben aplicar las protecciones especiales sin convertir la recopilación de información personal de los menores en otro riesgo para su privacidad.

Este punto será particularmente complejo. Las empresas necesitan conocer la edad del usuario para aplicar determinadas restricciones, pero al mismo tiempo California establece límites sobre el uso de la información obtenida para realizar esa comprobación. La regulación estatal sobre estas cuestiones continuará desarrollándose durante los próximos meses.

California también apunta contra los chatbots de inteligencia artificial

La ofensiva tecnológica no termina en las redes sociales. El mismo paquete legislativo establece nuevas obligaciones para los denominados chatbots de compañía, sistemas de inteligencia artificial diseñados para mantener conversaciones prolongadas con los usuarios y que pueden llegar a funcionar como acompañantes virtuales.

La denominada “Adam’s Law” exige protocolos de crisis cuando un menor manifiesta señales relacionadas con ideación suicida, controles parentales y determinadas notificaciones de seguridad. También contempla evaluaciones independientes de seguridad infantil y evaluaciones anuales de riesgos para estos sistemas.

La decisión está vinculada al creciente debate sobre los riesgos de que adolescentes desarrollen relaciones de dependencia con sistemas de inteligencia artificial. El caso de Adam Raine, cuyo nombre lleva la legislación, se convirtió en uno de los episodios que impulsaron la discusión sobre las responsabilidades de las empresas que desarrollan chatbots destinados al público joven.

La batalla también alcanza la privacidad infantil

California incorporó además medidas relacionadas con la publicidad dirigida y el uso de información de estudiantes. Las nuevas disposiciones buscan limitar el aprovechamiento comercial de los datos de los menores y establecer mayores controles sobre la utilización de información de alumnos en sistemas de inteligencia artificial.

La estrategia refleja una preocupación cada vez mayor: la protección de los niños ya no se concentra solamente en impedir contenidos peligrosos, sino también en controlar la arquitectura tecnológica que determina qué ven, cuánto tiempo permanecen conectados y cómo las plataformas utilizan sus datos.

Las empresas tecnológicas cuestionan algunas restricciones

Las nuevas reglas no están exentas de controversia. Empresas tecnológicas y organizaciones defensoras de las libertades digitales han expresado preocupación por el impacto que podrían tener las restricciones sobre la personalización de contenidos, la privacidad y la libertad de expresión.

Los críticos sostienen que determinar qué constituye exactamente una función “adictiva” puede resultar complejo y que los sistemas de verificación de edad también pueden generar nuevos problemas de privacidad. La industria deberá adaptar sus plataformas mientras continúa el debate jurídico sobre hasta dónde pueden llegar los gobiernos estatales en la regulación del diseño tecnológico.

La discusión llega además en un contexto de fuerte presión sobre las grandes plataformas. En agosto, Meta acordó pagar hasta 18.000 millones de dólares y realizar cambios en Instagram y Facebook para resolver demandas relacionadas con acusaciones de que sus plataformas fueron diseñadas para generar adicción entre menores.

Un precedente que puede extenderse

California tiene una influencia particular sobre la industria tecnológica debido a que concentra buena parte de las principales empresas de Silicon Valley. Por ello, las reglas aprobadas en el estado pueden terminar teniendo consecuencias mucho más amplias que las estrictamente territoriales.

Si las compañías consideran demasiado costoso mantener versiones completamente diferentes de sus plataformas según cada jurisdicción, podrían optar por aplicar determinados cambios de seguridad a todos los usuarios estadounidenses o incluso a nivel internacional.

Otros estados y países también avanzan en regulaciones destinadas a limitar el impacto de las redes sociales sobre los menores. California busca ahora colocarse a la cabeza de ese movimiento.

La decisión californiana marca un cambio importante en la relación entre tecnología y protección infantil: el debate ya no se centra únicamente en qué contenido pueden ver los menores, sino en cómo están construidas las plataformas que utilizan todos los días. Al poner bajo control la reproducción automática y los algoritmos personalizados para menores de 16 años, California está cuestionando directamente un modelo de negocio basado en captar atención durante el mayor tiempo posible.

El desafío será encontrar el equilibrio entre protección, privacidad, innovación y libertad digital. Pero el mensaje político de California es claro: cuando una tecnología está diseñada para maximizar el tiempo de permanencia de un menor frente a una pantalla, el Estado considera que su diseño también debe estar sometido a reglas de protección.

Foto: Reuters / ABC Color