Trece nuevas leyes de California imponen ahora a las empresas de redes sociales e inteligencia artificial algunas de las obligaciones de seguridad infantil más amplias del país, y trasladan una parte cada vez mayor de la responsabilidad por los entornos digitales de los jóvenes de las familias y las escuelas a las empresas que los diseñan. El gobernador Gavin Newsom promulgó el paquete el 10 de septiembre, según una reseña de AP sobre las medidas, que restringen para los menores de 16 años los canales de contenido diseñados para fomentar la interacción, imponen nuevos controles a los chatbots relacionales, amplían la responsabilidad legal por daños, revisan las normas de verificación de edad y otorgan a las familias mayor autoridad sobre los dispositivos proporcionados por las escuelas.

Para los educadores, el paquete tiene importantes consecuencias, aunque la mayoría de sus requisitos recaen en las empresas tecnológicas y no en los distritos escolares. Durante años, las escuelas han intentado regular la conducta estudiantil en el punto de uso: limitan los teléfonos, filtran las redes, redactan normas de uso aceptable y enseñan alfabetización mediática. California pone ahora a prueba una premisa diferente: que la arquitectura de un producto puede crear riesgos que no pueden gestionarse únicamente mediante mejores decisiones de los niños, los padres o los docentes.

Las leyes no zanjan las controversias científicas ni constitucionales en torno a la tecnología utilizada por los jóvenes. Convierten esas controversias en cuestiones de implementación sobre funciones perjudiciales, determinación de la edad, evidencia de auditoría y acceso a comunidades beneficiosas en línea. Dado que California es tanto el estado más poblado como la sede de muchas empresas tecnológicas, las respuestas podrían influir en productos y prácticas escolares mucho más allá de sus fronteras.

Una norma para el diseño, no solo para el tiempo frente a la pantalla

El proyecto de ley AB 1709 de la Asamblea se enfoca en mecanismos específicos utilizados para mantener la atención, en lugar de establecer un límite diario de tiempo. Su texto legal define entre las funciones adictivas los canales algorítmicos y la reproducción automática, y prohíbe a las plataformas comprendidas por la ley ofrecerlas a usuarios menores de 16 años. Una plataforma todavía puede permitir que un joven mantenga una cuenta si se eliminan esas funciones, una distinción que convierte la ley más en un mandato para rediseñar la experiencia que en una prohibición categórica.

Esa distinción separa el acceso a la información de los mecanismos que la recomiendan continuamente. Un canal cronológico, un video solicitado o un mensaje privado pueden plantear riesgos distintos a los de un flujo interminable personalizado en función de interacciones previas. Por lo tanto, la ley trata el diseño de la interfaz como una variable regulable, no como un contenedor neutral del contenido.

El cumplimiento dependerá de la verificación de edad. Las plataformas deben verificar la edad del usuario antes de ofrecerle funciones restringidas, mientras que otra legislación relacionada actualiza el sistema estatal para transmitir señales sobre rangos de edad desde los sistemas operativos o las tiendas de aplicaciones. El resumen del AB 1856 aprobado por la Legislatura señala que esas señales deberán solicitarse solo cuando lo exija la ley, en un intento por evitar que la información sobre la edad se convierta en una herramienta de seguimiento de uso general.

Las disposiciones de cumplimiento son sustanciales: el AB 1709 autoriza sanciones civiles de hasta $50,000 por cada menor afectado en caso de una infracción cometida a sabiendas y de $25,000 por una infracción negligente. También crea una comisión asesora con especialistas en pediatría, psicología, tecnología, sociedad civil, ámbito académico y educación K–12. Esa estructura multidisciplinaria reconoce implícitamente que la tecnología utilizada por los jóvenes no puede evaluarse únicamente desde la perspectiva de la privacidad, la salud o el aula.

Los chatbots se someten a una norma diferente

La ley sobre chatbots relacionales adopta un enfoque más detallado porque los sistemas conversacionales pueden simular una relación, conservar recuerdos y responder en privado a un niño durante periodos prolongados. El proyecto de ley SB 1119 del Senado exige que los operadores que permitan usuarios menores de edad realicen evaluaciones de riesgo documentadas, publiquen políticas de seguridad infantil e implementen protocolos de respuesta ante crisis. Según el texto definitivo, los requisitos centrales entrarán en vigor el 1 de julio de 2027, mientras que las auditorías independientes comenzarán conforme a un calendario posterior.

Los controles predeterminados son inusualmente concretos. En las cuentas infantiles, la memoria conversacional persistente y las notificaciones automáticas generalmente deberán estar desactivadas; cada sesión continua estará limitada a una hora y el uso diario a dos horas, salvo que uno de los padres cambie esa configuración. El sistema deberá informar periódicamente que es artificial y no podrá afirmar que tiene conciencia, simular interés romántico, fomentar la dependencia emocional ni decirle a un niño que oculte su uso a uno de sus padres.

La ley también delimita las funciones de salud mental. Los operadores deben tomar medidas razonables para impedir que los sistemas fomenten la autolesión, los trastornos alimentarios o el consumo de sustancias, y que intenten diagnosticar o tratar afecciones, salvo que el producto sea un dispositivo médico regulado. Cuando se detecte una amenaza creíble e inminente de autolesión, el operador deberá facilitar acceso a servicios de apoyo en situaciones de crisis o notificar a uno de los padres vinculado a la cuenta, siempre que hacerlo no genere por sí mismo un riesgo grave.

Una disposición merece especial atención por parte de la educación superior: una institución de educación postsecundaria que ofrezca un chatbot relacional exclusivamente en entornos educativos queda excluida de la definición de operador de la ley. Esa exención no elimina las obligaciones institucionales conforme a las normas de privacidad, discapacidad, protección del consumidor o ejercicio profesional. Sí significa que las universidades no pueden suponer que el cumplimiento de un proveedor con el nuevo régimen para chatbots relacionales destinados a menores responde automáticamente a las preguntas independientes que plantean las herramientas de consejería u orientación en los campus, los bots de orientación o asesoramiento y los sistemas de apoyo estudiantil.

Las escuelas siguen formando parte del sistema de seguridad

El paquete de California llega cuando las escuelas sirven cada vez más como puerta de acceso a la tecnología, en lugar de ser simplemente un lugar donde aparecen dispositivos personales. Las nuevas medidas otorgan a las familias mayor autoridad para rechazar las computadoras portátiles proporcionadas por las escuelas, mientras que otra propuesta que afecta a los alumnos más pequeños restringiría los dispositivos que deben llevarse a casa y exigiría al estado elaborar políticas modelo. Incluso cuando una ley se aplique directamente a las plataformas, los directivos escolares enfrentarán sus consecuencias en las adquisiciones, la creación de cuentas, las preguntas de los padres y los protocolos de apoyo estudiantil.

El problema práctico es que las categorías de productos se superponen. Una plataforma de aprendizaje puede incluir mensajería, recomendaciones, inteligencia artificial generativa o personalización sin comercializarse como red social. Un chatbot de uso general puede estar disponible desde un navegador escolar aunque el distrito no haya contratado una licencia. Los administradores necesitarán inventarios que identifiquen las funciones integradas, porque el riesgo regulado puede residir en una función añadida después del contrato original.

Las escuelas también se encuentran en el límite entre la prevención y la respuesta. Si un chatbot comercial alerta a uno de los padres sobre un problema de seguridad, es posible que un estudiante llegue a la escuela necesitando apoyo inmediato; si no lo hace, un docente o consejero todavía podría ser el primer adulto en advertir su angustia. La American Academy ofrece recursos para educadores que hacen hincapié en los hábitos saludables y el contexto, en lugar de fijar una única cantidad universal de tiempo frente a la pantalla, lo que subraya que los controles legales no pueden reemplazar las relaciones humanas, el criterio profesional ni el acceso a la atención.

La evidencia respalda las salvaguardas y la prudencia

El enfoque de California centrado en el diseño refleja preocupaciones legítimas, pero la evidencia no respalda la afirmación simplista de que todo uso de redes sociales causa enfermedades mentales. Un informe consultivo federal determinó que hasta el 95 por ciento de los jóvenes de 13 a 17 años usaba alguna plataforma social y que, en un estudio longitudinal, más de tres horas diarias se asociaban con el doble de riesgo de resultados adversos para la salud mental. El mismo análisis destacó que los efectos varían según el niño, el contenido, la actividad y el grado en que el uso desplaza el sueño, la actividad física o la interacción presencial.

El informe de consenso de las Academias Nacionales también planteó el tema en función tanto de los daños como de los beneficios, entre ellos la conexión social, la formación de la identidad y el acceso a la información. Esa complejidad importa porque el argumento más sólido a favor de estas políticas no es que toda interacción digital sea peligrosa, sino que los niños no deberían cargar con todo el riesgo de sistemas optimizados con escasa evidencia independiente sobre sus efectos en el desarrollo.

Los críticos sostienen que la solución de California introduce otros peligros. La oposición de la Electronic Frontier Foundation argumenta que las definiciones amplias podrían excluir a los jóvenes de comunidades útiles y que la verificación de edad podría exigir la recopilación de datos confidenciales de identidad. El AB 1709 prevé parte de esa tensión al encomendar a su comisión asesora que estudie la privacidad, la precisión, la viabilidad y los efectos sobre los jóvenes marginados, pero un órgano asesor no puede por sí solo impedir la recopilación excesiva de datos ni resolver litigios constitucionales.

Por lo tanto, la implementación será tan importante como la promulgación. Los reguladores deberán distinguir entre señales de edad razonables y verificaciones intrusivas de identidad; los auditores deberán ser lo bastante independientes como para examinar algo más que la documentación; y los informes públicos deberán ser suficientemente detallados para orientar a familias e instituciones sin exponer los datos de los niños. Si esas condiciones son débiles, un régimen de seguridad podría generar cumplimiento formal y dejar intactas las dinámicas subyacentes de los productos.

La conclusión para los educadores

Para los directivos de K–12, el paquete de California convierte la gobernanza de la seguridad digital en una cuestión de gestión de productos, además de conducta estudiantil. La consecuencia institucional inmediata es la necesidad de saber cuáles servicios aprobados contienen canales personalizados, funciones relacionales, memoria persistente, notificaciones o mecanismos de verificación de edad, y si esos elementos pueden desactivarse sin eliminar el servicio educativo en sí. Es posible que las evaluaciones de adquisiciones deban examinar las valoraciones de seguridad, los canales para informar incidentes, los calendarios de auditoría y las actualizaciones sustanciales de los productos, además del precio, la accesibilidad, la ciberseguridad y la idoneidad pedagógica.

Para los docentes y el personal de apoyo estudiantil, las leyes aclaran que la alfabetización digital sigue siendo necesaria incluso cuando mejoran las salvaguardas a nivel de producto. Los estudiantes todavía necesitan comprender la persuasión incorporada en el diseño, los límites del asesoramiento automatizado y la diferencia entre la respuesta de un chatbot y el apoyo humano calificado. Las instituciones también necesitarán vías claras para escalar los casos cuando la tecnología detecte una preocupación relacionada con autolesiones, explotación o angustia aguda.

Para los directivos de educación superior, la exención educativa explícita de la ley sobre chatbots relacionales exige una lectura cuidadosa, no complacencia. Las universidades que desarrollen herramientas de asesoría, tutoría o bienestar podrían tener menos obligaciones bajo esta ley en particular, pero persisten las mismas preguntas sobre memoria, dependencia, divulgación y revisión humana. El experimento de California será más útil si los educadores consideran el cumplimiento legal como un mínimo y evalúan si cada tecnología promueve un propósito educativo definido sin generar costos evitables para el desarrollo, la privacidad o la seguridad.