Los niños ya están interactuando con las tecnologías de IA de muchas formas diferentes: están integradas en juguetes, asistentes virtuales, videojuegos y software de aprendizaje adaptativo. Su impacto en la vida de los niños es profundo, sin embargo, UNICEF descubrió que, cuando se trata de políticas y prácticas de IA, los derechos de los niños son una ocurrencia tardía, en el mejor de los casos.
En respuesta, la agencia de la ONU para la infancia ha desarrollado un borrador de Orientación política sobre IA para niños para promover los derechos de los niños y crear conciencia sobre cómo los sistemas de IA pueden defender o socavar estos derechos.
Conor Lennon de UN News preguntó a Jasmina Byrne, Jefa de Políticas del equipo de Global Insights de UNICEF, y Steven Vosloo, un especialista en datos, investigación y políticas de UNICEF, sobre la importancia de poner a los niños en el centro de las políticas relacionadas con la IA.
La tecnología de IA cambiará fundamentalmente la sociedad.
Steven Vosloo En UNICEF vimos que la IA era un tema muy candente y algo que cambiaría fundamentalmente la sociedad y la economía, especialmente para las generaciones venideras. Pero cuando analizamos las estrategias nacionales de IA y las políticas y directrices corporativas, nos dimos cuenta de que no se estaba prestando suficiente atención a los niños ni a cómo la IA los afecta.
Entonces, comenzamos un extenso proceso de consulta, hablando con expertos de todo el mundo y casi 250 niños en cinco países. Ese proceso condujo a nuestro borrador del documento de orientación y, después de que lo publicamos, invitamos a gobiernos, organizaciones y empresas a realizar una prueba piloto. Estamos desarrollando estudios de caso en torno a la orientación, para que podamos compartir las lecciones aprendidas.
Jasmina Byrne La IA se ha desarrollado durante muchas décadas. No es dañino ni benévolo por sí solo. Es la aplicación de estas tecnologías lo que las hace beneficiosas o perjudiciales.
Hay muchas aplicaciones positivas de la IA que se pueden utilizar en la educación para un aprendizaje personalizado. Se puede utilizar en la asistencia sanitaria, la simulación y el procesamiento del lenguaje, y se está utilizando para ayudar a los niños con discapacidades.
Y lo usamos en UNICEF. Por ejemplo, nos ayuda a predecir la propagación de enfermedades y mejorar las estimaciones de pobreza. Pero también existen muchos riesgos asociados con el uso de tecnologías de IA.
Los niños interactúan con las tecnologías digitales todo el tiempo, pero no son conscientes, y muchos adultos no lo saben, de que muchos de los juguetes o plataformas que utilizan funcionan con inteligencia artificial. Es por eso que sentimos que debe darse una consideración especial a los niños y debido a sus vulnerabilidades especiales.
Privacidad y afán de lucro
Steven Vosloo La IA podría estar utilizando el procesamiento del lenguaje natural para comprender palabras e instrucciones, por lo que está recopilando una gran cantidad de datos de ese niño, incluidas conversaciones íntimas, y esos datos se almacenan en la nube, a menudo en servidores comerciales. Entonces, existen preocupaciones sobre la privacidad.
También conocemos casos en los que este tipo de juguetes fueron pirateados y prohibidos en Alemania porque se consideraban lo suficientemente seguros.
Alrededor de un tercio de todos los usuarios en línea son niños. A menudo encontramos que los niños más pequeños están usando plataformas de redes sociales o plataformas para compartir videos que no fueron diseñadas pensando en ellos.
A menudo están diseñados para una participación máxima y se basan en un cierto nivel de elaboración de perfiles basados en conjuntos de datos que pueden no representar a los niños.
Jasmina Byrne, jefa de políticas del equipo de Global Insights de UNICEF, por UNICEF
El análisis predictivo y la elaboración de perfiles son particularmente relevantes cuando se trata con niños: la IA puede perfilar a los niños de una manera que los ponga en un determinado cubo, y esto puede determinar qué tipo de oportunidades educativas tienen en el futuro, o qué beneficios pueden acceder los padres para los niños. . Entonces, la IA no solo los está impactando hoy, sino que podría establecer el curso de toda su vida en una dirección diferente.
Jasmina Byrne El año pasado fue una gran noticia en el Reino Unido. El gobierno utilizó un algoritmo para predecir las calificaciones finales de los estudiantes de secundaria. Y debido a que los datos que se ingresaron en los algoritmos estaban sesgados hacia los niños de escuelas privadas, sus resultados fueron realmente espantosos y realmente discriminaron a muchos niños que pertenecían a comunidades minoritarias. Entonces, tuvieron que abandonar ese sistema.
Ese es solo un ejemplo de cómo, si los algoritmos se basan en datos sesgados, en realidad pueden tener consecuencias realmente negativas para los niños.
‘Es una vida digital ahora’
Steven Vosloo Realmente esperamos que nuestras recomendaciones se filtren a las personas que realmente están escribiendo el código. La guía de políticas ha estado dirigida a una audiencia amplia, desde los gobiernos y los responsables de la formulación de políticas que están estableciendo cada vez más estrategias y comenzando a pensar en regular la IA, y el sector privado que a menudo desarrolla estos sistemas de IA.
Vemos intereses en competencia: las decisiones en torno a los sistemas de inteligencia artificial a menudo tienen que equilibrar un incentivo de ganancias frente a uno ético. Lo que defendemos es un compromiso con la IA responsable que viene desde arriba: no solo al nivel del científico de datos o desarrollador de software, desde la alta dirección y los ministros de gobierno de alto nivel.
Jasmina Byrne La huella de datos que dejan los niños mediante el uso de la tecnología digital es comercializada y utilizada por terceros para su propio beneficio y para su propio beneficio. A menudo se dirigen a anuncios que no son realmente apropiados para ellos. Esto es algo que hemos estado siguiendo y monitoreando muy de cerca.
Sin embargo, diría que ahora hay más apetito político para abordar estos temas y estamos trabajando para incluirlos en la agenda de los responsables políticos.
Los gobiernos deben pensar y situar a los niños en el centro de todas sus políticas en torno a las tecnologías digitales de vanguardia. Si no pensamos en ellos y sus necesidades. Entonces realmente estamos perdiendo grandes oportunidades.
Steven Vosloo El gobierno escocés lanzó su estrategia de IA en marzo y adoptó oficialmente las directrices de política de UNICEF sobre IA para niños. Y parte de eso se debió a que el gobierno en su conjunto adoptó la Convención sobre los Derechos del Niño como ley. La vida de los niños ya no está realmente en línea o fuera de línea. Y ahora es una vida digital.
Esta conversación ha sido editada para mayor claridad y extensión. Puedes escuchar la entrevista aquí.
UNICEF / Schverdfinger
UNICEF ha desarrollado una guía de políticas para proteger a los niños de los posibles impactos de la IA.