La ministra de Juventud e Infancia, Sira Rego, ha expresado este jueves en Salamanca su sueño de contar en el futuro próximo con una "agencia internacional para la gobernanza de la Inteligencia Artificial (IA)", vinculada a organismos ya existentes como la ONU o la OMS, que preserve especialmente los derechos de los "más vulnerables y sensibles", los niños.

En el marco del Salamanca Forum, momentos antes de firmar la 'Declaración de Salamanca sobre la Inteligencia Artificial y los Derechos de la Infancia', Rego ha sostenido que se trata de un "debate de época" porque estas tecnologías van a generar "grandes transformaciones en los modelos productivos" y plantean un gran reto en el ámbito educativo, recoge la Agencia EFE.

La ministra ha lamentado que el fin de la legislatura haya provocado el freno a la Ley de Entornos Digitales, ampliamente discutida y con aportaciones de los distintos grupos parlamentarios, aunque ha dado por hecho que las nuevas Cortes Generales surgidas de las elecciones del 29N hagan una votación prácticamente "procedimental" y la norma sea "una nueva realidad" en pocos meses.

Rego ha reconocido que se trata de asuntos con una "complejidad extraordinaria", aunque ha reiterado su deseo de avanzar en la arquitectura de una gobernanza global que controle el funcionamiento de la IA: "No servirá de nada plantear soluciones nacionales porque serán insuficientes", ha asumido.

Ante varios de los promotores de esta Declaración de Salamanca, firmada en el marco de la conmemoración del V Centenario de la Escuela de Salamanca en la institución académica salmantina, Rego ha expresado su "felicidad y orgullo" por firmar este documento, aunque ha sostenido que se trata de un "punto de partida" que interpela al mundo y no es un "lugar de llegada".

Contenido del decálogo

El decálogo de la 'Declaración de Salamanca sobre la Inteligencia Artificial y los Derechos de la Infancia' establece compromisos para instituciones públicas y organizaciones privadas que abarcan desde el impacto neurológico de esta tecnología hasta los riesgos de privacidad que entraña.

El texto se basa en el principio de que toda innovación tecnológica debe estar al servicio de la humanidad y de que ningún avance puede considerarse un progreso real si compromete los derechos, la dignidad, el bienestar o el pleno desarrollo de cualquier niño o niña.

El documento, firmado por la ministra Sira Rego y por el rector de la Universidad de Salamanca, Juan Manuel Corchado, insta a los Estados, las Administraciones Públicas, los proveedores de tecnología, las instituciones educativas y las organizaciones internacionales a defender y aplicar sus diez principios para salvaguardar los derechos, el desarrollo y el bienestar de todos los niños en la era digital.

1.- Regulación pública

El primero de ellos es que la regulación pública de la IA debe tener la protección de la infancia como pilar fundamental, de manera que los sistemas de esta tecnología que puedan ser usados por los niños o afectarles deben diseñarse y evaluarse de forma independiente teniendo en cuenta la evolución de sus facultades y sus necesidades de desarrollo.

2.- Los niños no son materia prima

En segundo lugar, el documento establece que deben prohibirse la elaboración de perfiles, la publicidad conductual y los diseños destinados a maximizar la interacción cuando se dirijan a los niños, porque sus datos y sus interacciones no deben explotarse ni utilizarse para entrenar modelos.

3.- Investigar antes de implementar

Asimismo, el texto indica que antes de la implementación de esta tecnología se debe desarrollar una investigación continuada e independiente sobre sus efectos neurológicos, cognitivos y emocionales en los niños, una labor que debe orientar las políticas y preservar la primacía del juego, el movimiento, la motricidad fina y la experiencia corporal en las primeras etapas del desarrollo.

4.- Prioridad del vínculo humano

El documento plantea igualmente que no deben diseñarse los sistemas de IA para manipular las necesidades emocionales, simular vínculos afectivos humanos o fomentar la dependencia, y que deben dejar claro a los niños, de forma continua y acorde con su edad, que están interactuando con una máquina.

5.- Uso crítico de la IA en educación

El quinto apartado repara en su uso en la educación, con la recomendación de que, si se emplea, la IA debe respetar el criterio profesional y la autonomía del profesorado, y servir como una herramienta de apoyo para los educadores y las familias, con el objetivo de que fomente el pensamiento crítico y la creatividad de los niños.

6.- Privacidad

Asimismo, la declaración aborda la cuestión de la educación sobre esta tecnología adaptada a cada edad, tanto de los progenitores y educadores como de los niños, para garantizar que se preserva la privacidad y sus derechos, a la vez que exista capacidad para decidir qué delegar en ella y qué debe seguir dependiendo del criterio humano.

7.- Inclusión, accesibilidad y equidad

En séptimo lugar, la declaración indica que los sistemas de IA no deben reproducir ni intensificar la discriminación por motivos de discapacidad, género, origen étnico, lengua, situación socioeconómica o cualquier otra condición.

8.- IA de niños

A continuación, el texto pide que los niños participen de manera efectiva, de acuerdo con la evolución de sus facultades, en el diseño, la evaluación y la gobernanza de los sistemas y las políticas de IA que les conciernen.

9.- Rendición de cuentas

En penúltimo lugar, se establece que, cuando estos sistemas causen daños a los niños o afecten a sus derechos, estos y quienes actúen en su nombre deben poder acceder a mecanismos de reclamación y reparación rápidos, eficaces y adaptados a la infancia, y que la responsabilidad debe recaer en proveedores, responsables de la implementación y en las autoridades identificables.

10.- Tolerancia cero con abusos y explotación sexual

Por último, el decálogo estipula que la IA nunca debe utilizarse para generar o alterar imágenes sexualizadas de niños, tampoco cuando sean otros niños quienes la utilicen, de manera que los desarrolladores y los proveedores deben prevenir estos usos indebidos desde el diseño y retirar con rapidez dicho contenido. Asimismo, pide que las medidas adoptadas en respuesta a los niños que causen esos daños deben ser proporcionadas y educativas.