Menores e Inteligencia Artificial: nuevos retos

La Inteligencia Artificial o IA consiste en la habilidad de un sistema informático para realizar tareas para las cuales normalmente se necesitaría una inteligencia humana, como las relacionadas con el aprendizaje, el razonamiento, la resolución de problemas, la percepción o el uso del lenguaje. Aun siendo una tecnología en desarrollo desde los años 50, suele asociarse a un concepto futurista alejado de la realidad cotidiana.

Sin embargo, esta tecnología se ha popularizado recientemente a través de diversas aplicaciones accesibles al gran público, como el conocido ChatGPT. En este artículo te comentamos las claves para entender sus principales usos en el ámbito de niños/as y adolescentes, y cómo utilizarla de una forma positiva y segura.

Diferentes aplicaciones accesibles por menores

La IA está presente en multitud de aplicaciones y funcionalidades de las que hacemos uso tanto adultos como menores, como en el caso de asistentes virtuales, videojuegos, plataformas educativas o filtros de contenidos en redes sociales, por ejemplo. No obstante, la popularidad de la inteligencia artificial actual se debe a aplicaciones centradas en procesos específicos para determinadas tareas, en las que destacan:

• Chatbots y asistentes virtuales. Los cuales utilizan la inteligencia artificial para mantener conversaciones con los usuarios y proporcionar respuestas automatizadas a sus preguntas o solicitudes.
• ChatGPT y otros generadores de texto. Herramientas que utilizan algoritmos para crear contenido escrito de manera automática. Siendo capaces de generar artículos, historias, respuestas a preguntas e incluso conversaciones ajustándose a la temática tratada.
• Filtros para fotos y vídeos en redes sociales. Estas aplicaciones hacen uso de la IA para aplicar filtros a fotos y vídeos compartidas por los usuarios, ya sea en tiempo real o sobre un material multimedia previo. Suelen tener un componente lúdico y ciertas funcionalidades están presentes en la mayoría de las redes sociales enfocadas a la subida de fotos o vídeos.
• DALL-E y generación de imágenes para arte digital. Sistemas que utilizan técnicas de aprendizaje para generar imágenes de manera automática con un determinado estilo o enfoque, incluso adaptándose a las instrucciones dadas por el usuario.
• IA en videojuegos. La inteligencia artificial suele estar implementada para la creación de personajes no jugadores (NPCs) realistas con los que interactuar, ajustar la dificultad o retos del videojuego y mejorar la experiencia general del usuario, generando un contenido más inmersivo.
• Traductores automáticos. Herramientas que permiten la traducción e incluso el doblado de voz en tiempo real.
• Internet de las cosas (IoT). La inteligencia artificial se usa en dispositivos conectados del hogar, como robots de limpieza o asistentes de voz, para recopilar y analizar datos, lo que permite una automatización de ciertos procesos y toma de decisiones.

¿Qué es y qué no una aplicación inteligencia artificial?

Al tratarse de una tecnología con aplicaciones tan amplias, en ocasiones pueden surgir confusiones o mitos sobre las posibilidades que ofrecen estas herramientas en el día a día de menores y adolescentes. Por ello, te ofrecemos unas premisas mostrándote las oportunidades que ofrece y qué elementos deberíamos evitar de las mismas.

¿Qué nos ofrece una inteligencia artificial?

• Un apoyo para diversas tareas de utilidad práctica, como por ejemplo la traducción de textos y vídeos.
• Una fuente para obtener borradores para trabajos escolares, los cuales han de ser revisados, contrastados y modificados para, por un lado, garantizar la veracidad y calidad del resultado final, y por otro, contribuir al proceso de aprendizaje escolar.
• Una aplicación de generación de imágenes con la que fomentar la imaginación y pensamiento creativo.
• Una tecnología interactiva que ayuda al usuario a localizar información en un sitio web, le apoya en trámites o procesos, y generar un trato más asequible y humano con la tecnología y con la que es necesario estar al día para evitar problemas de privacidad con su uso, intentando no facilitar información personal.
• Funcionalidades de asistencia presentes en dispositivos IoT, como los asistentes de voz, los dispositivos portátiles o los juguetes conectados que mejoran la experiencia del usuario. De igual modo que con el punto anterior, también es necesario extremar las precauciones de la información facilitada para evitar riesgos para la privacidad, como por ejemplo el perfilado del usuario con propósito comercial o el espionaje de la información.

¿Qué no es una inteligencia artificial?

• Un experto válido para asesorar en diversas materias. No se trata de un profesional de la salud, un asesor legal o monetario, por ejemplo. En ocasiones estas tecnologías tienen dificultades para interpretar contextos de cierta complejidad, para generar análisis profundos en situaciones específicas. Existe un riesgo de sesgos en la información arrojada ya sea de forma deliberada o colateral.
• Una fuente veraz de información. Puede que el contenido que arrojen ciertas aplicaciones, como los generadores de texto, no se corresponda con la realidad.
• Una herramienta con la que tratar datos personales, ya que quedarían en manos de la empresa titular de la aplicación según sus términos y condiciones de uso, aunque además la propia aplicación de IA podría desvelarlos de forma inadvertida, con lo que el usuario podría encontrarse con una pérdida de privacidad no deseada.
• Un atajo para realizar íntegramente trabajos de clase. Ya que sin el necesario rigor, análisis y adecuación del autor/a se desvirtúa la adquisición y razonamiento de ideas y conceptos propios, y se puede caer en imprecisiones y errores.

¿Qué nos preocupa del uso de la IA por menores?

Respecto al uso que dan los/as menores de estas tecnologías, hay que tener en cuenta también posibles riesgos:

• Términos y condiciones. Al igual que con otro tipo de aplicaciones es necesario revisar sus términos y condiciones de uso, ya que suele especificar la edad mínima para su uso, si el usuario cede la información tratada y en qué condiciones. Por ejemplo, en los generadores de texto suelen utilizar las conversaciones ofrecidas para alimentar el proceso de aprendizaje de la herramienta, siendo además su edad mínima de uso marcada generalmente a partir de los 13 años.
• Privacidad. es importante no facilitar información personal. Si se introducen nombres, localizaciones, fotos, vídeos, audios u otra información sensible, la aplicación o servicio podría hacer uso de estos, incluso divulgarlos, y provocar una pérdida de privacidad.
• Discriminación y exclusión. A través de sesgos y prejuicios existentes a la hora de desarrollar sus algoritmos, algunas de estas aplicaciones pueden mostrar opiniones sesgadas, información inexacta o falsa, u omitir cuestiones relacionadas con ciertos colectivos. Los/as menores pueden sentirse excluidos o agravar una situación de discriminación por esta percepción.
• Suplantación de identidad y ciberacoso. Las herramientas basadas en IA pueden ser utilizadas para suplantar la identidad de una persona, por ello es importante educar a menores en un uso ético de estas aplicaciones para evitar ser víctima o utilizar de una forma negativa estas herramientas para afectar a otras personas.

En resumen, es muy importante educar y acompañar al/la menor en su uso de esta tecnología para evitar situaciones y comportamientos negativos. Estas herramientas tienen un gran potencial para ayudar en el desarrollo y aprendizaje de menores si se usan correctamente, pero siempre teniendo en cuenta sus factores de riesgo.

Contenido realizado en el marco de los fondos del Plan de Recuperación, Transformación y Resiliencia del Gobierno de España, financiado por la Unión Europea (Next Generation).