Notas para el docente Taller: ¡Claro!, aquí tienes otra propuesta. ¿Tú que harIAs?

Vamos a analizar un poquito más ¿la IA necesita muchos datos de entrenamiento? Sí, por supuesto.

La Inteligencia Artificial aprende mediante el análisis de multitud de datos, conjuntos de datos enormes. Aquí es importante que seamos conscientes que hay datos que son más naturales, por ejemplo, el color de la pared y datos que son sintéticos, por ejemplo, si yo necesito muchas paredes de colores para entrenarla, y solo tengo 4, cojo esos cuatro y genero otros datos a partir de los naturales. ¿Qué sucede?

Que eso es maravilloso, es potentísimo pero si tenemos un sesgo en los datos originales, este se puede ampliar con los sintéticos. Si el equipo que ha estado trabajando en la IA tenía un sesgo previo, lo amplía con esa repetición. Así que mucho cuidado, tenemos que tener muy en cuenta que es una herramienta potentísima, pero que no es infalible.

Cada vez más las herramientas de inteligencia artificial están tratando de que sus modelos consulten información actualizada o al menos actualizar el modelo lo más rápido posible para que vaya reflejando los cambios que se ven en la red . Pero eso no siempre es así, significa que hay ocasiones que cuando una IA coge un conjunto de datos de entrenamiento, cierra el entrenamiento, las actualizaciones que hay en Internet a partir de ahí no siempre se reflejan inmediatamente en el modelo. Por lo tanto, puede haber, imaginaros, un desmentido científico que no haya dado tiempo a pasar a ese modelo de entrenamiento y nos esté dando una información al preguntarle sobre ese hecho que no sea todo lo cierto que es.

Aprende de lo que decimos o compartimos, por supuesto. Cuando interactuamos con la inteligencia artificial, estamos también enseñándole, está aprendiendo de nosotros y también nos está conociendo. Esto es muy importante, tenemos que ser conscientes de que nos está perfilando. Tiene muchísima información y muchos datos personales de nosotros.

Busca relaciones entre los datos, por supuesto, y respecto a su objetivo es la verdad, no. Es producir resultados creíbles, aparentemente lógicos y razonables, pero no necesariamente van a ser resultados totalmente correctos. Tenemos que verificar la información.

Es muy importante que entendáis que la responsabilidad nunca es de la persona que aparece en el vídeo, sino de quien lo crea y lo difunde sin consentimiento.

En esta opción vemos una reacción muy positiva por parte de Tomi.

Lo primero que hace no es juzgar a su amiga, sino buscarla y darle apoyo, entendiendo cómo puede estar, se trata de no quedarse solo con el problema. Apoyar a alguien en esta situación no es solo consolar, es acompañar y ofrecer ayuda, aunque solo sea estar a su lado en el proceso.

Dar el paso de hablar con los padres es difícil, y da vergüenza, pero es una decisión importante, porque una persona adulta de confianza nos puede ayudar a ver la situación con perspectiva y buscar soluciones.

Además de esto, hay otras cosas que también se podrían hacer y que es importante conocer, como el teléfono 017 para recibir orientación sobre cómo proceder y qué hacer en esta situación.

Otro punto clave es la empatía, compartir este tipo de vídeos hace un daño real a una persona, no es una broma y puede considerarse delito, por lo que no solo tienen consecuencias emocionales si no legales para las personas que lo difunden o simplemente lo tienen guardado.

Es muy importante que entendamos que la responsabilidad nunca es de la persona que aparece en el vídeo, si no de quien lo crea y lo difunde sin consentimiento, sea o no generado con IA.

Otro punto clave es la empatía con la víctima. Compartir este tipo de vídeos hace un daño real a esta persona. No es una broma, y es un delito, tiene consecuencias legales para las personas que lo crean, difunden o se lo guardan.

En este caso, Tomi borra el video, y es un buen primer paso, pero no es suficiente. Aquí vemos una realidad importante de Internet: una vez que algo se comparte, es complicado pararlo y el problema no se soluciona si otras personas lo siguen difundiendo.

Tomi podría haber mostrado su apoyo a Andrea, hablando con ella en privado para saber cómo está y acompañándola en este proceso, ayudarla a hablar con sus padres, aunque parezca difícil y de algo de vergüenza, o llamar al 017 para saber cómo poder frenar la difusión, eliminar el video de las plataformas o denunciarlo ante los cuerpos policiales.

La IA puede ser una herramienta maravillosa como apoyo en nuestro aprendizaje, para potenciar nuestra creatividad, etc. pero debemos usarla con responsabilidad, nunca para reírse, dañar, humillar o desnudar a nadie. Si nos llega algo así, está en nuestras manos cortar la difusión, eliminarlo y reportarlo.

También es importante entender que quedarse callado por miedo o vergüenza no ayuda a frenar el problema.

Es muy importante que entendamos que la responsabilidad nunca es de la persona que aparece en el vídeo, si no de quien lo crea y lo difunde sin consentimiento, sea o no generado con IA.

Otro punto clave es la empatía con la víctima. Compartir este tipo de vídeos hace un daño real a esta persona. No es una broma, y es un delito, tiene consecuencias legales para las personas que lo crean, difunden o se lo guardan.

En este caso, Tomi intenta proteger y ayudar a Andrea diciendo al resto de compañeros que el video que está circulando de ella es falso, generado con IA. La intención era buena, pero ha producido el efecto contrario, ahora más gente lo está viendo y compartiendo.

Aquí Tomi podría haber mostrado su apoyo a Andrea, hablando con ella en privado para saber cómo está y acompañándola en este proceso, ayudarla a hablar con sus padres, aunque parezca difícil y de algo de vergüenza, o llamar al 017 para saber cómo poder frenar la difusión, eliminar el video de las plataformas o denunciarlo ante los cuerpos policiales.

La IA puede ser una herramienta maravillosa como apoyo en nuestro aprendizaje, para potenciar nuestra creatividad, etc. pero debemos usarla con responsabilidad, nunca para reírse, dañar, humillar o desnudar a nadie. Si nos llega algo así está en nuestras manos cortar la difusión, eliminarlo y reportarlo.

En esta situación, Alex decide pagar creyendo que así ella borrará la foto y el problema desaparecerá. Parece comprensible, siente miedo, presión y vergüenza.

Pero aquí debemos saber algo importante sobre los chantajes en general y la sextorsión como esta en particular, y es que pagar nunca soluciona el problema, lo empeora. Ahora, le piden aún más dinero y ese bucle no parará hasta que Alex frene la situación.

Otra cosa importante a tener en cuenta son las amistades virtuales. En este caso, ¿creéis que cuando Álex le manda la foto a Marina siente que la conoce? Parece que le mola y se fía de ella, sin embargo Marina ha resultado ser otra clase de persona. De hecho, es relativamente frecuente que detrás de estos perfiles haya grupos criminales que estén buscando de vosotros dinero o fotos y vídeos cada vez más explícitos.

Aunque pueden parecer personas reales, en realidad utilizan fotos y videos de otras víctimas e incluso perfiles generados con IA, pudiendo hacer videollamadas realistas.

En este punto, Álex todavía puede hacer algo, lo primero, no ceder más al chantaje, pedir ayuda a un adulto de confianza, guardarse las pruebas, por ejemplo con capturas de pantalla y denunciarlo ante cuerpos policiales. Y para asesoraros sobre el proceso siempre podéis llamar ¿al? [Respuesta: 017]

En esta opción, Alex bloquea a la persona que lo está chantajeando, es un paso correcto, porque corta el contacto directo y evita seguir recibiendo amenazas, pero no es una solución completa, pueden intentar contactar por otro medio, como en este caso, que se ve una notificación nueva de Marina desde un número desconocido, manteniendo el chantaje o sextorsión.

Pero aquí debemos saber algo importante sobre los chantajes en general y la sextorsión como esta en particular, y es que pagar nunca soluciona el problema, lo empeora. Aunque ahora le vuelva a insistir es importante que no ceda.

En este punto, Álex todavía puede hacer algo más, lo primero, no ceder al chantaje, pedir ayuda a un adulto de confianza, guardarse las pruebas, por ejemplo con capturas de pantalla y denunciarlo ante cuerpos policiales. Y para asesoraros sobre el proceso siempre podéis llamar ¿al? [Respuesta: 017]

Otra cosa importante a tener en cuenta son las amistades virtuales. En este caso, ¿creéis que cuando Álex le manda la foto a Marina siente que la conoce? Parece que le mola y se fía de ella, sin embargo, Marina ha resultado ser otra clase de persona. De hecho, es relativamente frecuente que detrás de estos perfiles haya grupos criminales que estén buscando de vosotros dinero o fotos y vídeos cada vez más explícitos.

Aunque pueden parecer personas reales, en realidad utilizan fotos y videos de otras víctimas e incluso perfiles generados con IA, pudiendo hacer videollamadas realistas.

Esta opción nos muestra que cortar el contacto ayuda, pero sin apoyo y sin denunciar, el riesgo sigue ahí.

En esta opción, Alex toma la decisión más difícil, aunque también la más valiente, que es hablarlo con su familia.

Contarlo da miedo, vergüenza, cringe pero permite compartir la carga del problema y si lo hacemos con un adulto de confianza, nuestra familia, nos van a ayudar a resolverlo. A veces tus padres pueden no llevarlo bien y sobrereaccionar, exagerar, pueden tener una mala primera reacción, pero en el fondo, siempre van a estar apoyándote. Es importante que entiendan lo que está pasando para buscar ayuda, por ejemplo, llamando ¿al? [Respuesta: 017]

Otra cosa importante a tener en cuenta son las amistades virtuales, en este caso, aunque tarde, Alex se da cuenta del error y reflexiona diciendo ¡Si no la conozco! ¿Creéis que cuando Alex le manda la foto a Marina siente que la conoce? Parece que le mola y se fía de ella, sin embargo, Marina ha resultado ser otra clase de persona. De hecho, es relativamente frecuente que detrás de estos perfiles haya grupos criminales que estén buscando de vosotros dinero o fotos y videos cada vez más explícitos.

Aunque pueden parecer personas reales, en realidad utilizan fotos y videos de otras víctimas e incluso perfiles generados con IA, pudiendo hacer videollamadas realistas.

En esta opción Vic no se lo piensa mucho, confía porque cree que el vídeo lo ha publicado su Streamer favorito, pero en realidad no se para a comprobar que sea de verdad.

Lo importante es entender que hoy en día cualquiera puede crear un vídeo falso utilizando Inteligencia Artificial y que parezca real. Antes de descargarnos una aplicación, comprar un producto o compartir un video, tenemos que parar y pensar ¿Dónde lo estoy viendo? ¿es un perfil real? ¿Qué dicen sobre esto? si algo parece demasiado bueno para ser verdad, desconfía.

En este caso, no solo basta con darse cuenta, si encontramos un contenido falso o una posible estafa, es importante que lo reportemos/denunciemos para evitar que otras personas caigan también. Si tenemos dudas sobre cómo actuar o creemos que estamos ante un contenido falso o una estafa, podemos pedir ayuda y orientación gratuita al teléfono 017.

Anotación del caso:
Además, el juego al que jugaba Vic de utiliza una mecánica muy parecida a las loot boxes o “cajas de recompensa” que encontramos en muchos videojuegos. Nunca sabes exactamente qué te va a tocar y eso genera expectación y ganas de seguir probando, por eso es tan adictivo para los jóvenes. Este tipo de sistemas están diseñados para mantener nuestra atención y hacer que sigamos participando, incluso cuando no estamos obteniendo recompensas.

Hablar con otras personas antes de tomar una decisión puede ser un apoyo, pero tampoco debemos pensar que algo es cierto solo porque mucha gente lo crea.

En este caso, Vic decide preguntar a sus Bros, no está convencido del todo de lo que ha visto, quizás sus amigos puedan decirle algo. Ellos no se lo pensaron mucho, aunque le dan pistas como “yo no gano ni una”. Siente que es el único que no juega, por lo que esa presión social que puede sentir hace que quiera unirse al juego. Esto pasa muchas veces en internet: si vemos que otras personas participan, comentan o comparten algo, tendemos a pensar que es seguro.

Cuando tengamos dudas, además de preguntar a otras personas, conviene comprobar la información por nuestra cuenta antes de descargarnos una aplicación, comprar un producto o compartir un video, tenemos que parar y pensar ¿Dónde lo estoy viendo? ¿es un perfil real? ¿Qué dicen sobre esto? si algo parece demasiado bueno para ser verdad, desconfía. En este caso llegó a tiempo porque un amigo suyo avisó de que era falso y aquí lo importante es que, cuando veamos que algo es falso o puede ser una esta lo reportemos.

Si no tenemos claro qué hacer, el 017 puede orientarnos de forma gratuita sobre los pasos a seguir.

En esta opción Vic hace algo que deberíamos hacer siempre: no quedarse con lo primero que vemos, antes de descargarnos una aplicación, comprar un producto o compartir un video, tenemos que parar y pensar ¿Dónde lo estoy viendo? ¿es un perfil real? ¿Qué dicen sobre esto? si algo parece demasiado bueno para ser verdad, desconfía.

Muchas veces basta con dedicar unos minutos a comprobar quién publica el contenido, buscar información adicional o revisar si otras fuentes hablan de lo mismo.

En este caso, no solo basta con darse cuenta, si encontramos un contenido falso o una posible estafa, es importante que lo reportemos/denunciemos para evitar que otras personas caigan también. Si tenemos dudas sobre cómo actuar o creemos que estamos ante un contenido falso o una estafa, podemos pedir ayuda y orientación gratuita al teléfono 017.

¿Hay Inteligencia Artificial detrás de contenidos que consumimos en línea, sean redes sociales, plataformas de vídeo, plataformas de streaming?, ¿puede haber contenido de IA dentro de lo que nos comparten personas influyentes en estas plataformas?, ¿existe contenido IA en los resultados de búsqueda cuando escribimos en un buscador?, ¿el contenido generado con IA, está verificado, es fiable, nos aporta referencias?

Por supuesto que nos encontramos contenido generado con IA, manipulado con IA entre el mundo de los influencers, cada vez más en los resultados de búsqueda. Para todas aquellas personas que no lo tenéis claro, simplemente abrir la página de inicio del buscador que primero se os venga a la cabeza. Y si os dais cuenta, hay una opción en la mayoría que ya utiliza la IA para generarte una respuesta con un lenguaje más natural, más hilado.

Por otra parte, ¿el contenido con IA está verificado? No, aunque se va mejorando. Hay algunas plataformas de Inteligencia Artificial que empiezan a aportar referencias en sus respuestas. Aún así, hay que tener cuidado,la mayoría de los casos no nos dan ninguna referencia y tenemos que comprobar la información porque puede haber errores. La IA puede malinterpretar lo que estamos pidiendo o puede simplemente confundirse.

Cuando nos da referencias hay que fijarse bien porque pueden ser más o menos fiables. No es lo mismo acudir a un artículo académico de una entidad prestigiosa o de un organismo oficial, que irnos a una referencia proveniente de un medio de información de carácter local, restringido, limitado en la otra punta del mundo.

¿Elegimos lo que vemos en internet?

Es una pregunta fácil, ¿verdad? Lo normal sería decir, "pues claro, elijo lo que veo, para eso soy yo quien está usando el móvil, la tablet, la videoconsola". Pero vamos a ir un paso más allá, ¿busco directamente cada uno de los contenidos que yo quiero ver o por el contrario, tiendo a dejar que pase el siguiente, siguiente, siguiente..?

Pues efectivamente, tendemos a pensar que tenemos el control, que elegimos lo que vemos, pero la realidad es que, en la mayoría de los casos elegimos lo que vemos dentro de lo que la plataforma nos ofrece.

Por lo tanto, seamos conscientes de que lo que hay en él "para ti", en tu fid, normalmente no es algo que tú hayas elegido, sino que hay un algoritmo detrás tratando de elegir contenido que se adecúe a tus gustos, a tu historial.

Al hilo de esto, ¿Cómo funcionan los "algoritmos"?

Estos algoritmos que hay detrás de los sistemas de recomendación de contenidos en plataformas de redes sociales, de vídeos, ¿creeis que nos ofrecen contenido de manera aleatoria?, ¿intentan adaptarse a nuestro perfil, a nuestro historial, a nuestros intereses?, ¿pueden estar vinculándo los datos de uso dentro de esta plataforma con los datos que tengamos en otras plataformas o servicios? Por último, ¿el objetivo de este algoritmo es intentar predecir cómo nos vamos a comportar y adaptarse a nuestros interés?

Pues bien, los sistemas que utilizan algoritmos, no, no nos ofrece contenido de forma aleatoria, todo lo contrario, incluso cuando nos registramos por primera vez en una plataforma. Tratar de ofrecernos el contenido que mejor funciona para perfiles asociados al nuestro, es decir, lo que le gusta a otros chicos y chicas de nuestra edad y ¿Cómo sabe nuestra edad? Bueno, dependiendo de las búsquedas, dependiendo de nuestra actividad en otras plataformas, al final van cruzando información.¿Os suena el concepto de las cookies? es esa información que vamos dejando por Internet y que otros servicios y plataformas utilizan para luego mostrarnos información similar.

Tenemos que ser conscientes que este efecto puede llegar a influirnos en nuestro comportamiento. Al final, si yo únicamente estoy interesado, por ejemplo, en puertas, el algoritmo es probable que me vaya ofreciendo cada vez más (puertas de forja, de cristal, de madera, de color rojo, verde, amarillo, azul...) y al final puede llegar un momento en que se centre tanto en las puertas que no me haga consciente que también existen las ventanas.

Dicho esto, podemos poner la resolución del caso elegido