ESTE NIÑO NO EXISTE: entre realidad y fantasía en la IA generativa
El niño que vemos en esta fotografía no es real, ha sido creado por un modelo generativo de Inteligencia Artificial. No existe, pero lo parece. Ha sido diseñado con Dall-e. Este retrato es solo un ejemplo que nos permite constatar cómo el avance de AI está alcanzando su cumbre mucho antes de que las personas sepamos cómo gestionarla. Cómo se confunden realidad y fantasía en la IA generativa. En los próximos años, esta situación será especialmente difícil para algunos especialistas, que no están preparados, ni legal, ni ética, ni cognitivamente, para convivir con este tipo de “realidades falsas” que la AI nos puede presentar.
CONTENIDOS
1. Desinformación, sesgos y abusos de la AI Generativa
2. Efectos inesperados de la IA Generativa
3. Propiedad Intelectual en la IA generativa
La IA Generativa puede producir contenidos, diseñar textos, artículos, imágenes, gráficos, la imagen de productos, logotipos y más. Podrá ayudar a las empresas a agilizar y a automatizar el proceso creativo, ahorrando tiempo y recursos en la elaboración de productos originales. Así que esta tecnología tiene muchísimas ventajas. Pero también hará que nos tengamos que enfrentar a grandes retos y peligros. Esa es la verdad.
Y uno de los retos más importantes es el de la veracidad de los modelos de contenido. Pues los textos, los videos, los audios y las imágenes alcanzan tal grado de perfección, que se vuelven indistinguibles para el ojo, el oído o el cerebro humano. Y lo que atemoriza más aún, no seremos capaces de distinguir entre realidad y fantasía en la IA generativa.
En el post de hoy reflexionaremos sobre cuáles son, actualmente, las más importantes consecuencias que está produciendo el uso de la AI Generativa.
1. Desinformación, sesgos y abusos de la AI Generativa
Los resultados de estos modelos generativos producen diversos tipos de problemas de veracidad. Por una parte, están las mentiras no deliberadas de la AI. Ello es consecuencia de que los modelos de lenguaje, como cualquier otro modelo de AI Generativa, dada la potencialidad que tienen para generar frases sintácticamente correctas, pueden crear frases que suenen plausibles, pero que no se correspondan con la realidad. No mienten, porque no pueden mentir, pero debido a su propio mecanismo, a cómo están configurados, a veces ofrecen una información que no es correcta e incluso se la pueden inventar dependiendo del contexto. Que no se pueda distinguir entre realidad y fantasía en la IA generativa genera una importante carga de desinformación
Otro tema importante son los los sesgos de opinión. Aprender sobre todo lo que hay en internet, cuyos contenidos son muy variados, puede resultar muy complicado. Es por ello que OpenAI, la empresa creadora de ChatGPT, ha intentado evitar algunas cosas, como el discurso del odio o el tema de la desinformación, aunque todavía no lo ha conseguido del todo. Le queda mucho camino por delante.
En el 2017, por ejemplo, una IA se volvió machista y comenzó a asociar nombres femeninos a palabras relacionadas con tareas domésticas o cuestiones familiares. En realidad, lo que sucede es que muchos modelos de aprendizaje automático se entrenan a partir de datos humanos a gran escala y aprenden con la estadística, buscando la probabilidad que tiene una palabra de estar junto a otra. Así que lo que sucedió en realidad con la AI en este caso, fue que repitió los errores propios de la conducta humana.
Esto no tiene por qué ser del todo malo, pues nos coloca frente a un espejo, dejándonos ver cómo trabaja nuestra mente inconsciente. Hoy, solo 6 años después, este tipo de incidencias están más limitadas y la propia AI es capaz de autocorregirse a ella misma, aunque sigue siendo una materia compleja.
(continúa más abajo)
En este área, la mayor dificultad no se encuentra en las grandes empresas ni en las aplicaciones de AI que puedan tener los usuarios, ya que a todos ellos se les podría obligar, en el futuro, a colocar algún tipo de marca para distinguir su contenido. No, el gran problema parece que estará en los grandes generadores de contenidos y en las plataformas. Estas podrían publicar contenidos generados por IA, sin gastar demasiados recursos, y prescindiendo del talento humano. La reciente huelga de actores y guionistas en EEUU tiene su origen en esta situación, como veremos en el punto 3.
Por último, está el caso de las “Deep fakes”, que pueden utilizar la imagen de personajes reales, voz incluida, y poner en su boca palabras que no han dicho. A nuestros ojos, esta falsificación sería indistinguible de una grabación real, y podría generar una gran manipulación en la que no se distinga entre realidad y fantasía en la IA generativa. Por eso, la única solución a los problemas de la AI, está en la propia AI. Y de hecho, ya se han desarrollado tecnologías de AI para detectar los contenidos falsos desarrollados con AI.
2. Efectos inesperados de la AI Generativa
Si bien ya se ven algunos efectos de la AI Generativa, los expertos aseguran que muchos más se manifestaran, según avance el tiempo. Ahora ya sabemos, por ejemplo, que las redes sociales han promovido la polarización de la sociedad con algoritmos que priorizan los conflictos. Y que esto no está regulado. En este aspecto, habrá que demandar más agilidad a la Administración, para que sea capaz de prever los problemas antes de que sucedan.
Un tema sorprendente, objeto de múltiples investigaciones, ha sido el uso de filtros de belleza en las redes sociales con fotos de usuarios, pues ha creado la patología llamada dismorfia. Se trata de una alteración psicológica entre la percepción de uno mismo en el mundo físico y el mundo digital. Esta disfunción puede dar lugar a ansiedad, depresión, a un aumento exponencial de cirugías estéticas en chicas adolescentes y en el peor de los casos, a suicidios. Se ha comprobado, también, que estos filtros reducen la diversidad y homogeneizan la belleza. Las caras embellecidas son más similares unas a otras que las caras normales. Estos filtros aplican un mismo canon de belleza para todos y, por lo tanto, también se homogeneizan los cuerpos, que independientemente de la raza, se vuelven más flacos.
3. Propiedad Intelectual en la AI generativa
Otro de los retos que suscita la Al Generativa es el de la propiedad intelectual. Debemos recordar que estos sistemas de AI aprenden gracias a ingentes cantidades de información que absorben de internet, y que es por eso que sus creaciones en imágenes pueden ser tan sumamente realistas. La cuestión es que, al basarse en millones y millones de imágenes de personas, no le han pedido permiso a nadie para utilizar los rasgos de su imagen. Y esto podría ser ilegal. El problema se agrava cuando se utilizan grabaciones de actores y actrices para generar imágenes o vídeos de ellos mediante IA. El mayor valor de un actor es su trabajo interpretativo, y este podría ser emulado sin remunerarse adecuadamente, motivo por el cual los actores y guionistas se unieron en una de las huelgas más importantes en décadas.
En la propiedad intelectual también hay otros problemas importantes. Por ejemplo, al programa de Dall-e se le puede pedir imágenes que imiten a un artista concreto y muchas veces su resultado, puede ser indistinguible de lo que el propio artista haría. Y en esta copia de estilo no se está involucrando al artista original. Por eso existe el gran miedo de que estas creaciones de la AI Generativa puedan afectar a la propiedad intelectual, que en realidad es el único gran valor imperecedero que poseen artistas y creadores. Este campo de batalla será, sin lugar a dudas, el que mayores conflictos de intereses provoque en el futuro.
