Meta identificará en sus redes sociales audios, imágenes y videos generados por IA

Meta identificará a partir de mayo en sus redes sociales audios, imágenes y videos generados por inteligencia artificial (IA), informó este viernes el gigante tecnológico estadounidense, casa matriz de Facebook, Instagram y Threads.

«Prevemos empezar a etiquetar en mayo de 2024 contenido generado por IA», indicó en su blog Monika Bickert, vicepresidenta de contenido de Meta, añadiendo que la mención «Made with AI» , que ya se usa en imágenes fotorrealistas, se aplicaría en adelante a «un mayor número de contenidos de video, audio y de imágenes».

Estos contenidos serán marcados por la plataforma si detecta «indicadores de imagen de IA conformes a las normas de la industria» o si «las personas indican que están subiendo contenidos generados por IA», destacó.

De forma general, el grupo californiano anuncia que modificará su forma de tratar los contenidos creados con la IA, después de consultar a su junta de supervisión, ya que considera que «la transparencia y un mayor contexto son ahora la mejor manera de tratar los contenidos manipulados».

Con ello se evita «el riesgo de restringir innecesariamente la libertad de expresión».

En lugar de eliminarlos, como había estado haciendo hasta ahora, ahora agregará «etiquetas y contexto» a estos contenidos.

Sin embargo, advirtió Meta, cualquier contenido, ya sea creado por un humano o una IA, que viole sus reglas «contra la interferencia en procesos electorales, la intimidación, el acoso, la violencia (…) o cualquier otra política en nuestras normas comunitarias» será retirado.

Meta reafirmó que confía en su red de «aproximadamente 100 verificadores de datos independientes» para detectar contenidos generados por IA «falsos o engañosos».

La empresa matriz de Facebook anunció en febrero su deseo de etiquetar todas las imágenes generadas por IA para luchar contra la desinformación.

Otros gigantes como Microsoft, Google u OpenAI han asumido compromisos similares.

El temor es que las personas utilicen estas herramientas para sembrar el caos político, especialmente a través de la desinformación o la información errónea.

Hay varias elecciones importantes este año, especialmente en Estados Unidos.

Más allá de esas citas electorales, el desarrollo de programas de IA generativa conlleva la producción de un flujo de contenido degradante, según muchos expertos y reguladores, como las falsas imágenes («deepfakes») pornográficas de mujeres famosas, un fenómeno que también afecta a personas anónimas.

X (antigua Twitter) ha lanzado una nueva iniciativa para eliminar los ‘bots’ y aquellas cuentas que violen sus Reglas contra la manipulación de la plataforma y el ‘spam’, por lo que ha advertido que puee afectar al número de seguidores de los usuarios.

La red social de ‘microblogging’ liderada por Elon Musk dispone en su Política relativa al ‘spam’ que está prohibido utilizar los servicios de X con el propósito de «amplificar o suprimir información de forma artificial».

Tampoco permite llevar a cabo acciones que «manipulen u obstaculicen» la experiencia de los usuarios o las defensas de manipulación de la plataforma.

En este sentido, de cara a conseguir que X sea un espacio en el que los usuarios puedan «encontrar información fiable» y expresarse de manera «libre y segura», la compañía persigue el propósito de frenar las cuentas de ‘bots’ y el contenido de ‘spam’, algo que ya ha intentado llevar a cabo en diversas ocasiones con distintos métodos.

Por ejemplo, en octubre del pasado año la red social lanzó una función para limitar las respuestas de las publicaciones solo a usuarios verificados. Se trata de una herramienta que, tal y como adelantó Musk, se ideó para evitar las respuestas de ‘spam’ publicadas por ‘bots’.

Ahora, la red social ha lanzado una nueva iniciativa proactiva con la que eliminará aquellas cuentas que violen sus reglas sobre el contenido manipulado y el ‘spam’ y hagan un uso indebido de la ‘app’.

Así lo ha anunciado la plataforma a través de una publicación en la cuenta de seguridad de X, en la que ha indicado que, aunque tratarán de suprimir las cuentas de forma precisa, es decir, limitándose a aquellos perfiles que realmente estén quebrantando las reglas de la plataforma.

X también ha advertido de que «lanzarán una red amplia» para realizar esta limpieza de cuentas por lo que es posible que los usuarios observen cambios en el recuento de sus seguidores.

Es decir, al descartar cuentas que no respeten las normas frente al ‘spam’ y los ‘bots’, los usuarios pueden perder seguidores.

Finalmente, la red social ha recordado que, si un usuario ve su cuenta afectada por esta iniciativa «inadvertidamente», puede solicitar una apelación de la decisión a través de su página web de centro de ayuda de X.