Desde hace unos días, la industria del mundo audiovisual de Hollywood se encuentra en alerta por la publicación de un video de una ficticia pelea entre Brad Pitt y Tom Cruise, la cual fue realizada completamente con Inteligencia Artificial (IA).
Tan sólo, ha sido la muestra de los alcances de una alta tecnología, que en las manos menos menos indicadas pueden generar un gran daño a distintas escalas, lo que ha hecho que cerca del 46% de los habituales usuarios de internet, ya no confían en lo que encuentra en la red.
Por esto, empresas especialistas en ciberseguridad como Norton, han lanzado una alerta sobre
los usos indebidos de la IA para manipular imágenes en línea, teniendo en cuenta que Colombia es uno de los países que más ciberataques recibe en la región, los cuales aumentan en épocas electorales.
Lo más preocupante es que es una tecnología que avanza rápidamente y es fácil acceder a ella, con la creación de imágenes con un alto nivel de realismo, incluidas imágenes falsas o manipuladas, reduciendo significativamente las barreras para el engaño en línea.
Norton advierte que, si bien el contenido generado por IA no es intrínsecamente dañino, pueden surgir riesgos cuando los estafadores hacen un uso indebido de estas capacidades como parte de estafas y tácticas de ingeniería social, utilizando imágenes para crear urgencia, ejercer presión, explotar la confianza o engañar a las personas en entornos digitales.
El uso de herramientas de IA para generar o alterar imágenes y crear deepfakes ha atraído cada vez más la atención en todo el panorama digital. Si bien abre interesantes oportunidades para el arte y la expresión creativa, el contenido generado por IA también puede crearse con fines de uso indebido y estafas en plataformas y redes sociales.
La capacidad de crear imágenes falsas muy realistas introduce nuevos riesgos, ya que este tipo de contenido podría aprovecharse en planes de engaño, fraude o extorsión diseñados para manipular emocionalmente o presionar a las personas.
“Con las herramientas de inteligencia artificial actuales, es posible hacer que casi cualquier persona parezca estar haciendo casi cualquier cosa en cuestión de segundos, sin necesidad de conocimientos técnicos. Esto cambia radicalmente lo fácil que es engañar y manipular a las personas en Internet”, afirma Iskander Sánchez-Rola, director de IA e Innovación en Norton.
Y agregó, “la IA puede hacer que las personas parezcan estar en lugares en los que nunca han estado, haciendo cosas que nunca han hecho o mostrándolas de forma comprometedora o engañosa. Este tipo de manipulación es extremadamente peligrosa y puede tener graves consecuencias en el mundo real”.
GRANDES PELIGROS
La inteligencia artificial en sí misma no es intrínsecamente peligrosa. En lo que respecta a la creación de imágenes, existen muchos casos de uso legítimos y positivos, desde el diseño y el arte hasta la educación y la accesibilidad.
Sin embargo, el riesgo surge cuando la IA se cruza con el engaño. Entre los ejemplos de usos peligrosos de imágenes generadas o manipuladas por IA se encuentran los perfiles románticos o sociales falsos, donde las fotos de perfil generadas por IA que se utilizan en aplicaciones de citas o plataformas sociales para crear identidades falsas creíbles, a menudo como parte de estafas románticas o planes de manipulación emocional a largo plazo. Todo esto muy usado en tiempos de San Valentín.
Imágenes que muestran recibos falsos, compras de lujo, accidentes, emergencias médicas o capturas de pantalla manipuladas, creando situaciones que parecen reales pero no lo son, y que se utilizan para presionar a las víctimas para que envíen dinero rápidamente.
Además, imágenes manipuladas diseñadas para poner falsamente a personas, o a personas cercanas a ellas, en situaciones comprometedoras o embarazosas, y que luego se utilizan para amenazar con revelarlas a menos que se realice un pago.
Imágenes que imitan a personas reales, como ejecutivos, figuras públicas o familiares, con el objetivo de obtener información confidencial, dinero o difundir información falsa como parte de ataques de ingeniería social.
Se ha visto un grave aumento del uso de imágenes muy realistas generadas por IA de productos que no existen o no se corresponden con la realidad, utilizadas para atraer a los consumidores a sitios web de comercio electrónico fraudulentos o anuncios engañosos en redes sociales.
Muchos solo buscan generar pánico y terror con imágenes que representan desastres, detenciones, lesiones o situaciones urgentes inventadas, creadas para provocar reacciones emocionales y empujar a las personas a actuar sin verificar.
CLAVES PARA REDUCIR EL RIESGO
Dado que el uso indebido de imágenes generadas o manipuladas por IA sigue aumentando, Norton recomienda tomar medidas prácticas para reducir la exposición en línea, principalmente compartir menos contenido visual públicamente, especialmente fotos o vídeos personales, ya que este material puede ser reutilizado, manipulado o sacado de contexto por terceros sin su consentimiento.
Al compartir imágenes de alta resolución, que pueden ser reutilizadas o alteradas más fácilmente.
Se recomienda un control de su presencia digital, buscando periódicamente imágenes o información personal para identificar posibles usos indebidos.
Desconfiar siempre de los mensajes inesperados que incluyan imágenes acompañadas de solicitudes de pago, amenazas o presiones urgentes, incluso cuando el contenido parezca real.
Verificar el origen del contenido antes de reaccionar preguntando quién creó o compartió la imagen, el contexto en el que apareció y si una fuente fiable confirma su autenticidad.
Evitar compartir o volver a compartir imágenes o vídeos de otras personas a menos que estés seguro de que proceden de una fuente fiable y representan contenido auténtico.
No interactuar directamente con personas que ejerzan presión y buscar orientación de una fuente fiable o de las autoridades competentes, de conformidad con la normativa local.
Además, se puede recurrir a herramientas tecnológicas, incluida la inteligencia artificial, para ayudar a identificar posibles signos de manipulación, complementando siempre estas herramientas con la verificación de la fuente, el contexto y la intención detrás del contenido.
La prevención, la verificación y la educación siguen siendo las herramientas más eficaces para hacer frente a los riesgos emergentes asociados al uso indebido de la inteligencia artificial.
- COLPRENSA
