En una reciente declaración, el CEO de Microsoft, Satya Nadella, ha expresado la urgencia de abordar el problema de los deepfakes que afectan a celebridades, específicamente señalando el caso de Taylor Swift. Estas imágenes falsas, generadas por inteligencia artificial sin el consentimiento de la artista, han desencadenado un llamado a la acción por parte de la gigante tecnológica. Vamos a explorar los detalles de este incidente y las medidas que Microsoft está tomando al respecto.

Nadella destacó la importancia de un internet seguro para todos, tanto creadores como consumidores de contenido. Haciendo referencia a las imágenes alteradas de Swift publicadas en la plataforma X (anteriormente Twitter), que alcanzaron más de 27 millones de vistas antes de que la cuenta responsable fuera cerrada debido a múltiples reportes.

Microsoft, una empresa con fuertes inversiones en inteligencia artificial, incluyendo su contribución a OpenAI, ha implementado herramientas como Copilot en productos como Bing. Nadella subrayó la responsabilidad de la compañía en establecer barreras tecnológicas para garantizar un entorno en línea más seguro.

Se reveló que las imágenes falsas se originaron en un grupo de chat de Telegram, donde los usuarios admitieron haber utilizado Designer, una herramienta de inteligencia artificial de Microsoft, para crear este contenido. La empresa está investigando activamente estos informes y tomará medidas necesarias para abordar la situación.

En respuesta, Microsoft reafirmó su posición a través de un comunicado, indicando que su Código de Conducta prohíbe el uso de sus herramientas para crear contenido íntimo no consensuado y que están trabajando en el desarrollo de barreras y sistemas de seguridad en línea.

Posteriormente, Microsoft ofreció una actualización, señalando que, tras la investigación, no pudieron generar las imágenes explícitas mencionadas y que han implementado mejoras en sus sistemas de filtrado de texto como medida de precaución.

La amenaza de deepfakes no consensuados de Taylor Swift destaca la necesidad de abordar de manera efectiva el mal uso de la inteligencia artificial. La respuesta de Microsoft, desde la investigación activa hasta las mejoras en los filtros de contenido, muestra un compromiso claro hacia la seguridad en línea. Este incidente subraya la importancia de la colaboración entre plataformas tecnológicas, fuerzas del orden y legisladores para establecer normas que mitiguen estos riesgos y salvaguarden la integridad de las personas afectadas por estas prácticas maliciosas.