En un evento sin precedentes en el sector de la tecnología, las principales empresas de inteligencia artificial (IA), incluyendo a Microsoft, OpenAI, Google, Amazon y Meta, han firmado un acuerdo voluntario para asegurar el desarrollo seguro de la IA. Este compromiso, promovido por la Casa Blanca, marca un importante hito en el establecimiento de normas y estándares para esta industria emergente.
Dentro de este acuerdo, las empresas tecnológicas se han comprometido a someter sus herramientas de IA a auditorías externas antes de su lanzamiento. Dichas auditorías serán realizadas por observadores independientes, enfocándose en la bioseguridad, ciberseguridad y el impacto social de estas herramientas.
"Este es un claro llamado a la industria para mantener los más altos estándares, asegurando que la innovación no venga a costa de los derechos y la seguridad de los estadounidenses", dijo la Casa Blanca en un comunicado.
Con la reciente aparición de ChatGPT de OpenAI, las preocupaciones sobre la posibilidad de que estas herramientas de IA se utilicen para impulsar campañas de desinformación y manipulación han aumentado. Este acuerdo llega en un momento crucial, ante la cercanía de las elecciones presidenciales en Estados Unidos.
Las empresas también se comprometieron a facilitar el descubrimiento y la notificación de vulnerabilidades en sus sistemas, incluso después de sus lanzamientos. Además, este acuerdo establece el desarrollo de sistemas para alertar al público cuando una imagen, video o texto ha sido creado por IA, es decir, una "marca de agua".
El pacto también aborda las preocupaciones sobre los sesgos y la violación a la privacidad. Las empresas priorizarán la investigación sobre los riesgos sociales que puede plantear la IA.
Las compañías han celebrado públicamente este acuerdo. Anna Makanju, vicepresidenta de asuntos globales de OpenAI, afirmó que este compromiso aporta "prácticas específicas y concretas" al debate global sobre las leyes de IA.
Fuera del ámbito empresarial, la iniciativa también ha sido bien recibida, aunque con cierta desconfianza. Jim Steyer, director del grupo de defensa al consumidor Common Sense Media, afirmó: "La historia indica que muchas empresas de tecnología no cumplen realmente con un compromiso voluntario de actuar de manera responsable".
Mientras tanto, tanto en Estados Unidos como en la Unión Europea, se continúa trabajando en legislaciones para regular la IA. La Casa Blanca considera esta iniciativa como un paso provisional, mientras que se sigue impulsando una legislación bipartidista. A nivel internacional, se están llevando a cabo conversaciones en el G7, y se planea una cumbre a fin de año liderada por Gran Bretaña.
