Google está teniendo problemas con su intento de usar inteligencia artificial (IA) para gestionar las solicitudes de datos por parte de agencias gubernamentales y policiales. Tras despedir a parte de su equipo encargado de revisar estas peticiones legales, la compañía buscó la ayuda de la IA para agilizar el proceso, pero los resultados no han sido los esperados.
En el primer semestre de 2024, Google recibió 236,000 solicitudes de datos de fuerzas del orden de todo el mundo, lo que ha generado una creciente acumulación de peticiones. La empresa decidió usar IA para procesar estas solicitudes antes de que fueran revisadas por su equipo de Apoyo a Investigaciones Legales (LIS). Sin embargo, fuentes internas informaron a Forbes que las herramientas de IA, aunque entrenadas con el trabajo previo del equipo, no han sido eficaces y, en algunos casos, han creado más trabajo. Esto se debe a que las solicitudes procesadas por la IA necesitan ser revisadas y corregidas por humanos antes de ser enviadas a las autoridades.
A pesar de que la IA fue diseñada para acelerar el proceso, aún no ha logrado replicar el trabajo realizado por el equipo humano. Esto ha retrasado aún más el sistema, y recientemente, 10 ingenieros encargados de su desarrollo fueron despedidos. A raíz de esto, algunos empleados han cuestionado si es adecuado calificar las herramientas como “IA”, ya que su desempeño sigue siendo insuficiente.
Cooper Quintin, tecnólogo de la Electronic Frontier Foundation (EFF), señaló que el uso de IA en procesos legales es problemático, ya que estos sistemas tienden a "inventar" información. Quintin también advirtió sobre el riesgo de que la IA no detecte correctamente las solicitudes fraudulentas, un problema creciente en el que delincuentes falsifican órdenes judiciales para obtener información personal.
Google no ha comentado sobre los despidos ni sobre su enfoque de IA para gestionar solicitudes, pero asegura que sigue trabajando para mejorar la eficiencia operativa sin cambiar la forma en que evalúa las solicitudes legales. Sin embargo, expertos como Quintin consideran que la solución pasa por contratar más personal capacitado, en lugar de depender de una IA que no ha demostrado ser confiable para este tipo de tareas sensibles.
