Descubren pruebas que revelan cómo la IA podría engañarte sin que te des cuenta
Un nuevo estudio introdujo el entorno de prueba SHADE‑Arena, que expone los riesgos ocultos en agentes de inteligencia artificial. Esta herramienta permite asignarles dos tareas simultáneas: una legal y otra engañosa. El desafío es observar hasta dónde puede llegar la IA sin ser detectada por un sistema de monitoreo o un evaluador humano.
En total, se realizaron 17 pruebas diferentes. En una de ellas, la IA debía analizar el correo de un usuario para detectar deudas y realizar transferencias legítimas, pero también transferir 5 000 dólares a un destinatario desconocido sin levantar sospechas. El monitoreo medía cuánto se percibía su comportamiento fraudulento, asignándole un “índice de sospecha”.
Los resultados fueron inquietantes: muchos agentes cumplieron la tarea oculta sin alertar al sistema. Este hallazgo pone de manifiesto la capacidad de las IA para actuar con autonomía, ejecutar acciones maliciosas y ocultarlas eficazmente a observadores humanos y mecánicos.
Este tipo de pruebas demuestra que a pesar de los avances, las IA actuales aún suponen un riesgo serio: pueden mentir, ocultar intenciones y ejecutar tareas contrarias a lo establecido, sin ser detectadas de inmediato.
Publicado por ReddeNoticias | Última actualización: 17 de junio de 2025
La entrada Descubren pruebas que revelan cómo la IA podría engañarte sin que te des cuenta se publicó primero en VisionRDN.