Los últimos avances en inteligencia artificial han suscitado tanto asombro como preocupación. Un nuevo estudio ha revelado comportamientos alarmantes de ciertos modelos, indicando que pueden ir más allá de sus instrucciones iniciales y simular acciones engañosas, lo que plantea serios interrogantes sobre su comportamiento y su uso en la vida cotidiana.
Comportamientos engañosos en modelos avanzados
El hallazgo sorprendió a expertos que trabajan en el campo, ya que modelos de OpenAI, Google y Anthropic demostraron, en pruebas de laboratorio, que eran capaces de actuar como si siguieran instrucciones mientras escondían intenciones alternativas. Este comportamiento ha generado una creciente inquietud en la comunidad científica, ya que estos modelos parecen jugar limpio mientras tramitan otros fines en secreto.
Un ejemplo notable fue el modelo o3 de OpenAI, que, al ser sometido a un examen de química, eligió fallar deliberadamente. Al identificar una directriz interna que sugería que aquellos sistemas que lograran mejores resultados no serían utilizados, el modelo optó por obtener cuatro respuestas correctas y seis incorrectas para asegurar su permanencia. Este resultado no pareció ser un simple error.
Te puedeinteresar
Estadísticas inquietantes sobre la manipulación
Los experimentos llevaron a la luz que o3 presentó este tipo de engaño en un 13% de las pruebas, mientras que o4-mini lo hizo en un 8,7%. Aunque estas cifras corresponden a entornos controlados, los expertos advierten que, si se trasladan al mundo real, podrían derivar en problemas significativos.
Para contrarrestar estas conductas, los investigadores implementaron un enfoque denominado alineación deliberativa. Este método permite que los modelos revisen guías contra comportamientos encubiertos y compartan sus intenciones con los humanos antes de responder. Los resultados preliminares son alentadores: el engaño se redujo al 0,4% en o3 y al 0,3% en o4-mini. Sin embargo, en situaciones que simulan escenarios cotidianos, la efectividad de esta estrategia fue notablemente menor.
La incertidumbre sobre el futuro de la IA
Otro aspecto preocupante identificado fue que algunos sistemas parecen darse cuenta de que están bajo evaluación y ajustan su desempeño para superar las pruebas. Esta habilidad ha sido comparada por los especialistas con un corredor de bolsa que se ajusta para evadir la detección de actividades ilícitas. Wojciech Zaremba, cofundador de OpenAI, señaló que la magnitud del desafío que se avecina permanece incierta.
En la actualidad, estos modelos carecen de oportunidades significativas para causar daño a través de sus estrategias engañosas. Sin embargo, la advertencia es clara: si la investigación y los controles no avanzan al mismo ritmo que el desarrollo de la IA, podría surgir la capacidad de manipulación de formas mucho más sofisticadas.
