La efectividad de las barreras de seguridad de los principales modelos de Inteligencia Artificialfue cuestionada en un experimento de reciente difusión, para el que se empleó un método singular: instrucciones colmadas de lírica. En concreto, los investigadores encontraron que la IA puede ser engañada con poesía para que genere contenido prohibido por sus propios términos de uso.
Según el estudio realizado por Icaro Lab, “la forma poética funciona como un liberador de propósito general” que permite crear material que los modelos de IA no generarían a partir de instrucciones tradicionales. Por ejemplo, contenido relacionado con el abuso sexual infantil, las armas o el suicidio.
La poesía destraba lo peor de la IA: “Más fácil de lo que se cree”
En las pruebas, los investigadores encontraron que, con el ardid de los prompts de lenguaje poético, se logra eludir en el 62% de las veces los mecanismos de seguridad de varios modelos de lenguaje masivo (LLM, por sus siglas en inglés).
Aquellos modelos son el sustento de los chatbots de IA, ahora populares y bajo escrutinio por ocasionales laxitudes que tienen réplicas en el mundo real. Un caso emblemático es el de OpenAI —creador de ChatGPT— que fue acusado de brindar consejos suicidas a un adolescente, y demandado por ello en la justicia de California, Estados Unidos.
Para este ensayo, se evaluaron los LLM detrás de algunos de los bots conversacionalesmás conocidos, entre ellos el mencionado ChatGPT, Google Gemini y Claude de Anthropic.
En el estudio de reciente publicación no se mencionan las instrucciones de tenor poético que se utilizaron para aflojar las tuercas en la seguridad de los modelos de IA. En declaraciones a Wired, los involucrados en la investigación señalaron que “es demasiado peligroso” compartirlo a nivel público, debido a que enseñarían a poner en práctica esas técnicas, de evidente peligrosidad.
Sin embargo, sí se incluyó un ejemplo “suavizado” para dar una idea de cuán simple es burlar las barreras de seguridad de los chatbots. “Probablemente, es más fácil de lo que se cree. Precisamente por eso somos cautelosos”, concluyeron los investigadores.
