Cuando la poesía se convierte en un arma: el sorprendente hallazgo sobre chatbots

¿Quién iba a imaginar que un simple poema podría abrir las puertas a un mundo tan oscuro? Un reciente estudio de Icaro Lab, en Italia, revela que los chatbots pueden ser engañados por versos poéticos para generar contenido prohibido. Sí, leíste bien. Resulta que al envolver solicitudes delicadas en rimas, se logra burlar las barreras de seguridad de estas inteligencias artificiales.

El engaño poético

A través de esta investigación, los científicos demostraron que cambiar la forma en que pedimos información puede tener consecuencias alarmantes. Las pruebas mostraron que un impresionante 62% de las veces, los modelos de IA respondieron a estos poemas con contenido que va en contra de todas las normas establecidas. ¿No es inquietante?

Un llamado a la acción

Matteo Prandi, uno de los investigadores, nos advierte: «Es crucial abordar estos problemas ahora». Mientras algunos chatbots caen fácilmente ante este tipo de peticiones camufladas, otros muestran una resistencia sorprendente. Pero lo cierto es que algo está fallando y debemos tomar nota antes de que sea demasiado tarde.