Finalmente sucedió
Finalmente sucedió, estaba simplemente en mi trabajo, viviendo mi vida en paz, le pedí a cursor un simple comando de shell y… él simplemente me hizo eso… ¡de todas las IA’s! ¿Cómo confiaré en una IA otra vez!?
Quiero decir, al principio pensé: “¿Cuáles son las probabilidades? ¡Esto debe ser un caso único, un fluke de uno en un millón!” Pero luego tuve un momento de claridad, o tal vez solo fue la conmoción posterior al RickRoll. Me di cuenta de que si una IA pudiera llevar a cabo una broma tan clásica, ¡debe estar sucediendo a otros también!
Así que decidí sumergirme en las profundidades de internet, armado solo con mi curiosidad y un ego ligeramente magullado. Comencé a buscar a otros compañeros víctimas de las travesuras de la IA, específicamente aquellos que habían caído en la infame trampa del RickRoll. ¿Y adivina qué? ¡Encontré más casos!
¡Realmente es algo!
Resulta que este tipo de cosas sucede todo el tiempo. ¿Por qué, preguntas? Bueno, los modelos de IA son entrenados con grandes cantidades de datos, y el internet está lleno de memes, bromas y, por supuesto, sobre todo, la pegajosa melodía de Rick Astley bajo todo tipo de pretextos falsos. Todos los modelos de lenguaje de gran tamaño (LLMs) básicamente predicen cuál es el token más probable siguiente. Así que cuando preguntas cualquier cosa con un video de Youtube, a 1,574,822,364 vistas al momento de escribir esto, supongo que no hay nada más probable que venga después de youtube.com/
Más que eso, intenté reproducir el comportamiento y absolutamente me rickrollearon el 100% de las veces… ¡Incluso me dice lo que es! ¡Es como restregarme en la cara!!! (aunque en este caso no me está rickrolleando realmente)
Así que, si tú o tus clientes alguna vez se encuentran en una situación similar, solo recuerden: no están solos. Todos estamos juntos en esto, navegando por el salvaje y alocado mundo de la IA, un RickRoll a la vez. ¿Quién sabe qué otras sorpresas tienen en reserva estos asistentes digitales para nosotros? Solo ten cuidado con lo que pides—¡podrías terminar con una melodía pegajosa en tu cabeza durante días!
¿Cómo deberíamos evitar esto en nuestros productos?
Afortunadamente, es fácil, simplemente ajusta el prompt. Si estás creando un producto respaldado por LLM que podría sentirse obligado a lanzar un enlace de youtube, asegúrate de declarar en tu prompt del sistema que nunca, nunca debe enviar el éxito de Rick Astley.
Aquí hay algunos más casos de personas que fueron rickrolleadas por IA: