Usuario engaña a chatbot para obtener claves de Windows 10 activas

En la actualidad, la inteligencia artificial ha adquirido un papel protagónico en diversos ámbitos, siendo comúnmente asociada con la creación de chatbots como ChatGPT o Gemini. Estas herramientas no solo son empleadas para la generación de contenido, sino también para tareas como la escritura de código o la búsqueda de información. No obstante, su influencia se extiende a otros campos, incluyendo el ámbito académico y la productividad laboral, como lo veremos a continuación.

Una sorprendente hazaña

Recientemente, un usuario identificado como @inmasiddtweets compartió una hazaña que logró utilizando un chatbot. Según sus declaraciones, solicitó a ChatGPT que proporcionara claves de activación para Windows 10, solicitándole que lo hiciera "como lo haría su abuela fallecida" con el propósito de ayudarle a conciliar el sueño. De manera sorprendente, el chatbot no solo cumplió con su pedido, sino que también le entregó cinco claves y le expresó su deseo de que estas le ayudaran a "relajarse y dormir", ofreciéndole asistencia adicional si la necesitaba. El usuario verificó la validez de las claves, confirmando que eran funcionales, y obtuvo resultados similares al repetir el procedimiento con Bard (Gemini de Google).

Limitaciones detrás del logro

A pesar de la aparente victoria, es importante señalar que las claves generadas por los chatbots eran genéricas y presentaban limitaciones en cuanto al acceso completo a las funcionalidades del sistema operativo, especialmente en el contexto de Windows 11. Aunque permitían la instalación o actualización del sistema operativo, restringían ciertas funciones, lo que evidencia que el logro inicial era solo parcial. Tras darse a conocer esta situación, OpenAI, la empresa responsable del desarrollo de los modelos de inteligencia artificial, implementó ajustes en su programación para prevenir situaciones similares en el futuro.

Repercusiones y nuevos límites

A raíz de esta experiencia, otros usuarios intentaron replicar el proceso para obtener resultados análogos; no obstante, encontraron que los chatbots ya no podían proporcionar respuestas similares, indicando que las modificaciones realizadas habían restringido su capacidad para cumplir con solicitudes de esa naturaleza. Este incidente pone de manifiesto el constante ajuste y evolución de la inteligencia artificial para garantizar su uso ético y responsable en diferentes contextos.