En la actualidad, la intersección entre la tecnología y el lenguaje plantea nuevas formas de vulnerabilidad. Desde la seguridad de nuestras credenciales digitales hasta la forma en que interactuamos con sistemas de inteligencia artificial (IA), la precisión y la intencionalidad de las palabras juegan un papel crucial.
La Gestión de Contraseñas y la Vulnerabilidad de la IA
La proliferación de servicios y aplicaciones online ha llevado a un aumento exponencial en el número de contraseñas que cada usuario debe gestionar. Una mala gestión de contraseñas se ve agravada por la dependencia de combinaciones comunes como nombres, palabras del diccionario y números. Tradicionalmente, se invita a las personas a crear contraseñas únicas y aleatorias para contrarrestar la vulnerabilidad que implica usar la misma contraseña en múltiples servicios.
Sin embargo, la creación y gestión de estas contraseñas puede ser una tarea ardua. Para enfrentar esta carga, las personas podrían verse tentadas a usar modelos de lenguaje de gran tamaño (LLM) como ChatGPT, Llama o DeepSeek para generarlas. La mayoría de los servicios y aplicaciones online requieren que el usuario cree una contraseña de acceso, y se les invita a crear contraseñas únicas y aleatorias para contrarrestar la vulnerabilidad que supone usar la misma contraseña múltiples veces.
Estudios sobre la debilidad de contraseñas generadas por LLM
Alexey Antonov, líder del equipo de Ciencia de Datos en Kaspersky, realizó una prueba y generó mil contraseñas usando algunos de los LLM más fiables, incluidos ChatGPT (de OpenAI), Llama (modelo del grupo Meta) y DeepSeek (nuevo en China). Antonov concluyó que dichas contraseñas no son seguras. Si bien ChatGPT no sufre tanto de este problema y genera contraseñas que parecen aleatorias, para que las contraseñas sean lo más seguras posible, todos los símbolos deberían aparecer aproximadamente la misma cantidad de veces.
Los algoritmos de estos LLM a menudo no insertaban un carácter especial o dígitos en la contraseña, afectando al 26% de las contraseñas para ChatGPT, al 32% para Llama y al 29% para DeepSeek. En 2024, el experto de Kaspersky desarrolló un algoritmo de aprendizaje automático para probar la fortaleza de las contraseñas y descubrió que casi el 60% de las contraseñas pueden ser descifradas en menos de una hora usando GPUs modernas o herramientas de descifrado basadas en la nube. Cuando se aplicó a las contraseñas generadas por IA, los resultados fueron alarmantes, ya que eran mucho menos seguras de lo que parecían: el 88% de las contraseñas generadas por DeepSeek y el 87% de las generadas por Llama no eran lo suficientemente fuertes como para resistir un ataque de ciberdelincuentes sofisticados.
La ética en la inteligencia artificial
El problema principal es que los LLM no crean una aleatoriedad verdadera. En este contexto, los gestores de contraseñas son una solución robusta, ya que todas las credenciales se almacenan en una bóveda segura, protegida por una única contraseña maestra. Además, los gestores de contraseñas proporcionan autocompletado y sincronización a través de dispositivos, agilizando los inicios de sesión sin comprometer la seguridad. Aunque la IA puede asistir en muchas tareas, la generación de contraseñas no es una de ellas. Los patrones y la previsibilidad de las contraseñas creadas por LLM las hacen vulnerables a ser descifradas, por lo que se recomienda invertir en un gestor de contraseñas fiable.
La Búsqueda de lo "Real" y la Influencia del Lenguaje en la Interacción con la IA
En el panorama actual dominado por la IA, se observa una tendencia a enfatizar la "realidad" de las cosas, como si la potencialidad de ser real fuese ahora un atributo que hay que reafirmar. Como dice el adagio "Excusatio non petita, accusatio manifesta": si algo se justifica sin que nadie lo haya pedido, claramente está confesando algo. Esto se ve reflejado en frases como "soluciones reales" o "conexiones reales". La máquina no se inventa nada; aprende de nosotros, que llevamos años inflacionando el lenguaje para vender cualquier cosa como importante.
Es paradójico que vivamos rodeados de tecnologías basadas en lenguaje natural justo en el momento en el que peor escribimos. Los autocorrectores nos enmascaran errores en el uso de tildes, haches y uves, haciéndonos parecer mínimamente competentes por escrito. Usamos emojis que encapsulan frases enteras, y la generación Z inventa nuevas palabras y expresiones constantemente. Ante el deseo de interactuar con un chat para obtener información de una compañía, surge la necesidad de hacer buenas preguntas, bien formuladas.
La Carga Ideológica de las Palabras y el Fenómeno de la Reificación
Pierre Bourdieu señalaba que las palabras que empleamos no son neutras, sino que llevan implícita una postura ideológica. Por tanto, habrá palabras que algunas personas no introducirán jamás cuando pregunten a una IA, por principios. Si hay señores y señoras que jamás escribirán "feminismo" en un prompt, su IA jamás les devolverá una idea feminista, porque la máquina solo puede devolverte lo que le entregas.
Pasa también lo contrario: hay palabras que ya no significan casi nada de tanto usarlas. "Futuro" es un ejemplo claro, utilizada por ideologías diversas hasta el punto de perder su poder. György Lukács llamó a esto "reificación": el proceso por el cual los seres humanos olvidamos que somos nosotros quienes producimos el mundo en el que vivimos. Esto sucede con la crisis climática, de la que hablamos en tercera persona, como si ocurriera al margen de nuestras formas de vida. O con el sistema, el capitalismo, el poder, y ahora con la inteligencia artificial.
Hablamos de estos conceptos como si nos cayeran encima, como por intervención divina. Sin embargo, la IA es la suma de millones de decisiones humanas e intereses de negocio; son personas concretas diseñando los casos de uso. Cada vez que decimos "la IA hará", estamos borrando del mapa a esas personas, lo que resulta cómodo porque "si la IA decide, yo no decido". Así, no solo el sujeto, sino también el objeto de nuestras preguntas desaparece.
Consecuencias de la "Pobreza Léxica" en los Prompts
En un evento, Remedios Zafra, explorando el trabajo de Simone Weil, destacó que vivimos en la era de la espectacularización, un régimen cultural que desactiva la empatía y produce deshumanización. Es en este contexto donde aterriza una tecnología basada en lenguaje natural, que aprende de cómo escribimos, en una época donde las personas no nos hacemos responsables de lo que decimos. Es lógico que nos devuelva, refinadamente, la deshumanización que ya practicamos.
Las palabras que falten en los prompts faltarán, por tanto, en las respuestas de la conversación y en las decisiones posteriores. Estas ausencias podrían ser cruciales: palabras que protejan a un colectivo vulnerable en la asignación de una ayuda social, que agilicen la valoración de una solicitud de empleo en tiempos de precariedad, que ayuden a descubrir un vacío en el sistema sanitario o que eviten el despido masivo de una plantilla. Si hay palabras que no entran en el prompt, no aparecerán en el output, ni en los presupuestos, ni en los KPIs. La pobreza léxica se traduce en pobreza material: gente que no es atendida, daños que nadie registra.
La Urgencia de Recuperar la Alfabetización Crítica
No debemos preocuparnos tanto por la calidad de las respuestas que nos da la inteligencia artificial, sino más por la calidad de las preguntas que estamos haciendo. Es fundamental reflexionar: ¿Qué cosas no aparecen nunca en mis prompts porque mi forma de pensar las excluye? ¿Qué prejuicios instalo en el sistema cada vez que "prompteo"? ¿Qué palabras me faltan? La alfabetización que muchas instituciones y gobiernos promueven debería pasar por recuperar el arte de la escritura antes de delegarla en estas tecnologías.
tags: #nube #de #palabras #ser #vulnerable