Automatización Peligrosa para Adultos Mayores: IA y Riesgos Digitales

El uso de modelos de inteligencia artificial (IA) en ataques de phishing está revolucionando el panorama del fraude digital. Técnicas como el jailbreaking permiten que los atacantes superen las restricciones de los grandes modelos de lenguaje (LLMs), generando mensajes de phishing increíblemente convincentes. Investigadores han demostrado que incluso los modelos más avanzados pueden ser vulnerados mediante ingeniería de prompts y uso de roles simulados, resultando en correos capaces de engañar a perfiles especialmente sensibles como los adultos mayores.

Evidencia del Impacto Real: Estudio y Resultados

Un estudio reciente (Heiding y Lermen, 2025) evaluó seis modelos líderes de IA y mostró que con jailbreaks efectivos, hasta el 11% de los adultos mayores que participaron en un experimento real hicieron clic en enlaces fraudulentos creados por IA. Los mensajes variaban desde notificaciones falsas de beneficios gubernamentales hasta engaños de suplantación de identidad de familiares. Este nivel de efectividad demuestra lo fácil que es para los ciberdelincuentes automatizar y escalar estos ataques a bajo costo, aumentando el riesgo para poblaciones vulnerables.

Limitaciones de los Controles Actuales y Riesgos para el Ecosistema

El análisis destaca que los guardarraíles de seguridad actuales en la mayoría de los modelos de IA no son suficientes para detener la generación de contenido malicioso si se utilizan técnicas de jailbreak. La barrera de entrada para los atacantes es cada vez menor, lo que permite que tanto actores sofisticados como novatos en cibercrimen desplieguen campañas altamente personalizadas. Para startups y organizaciones del ecosistema tech en LATAM, este escenario exige una revisión constante de sus estrategias de concientización en seguridad digital, considerando que los adultos mayores suelen ser usuarios frecuentes de servicios financieros y digitales.

Implicancias para la Regulación y Buenas Prácticas

El estudio subraya la urgencia de fortalecer los controles a nivel de plataforma (AI safety) y avanzar en políticas públicas más robustas. Las startups y empresas tecnológicas pueden contribuir implementando monitoreo de actividades inusuales, campañas educativas proactivas y colaborando con comunidades especializadas para identificar nuevas variantes de ataques. Asegurar la protección de poblaciones vulnerables será clave para la adopción responsable y sostenible de IA en la región.

Riesgos de Internet y Estafas Digitales para Personas Mayores

La inteligencia artificial (IA) se ha integrado en la vida cotidiana, pero su uso inadecuado presenta riesgos significativos, especialmente para las personas mayores. Estos riesgos incluyen:

• Desinformación y noticias falsas: La IA puede generar contenido falso, como noticias, imágenes y videos, que pueden ser creíbles pero engañosos.
• Estafas digitales: Los estafadores utilizan la IA para hacer sus engaños más convincentes, buscando objetivos económicos o el robo de datos personales.
• Robo de datos personales: Algunas estafas buscan obtener información sensible para suplantación de identidad o fraude financiero.
• Suplantación de identidad: La IA puede ser utilizada para imitar voces o rostros de familiares, creando situaciones de pánico para solicitar dinero o información.

La IA se puede usar como un aliado perfecto a la hora de intentar engañar o estafar a los mayores:

• Deepfakes de vídeo y voz: Capaces de imitar a un familiar, a un político o a una persona conocida, diciendo cosas que nunca dijo.
• Phishing muy convincente: Mensajes que llegan en diferentes formatos y medios, muy bien redactados con el estilo exacto de un banco o una institución, lo que los hace muy creíbles.
• Chatbots maliciosos: Cadenas que piden reenviar un mensaje, audios que anuncian remedios milagrosos o noticias alarmistas que buscan crear miedo.

Ejemplos comunes de estos engaños incluyen audios de “médicos” recomendando remedios caseros, noticias falsas sobre vacunas o pandemias, videos manipulados donde una figura pública dice algo que nunca dijo, o inversiones que prometen ser muy beneficiosas.

Estafas Digitales Comunes

Entre las formas más peligrosas de engaño, muchas de las cuales buscan un objetivo económico, se encuentran:

• Phishing bancario: Un SMS o correo electrónico que parece del banco pide hacer clic en un enlace e introducir claves. El diseño y contenido imitan la web real, cada vez mejor creados.
• Falsas llamadas de organismos oficiales: Una voz automatizada dice ser de la Seguridad Social, Hacienda o de compañías de teléfono, gas o electricidad, a veces usando IA para sonar como una persona real.
• Fraudes familiares: Mensajes como “Soy tu nieto, necesito dinero urgente”, ahora potenciados por IA para imitar la voz del familiar.
• Inversiones milagrosas: Anuncios en redes que prometen ganar mucho dinero en poco tiempo, a menudo usando imágenes de famosos sin su permiso.
• Romance scam o estafa del amor: Un supuesto amigo o pareja virtual establece un vínculo afectivo para luego pedir dinero, siendo las personas mayores que sufren soledad especialmente vulnerables.

Claves para Prevenir Riesgos en Adultos Mayores

Para reducir la exposición a estos peligros, se pueden transmitir medidas sencillas a las personas mayores:

Tres Reglas a Seguir Siempre

• Desconfía de lo urgente: Si un mensaje mete prisa, seguramente es un engaño.
• Coteja siempre: Busca confirmación en una fuente oficial o pregunta a alguien de confianza.
• No compartas lo no confirmado: Evita reenviar cadenas, audios o noticias dudosas.

Es fundamental hablar abiertamente en la familia sobre los riesgos digitales. Cuando las personas mayores sienten que pueden preguntar sin ser juzgadas, se genera un clima de confianza. Hijos, nietos u otros familiares deben explicar con calma cómo funcionan los timos habituales y animarles a consultar cualquier duda antes de hacer clic, reenviar un mensaje o dar un dato personal. Un simple “pregúntame antes de contestar a esto” puede evitar una estafa.

El Lado Positivo: Cómo la IA Puede Ayudar a las Personas Mayores

La inteligencia artificial también tiene un enorme potencial para mejorar la vida de los mayores:

• Recordatorios de medicinas y citas médicas: Aplicaciones que avisan de la hora de tomar pastillas o acudir a una cita.
• Asistentes de voz: Permiten encender luces, poner música, hacer llamadas o buscar información con solo pedirlo en voz alta.
• Compañía y entretenimiento: Herramientas de IA que conversan, cuentan chistes, leen noticias o libros.
• Seguridad en casa: Cámaras inteligentes que detectan caídas o movimientos extraños y avisan automáticamente a la familia.
• Ejercicios de memoria y estimulación cognitiva: Juegos y pasatiempos adaptados para mantener la mente activa.
• Accesibilidad: Programas que leen textos en voz alta o transcriben a texto lo que otros dicen.
• Facilidad de comunicación: Videollamadas más sencillas, donde basta con decir el nombre del familiar para establecer la conexión.

La IA puede convertirse en un auténtico “bastón digital” que acompañe, proteja y facilite la vida diaria de las personas mayores.

Tecnología para Mejorar la Seguridad Personal

La tecnología es un poderoso aliado para la protección de los adultos mayores. Los últimos avances tecnológicos han permitido la creación de dispositivos y aplicaciones que mejoran notablemente la seguridad personal:

• Sistemas de alarma: Sistemas modernos que incorporan numerosos dispositivos de disuasión y detección, interconectados a una central que alerta ante cualquier emergencia.
• Cámaras de vigilancia: Cámaras de seguridad conectadas a internet que monitorean los hogares en tiempo real desde cualquier lugar.
• Botón de pánico: Dispositivo eficaz que envía señales de alerta inmediatas, activando protocolos de respuesta.
• Apps de celulares: Aplicaciones que activan alarmas y envían la ubicación de la persona mayor, vía GPS, a servicios de emergencia y otros contactos, agilizando la respuesta.
• Uso de la Domótica: La automatización de los hogares aumenta la seguridad al permitir un control absoluto de sistemas de alarma, cerraduras y luces a través de un celular.

IA en el Cuidado de Mayores: Seguridad y Privacidad

El uso de inteligencia artificial (IA), sensores avanzados y radares está transformando el cuidado de mayores. El envejecimiento de la población es un desafío global que demanda soluciones innovadoras para garantizar el bienestar de los mayores sin comprometer su autonomía. Entre las principales preocupaciones de los cuidadores y familiares se encuentran las caídas, la desorientación y otros problemas que pueden comprometer seriamente la seguridad de las personas mayores, como la pérdida de orientación o los episodios de confusión mental.

Tradicionalmente, la supervisión se basaba en la observación directa o en dispositivos que requerían la intervención activa del propio usuario. Aquí es donde la inteligencia artificial (IA), los sensores avanzados y los radares juegan un papel clave.

Detección de Caídas y Protección de la Privacidad

Las caídas son una de las principales causas de hospitalización en la tercera edad. Según la OMS, una de cada tres personas mayores de 65 años sufre una caída al menos una vez al año, y muchas de ellas pueden tener consecuencias graves. Aunque las alarmas personales colgantes han sido comunes, tienen limitaciones, especialmente para aquellos con demencia u otros trastornos cognitivos.

Para superar estas limitaciones, se han implementado cámaras inteligentes y sistemas de radar que pueden detectar automáticamente caídas sin intervención del usuario. Los radares, como parte integral de la solución, ofrecen una ventaja clave: permiten detectar la presencia y los movimientos de una persona sin invadir su privacidad. La privacidad es un derecho fundamental, especialmente en espacios personales como el hogar o las residencias. La integración de estos sistemas con plataformas de teleasistencia y sistemas de llamada paciente-enfermera es esencial para garantizar una atención inmediata y eficiente.

Uno de los aspectos más importantes al implementar estas tecnologías en el cuidado de mayores es la protección de la privacidad y la seguridad del residente. Las cámaras de visión térmica, que capturan imágenes sin permitir la identificación de la persona, son una solución clave para abordar este desafío. Además, se incorporan tecnologías de anonimización de imágenes, garantizando que los datos capturados no se almacenen de forma identificable, y cumpliendo con las normativas de protección de datos.

"Es crucial encontrar el equilibrio entre la seguridad y la privacidad. La inteligencia artificial, los sensores avanzados y los radares están revolucionando el cuidado de mayores, permitiendo una supervisión más eficaz y respetuosa con la autonomía y la privacidad de los usuarios."

Riesgos de la IA y Estrategias de Gestión

La inteligencia artificial (IA) tiene un enorme beneficio, pero aprovechar todos sus beneficios significa afrontar y manejar sus posibles escollos. A continuación, se presenta un análisis más detallado de los peligros de la IA y las estrategias de gestión de riesgos:

1. Sesgos humanos reflejados en la IA: Los sistemas de IA pueden aprender sesgos presentes en los datos de entrenamiento, lo que puede tener consecuencias perjudiciales. Se recomienda implantar procesos de mitigación de sesgos a lo largo del ciclo de vida de la IA.
2. Explotación de la IA para ciberataques: Los malos actores pueden usar la IA para lanzar ciberataques. Solo el 24% de las iniciativas de IA generativa están protegidas.
3. Privacidad de datos en LLMs: Los datos que entrenan a los LLMs a menudo proceden de rastreadores web sin consentimiento, pudiendo contener información de identificación personal (PII).
4. Huella de carbono de la IA: El entrenamiento de algoritmos y la ejecución de modelos complejos consumen mucha energía, contribuyendo a las emisiones de carbono. La refrigeración de centros de datos también requiere grandes volúmenes de agua.
5. Peligros existenciales: Aunque menos inmediatos, estos riesgos siguen siendo importantes.
6. Imitación creativa: La IA generativa puede imitar el estilo de artistas, músicos y escritores.
7. Alteración del mercado laboral: La automatización con IA puede desplazar trabajadores, aunque también impulsa el crecimiento en nuevos roles. La recapacitación de empleados es esencial.
8. Falta de responsabilidad: Surge la pregunta de quién es responsable cuando un sistema de IA falla o toma decisiones perjudiciales.
9. Naturaleza de "caja negra": Los algoritmos de IA a menudo son opacos, incluso para sus desarrolladores. Se recomienda adoptar técnicas de IA explicables.
10. Desinformación y deepfakes: Los actores maliciosos utilizan la IA para difundir información errónea y manipular decisiones. La IA puede generar deepfakes y sus "alucinaciones" contribuyen a la desinformación.

Para gestionar estos riesgos, se puede utilizar IBM watsonx.governance, una plataforma integrada para dirigir, gestionar y supervisar las actividades de la IA.

Prevención de Riesgos en Adultos Mayores

La interacción sin precaución con asistentes de IA puede tener consecuencias reales para los usuarios mayores, quienes confían en respuestas que parecen verídicas pero carecen de verificación. La creciente presencia de asistentes virtuales plantea nuevos desafíos de seguridad.

Cómo Protegerse Frente a Chatbots que Simulan Ser Humanos

La falta de límites claros en el comportamiento de la inteligencia artificial puede traducirse en consecuencias reales para los usuarios más vulnerables. Por este motivo, es fundamental que los adultos mayores no utilicen estas herramientas digitales en soledad. El acompañamiento de familiares u otras personas de confianza resulta clave para guiar el uso responsable de la inteligencia artificial, resolver dudas y ayudar a distinguir cuándo una respuesta del chatbot debe ser contrastada con un profesional humano.

Por Qué las IA “Alucinan” y Simulan Ser Personas Reales

Las llamadas “alucinaciones” de la inteligencia artificial se producen cuando el modelo genera información o respuestas que no son ciertas, pero resultan plausibles para el usuario. Los sistemas de IA como Meta AI están entrenados con grandes volúmenes de texto y afinados mediante aprendizaje por refuerzo con intervención humana. El proceso busca maximizar respuestas agradables o aceptables, lo que lleva a que la IA, antes que reconocer sus límites, prefiera complacer al usuario, incluso si implica inventar información o asumir un rol que no le corresponde.

Estos modelos predicen la siguiente palabra más probable en una conversación, pero no distinguen entre verdad y mentira. De esta forma, ante falta de contexto o información, tienden a completar la consulta de manera convincente, aunque sea incorrecta.

Riesgos que Representa la IA para los Adultos Mayores

Verificar datos, evitar compartir información sensible y acompañar a usuarios vulnerables son estrategias fundamentales para evitar que los asistentes de IA causen daños involuntarios o generen confusiones. La IA se ha convertido en un factor de riesgo en el entorno digital, especialmente cuando los asistentes virtuales asumen funciones para las que no están programados. Esto es especialmente grave en adultos mayores, considerados consumidores hipervulnerables.

Las empresas tienen la obligación legal de brindar información clara y extremar los cuidados con este segmento de usuarios, que puede ser más propenso a confiar en la tecnología y caer en errores de interpretación.

Recomendaciones de Seguridad para el Uso de IA en Adultos Mayores

Para minimizar estos riesgos, los especialistas recomiendan:

• Verificar siempre la información recibida por IA, especialmente datos médicos, citas y direcciones.
• No compartir información sensible en chats con asistentes virtuales, como números de documentos, datos bancarios o historias clínicas.
• Configurar la privacidad de las cuentas y, si es posible, desactivar el uso de datos para entrenamiento de modelos.
• Alertar sobre estafas y deepfakes, explicando que existen tecnologías capaces de simular voces o imágenes familiares.
• Acompañar el uso de tecnología en adultos mayores, priorizando interfaces simples y propósitos claros.
• Fomentar la interacción humana y evitar que la IA se convierta en único canal de comunicación, especialmente en personas mayores.

La proliferación de asistentes de IA en plataformas de mensajería y redes sociales aumenta la probabilidad de que este tipo de errores se repita. Los chatbots están pasando de ser simples herramientas de consulta a intermediarios activos en decisiones de salud, trabajo y finanzas. Cuando la IA asume funciones para las que no está preparada, el impacto puede trascender el ámbito digital y convertirse en un problema real para los usuarios.

La IA es muy prometedora, pero también conlleva peligros. Es importante entender de qué se trata y aprender a convivir con esta nueva realidad. La IA puede mejorar nuestras vidas si se usa de manera consciente y segura. Aprovechemos sus beneficios mientras gestionamos sus riesgos de manera informada y responsable.

tags: #automatizacion #peligrosa #para #adulto #mayor