Los chatbots de inteligencia artificial y una “falsa sensación de privacidad” que pone en riesgo nuestros datos

El avance de la inteligencia artificial ha sido arrollador en los últimos años y su presencia es cada vez más común en diversas áreas de la sociedad.

Además de la forma en la que puede optimizar el trabajo en algunos mercados, esta herramienta también ofrece un importante potencial para el uso cotidiano de las personas naturales.

Bajo este contexto aparecen los chatbots, generalmente utilizados para resolver dudas o establecer cualquier tipo de conversación con los humanos, aunque destaca por ser una herramienta de asistentes virtuales con el fin de automatizar la atención al cliente en muchas empresas.

Sin embargo, en este apartado el tema de la seguridad y privacidad vuelve a ser un punto crítico. Algunas filtraciones o vulnerabilidades pueden derivar en robo de identidad, espionaje corporativo y extorsión, entre otras problemáticas.

Revisa también:

• Alerta por estafas con Clave Única: suben los fraudes y crece el robo de credenciales en Chile
• Papa León XIV se refirió al uso de la inteligencia artificial en la Iglesia católica e hizo un llamado a evitar la “tentación”

Ante este escenario, ESET, compañía especializada en la detección proactiva de amenazas, analiza qué tipo de información se suele compartir con los chatbots de IA, de qué manera podría quedar expuesta y cuál podría ser el impacto real de una filtración.

Martina López, Investigadora de Seguridad Informática de ESET Latinoamérica, advierte que los usuarios comparten datos sensibles sin medir riesgos, pese a que las plataformas aclaran que las conversaciones se almacenan para mejorar sus modelos.

“No es una novedad que muchas personas usan los chatbots como si fueran espacios privados. Utilizarlos de esa manera se contradice con la naturaleza de este tipo de herramientas”, expone.

“Los chatbots no fueron concebidos como un lugar confidencial, más allá que la experiencia conversacional invite a pensarlos así. Si bien las principales plataformas de IA afirman aplicar medidas de seguridad y privacidad, esto no elimina el riesgo de sufrir brechas de datos, ni es sinónimo de invulnerabilidad”, complementó.

Datos sensibles

Usuarios entregan sin filtro: datos personales (nombre, edad, familia, hábitos); información laboral (correos, contratos, estrategias, código fuente); consultas médicas/psicológicas (síntomas, diagnósticos, conflictos); y opiniones sensibles (políticas, religiosas, sobre jefes).

“El problema no es lo que se comparte, sino esa falsa sensación de intimidad y privacidad, la cual puede romperse muy fácilmente. Meses de conversaciones construyen un perfil, que puede tener un valor muy alto para un ciberatacante”, agrega López.

Los riesgos principales incluyen accesos no autorizados (phishing, contraseñas débiles), chatbots manipulados con prompts maliciosos, términos y condiciones que permiten almacenamiento para entrenamiento, brechas de seguridad y plugins de terceros vulnerables.

Ampliar

5 riesgos clave

• Robo de identidad / Ingeniería social: Ataques personalizados con contexto humano de hábitos y rutinas.
• Espionaje corporativo: Fuga de estrategias, documentos internos y datos de clientes.
• Daño reputacional: Exposición de opiniones privadas o dudas profesionales.
• Datos sensibles: Salud, creencias y conflictos personales, con estigmatización posible.
• Extorsión: Chantajes con información íntima para rédito económico.

Consejos para reducir riesgos

• No compartir datos personales (cédula, mail, teléfono).
• Anonimizar casos (cambiar nombres, empresas).
• No adjuntar documentos sensibles o credenciales.
• Revisar configuraciones de privacidad y entrenamiento.
• Usar contraseña robusta + 2FA; cuentas separadas para trabajo/personal.
• Preguntarse: “¿Lo diría en una sala con desconocidos?”.

“La comodidad de una conversación fluida hace que bajemos la guardia. Una filtración no expone solo información sino rutinas, vulnerabilidades y emociones. No son espacios confidenciales, sino herramientas que requieren criterio y hábitos responsables”, concluye la especialista.