El uso de la Inteligencia Artificial es imparable. Esto es un hecho. Desde el punto de vista del consumidor financiero y bancario y del usuario en general, la inteligencia artificial ya forma parte inherente de la banca digital, el comercio electrónico, las redes sociales, los comparadores, la atención al cliente, la publicidad y las plataformas de inversión (de hecho, muchos bancos ya están aplicando estrategias de inteligencia artificial en productos de esta índole).
Para los consumidores, y esto queremos dejarlo bien claro, el riesgo principal no es la tecnología en sí, sino el uso opaco, abusivo o fraudulento que puede hacerse de ella. Así pues, la IA puede hacer que los fraudes sean más creíbles, que las decisiones que toma el consumidor sean menos transparentes y que los datos personales se usen de forma más intensiva. Por eso son esenciales la información clara, la supervisión humana, la protección de datos y la educación digital. Y de todo ello vamos a hablar en este artículo.
¿Pero por qué la IA cambia el riesgo para el consumidor?
La IA aumenta la capacidad de automatizar, personalizar y escalar prácticas que antes requerían tiempo y recursos. Un ciberdelincuente puede generar miles de mensajes distintos; una plataforma puede adaptar precios o recomendaciones a cada perfil; y una empresa puede delegar en algoritmos (que muchas veces son opacos o poco transparentes) decisiones que afectan a derechos económicos de los consumidores.
Esto genera una asimetría, una desigualdad: la empresa o, en el peor de los casos, el defraudador dispone de más información del usuario, más capacidad técnica y más velocidad de reacción que la persona consumidora. El consumidor, en cambio, muchas veces no sabe si habla con una persona, qué datos de sí mismo se están usando o recopilando, cómo se ha calculado una oferta o por qué se le deniega un producto o servicio.
Principales riesgos reales para el consumidor
Estafas más creíbles y personalizadas: la IA permite crear mensajes de phishing, llamadas falsas (clonaciones de voz incluidas), correos fraudulentos o chats automatizados mucho más convincentes. Los ciberdelincuentes pueden adaptar el engaño al perfil de la víctima, imitar la jerga de una entidad bancaria o simular una atención aparentemente legítima al cliente.
Es por ello que organismos como el Instituto Nacional de Ciberseguridad (INCIBE) ha venido advirtiendo en numerosas ocasiones de que la IA ya se utiliza para generar textos, imágenes, vídeos y audios falsos con fines de fraude, difamación o manipulación.
Deepfakes y suplantación de identidad: uno de los riesgos más graves (en cuanto a sus consecuencias para el consumidor) es la creación de vídeos, audios o imágenes falsas en los que parece que una persona real dice o hace algo que nunca ocurrió. Esto puede utilizarse para extorsiones, fraudes bancarios, engaños familiares, manipulación política o ataques reputacionales. INCIBE define los deepfakes como contenidos manipulados mediante IA que permiten intercambiar rostros o modificar voces. A este respecto, y como ejemplo, en ADICAE CASTILLA Y LEÓN hemos atendido recientemente el caso de una persona que perdió 18.000 euros tras seguir las recomendaciones de un vídeo fake de Pablo Motos hecho por IA en el que éste recomendaba invertir en unas supuestas criptomonedas u otros productos financieros para incrementar una mínima inversión de forma exponencial.
Fraude financiero y bancario: en el consumo financiero, la IA puede facilitar la suplantación de bancos, asesores, supuestos brókeres o “finfluencers” – de los que ya hemos hablado en un artículo precedente-. De hecho, la mayoría de los fraudes telemáticos en este ámbito se generan de esta manera. También puede hacer más peligrosas las falsas inversiones, los créditos engañosos o las plataformas fraudulentas porque los mensajes parecen profesionales y personalizados.
La Agencia de la Unión Europea para la Ciberseguridad (ENISA) señala que la IA está reforzando campañas de ingeniería social y phishing, con un peso creciente dentro de las amenazas de ciberseguridad.
Pérdida de privacidad y uso masivo de datos personales: muchos sistemas de IA necesitan grandes cantidades de datos para funcionar. El peligro es que se utilicen datos personales, imágenes, voz, hábitos de consumo o información financiera sin suficiente transparencia o consentimiento. A este respecto, la Agencia Española de Protección de Datos (AEPD) ha alertado sobre los riesgos visibles e invisibles del uso de imágenes de terceros en sistemas de IA y sobre la necesidad de controlar adecuadamente los tratamientos de datos personales con IA.
Decisiones automatizadas injustas o discriminatorias: la IA puede utilizarse para conceder o denegar créditos, fijar precios, seleccionar clientes, evaluar riesgos o perfilar consumidores. Si los datos están sesgados o el sistema no es transparente, puede perjudicar a determinados colectivos: personas mayores, consumidores vulnerables, personas con bajos ingresos o residentes en zonas rurales. Estos sesgos derivan de la programación de unos algoritmos que no siempre conocemos, y que son los causantes de esta evidente discriminación entre consumidores. Incluso la Comisión Europea ya considera de “alto riesgo” los sistemas de IA que puedan afectar a la salud, la seguridad o los derechos fundamentales.
Falta de transparencia: no saber cuándo decide una máquina. Si el consumidor desconoce si está interactuando con una persona o con un sistema automatizado, ni por qué se le ofrece un precio, una recomendación o una decisión determinada, la relación con la entidad financiera, comercio, etc. deja de ser transparente. La AEPD insiste en que la transparencia es clave cuando la IA forma parte de tratamientos de datos personales.
Manipulación de opiniones y desinformación: la IA permite crear noticias falsas, imágenes falsas, campañas masivas en redes sociales o comentarios artificiales que parecen reales. Esto puede afectar a elecciones, debates públicos, decisiones de compra o confianza en las instituciones. La ONU ha advertido recientemente de que la IA avanza más rápido que la supervisión pública y que ello puede aumentar la desinformación, la desigualdad y la concentración de poder en las empresas del sector tecnológico.
Riesgos especiales para menores y personas vulnerables: los menores pueden estar expuestos a contenidos manipulados, publicidad hipersegmentada, chatbots dañinos, deepfakes sexuales o captación mediante redes sociales. España ha impulsado una coalición internacional para proteger los derechos de los menores frente a estos riesgos en la era de la IA.
A lo que debe aspirar una “buena” IA, útil para el consumidor, se podría resumir en el siguiente cuadro:
Recomendaciones que ofrecemos desde ADICAE al consumidor, según el ámbito de uso de la IA:
PREVENCIÓN DE ESTAFAS EN EL ÁMBITO, FINANCIERO, BANCARIO Y DE INVERSIÓN
- Nunca facilitar claves, contraseñas, códigos de un solo uso ni datos completos de tarjeta por teléfono, SMS o enlace.
- Ante una llamada sospechosa, colgar y llamar al número oficial de la entidad, nunca al que aparezca en el mensaje recibido.
- Revisar movimientos bancarios y activar alertas de operaciones.
- Si hay cargo no autorizado, comunicarlo de inmediato al banco, bloquear medios de pago, conservar pruebas y reclamar por escrito.
- Desconfiar de rentabilidades garantizadas, urgencia para invertir, testimonios espectaculares o supuestos avales de famosos.
- Comprobar si la entidad está autorizada en la CNMV o en el supervisor correspondiente.
- No confundir contenido educativo o publicitario con asesoramiento financiero personalizado.
- Guardar capturas de anuncios, mensajes, perfiles, contratos y justificantes de pago.
PREVENCIÓN DE ESTAFAS EN EL CONSUMO GENERAL
- Formación digital básica y continuada: bancos, contraseñas, verificación de enlaces, llamadas sospechosas y deepfakes.
- Canales de ayuda sencillos para personas mayores: teléfono, atención presencial y acompañamiento en reclamaciones.
- Información adaptada a menores sobre imágenes manipuladas, privacidad, sextorsión, compras dentro de apps y publicidad encubierta.
- Reforzar la supervisión de productos financieros ofrecidos a través de redes sociales o mensajes automatizados.
Y SI USAMOS LAS DIFERENTES APLICACIONES DE IA…
- No subir documentos con DNI, dirección, teléfono, datos bancarios, salud, firma o información de terceros si no es imprescindible.
- Anonimizar documentos antes de usar una IA: eliminar nombres, números de cuenta, matrículas, direcciones, expedientes o identificadores.
- Revisar la política de privacidad y las opciones para no usar los datos con fines de entrenamiento cuando existan.
- Evitar grabar o subir audios/imágenes de otras personas sin base legal o consentimiento suficiente.
Esperamos desde ADICAE CASTILLA Y LEÓN que, sin tener ningún miedo a las aplicaciones de IA, estos consejos os hayan servido para tener un espíritu crítico y, en el buen sentido, escéptico respecto a todo lo que os llega diariamente.
Equipo técnico de ADICAE CASTILLA Y LEÓN
