Cada día, mensajes de príncipes nigerianos, vendedores de medicamentos milagrosos y promotores de inversiones imperdibles asfixian las bandejas de entrada del correo electrónico. Las mejoras en los filtros de spam sólo parecen inspirar nuevas técnicas para burlar las protecciones.

Ahora, la carrera armamentística entre bloqueadores de spam y spammers está a punto de intensificarse con la aparición de una nueva arma: la inteligencia artificial generativa. Con los recientes avances de la IA, que ChatGPT ha hecho famosos, los spammers pueden disponer de nuevas herramientas para evitar los filtros, captar la atención de la gente y convencerla de que haga clic, compre o ceda información personal.

Como director del laboratorio Advancing Human and Machine Reasoning de la Universidad del Sur de Florida, investigo la intersección entre la inteligencia artificial, el procesamiento del lenguaje natural y el razonamiento humano. Estudio cómo la IA puede aprender las preferencias individuales, las creencias y las peculiaridades de la personalidad de las personas.

Esto puede utilizarse para comprender mejor cómo interactuar con las personas, ayudarles a aprender o proporcionarles sugerencias útiles. Pero también significa que debe prepararse para un spam más inteligente que conozca sus puntos débiles y pueda utilizarlos en su contra.

El spam.

¿Qué es el spam?

El spam se define como correos electrónicos comerciales no solicitados enviados por una entidad desconocida. A veces, el término se extiende a los mensajes de texto, los mensajes directos en las redes sociales y las reseñas falsas de productos. Los spammers quieren inducirle a realizar una acción: comprar algo, hacer clic en enlaces de phishing, instalar malware o cambiar visualizaciones.

El spam es rentable. Un envío masivo de correos electrónicos puede generar 1.000 dólares en unas pocas horas, con un coste para los spammers de unos pocos dólares, sin contar la configuración inicial. Una campaña de spam farmacéutico en línea puede generar unos 7.000 dólares al día.

Los anunciantes legítimos también quieren animarle a actuar -comprando sus productos, respondiendo a encuestas, suscribiéndose a boletines-, pero mientras que un correo electrónico de marketing puede enlazar a un sitio web de una empresa establecida y contener una opción para darse de baja de acuerdo con la normativa federal, un correo electrónico de spam no puede hacerlo.

Los spammers tampoco tienen acceso a las listas de correo a las que se han suscrito los usuarios. En su lugar, los spammers utilizan estrategias contraintuitivas, como la estafa del «príncipe nigeriano», en la que un príncipe nigeriano afirma necesitar tu ayuda para desbloquear una cantidad absurda de dinero, prometiendo recompensarte generosamente. Los nativos digitales experimentados descartan de inmediato tales argumentos, pero lo absurdo de la petición puede en realidad descartar la ingenuidad o la edad avanzada, filtrando a los más propensos a caer en estafas.

Sin embargo, los avances en inteligencia artificial hacen que los spammers no tengan que depender de enfoques tan acertados. La IA podría permitirles dirigirse a personas concretas y hacer sus mensajes más persuasivos basándose en información fácilmente accesible, como las publicaciones en redes sociales.

El futuro del spam

Probablemente haya oído hablar de los avances en los grandes modelos generativos del lenguaje, como ChatGPT. La tarea de estos LLM generativos es aparentemente sencilla: dada una cadena de texto, predecir qué token -piensa en él como parte de una palabra- viene a continuación. A continuación, predice qué palabra viene después. Y así una y otra vez.

De algún modo, el entrenamiento sólo en esta tarea, cuando se realiza con suficiente texto en un LLM suficientemente grande, parece ser suficiente para dotar a estos modelos de la capacidad de realizar sorprendentemente bien muchas otras tareas.

Ya han surgido varias formas de utilizar la tecnología, lo que demuestra su capacidad para adaptarse rápidamente y aprender sobre las personas. Por ejemplo, los LLM pueden escribir correos electrónicos completos en tu estilo de escritura, dados sólo unos pocos ejemplos de cómo escribes. Y está el clásico ejemplo -que ya tiene más de una década- de Target, que descubrió que una clienta estaba embarazada antes que ella.

Los spammers y los profesionales del marketing se beneficiarían de poder predecir más sobre las personas con menos datos. Con una página de LinkedIn, unas cuantas publicaciones y una o dos fotos de perfil, los spammers armados con LLM pueden hacer suposiciones razonablemente precisas sobre tus inclinaciones políticas, tu estado civil o tus prioridades vitales.

Nuestra investigación ha demostrado que los LLM pueden utilizarse para predecir qué palabra dirá a continuación una persona con un grado de precisión que supera con creces a otros enfoques de IA, en una tarea de generación de palabras denominada tarea de fluidez semántica. También hemos demostrado que los LLM pueden tomar ciertos tipos de preguntas de pruebas de razonamiento y predecir cómo responderá la gente a esa pregunta. Esto sugiere que los LLM ya tienen cierto conocimiento de cómo es la capacidad de razonamiento humana típica.

Si los spammers superan los filtros iniciales y consiguen que leas un correo electrónico, hagas clic en un enlace o incluso entables una conversación, su capacidad de persuasión personalizada aumenta drásticamente. Una vez más, los LLM pueden cambiar las reglas del juego. Los primeros resultados sugieren que los LLM pueden utilizarse para argumentar de forma persuasiva sobre temas que van desde la política a la sanidad pública.

La IA avanza en todos los frentes

La IA, sin embargo, no favorece a uno u otro bando. Los filtros de spam también deberían beneficiarse de los avances de la IA, permitiéndoles erigir nuevas barreras a los correos electrónicos no deseados.

Los remitentes de spam a menudo intentan engañar a los filtros con caracteres especiales, palabras mal escritas o texto oculto, confiando en la propensión humana a perdonar pequeñas anomalías del texto – por ejemplo, «c1îck h.ere n0w.Pero a medida que la IA mejora su comprensión de los mensajes de spam, los filtros podrían mejorar en la identificación y bloqueo del spam no deseado – y tal vez incluso dejar pasar el spam deseado, como el correo electrónico de marketing al que usted se suscribió explícitamente. Imagínese un filtro que predice si le gustaría leer un correo electrónico antes incluso de leerlo.

A pesar de la creciente preocupación por la IA -como demuestran Elon Musk, consejero delegado de Tesla, SpaceX y Twitter, Steve Wozniak, fundador de Apple, y otros líderes tecnológicos que piden una pausa en el desarrollo de la IA-, los avances en esta tecnología pueden ser muy beneficiosos. La IA puede ayudarnos a comprender cómo los malos actores pueden aprovecharse de los puntos débiles del razonamiento humano y a encontrar formas de combatir las actividades malévolas.

Todas las nuevas tecnologías pueden obrar maravillas y también peligros. La diferencia radica en quién crea y controla las herramientas y cómo se utilizan. Con información de japantoday.