La inteligencia artificial y el futuro de los ataques de phishing

En un ataque de phishing, las víctimas potenciales han tenido una gran ventaja: los criminales han tenido que hacer todo a mano. Todo el texto que se escribe proviene de algún lugar. Cada detalle, desde el correo electrónico de señuelo hasta cada migaja de pan en línea para establecer la legitimidad, lleva tiempo crear. Si tienes la presencia de ánimo para estar atento a ellos, los ataques menos sofisticados son fáciles de ver a través. Pero, ¿qué pasa cuando eso ya no sea cierto? OpenAI's GPT demostró que la generación de texto de aprendizaje automático increíblemente potente también puede diseñarse para que sea muy simple para que los programadores no expertos lo implementen. Más recientemente, Dall-E ha demostrado crear imágenes falsas realistas tan simples como llamar a una función con una breve descripción del lenguaje natural de lo que se desea. Prashanth Arun, jefe de ciencia de datos de Armorblox, y su colega Ben Murdoch, ingeniero de aprendizaje automático de Armorblox, argumentarán que los ataques de phishing más básicos en el futuro provendrán de personas con presencias en la web detalladas. Se generarán miles de señuelos nuevos con solo hacer clic en un botón. Crear cientos de identidades falsas respaldadas por cuentas de Twitter de cinco años de antigüedad será tan fácil como sentarse durante cinco años mientras un sistema de aprendizaje automático realiza las publicaciones. La idea de que el aprendizaje automático generativo crea problemas de seguridad no es nueva. Investigadores en Black Hat el año pasado, por ejemplo, concluyeron que las iteraciones actuales de GPT estaban llegando al punto en que podrían pasar por el nivel de discurso en Internet utilizado en noticias falsas. Pero el campo avanza rápidamente. La combinación de generación de imágenes con generación de texto fue un giro relativamente nuevo cuando se llevó a cabo la investigación de Black Hat. Y la generación de texto se ha vuelto más inteligente.