Dentro de la variedad de aplicaciones de la Inteligencia Artificial, los modelos generativos de lenguaje (como ChatGPT), imágenes (como Midjourney) y voz humana (como Resemble), han mostrado ser herramientas poderosas en muchos ámbitos, desde la medicina hasta la educación y el comercio. Sin embargo, también pueden ser utilizados para fines maliciosos, como estafas por correo electrónico y la extorsión telefónica.
El 2020, cibercriminales clonaron la voz de un director del banco de Hong Kong usando Inteligencia Artificial y lograron engañar por teléfono a un gerente para que les transfiera $35 millones de dólares. Y recientemente en abril salió a la luz otro caso similar: delincuentes llamaron a una madre simulando el secuestro de su hija y pidiendo un cuantioso rescate, y utilizaron IA para clonar la voz de la víctima que aparecía llorando y pidiendo ayuda en la llamada. Si bien, la madre se percató que estaba a salvo y que todo era un engaño, levantó una alerta sobre lo impresionantemente real que sonaba la voz de su hija en la llamada de extorsión. Estas tecnologías lentamente están borrando la línea entre la realidad y el engaño, lo genuino y lo falso. Cada vez se vuelve más difícil detectar si un texto o material audiovisual fue generado por un humano o por una IA. Incluso se han utilizado motores de IA para crear perfiles falsos en redes sociales y montar sitios web profesionales de empresas inexistentes, que se ganan la confianza de los usuarios y les llevan a entregar información valiosa sin saberlo. Para evitar ser víctima de cibercriminales que utilizan IA se recomienda siempre desconfiar de llamadas telefónicas o emails que inviten a clickear botones o entregar información personal. Se recomienda verificar activamente si el contacto es genuino llamando de vuelta o consultando a los canales oficiales de servicio al cliente. Otra recomendación es contar con software de seguridad actualizados que, paradójicamente, utilizan Inteligencia Artificial para combatir los ataques. La mejor manera de detectar un ataque ejecutado con IA hoy en día es utilizando IA, en una batalla entre robots que nos recuerda lo mejor de las películas de ciencia ficción de fines del siglo pasado.
Cabe mencionar también la enorme importancia que tiene la educación de la población en estos temas. Los medios de comunicación masivos y las empresas sin duda pueden cumplir un rol de educar a la sociedad, pero si usted tiene dudas o quiere entender cómo funcionan ciertos aspectos de la IA, ya no es necesario acudir a expertos; simplemente pregúntele a ChatGPT y obtendrá una respuesta (quizás no una perfecta pero sí una bastante aceptable). Hoy más que nunca están las herramientas disponibles y al alcance de todos para aprender sobre este tema. El que no puede es porque no quiere.
Guillermo Beuchat
Director de Transforme y académico
U. de Chile
