● Mejorar el código de un virus.
Esta plataforma permite que millones de usuarios tengan respuestas automáticas y más rápidas a preguntas que ya de por sí podían buscarse en Google. “Lo que hace es facilitar la gestión del tiempo y eso, cuando se trata de un uso inadecuado, puede causar consecuencias irreversibles e importantes” .
En este caso se puede entrenar al bot para que, por ejemplo, mejore el código de un virus. “Hay que aclarar que ChatGPT no escribe un código de malware aún pidiéndoselo, ya que se han establecidos límites o, mejor dicho, protocolos de seguridad para identificar solicitudes inapropiadas”, señala Lambert.
●Desinformación generalizada
La capacidad de ChatGPT para generar respuestas similares a las humanas a preguntas de lenguaje natural puede utilizarse para difundir información errónea. Por ejemplo, un ciberdelincuente podría utilizar el modelo para generar noticias falsas o mensajes en las redes sociales diseñados para influir en la opinión pública o perturbar unas elecciones. “Cualquier espacio en la red en el que se intercambian ideas, conocimiento, etc., aumenta el riesgo de que volvamos a oír hablar de bots, filtros burbuja y mentiras que se viralizan”, apostilla el ciberexperto.
●Doxing para dañar a empresas y manipular el mercado.
En línea con el punto anterior, un mal uso de ChatGPT podría servir para llevar a cabo la difusión de noticias falsas sobre una empresa o producto. En dos vertientes diferentes: “Por un lado podría socavar la reputación e imagen digital de una empresa o personalidad pública o, por otro lado, podría utilizarse para afectar a los precios de las acciones y causar pérdidas financieras a los inversores”, comenta Lambert.
● Suplantación de identidad y engaño a menores, personas interactúan con otros o comparten datos.
Un ciberdelincuente podría utilizar el modelo para crear un perfil falso en las redes sociales o un chatbot que parezca ser una persona real, y luego utilizarlo para llevar a cabo estafas y robo de credenciales y datos bancarios.
Escribir emails para hacer phishing. Y no únicamente favorecería el número de ciberataques de phishing, sino que también perfeccionaría el contenido en muchos contextos, países e idiomas diferentes.
● Usar ChatGPT para crear deepfakes
Sería posible que a través de este tipo de herramientas pudiesen desarrollarse bots capaces de copiar la voz, imagen, movimientos gestuales y corporales, la forma de actuar y de hablar de una persona real. “E incluso, la forma de usar las emociones”, apunta Lambert.
“Tengamos en cuenta que buena parte de los emails, SMS y WhatsApps de phishing que recibimos son malísimas traducciones, lo que nos facilita mucho su detección.
● Suplantación de identidad a través de nuevos modelos de lenguaje por voz.
Aunque hay muchas más tecnologías, podemos poner el ejemplo de Microsoft, que ha desarrollado su enfoque de modelado de lenguaje para la síntesis de texto a voz. Se llama VALL-E y es una herramienta IA capaz de reproducir tu voz de forma casi idéntica tras solo escucharte hablar durante tres segundos. .
¿En qué otros aspectos puede afectar el mal uso de estas herramientas de IA a otras esferas? Nos referimos al rendimiento académico. En este sentido, el ciberexperto es contundente: “Si ya teníamos mucho trabajo con toda la población global en cuanto a la educación en ciberseguridad, ahora el reto se complica todavía más.
El uso que hagamos de este tipo de herramientas puede determinar el rumbo académico de miles de escolares, y lo que es más importante, hablamos de la capacidad de superación y aprendizaje de las personas. Puesto que muchos ven Chat GPT como una solución para realizar tareas que consideraban un tedio, sin intentar poner algún esfuerzo de su parte, ¿qué legado cultural estamos dejando entonces a las nuevas generaciones?”, finaliza Hervé Lambert, Global Consumer Operations Manager de Panda Security
¿En qué otros aspectos puede afectar el mal uso de estas herramientas de IA a otras esferas?
Nos referimos al rendimiento académico. En este sentido, el ciberexperto es contundente: “Si ya teníamos mucho trabajo con toda la población global en cuanto a la educación en ciberseguridad, ahora el reto se complica todavía más. El uso que hagamos de este tipo de herramientas puede determinar el rumbo académico de miles de escolares, y lo que es más importante, hablamos de la capacidad de superación y aprendizaje de las personas. Puesto que muchos ven Chat GPT como una solución para realizar tareas que consideraban un tedio, sin intentar poner algún esfuerzo de su parte, ¿qué legado cultural estamos dejando entonces a las nuevas generaciones?”.