Por estrategiaynegocios.net
Los piratas informáticos y los propagandistas utilizan la inteligencia artificial (IA) para crear software malicioso, redactar correos electrónicos de phishing convincentes y difundir desinformación en línea, dijo a Reuters el principal funcionario de ciberseguridad de Canadá, una de las primeras pruebas de que la revolución tecnológica que está arrasando Silicon Valley también ha sido adoptada por los ciberdelincuentes.
El director del Centro Canadiense para la Seguridad Cibernética, Sami Khoury, dijo que su agencia había visto que la IA se usaba “en correos electrónicos de phishing, o en la elaboración de correos electrónicos de una manera más enfocada, en código malicioso (y) en información errónea y desinformación”.
Khoury no proporcionó detalles ni evidencia, pero su afirmación de que los ciberdelincuentes ya estaban usando IA agrega una nota urgente al coro de preocupación sobre el uso de la tecnología emergente por parte de actores deshonestos, reporta Reuters.
En los últimos meses, varios grupos de vigilancia cibernética han publicado informes que advierten sobre los riesgos hipotéticos de la IA, especialmente los programas de procesamiento de lenguaje de rápido avance conocidos como modelos de lenguaje grande (LLM), que se basan en grandes volúmenes de texto para crear diálogos, documentos y más.
En marzo, la organización policial europea Europol publicó un informe que decía que modelos como ChatGPT de OpenAI habían hecho posible “suplantar a una organización o individuo de una manera muy realista, incluso con solo un conocimiento básico del idioma inglés”. El mismo mes, el Centro Nacional de Seguridad Cibernética de Gran Bretaña dijo en una publicación de blog que existía el riesgo de que los delincuentes “pudieran usar LLM para ayudar con los ataques cibernéticos más allá de sus capacidades actuales”.
Los investigadores de seguridad cibernética han demostrado una variedad de casos de uso potencialmente maliciosos y algunos ahora dicen que están comenzando a ver contenido sospechoso generado por IA en la naturaleza. La semana pasada, un exhacker dijo que había descubierto un LLM entrenado en material malicioso y le pidió que redactara un intento convincente de engañar a alguien para que hiciera una transferencia de efectivo.
El LLM respondió con un correo electrónico de tres párrafos pidiendo ayuda a su objetivo con una factura urgente.
“Entiendo que esto puede ser con poca antelación”, dijo el LLM, “pero este pago es increíblemente importante y debe realizarse en las próximas 24 horas”.
Khoury dijo que si bien el uso de la IA para redactar códigos maliciosos todavía estaba en sus primeras etapas, “todavía hay un camino por recorrer porque se necesita mucho para escribir un buen exploit”, la preocupación era que los modelos de IA estaban evolucionando tan rápido que era difícil controlar su potencial malicioso antes de que fueran liberados.
“Quién sabe lo que viene a la vuelta de la esquina”, dijo.
