Mi茅rcoles 12 de Junio de 2024

Inteligencia artificial: el lado oscuro (parte I)

La tecnolog铆a que promete transformar nuestras vidas tambi茅n puede ser utilizada para actividades maliciosas.

Compartir en Redes

馃摙 La aparici贸n de chatbots como BadGPT o FraudGPT, dise帽ados para asistir a hackers en actividades fraudulentas, plantea una seria preocupaci贸n en el 谩mbito de la ciberseguridad. Estos chatbots utilizan modelos de IA de acceso abierto disponibles en la web como base para sus operaciones, lo que dificulta su detecci贸n.

La IA mejora las campa帽as de phishing creando sitios web falsos, dise帽ando mensajes personalizados y suplantando identidades. Adem谩s, estas herramientas pueden utilizarse para recopilar informaci贸n personal de diversas fuentes en l铆nea y crear perfiles detallados de individuos. Estos perfiles pueden usarse para fraudes de identidad, como abrir cuentas bancarias o solicitar tarjetas de cr茅dito en nombre de otras personas.

馃攽 Se han identificado m谩s de 200 chatbots maliciosos en la dark web, muchos de los cuales utilizan modelos de IA de c贸digo abierto modificados mediante "jailbreaks" para superar los controles de seguridad. El "jailbreak" es un proceso mediante el cual se eliminan ciertas restricciones de estos modelos de IA para permitir su uso en actividades no autorizadas. El acceso libre a modelos de IA en la web presenta un desaf铆o adicional, ya que estos no cuentan con mecanismos de censura.

Las empresas l铆deres en IA est谩n en alerta ante estos usos maliciosos y trabajan en soluciones para mitigarlos. Aunque estas herramientas las aprovechan cibercriminales, tambi茅n pueden contribuir a combatir las amenazas de seguridad. Una buena forma de hacerlo es entender c贸mo funcionan las herramientas que los hackers utilizan. Adem谩s, es crucial que sigamos desarrollando m茅todos avanzados y tecnolog铆as innovadoras para proteger a las y los usuarios y garantizar la seguridad de los sistemas digitales. La educaci贸n y la concienciaci贸n聽馃 sobre ciberseguridad tambi茅n juegan un papel fundamental, ayudando a individuos y organizaciones a reconocer y responder a posibles amenazas con mayor eficacia.

馃搶 饾棪饾棞 饾棫饾棙饾棥饾棙饾棪 饾棓饾棢饾棜饾棬饾棥饾棓 饾棗饾棬饾棗饾棓 饾棦 饾棖饾棦饾棥饾棪饾棬饾棢饾棫饾棓:聽
Escribinos a 馃摡 ciberseguridad@ba-csirt.gob.ar o por privado 馃挰 en nuestras redes聽