Walter Risi, de KPMG: "La IA tiene muchas potencialidades, pero también lugares que pueden vulnerarse"
La irrupción de la inteligencia artificial está transformando todos los ámbitos. Un experto de KPMG cuenta lo que pasa con la ciberseguridad.
El avance de la inteligencia artificial genera una fuerte inquietud en las empresas, que no quieren quedarse atrás y buscan maneras de aprovechar esta tecnología revolucionaria. Sin embargo, estos esfuerzos, que muchas veces implican experimentación, requieren también un cuidado especial respecto de la ciberseguridad.
En este sentido, en diálogo con El Cronista, Walter Risi, Socio Líder de Consulting de KPMG Argentina y Líder Global de Ciberseguridad OT en KPMG Internacional, explicó cuál es el panorama actual y cómo se combinan las oportunidades de una digitalización crecientes con un frente de amenazas cada vez más sofisticadas.
- ¿Qué actitud deben tener las empresas ante el auge de la inteligencia artificial?
- En nuestra región, la mayoría de las compañías ahora están preocupadas en no quedarse atrás en cuanto a la adopción de esta tecnología y en encontrar buenos casos de uso. En este sentido, la mejor manera de saber para qué voy a usar la inteligencia artificial es empezar a aprovecharla en lo que pueda usarla ahora. Porque las ideas para desplegar su potencial pueden descubrirse con la utilización misma.
Por eso, es importante que el común de la gente de la empresa empiece a estar expuesta a la IA, no solo los equipos especializados en informática. Todos los niveles de la empresa tienen que entender qué significa IA.
Y la recomendación es que se implemente una visión de ciberseguridad desde el día cero. Las soluciones se deben diseñar con eso en mente.
- ¿LA IA implica nuevos riesgos de seguridad para las organizaciones?
- En tecnología, la mayoría de las herramientas que se pueden usar para el bien, se pueden también usar para el mal. Por ejemplo, a la IA se la puede aprovechar para revisar código y que te indique cuáles son las vulnerabilidades tiene, lo que abre distintas posibilidades.
El hecho es que implica una aceleración que se le da a un profesional técnico, que la puede usar para bien o no.
Por otra parte, todavía no vimos ningún malware o software malicioso que esté usando IA por detrás, pero es algo que no va a tardar en aparecer.
Inteligencia artificial: las empresas buscan casos de uso que puedan impulsar sus negocios.
- ¿Qué amenazas afectan a las aplicaciones de inteligencia artificial actuales?
- En este punto, el mensaje fundamental es que, como toda nueva solución tecnológica, la IA tiene muchas potencialidades, pero también tiene lugares que se pueden vulnerar. Las empresas comienzan a construir sus propias soluciones de IA y deben tener en cuenta los posibles ataques a la IA.
Por ejemplo, si se tiene un chatbot basado en IA expuesto a la interacción con el público general, un atacante malicioso puede preguntar cosas de cierta manera para extraer la forma de funcionamiento. Esto es lo que se llama "model extraction", que implica detectar patrones o huecos en la forma en que ese agente inteligente responde con el fin de evadirlo.
Otro ataque es el "training data poisoning", que consiste en intervenir en los datos de entrenamiento de una IA y contaminarlos. Esto pone en relevancia que cualquier sistema de inteligencia artificial es tan bueno como la fuente con la que se lo alimenta.
- ¿Y cómo pueden ayudar las herramientas de IA a mejorar la seguridad?
- Muchas de las nuevas soluciones de monitoreo para detectar amenazas se basan en distintas formas de IA, incluyendo Machine Learning. Son capaces de detectar patrones de comportamiento potencialmente maliciosos en una red y alertar al equipo a cargo. De hecho, algunas se pueden entrenar en el comportamiento de la propia red de la compañía.
Por otra parte, la IA generativa, que impulsa la ola que estamos viviendo ahora, es capaz de generar y sintetizar contenidos, por lo que permite interactuar con ciertas situaciones de manera conversacional.
Debido a esto, varias marcas están lanzando asistentes con inteligencia artificial diseñados específicamente para profesionales de ciberseguridad. Permiten tener "copilotos" especializados para responder de manera adecuada a una variedad de situaciones.
En KPMG lo que decimos es que la IA es un junior súper capaz, pero que ayuda a los profesionales a ser más efectivos. Además, es una herramienta que facilita un entrenamiento más rápido de quienes comienzan a desarrollarse en este ámbito, dado que, actualmente, lleva un tiempo considerable formar un profesional de ciberseguridad en el terreno.