Si bien la inteligencia artificial (IA) ha revolucionado diversos sectores, también presenta desafíos en términos de seguridad, especialmente cuando su funcionamiento se vuelve impredecible. Para afrontar estos retos,Trend Micro Incorporated (TYO: 4704; TSE: 4704), líder global en ciberseguridad, recomienda la implementación de estrategias que combinen un enfoque preventivo con medidas de seguridad robustas, como el modelo Zero Trust y las defensas en capas, aplicadas a diferentes niveles de los sistemas tecnológicos.
El modelo Zero Trust parte de la idea de que ningún sistema, usuario o dispositivo es completamente confiable, ni siquiera dentro de una red protegida. Esto implica establecer controles que verifiquen continuamente quién o qué accede a los datos y servicios de una organización. Estos controles incluyen monitoreo constante, restricciones al acceso basado en el contexto y análisis de comportamientos inusuales para detectar posibles amenazas.
De acuerdo con Ignacio Triana, director de estrategia de ciberseguridad para MCA en Trend Micro, «La clave para mitigar los riesgos de la IA rebelde radica en combinar la supervisión constante con controles en cada nivel de interacción. El enfoque debe incluir la validación de modelos, la restricción de permisos y la detección de patrones anómalos a través de herramientas avanzadas de análisis de comportamiento. Solo así podemos prevenir comportamientos maliciosos o accidentales que comprometan la seguridad de las organizaciones».
En el caso de los sistemas de IA, un primer paso esencial es configurarlos de manera correcta desde el principio. Esto significa limitar los datos que pueden usar, verificar las entradas y salidas de información, y asegurarse de que solo puedan realizar las acciones previamente definidas. Estas medidas ayudan a prevenir errores o comportamientos malintencionados.
Así mismo, la detección de actividades sospechosas es clave para protegerse de una IA rebelde. Un análisis continuo del comportamiento en dispositivos, aplicaciones y redes puede identificar patrones anómalos que alerten sobre posibles problemas. Por ejemplo, una IA que accede a datos que no debería o que genera resultados inesperados, podría ser un signo de riesgo. Por ende, un enfoque en capas permite fortalecer la seguridad desde varios ángulos. A nivel físico, se pueden supervisar los procesadores que manejan las tareas de la Inteligencia Artificial.
En el manejo de datos, es fundamental comprobar que los modelos de IA no hayan sido modificados de manera malintencionada. En las redes, se deben limitar las conexiones externas y controlar los recursos que la IA puede usar. Finalmente, en la interacción con los usuarios, es útil aplicar revisiones humanas antes de permitir ciertas acciones automatizadas.
Otra recomendación que brinda la compañía, es gestionar cuidadosamente las identidades tanto de los usuarios como de los sistemas de IA. Cada perfil debe tener permisos claros y limitados, lo que ayuda a evitar que un error o un comportamiento inesperado cause daños. Además, el uso de tecnologías automatizadas, como el aprendizaje automático, puede ser una herramienta poderosa para identificar problemas antes de que ocurran.
En conclusión, para mitigar los riesgos de la IA rebelde y aprovechar su potencial de forma segura, es fundamental adoptar un enfoque integral de seguridad que abarque todos los niveles de los sistemas tecnológicos. Esto implica implementar medidas como Zero Trust y defensas en capas, así como monitorear continuamente el funcionamiento de los sistemas, detectar anomalías y ajustar las políticas de acceso según sea necesario. De esta manera, las organizaciones pueden garantizar un uso responsable y confiable de la IA, minimizando los riesgos y maximizando sus beneficios.
Fuente. Trend Micro
