martes, febrero 18, 2025
INTERFER
Walmart
AVA Resorts
MAD-HAV Enjoy Travel Group
Grupo Hotelero Islazul
Mónica Eventos y Bodas
Realidad Turística
Cuba Energy Summit
MuniGuate
CUN-HAV Enjoy Travel Group
Los Portales
Barceló Solymar
blackanddecker
Grupo Hotelero Islazul
Servicios Médicos Cubanos
Herbalife
Intecap
MAD-HAV Enjoy Travel Group
Mónica Eventos y Bodas
Agexport
INOR
Cervecería Centroamericana S.A.
AVA Resorts
Cuba Energy Summit
MITM Events
INTERFER
Nestle
Walmart
Centro Nacional de Cirugía de Mínimo Acceso de Cuba
Instituto Hondureño de Turismo
Realidad Turística

Trend Micro alerta sobre los riesgos de seguridad en la IA Agente

Trend Micro Incorporated (TYO: 4704; TSE: 4704),líder mundial en ciberseguridad, ha publicado un nuevo estudio titulado «El camino hacia la IA Agente: cimientos expuestos». En este análisis, se revela que la generación aumentada por recuperación (RAG), una tecnología que permite a las empresas crear soluciones de IA personalizadas, presenta importantes riesgos de seguridad. A pesar de los beneficios de la RAG, las empresas deben ser conscientes de estos desafíos para proteger sus datos y operaciones.

“Las organizaciones no pueden permitirse pasar por alto los principios de seguridad básicos en la implementación de sistemas generativos. El acceso sin restricciones a componentes críticos como almacenes vectoriales o plataformas de alojamiento de modelos representa una vulnerabilidad directa para la propiedad intelectual y los datos confidenciales”, afirmó Ignacio Triana, director de estrategia de ciberseguridad para MCA en Trend Micro. Según el directivo, herramientas como Zero Trust Secure Access son claves para mitigar riesgos y garantizar una implementación segura de la IA generativa.

¿Cómo funciona RAG?

La generación aumentada por recuperación combina dos elementos clave: un almacén vectorial, que organiza los datos y facilita su búsqueda, y un modelo de lenguaje que utiliza esa información para responder preguntas o generar contenido. Aunque esta tecnología es eficiente y económica, el informe identificó más de 80 servidores de RAG expuestos a internet sin medidas básicas de protección, como contraseñas o cifrado. Estos servidores, ubicados principalmente en Estados Unidos, China, Alemania y Francia, representan una ventana abierta para posibles ataques.

Uno de los hallazgos más preocupantes fue la falta de seguridad en herramientas ampliamente utilizadas, como llama.cpp y Ollama, que alojan modelos de lenguaje. En muchos casos, los sistemas permitían acceder, modificar o borrar datos almacenados, dejando vulnerables tanto la información empresarial como la operatividad de los sistemas.

¿Por qué se dan estas fallas de seguridad?

El informe también destacó problemas en los almacenes vectoriales, como ChromaDB y Weaviate, fundamentales para el funcionamiento de RAG. Estos sistemas almacenan información clave para las decisiones automáticas, pero su exposición sin protección adecuada podría facilitar el robo o la manipulación de datos confidenciales.

La prisa por adoptar estas tecnologías, descrita en el informe como un enfoque de «moverse rápido y romper cosas», ha llevado a muchos desarrolladores a priorizar la innovación sobre la seguridad. Esto no solo pone en riesgo los sistemas actuales, sino que también plantea desafíos de cara al futuro de la inteligencia artificial, donde los sistemas de IA Agente prometen ser aún más complejos e integrados.

Para hacer frente a las vulnerabilidades expuestas en el estudio, los expertos de Trend Micro recomiendan la implementación de medidas de seguridad robustas. Entre ellas destacan la autenticación obligatoria en todos los accesos, el cifrado de las comunicaciones y la adopción de un modelo de seguridad de confianza cero (Zero Trust). Estas medidas son fundamentales para proteger la infraestructura tecnológica y los datos sensibles que sustentan los avances en inteligencia artificial.

Fuente. Trend Micro

MAD-HAV Enjoy Travel Group
Mónica Eventos y Bodas
Agexport
AVA Resorts
Herbalife
Instituto Hondureño de Turismo
Barceló Solymar
blackanddecker
Intecap
Nestle
INOR
MITM Events
Walmart
Cuba Energy Summit
CUN-HAV Enjoy Travel Group
Cervecería Centroamericana S.A.
Los Portales
Servicios Médicos Cubanos
Grupo Hotelero Islazul
INTERFER
MuniGuate
Realidad Turística
Centro Nacional de Cirugía de Mínimo Acceso de Cuba

Related Articles

Los Portales
MITM Events
MuniGuate
Servicios Médicos Cubanos
Intecap
AVA Resorts
MAD-HAV Enjoy Travel Group
Realidad Turística
Cervecería Centroamericana S.A.
INOR
Instituto Hondureño de Turismo
Walmart
Mónica Eventos y Bodas
blackanddecker
Barceló Solymar
Nestle
Herbalife
Cuba Energy Summit
Agexport
INTERFER
Grupo Hotelero Islazul
Centro Nacional de Cirugía de Mínimo Acceso de Cuba
CUN-HAV Enjoy Travel Group

DEJA UNA RESPUESTA

Por favor ingrese su comentario!
Por favor ingrese su nombre aquí
Captcha verification failed!
La puntuación de usuario de captcha falló. ¡por favor contáctenos!

MuniGuate
Los Portales
Grupo Hotelero Islazul
MITM Events
Realidad Turística
blackanddecker
Mónica Eventos y Bodas
MAD-HAV Enjoy Travel Group
Cuba Energy Summit
Nestle
Intecap
Herbalife
Cervecería Centroamericana S.A.
Walmart
Servicios Médicos Cubanos
Agexport
CUN-HAV Enjoy Travel Group
INOR
INTERFER
Instituto Hondureño de Turismo
Barceló Solymar
AVA Resorts
Centro Nacional de Cirugía de Mínimo Acceso de Cuba
- Advertisement -
Havanatur
INTERFER
Intecap
Barcelo Guatemala City
Revista Colombiana de Turismo Passport
Cubacel
Hotel Barcelo Solymar
Henkel Latinoamerica
Maggi - GLUTEN-FREE
AirEuropa
Blue Diamond Resorts
MuniGuate

Lo más leído...

- Advertisement -
Hotel Barcelo Solymar
Barcelo Guatemala City
INTERFER
Havanatur
Cubacel
AirEuropa
Blue Diamond Resorts
Intecap
MuniGuate
Henkel Latinoamerica
Maggi - GLUTEN-FREE
Revista Colombiana de Turismo Passport