La inteligencia artificial está transformando la forma en que las empresas diseñan productos, optimizan procesos y toman decisiones. Sin embargo, la rápida adopción de estas tecnologías también está generando nuevos riesgos relacionados con la ciberseguridad, la privacidad y la integridad de los sistemas inteligentes. Con el objetivo de responder a este reto, IKERLAN y SecureML han firmado un Memorandum of Understanding (MoU) para explorar oportunidades de colaboración en el ámbito de la seguridad y la privacidad de la inteligencia artificial.
El acuerdo da continuidad a una relación construida durante años entre IKERLAN y Stjepan Picek, fundador de SecureML y referente internacional en investigación sobre seguridad aplicada a la inteligencia artificial.
Con esta colaboración, ambas organizaciones aspiran a acelerar la transferencia al mercado de tecnologías avanzadas que permitan desarrollar y utilizar sistemas de inteligencia artificial más robustos, seguros y confiables.
Responder a un desafío creciente
La expansión de la inteligencia artificial en todos los sectores económicos está aumentando la exposición de empresas y organizaciones a nuevas amenazas. A medida que la IA se incorpora a productos, servicios e infraestructuras críticas, resulta imprescindible reforzar la resistencia de estos sistemas frente a ataques, la protección de la información y la fiabilidad de su funcionamiento durante todo su ciclo de vida.
En este contexto, IKERLAN y SecureML compartirán conocimiento y capacidades para abordar uno de los grandes retos tecnológicos de los próximos años: la protección de sistemas basados en inteligencia artificial frente a vulnerabilidades, manipulaciones y usos indebidos.
“La inteligencia artificial está entrando con fuerza en productos, procesos e infraestructuras críticas y su seguridad debe avanzar al mismo ritmo. Esta colaboración con SecureML nos permitirá reforzar nuestras capacidades en un ámbito que será clave para que las empresas adopten la IA con confianza y puedan aprovechar todo su potencial de forma segura y responsable” señala David González, responsable del área de ciberseguridad y confiabilidad en IKERLAN.
La colaboración se centrará principalmente en dos ámbitos. Por un lado, la protección de los sistemas de inteligencia artificial utilizados para tareas como analizar datos o realizar predicciones. Se abordará su seguridad durante todo su ciclo de vida, desde la gestión de los datos y el entrenamiento de los modelos hasta su puesta en funcionamiento, uso y actualización, para proteger la información y los modelos frente a ataques o manipulaciones. Por otro, la seguridad de la inteligencia artificial generativa y de los agentes inteligentes capaces de realizar tareas. Se evaluarán estas herramientas, incluidas las que consultan documentos y otras fuentes de información para elaborar sus respuestas, frente a riesgos como la manipulación mediante instrucciones maliciosas, las fugas de información o la realización de acciones no autorizadas.
Complementar capacidades para generar impacto empresarial
La colaboración combina capacidades altamente complementarias. SecureML aporta conocimiento especializado en seguridad de la inteligencia artificial, así como una amplia red de contactos y relaciones con grandes organizaciones que demandan este tipo de soluciones avanzadas. Por su parte, IKERLAN contribuye con su experiencia en investigación aplicada, desarrollo tecnológico y transferencia de conocimiento al tejido empresarial en las áreas de seguridad y ciberseguridad.
Gracias a esta complementariedad, ambas entidades buscarán impulsar nuevos desarrollos tecnológicos, participar en iniciativas conjuntas y ofrecer respuestas a organizaciones que operan en sectores especialmente exigentes desde el punto de vista de la seguridad y la confianza digital.
La colaboración busca trasladar a las empresas capacidades avanzadas para proteger sistemas de inteligencia artificial, reforzando la seguridad, la privacidad y la fiabilidad de tecnologías cada vez más presentes en sectores críticos.