Alejandro Negro. Consejero de Cuatrecasas
Pablo Tena. Asociado
grupo.alimentacion@cuatrecasas.com
Como venimos viendo en los últimos años, la inteligencia artificial ("IA") está transformando el sector agrario, ofreciendo –entre otras muchas– innovaciones que mejoran la eficiencia y la sostenibilidad de las prácticas agrícolas. Sin embargo, la entrada en vigor del Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024 (el "Reglamento de IA") cambia el panorama para las empresas del sector que deben adaptarse a nuevas obligaciones para cumplir con esta normativa.
Concretamente, dentro de las diferentes obligaciones que impone el Reglamento de IA a los operadores dentro de la cadena de valor, el pasado 2 de febrero entraron en vigor los Capítulos I y II del Reglamento de IA relativos a las disposiciones generales y a las prácticas prohibidas de IA. La aplicación de estas disposiciones implica dos cuestiones de gran importancia práctica para las empresas:
• En primer lugar, la definición de sistema de IA establecerá qué sujetos entrarán en el ámbito de aplicación del Reglamento de IA; y,
• En segundo lugar, la obligación de alfabetización en materia de IA comportará que los proveedores y responsables del despliegue de sistemas de IA deberán adoptar medidas adecuadas para garantizar que el personal y otras personas que se encarguen en su nombre del funcionamiento y la utilización de sistemas de IA, tengan un nivel suficiente de alfabetización en materia de IA.
Por su lado, el Capítulo II prohíbe determinadas prácticas en materia de IA, contenidas en el artículo 5 del Reglamento de IA, que se agrupan en esta categoría por su especial afección a los valores propuestos por el legislador europeo y el riesgo inaceptable que suponen para los derechos y libertades fundamentales.
El legislador europeo ha considerado que los sistemas de IA pueden "utilizarse indebidamente y proporcionar nuevas y poderosas herramientas para llevar a cabo prácticas de manipulación, explotación y control social". En este sentido, el artículo 5 prohíbe la introducción en el mercado, la puesta en servicio o la utilización de sistemas de inteligencia artificial cuyo propósito sea:
• El uso de técnicas subliminales, deliberadamente manipulativas o engañosas para alterar de manera sustancial el comportamiento de personas (art. 5.1, letra a);
• La explotación de vulnerabilidades de las personas, como la edad, la discapacidad o la situación social o económica, con la finalidad de alterar de manera sustancial el comportamiento de dichas personas (art. 5.1, letra b);
• La evaluación o clasificación de personas en función de su comportamiento social o características personales, que pueda provocar un trato perjudicial o desfavorable (conocido como social scoring) (art. 5.1, letra c);
• La evaluación de riesgos delictivos, cuando esta se base únicamente en la elaboración del perfil de riesgo del sistema de IA (art. 5.1, letra d);
• La creación de bases de datos de reconocimiento facial mediante extracción no selectiva de imágenes de internet (art. 5.1, letra e);
• La inferencia de emociones en los lugares de trabajo y centros educativos, excepto cuando sea por motivos médicos o de seguridad (art. 5.1, letra f);
• La categorización biométrica para deducir o inferir datos personales sensibles (art. 5.1, letra g); y
• La identificación biométrica remota en tiempo real en espacios públicos con fines de garantía del cumplimiento del derecho, salvo ciertas excepciones en materia de seguridad pública (art. 5.1, letra h).
Si bien las obligaciones que acaban de entrar en vigor son relevantes en el sector agrario, el próximo hito importante –especialmente para aquellas que utilizan tecnologías clasificadas como "alto riesgo"– será el 2 de agosto de 2025, cuando entrarán en vigor el Capítulo III, sección 4 (Autoridades notificantes y organismos notificados), el capítulo V (Modelos de IA de uso general), el capítulo VII (gobernanza) y el capítulo XII (Sanciones) y el artículo 78 (Confidencialidad).
Las empresas responsables del despliegue de IA, como las cooperativas agrícolas, distribuidoras de alimentación, o cualquier otra empresa del sector que utilicen herramientas de IA, y las desarrolladoras de estas tecnologías, deberán implementar medidas y políticas específicas. Además, se aplicará el régimen sancionador previsto en el Reglamento, a excepción del artículo 101 (Multas a proveedores de modelos de IA de uso general), que será aplicable a partir del 2 de agosto de 2025.
En conclusión, aunque la IA está revolucionando el sector agrario, es crucial que las empresas se adapten rápidamente al Reglamento de IA, más aún teniendo en cuenta que gran parte de las obligaciones entran en vigor este año 2025. La normativa ya está parcialmente en vigor y su cumplimiento será esencial para el éxito futuro en el sector.