^{Alejandro Negro, consejero, y Pablo Tena, asociado
grupo.alimentacion@cuatrecasas.com}

El pasado 14 de junio de 2023, el Parlamento Europeo dio un pionero avance hacia el compromiso europeo de establecer un marco normativo para la Inteligencia Artificial (“IA”) al aprobar su posición sobre la Propuesta inicial de Reglamento Europeo de IA (“Reglamento IA”).

Salvo que haya ulteriores modificaciones, el Reglamento IA será de aplicación para los actores dentro de la cadena de valor (fabricantes y proveedores de sistemas de IA, importadores, usuarios, etc.) y establece cuatro niveles de riesgos (riesgo inaceptable, alto riesgo, riesgo medio y mínimo) con diferentes obligaciones y garantías dependiendo de donde se ubique el sistema de inteligencia artificial que se esté o vaya a implementar.

Como no podría ser de otra forma, el sector agroalimentario, con los retos actuales y futuros, no es ajeno a estos avances tecnológicos. Es más, desde hace varios años, las actividades agroalimentarias destinadas a suministrar alimentos u otros productos de alta calidad en condiciones de producción sostenibles (comúnmente llamada agricultura de precisión) implican procesos complejos con muchas variables y eso ha hecho que este sector sea uno de los sectores donde se esperan más avances y mejoras gracias a los sistemas de IA.

La agricultura de precisión allana el camino para que los agricultores, y todos los demás agentes de la cadena de valor, adopten sistemas de IA como práctica basada en datos para obtener más información y, en última instancia, controlar mejor las variables que afectan al sector.

Por ejemplo, la inteligencia artificial desempeñará un papel cada vez más importante en la cadena de suministro agrícola, desde las actividades de los agricultores en el campo, hasta el almacenamiento intermedio o silos, el transporte desde el almacenamiento a las plantas de transformación y, desde allí, hasta los clientes y consumidores. Esto es así porque los sistemas de IA pueden ayudar a procesar un gran volumen de datos para realizar predicciones, recomendaciones o, incluso, tomar decisiones.

En este sentido, la IA se estructura como una herramienta poderosa para ayudar a las organizaciones a hacer frente a esta creciente complejidad de la agricultura moderna. No obstante, si bien las ventajas de la IA en el sector agroalimentario son infinitas, no pueden obviarse los riesgos de su utilización y, en particular, de las obligaciones que introduce el Reglamento IA para todos los actores dentro de la cadena de valor.

Por ello, resulta necesario destacar ciertos aspectos del Reglamento IA que afectaran a todos los actores de la cadena de valor del sector agroalimentario y que deben tenerse en cuenta previo a la implementación del sistema de IA:

• Conocer el sistema que se pretende usar: Como se ha mencionado, el Reglamento IA diferencia entre cuatro tipos de sistemas de IA y, cada uno de ellos, tiene impuestas una serie de obligaciones y requisitos. Por ello, resulta esencial analizar los riesgos del sistema e implementar medidas técnicas y organizativas para mitigar estos riesgos.
• Sistemas de alto riesgo: Todos los actores de la cadena de valor tendrán que tener en cuenta las obligaciones y requisitos que se le imponen en la normativa, en concreto, en los artículos 8 a 29 del Reglamento IA. Por ejemplo, estas obligaciones comprenderían:

- Gobernanza de datos: es decir, que los datos empleados revistan ciertos estándares de calidad, supervisión, examinación de sesgos, etc.

- Seguridad y supervisión humana: en última instancia siempre tendrá que haber una persona con capacidad de control para mitigar eventuales riesgos.

- Deberes de transparencia: es decir, que se describan las características del funcionamiento del sistema y la identidad y datos del proveedor.

- Inscripción en una base de datos a nivel europeo: la inscripción deberá llevarse a cabo con carácter previo a la puesta a disposición en el mercado.

- Superación del test de conformidad y obtención de la certificación correspondiente: serán aprobadas especificaciones técnicas con las que habrá que cumplir.

• Uno de los aspectos más novedosos es la obligación de realizar una evaluación de impacto sobre los derechos fundamentales.
• Sistemas de IA de riesgo medio/bajo: Estos sistemas únicamente estarían sometidos a un conjunto de normas de transparencia dirigidas a garantizar que su funcionamiento y características son conocidos por los usuarios, así como las implicaciones inherentes al empleo de estos sistemas.
• Modelos fundacionales: El Reglamento IA incorpora obligaciones concretas para los proveedores de modelos fundacionales, con un apartado especial para los sistemas de IA generativa (como son ChatGPT o Bard). Entre otras obligaciones, estos sistemas deberán: (i) cumplir obligaciones de transparencia; (ii) diseñar y desarrollar los modelos fundacionales para evitar la generación de contenidos ilegales y, (iii) documentar y poner a disposición del público un resumen suficientemente detallado de los datos de entrenamiento del sistema IA que estén protegidos por derechos de autor.
• Ciberseguridad: Uno de los aspectos clave es la ciberseguridad. Como ya comentamos en un articulo anterior, el sector agroalimentario está sujeto a normativa especifica de ciberseguridad y, además de las obligaciones concretas del Reglamento IA, se deberá tener en cuenta esa normativa específica.

En definitiva, estas son solo algunas de las consideraciones que deben tenerse en cuenta de manera previa a la implantación de los sistemas. Desde Cuatrecasas seguiremos de cerca el avance del Reglamento de IA hasta su aprobación, que se espera para finales de 2023 o principios de 2024.