¿Cómo crear IA y que se adapte a la normativa Europea?
- Patricia Mg
- 10 oct 2023
- 3 Min. de lectura
La UE ha exigido a los estados miembros que establezcan un espacio de pruebas de los sistemas de Inteligencia Artificial (IA). Este espacio llamado “Sandbox” se creará con la finalidad no de regular, eso ya lo va a hacer el reglamento europeo, sino de determinar la forma de implementar los requisitos que los sistemas de IA tendrán realizar para cumplir con ese reglamento, así como la autoevaluación y cumplimiento de los sistemas. De este espacio saldrán un informe de buenas prácticas y unas guías para los sistemas de IA.
¿Por qué es importante estar en el Sandbox?
Porque probablemente facilitará el cumplimiento de las obligaciones que impondrá el reglamento y nos ayudará a identificar aquellos puntos o mejoras que serían una barrera para su aprobación una vez haya sido aprobado el reglamento.
No es lo mismo hacer un desarrollo cumpliendo la normativa que desarrollar y luego intentar ajustarse a la misma.
¿Quién puede participar?
Cualquier persona jurídica, Administración Pública o entidad del sector público que desarrolle un sistema de IA con su propio nombre o marca comercial o para quién un tercero ha desarrollado un sistema de IA y que tenga establecimiento permanente en España.
¿Se puede participar con más de un sistema de IA?
Si, siempre que sean diferentes.
¿Plazo para presentarse?
De momento la administración está recogiendo el interés de las empresas en presentarse al sandbox y ese interés hay que presentarlo antes del día 12 de octubre. La inscripción aquí no garantiza que luego se entre en la convocatoria del sandbox.
¿Qué sistemas pueden entrar en el sandbox?
Cualquier sistema de alto riesgo, propósito general, modelo fundacional o sistemas de IA generativa, que cumplan las condiciones de la convocatoria.
¿Se mide el grado de desarrollo para participar?
Podrán ser sistemas de nueva creación o ya establecidos, pero se tendrán en cuenta si los sistemas propuestos no están suficientemente maduros para su elección.
¿Hay sistemas excluidos?
Si los mencionados en el art.5.5 del borrador del Real Decreto. https://portal.mineco.gob.es/RecursosArticulo/mineco/ministerio/participacion_publica/audiencia/ficheros/Proyecto_RD_Sandbox_IA-1.pdf
¿Dónde puedo inscribir mi interés en participar?
En este link.
¿Qué requisitos debe tener el sistema de IA para participar?
El artículo 11 del citado borrador menciona los siguientes requisitos:
a) “El establecimiento, implementación, documentación y mantenimiento de un sistema de gestión de riesgo relativo al sistema de inteligencia artificial en cuestión.
b) En caso de sistemas de inteligencia artificial que impliquen entrenamientos con datos, se desarrollarán sobre conjuntos de datos de entrenamiento, validación y pruebas que cumplan los criterios de calidad especificados por el órgano competente.
c) La documentación técnica del sistema de inteligencia artificial se elaborará conforme al Artículo 20 de autoevaluación de cumplimiento. Esta documentación deberá actualizarse a lo largo de la duración del entorno controlado de pruebas.
d) Los sistemas de inteligencia artificial deberán técnicamente permitir el registro automático de eventos (‘logs’) a lo largo del ciclo de vida del sistema. Estos registros serán guardados por el participante.
e) El sistema de inteligencia artificial será diseñado y desarrollado de manera que se asegure que su operación es suficientemente transparente para los usuarios del sistema a efectos de interpretar los resultados del mismo y de que puedan usarlo adecuadamente.
f) El sistema de inteligencia artificial irá acompañado de instrucciones de uso en formato electrónico, que incluyan información sobre las características y prestaciones del sistema que sea concisa, completa, correcta, actualizada, clara, relevante, accesible y comprensible para los usuarios del sistema.
g) Los sistemas de inteligencia artificial se diseñarán y desarrollarán de manera que puedan ser supervisados por personas físicas durante los periodos en que esté en uso. Contendrá interfaces humano-máquina apropiadas a tal efecto.
h) Los sistemas de inteligencia artificial se diseñarán y desarrollarán de manera que consigan, teniendo en cuenta su finalidad prevista, un nivel adecuado de precisión, solidez y ciberseguridad. Estas dimensiones deberán funcionar de manera consistente a lo largo de su ciclo de vida.”
¿Tienes coste participar?
No, tampoco es remunerada la participación.
¿Es posible salirse en cualquier momento?
Si.
¿Ventajas de participar?
Conseguir una homologación de sistemas lo más cercana posible a los requisitos exigibles por el nuevo reglamento. Probablemente suponga un ahorro de tiempo aunque también supondrá una carga de trabajo extra para los participantes, pero los mismos tendrán ocasión de conocer antes que el resto la aplicabilidad sobre sus sistemas de la nueva normativa.
