CONCLUSIONES DIRECTRICES DE LA COMISIÓN EUROPEA SOBRE LA DEFINICIÓN DE SISTEMA DE INTELIGENCIA ARTIFICIAL Definition of an artificial intelligence system

La Comisión Europea ha publicado un borrador de directrices sobre la de definición de sistema de inteligencia artificial establecido en el Reglamento de IA (RIA).

El objetivo de estas directrices es ayudar a los proveedores y otras personas relevantes a interpretar cuando un sistema de inteligencia artificial (sistema de IA) constituye un sistema de IA en los términos del artículo 3 (1) del Reglamento de Inteligencia Artificial (RIA) y considerando 12. Las directrices no son vinculantes y la última interpretación la tiene el Tribunal de Justicia de la Unión Europea.

Los puntos clave del documento:

1. La definición de un sistema de sistema de IA se compone de siete elementos: sistema basado en máquinas; con capacidad de operar con varios niveles de autonomía; que puede tener capacidad de adaptación tras el despliegue; para objetivos implícitos y explícitos; que infiere de la información de entrada que recibe la manera de generar resultados de salida como predicciones, contenidos, recomendaciones o decisiones y que puede influir en entornos físicos y virtuales.

2. En relación con la autonomía: es un elemento clave y se asocia a operar con cierto grado de independencia en sus acciones respecto a la actuación humana y que tienen ciertas capacidades para funcionar sin supervisión humana directa. En principio, todos los sistemas diseñados para operar con un grado razonable de independencia en sus acciones cumplen con la condición de autonomía en la definición del RIA.

3. En relación con la adaptación: no es un elemento clave y decisivo para calificar al sistema como un sistema de IA. Se asocia a aprender automáticamente; descubrir nuevos patrones e identificar relaciones en los datos más allá de su entrenamiento inicial.

4. En relación con los objetivos implícitos y explícitos: diferencia entre el objetivo del sistema y el propósito previsto. Los objetivos son internos relacionados con las tareas y resultados. P.e. responder preguntas de los usuarios con precisión. Los propósitos son externos relacionados con el contexto de uso del sistema y, como debe operar. P.e. ayudar a un departamento concreto en tareas específicas. Los objetivos explícitos están definidos y codificados por el desarrollador P.e. sistema para optimizar una función de costes, y los implícitos se pueden deducir del comportamiento del sistema. P.e. sistema que puede identificar patrones de comportamiento de los usuarios sin estar programado específicamente para ello.

5. En relación con la inferencia en la generación de resultados: es un factor clave que distingue los sistemas de IA de otros tipos de sistemas que puede darse en la fase de construcción y en la de uso del sistema. La inferencia se asocia al proceso de obtener resultados como predicciones, contenido, recomendaciones o decisiones que pueden influir en entornos físicos y virtuales y que en función de la técnica usada para desarrollar el sistema se determina como el sistema infiere.

6. La inferencia puede ser mediante enfoques de aprendizaje automático y o mediante enfoques basados en lógica y conocimiento con capacidad en ambos casos de manejar relaciones y patrones complejos en los datos lo que les diferencia de los sistemas no basados en IA. Los primeros, incluyen aprendizaje automático supervisado, no supervisado, auto supervisado, por refuerzo, profundo (pone ejemplos de cada uno de ellos). Los segundos, incluyen bases de conocimiento estructuradas, sistemas expertos, métodos de razonamiento simbólico.

7. En relación con los resultados que pueden influir en entornos físicos y virtuales: se asocian a predicciones, contenido, recomendaciones y decisiones.

Una predicción es una estimación sobre un valor desconocido (la salida) a partir de valores conocidos suministrados al sistema (la entrada). Los sistemas de IA que emplean aprendizaje automático son capaces de generar predicciones que descubren patrones complejos en los datos y hacer predicciones precisas en entornos altamente dinámicos y complejos. Por ejemplo, los sistemas de IA para el consumo de energía están diseñados para estimar el consumo energético analizando datos de medidores inteligentes, pronósticos meteorológicos y patrones de comportamiento de los consumidores.

El contenido se refiere a la generación de nuevo material por parte de un sistema de IA, puede incluir texto, imágenes, videos, música y otras formas de salida. Por ejemplo, sistemas de IA que utilizan modelos de aprendizaje automático (por ejemplo, basados en tecnologías de Transformador Generativo Preentrenado –GPT–) para generar contenido.

Las recomendaciones se refieren a sugerencias de acciones específicas, productos o servicios para los usuarios en función de sus preferencias, comportamientos u otros datos de entrada.

Las decisiones se refieren a conclusiones o elecciones realizadas por un sistema. Implica un proceso completamente automatizado en el que se produce un resultado en el entorno que rodea al sistema sin ninguna intervención humana

8. En relación con los sistemas de IA no incluidos ,se excluyen entre otros, los sistemas de mejora de la optimización matemática, los sistemas de tratamiento de datos básicos, los sistemas basados en la heurística clásica y los sistemas de predicción sencillos basados en máquinas con regla básica de aprendizaje estadístico que pueden estar clasificado como enfoque de aprendizaje automático pero que no encaja en la definición debido a su rendimiento. Por ejemplo, el uso de la temperatura media de la última semana para predecir la temperatura de mañana. Este sistema de referencia solo estima promedios, pero no alcanza el rendimiento de sistemas más complejos de predicción de series temporales que requerirían modelos más sofisticados.

9. En este contexto, se ha publicado una respuesta escrita del Parlamento sobre algunas preguntas relacionadas con lo sistemas de inteligencia artificial y exclusiones donde se señala que las características clave de los sistemas de IA es su capacidad de inferencia y que la capacidad de un sistema de IA para inferir trasciende el tratamiento básico de datos permitiendo el aprendizaje, el razonamiento o la modelización, y que no se basa sólo en reglas definidas por humanos para ejecutar automáticamente operaciones.

https://digital-strategy.ec.europa.eu/es/library/commission-publishes-guidelines-ai-system-definition-facilitate-first-ai-acts-rules-application

La autoridad de protección de datos francesa (CNIL) ha publicado unas recomendaciones dirigidas a aquellos que pretendan reutilizar bases de datos de Internet o obtenidas de un Data Broker.

Verificar la licitud de la constitución y el uso de dichas bases de datos, asegurándose de que no provengan de fuentes ilícitas como en los casos de datos robados, fugas de datos, violaciones de derechos de propiedad intelectual.

Ejemplos

• Una base de datos cuya descripción explica que ha sido constituida a partir de publicaciones en una red social profesional cuyo nombre se especifica, se trata de una base de datos lícita.
• Por el contrario, en caso de compra de una base de datos en la dark web que provenga, por ejemplo, de una fuga o de un robo de datos, no se puede ignorar su origen delictivo y, por lo tanto, la base de datos es manifiestamente ilícita

Verificar la fuente de las bases de datos, su contexto de forma que el origen esté suficientemente documentados y no hay duda de la licitud de la base de datos, y en particular, la base legal.

Ejemplos:

• En una plataforma de intercambio de bases de datos, usted encuentra un conjunto que compila los trayectos hogar-trabajo de miles de personas. Su descripción explica que se trata de datos de geolocalización precisos, no anónimos. En esta hipótesis, la difusión de una base de datos así en ausencia de consentimiento de las personas puede ser ilícita.
• Por el contrario, sería posible constituir un conjunto de datos a partir de una base de datos cuya descripción no deje dudas flagrantes sobre su legalidad. Por ejemplo, una base de datos pseudonimizada, inicialmente publicada por las personas afectadas en un sitio web identificado y que no contenga datos sensibles

Verificar que la base de datos no contiene datos sensibles o datos relativos a infracciones, y en caso afirmativo, realizar verificaciones adicionales para garantizar su legalidad (consentimiento, datos manifiestamente públicos).

Las verificaciones precedentes no exoneran a que los responsables deben asegurar la conformidad de sus propios tratamientos de datos con el RGPD, incluyendo análisis de impacto y documentación adecuada.

Firmar acuerdos con los proveedores de datos para garantizar la licitud de su reutilización, especificando detalles como la fuente, la base legal y las finalidades y análisis de impacto en su caso.

Imagen IA créditos: https:www.craiyon.com

https://www.cnil.fr/fr/reutilisation-de-bases-de-donnees-les-verifications-necessaires-pour-respecter-la-loi

1.¿La empresa puede solicitar todo tipo de datos personales en el contexto de la selección de personal?

NO. La empresa sólo puede solicitar aquellos datos personales que sean estrictamente necesarios y pertinentes para valorar la candidatura a un puesto de trabajo. Sobre la información necesaria para apreciar la capacidad de un candidato a un puesto de trabajo y evaluar sus aptitudes, se debe limitar a aquella que permite identificar al candidato más adecuado con la finalidad de verificar competencias para el puesto.Con carácter general no se pueden pedir datos relacionados con la condición familiar, hábitos o características físicas cuando no esté relacionada con el desempeño del puesto vacante como tampoco datos de salud ni certificado de antecedentes penales o salvo contadas excepciones tasadas por ley.

2. ¿La empresa debe facilitar información al candidato sobre el tratamiento de sus datos personales?

La información facilitada debe ser clara, sencilla, inteligible y de fácil acceso y se debe proporcionar antes de la recogida de los datos personales. El escenario ideal seria facilitar la información básica sobre el tratamiento de datos personales después del formulario donde se recogen los datos y se coloque un enlace que dirija a la información ampliada, esto es, a la política de privacidad del candidato.

3. ¿La empresa puede usar los datos personales para otras finalidades?

NO. La empresa no puede tratar los datos personales para otras finalidades que sean diferentes e incompatibles con la finalidad principal por cuanto rige el principio de limitación de finalidad.

4. ¿La empresa puede conservar mi CV de forma indefinida?

NO. La empresa no puede conservar mi CV de forma indefinida sino sólo durante el tiempo necesario para alcanzar la finalidad perseguida. En caso de no ser seleccionado se considera el plazo de 1 año como tiempo prudencial a contar desde su envío.

5. ¿La empresa puede pedir referencias a terceros?

SI, bajo determinadas condiciones. La empresa puede pedir referencias siempre y cuando el candidato haya sido informado previamente y lo haya consentido, esto es, que las facilite el propio candidato y la empresa y/o empresa a las que se vayan a pedir cuenten con el consentimiento del exempleado. En caso contrario, se produciría una cesión inconsentida de datos personales entre las empresas.

6. ¿Es el consentimiento la base de legitimación para el tratamiento de datos personales de los candidatos en el proceso de selección?

NO. La base de legitimación para el tratamiento de datos personales del potencial candidato es la adopción de medidas contractuales a solicitud de la persona interesada. No obstante, el consentimiento si será la base de legitimación para la cesión del CV entre empresas del grupo y también para la conservación y el envío de nuevas ofertas vacantes por correo electrónico cuando no ha sido finalmente seleccionado.

7. ¿La empresa puede indagar en los perfiles del candidato en redes sociales?

NO, con carácter general. La indagación en los perfiles de redes sociales de las personas candidatas sólo se justifica si están relacionados con fines profesionales y el tratamiento de los datos obtenidos por esta vía únicamente será posible cuando se demuestre que dicho tratamiento es necesario y pertinente para desempeñar el trabajo solicitado y se haya informado a la persona candidata sobre ese tratamiento.

8. ¿Puede usar la empresa herramientas de IA para la selección de personal?

SI, bajo ciertas condiciones. Se tendrá que analizar la viabilidad del sistema de IA, contar con datos suficientes y representativos y que el impacto del error del sistema en los candidatos se bajo, disponer de recursos técnicos para la construcción y el mantenimiento, contar con una estrategia de compliance con evidencias documentales y adoptar unas garantías en beneficio de los trabajadores. Entre otras garantías, realizar un análisis de riesgo y de seguridad, informar a los trabajadores y representantes legales, de forma clara y comprensible, garantizar la intervención humana, personas con formación adecuada y específica; garantizar el derecho a la explicación de decisiones tomadas individualmente; tener un plan de gobernanza de los datos e implementar procedimientos de contratación y control periódico de proveedores IA, si se usa un sistema de IA provisto por terceros.