El 8 de abril de 2019, la Comisión Europea publicó su versión final de las Directrices Éticas para una IA de confianza. Previamente, en diciembre de 2018, la Comisión ya había publicado un borrador para consulta pública, que recibió más de 500 respuestas. La versión final ha sufrido varios cambios, y Telefónica está orgullosa de haber contribuido a este logro multidisciplinar. En la versión final, existe una fuerte alineación con los Principios de IA de Telefónica.
En este post, compararemos las Directrices de la CE con los Principios de IA de Telefónica. Las Directrices de la CE se dividen en tres partes: los fundamentos de una IA fiable expresados a través de cuatro principios éticos, la realización de una IA fiable mediante siete requisitos clave, y el análisis de una IA fiable que conduce a una lista de evaluación con preguntas específicas.
1. Fundamentos de una IA digna de confianza
Las Directrices mencionan los principios de respeto a la autonomía humana, prevención del daño, equidad y explicabilidad. Estos principios están directamente contemplados en los principios de IA de Telefónica: IA centrada en el ser humano, justa y explicable.
2. Realización de una IA de confianza
Las Directrices mencionan siete requisitos clave: (1) agencia y supervisión humanas, (2) solidez y seguridad técnica, (3) privacidad y gobernanza de datos, (4) transparencia, (5) diversidad, no discriminación y equidad, (6) bienestar ambiental y social y (7) responsabilidad. Todos estos requisitos están cubiertos en los Principios de IA de Telefónica o en sus Principios de Negocio más generales.
Además, estamos implementando una metodología centrada en la responsabilidad por diseño «Responsible AI by Design«, que permite el desarrollo de los Principios de IA en la empresa. Proporciona una guía concreta a nuestros empleados con respecto a la aplicación de esos requisitos cuando desarrollan, compran o utilizan sistemas basados en la tecnología de IA. Por ejemplo, proporcionamos capacitación técnica y las herramientas necesarias para detectar y remediar los sesgos en los conjuntos de datos de capacitación a fin de evitar una posible discriminación injusta. También proporcionamos capacitación y herramientas para hacer que los algoritmos sean explicables en caso de que su resultado tenga un impacto en la vida de las personas. La privacidad y el gobierno de datos son un pilar clave para nuestra empresa, y somos transparentes en cuanto a qué datos personales utilizamos y para qué fines. Nuestra «Cuarta Plataforma» se construye en torno a la noción de transparencia.
3. Evaluación de una IA fiable.
La tercera parte de las Directrices proporciona una lista no exhaustiva de preguntas que se deben formular, organizadas por «requisito», para aumentar la probabilidad de crear una IA fiable, al tiempo que se minimiza el riesgo de crear consecuencias negativas no deseadas. La Metodología para la IA Responsable de Telefónica proporciona un conjunto similar de preguntas para cada uno de los Principios identificados, que está en línea con la lista de evaluación de las Directrices de IA.
Además de esta comparación, cabe expresar nuestra satisfacción con el hecho de que las Directrices declaren explícitamente que son aplicables más allá de Europa y fomenten un debate global sobre esta cuestión; la tecnología y los negocios no se detienen en las fronteras. A su vez, acogemos con satisfacción que las Directrices mencionen el papel del modelo de negocio en varios de los requisitos, como la transparencia y la explicabilidad. Para comprender las consecuencias potenciales e indeseadas de la IA, no sólo es relevante la tecnología, sino sobre todo el modelo de negocio para el que se utiliza la tecnología.
Por último, Telefónica acoge con satisfacción el lanzamiento de la fase piloto con las partes interesadas para poner a prueba la propuesta de Evaluación de la IA fiable y espera participar en este importante ejercicio.
