¿Qué aspectos éticos debo considerar cuando desarrollo IA?

Cuando hablamos de IA se nos vienen muchas cosas (y pelis) a la cabeza, nos imaginamos un futuro automatizado, en el cual podríamos lograr casi todo gracias a la tecnología. Si bien, no hay una definición exacta universal de Inteligencia Artificial (IA), trataremos de dar un par de consensos para que puedas ver las aplicaciones de esta tecnología y cómo puede agregar valor a tus clientes de una manera responsable.

Si no sabes por dónde empezar y sólo tienes las ganas de crear una startup tecnológica que incorpore IA, postula a nuestra convocatoria.

La OCDE describe a la IA como “un sistema computacional que puede, para un determinado conjunto de objetivos definidos por humanos, hacer predicciones y recomendaciones o tomar decisiones que influyen en entornos reales o virtuales». Esta descripción podría ser la explicación de una película de ciencia ficción donde las máquinas se toman el planeta, pero aplicaciones de IA para mejorar la calidad de vida de las personas y generar un bienestar social hay muchas, una de ellas es la aplicación de IA (visión computacional) para detectar tumores en ecografías y radiografías con menor tasa de error versus los médicos, es decir mayor precisión a la hora de hacer un diagnóstico o “accuracy”.

Hoy la IA se puede clasificar en dos tipos de acuerdo al alcance que esta tenga:

• IA Narrow/Acotada: se busca que el proceso de aprendizaje se especialice en la ejecución de una sola tarea, logrando una precisión igual o superior a la de un ser humano (este tipo de IA es la única que se ha logrado hasta el momento y la que conocemos/usamos a diario, ya sea en Instagram, cuando revisamos nuestro mail o, incluso, cuando escuchamos la playlist que Spotify armó para nosotros).
• IA General: con la cual se aspira a que la IA logre generalizar el proceso de aprendizaje aplicándolo a distintas tareas con creatividad y conciencia propia (Terminator, ¿eres tú?)

Hoy en día escuchamos el concepto de IA en todas partes, pero este se utiliza desde los años 50 (What?) con Alan Turing siendo el pionero, al plantear la posibilidad de que un computador pudiera simular la inteligencia humana y aprender (“Computing Machinery and Intelligence”). Sin embargo hace un par de años vino el auge de esta tecnología ¿por qué? Acá te lo resumimos:

• Mejora de los algoritmos de redes neuronales
• Datos y recolección masiva de información (como nunca antes)
• Aumento de la capacidad de procesamiento

Sin embargo, hay algunos desafíos para asegurar que la IA sea “justa” y no tenga sesgos durante su ejecución:

1. Retos de fuente (datos)
2. Retos de ejecución

Los primeros se refieren a retos en relación al manejo de datos, su fuente de obtención, su privacidad y posterior uso, si viste el documental “El dilema de las Redes Sociales”, estos desafíos no deben ser nuevos para ti. Además, los retos intrínsecos a los datos (fuente de sesgo) se originan en problemas preexistentes en los datos que serán utilizados para ajustar el modelo, por ejemplo la discriminación pasada y el desbalance de clase, los cuales podrían causar sesgos algorítmicos injustos y privilegiar a un grupo o perjudicar a otro:

• Discriminación pasada: Cuando se realiza un aprendizaje con información histórica o previamente etiquetada, los datos de entrenamiento pueden contener sesgos implícitos observados en la sociedad, dado que el algoritmo aprende de estos datos, los va a replicar.
  
• Desbalance de clase y validez externa: Este error se presenta cuando un modelo se entrena a partir de una base de datos que no es representativa de la población para la cual se quiere generalizar o cuando no se tienen suficientes observaciones para las distintas subpoblaciones.

• Sesgo algorítmico injusto (output): Se da cuando el sistema de IA comete errores sistemáticos que crean resultados injustos para subpoblaciones o individuos específicos.
• Impacto desigual (outcome): El impacto desigual describe una situación en la cual el uso del producto o sistema impone una carga desproporcionada para los miembros de grupos específicos, creando la posibilidad de que su uso amplíe el estado de marginación o exclusión.

Si quieres conocer más sobre estos desafíos, puedes ver más información en fAIr LAC: Adopción ética y responsable de la Inteligencia Artificial en América Latina y el Caribe.

Por último, mencionar que las últimas tendencias y consejos explican (al menos) 4 atributos que componen una “IA ética”, de acuerdo a Capgemini (2019):

1. Transparente: Clara, consistente y entendible cuando opera.
2. Justa: Elimina o reduce el impacto de sesgos/parcialidad en ciertos individuos.
3. Auditable: Permite que otros puedan revisar la data (inputs) y asegurar que los outputs son confiables. 
4. Explicable e Interpretable: Capaz de explicar cómo opera el modelo en lenguaje “común” que sea fácil de entender, además de entender y explicar el porqué de cada resultado, cómo cambian los resultados a medida que cambia el input.

Y, ¿Qué pasa en Chile? ¿Qué tengo que saber?

Chile no se queda atrás y está impulsando hace un par de años, una Política Nacional de Inteligencia Artificial que contendrá los lineamientos estratégicos que debe seguir el país en esta materia durante los próximos 10 años con el objetivo de empoderar a las personas en el uso y desarrollo de herramientas de IA, y participar en el debate sobre sus consecuencias legales, éticas, sociales y económicas. Esta política abordará 3 ejes claves:

1. Factores habilitantes: son aquellos elementos necesarios para el desarrollo de la Inteligencia Artificial. Aborda (1) datos, incluyendo sus fuentes, estándares, protección, etc.; (2) capital humano, desde la formación escolar hasta la capacitación y reconversión laboral; y (3) la infraestructura tecnológica.
2. Desarrollo de IA y sus aplicaciones: son los elementos propios de la investigación básica y aplicada en IA y el desarrollo y demanda de soluciones.
3. Ética, aspectos regulatorios e impactos sociales y económicos: en este eje se consideran los desafíos éticos, regulatorios, económicos y sociales que se desprenden del desarrollo y uso de IA, además de las oportunidades que emergen del buen uso de esta tecnología.

¿En qué está actualmente esta política?

El miércoles 27 de enero de 2020 concluyó el proceso de la consulta ciudadana sobre el borrador de la Política de Inteligencia Artificial. La consulta pública fue el último paso previo a la publicación de la primera Política de inteligencia artificial chilena, que delineará una hoja de ruta para el desarrollo y adopción responsable de esta tecnología en el país.

Revisa el borrador de la Política Nacional de inteligencia Artificial: Ver/Descargar

¿Tienes una idea de negocios que busque incorporar IA?

A través de nuestros programas digitales de preincubación e incubación, tendrás acceso a todo lo necesario para que puedas crear y desarrollar tu startup, sacándole el máximo provecho a la inteligencia artificial. Súmate a la evolución y, junto con Digevo Ventures, podrás evolucionar tu idea a una empresa de alto impacto.