La UNESCO publicó recomendaciones éticas para que los Estados guíen las innovaciones de la Inteligencia Artificial, una tecnología en creciente expansión pero con escasas regulaciones.
El pasado 22 de noviembre los 193 Estados miembros de la UNESCO firmaron el primer acuerdo mundial sobre la ética de la Inteligencia Artificial (IA). Este documento establece valores y principios comunes para guiar en el diseño de políticas públicas y en la construcción de una infraestructura jurídica que regule el desarrollo tecnológico.
El acuerdo constituye un hecho histórico ya que hasta el momento no existían marcos regulatorios o criterios reglamentarios en este campo de innovación creciente. Los principios que componen esta Recomendación sobre la ética de la IA se fundamentan en el acceso digital y la conectividad, la seguridad y protección de datos personales, la equidad y la no discriminación, y la transparencia y explicabilidad de los procesos técnicos para facilitar la supervisión humana.
La expansión de Inteligencia Artificial
Cada vez más, hablar de IA es hablar de la vida cotidiana en el hogar, el trabajo, la educación o la salud: cuanto más se automatizan y mediatizan las tareas, más influyen en nuestras vidas las decisiones algorítmicas.
Implementaciones concretas de esta tecnología se observa, por ejemplo, en el autorelleno de frases cuando realizamos búsquedas en Google, o en los chatbots de empresas que responden los reclamos, la capacidad de la cámara fotográfica para reconocer objetos y personas, en el etiquetado automático de contactos en Facebook, o en las apps de reconocimiento de voz.
Los sistemas de IA están delineando las formas de comunicación y socialización, los modos de informarse, aprender y trabajar y las actividades culturales cotidianas. Las plataformas como YouTube, Netflix o Spotify se basan en algoritmos para recomendar qué contenidos mirar o escuchar. Algo similar sucede con las diversas apps para delivery, para pedir taxis o hacer operaciones financieras. Las técnicas de inteligencia artificial contribuyen a la personalización de los servicios que brindan las diferentes plataformas.
Al respecto, se puede pensar que estas técnicas pueden aportar a la mejora en distintos aspectos de la sociedad. Por ejemplo, en el ámbito educativo, pueden contribuir con el diseño de los programas curriculares, la personalización del aprendizaje e incluso analizar las causas de la deserción escolar. También, beneficiar a los servicios de salud mediante la automatización de análisis y diagnósticos clínicos. Asimismo, generar nuevos conocimientos científicos a partir de la aplicación de desarrollos técnicos para la simulación de procesos, la predicción de eventos naturales o sociales, o la reconstrucción computacional de ciudades o construcciones pasadas.
IA: ¿inocencia artificial?
Ahora bien, la conformación de un paradigma socio-tecnológico informacional global también conlleva peligros. La expansión de la denominada cuarta revolución industrial –basada en la informática, la big data y la inteligencia artificial– está conformando un mundo regido por unas pocas empresas de base tecnológica. La informatización de la vida, de la producción y la sociedad se estructura a partir de los protocolos de socialización diseñados por plataformas. Lo que genera que los dueños de estas plataformas obtengan un poder inconmensurable en la organización comunicacional, política y socioeconómica del mundo.
Actualmente el foco del debate internacional está puesto sobre el almacenamiento, procesamiento y uso de los datos personales que utilizan estas plataformas. La obtención de información biográfica de cada usuario, sumada a los registros de su actividad, componen un conjunto de datos que permiten configurar un perfil de cada usuario a fines de ofrecer publicidad de productos y servicios. Por lo que hoy los datos son el nuevo combustible de la economía.
Otro de los problemas emergentes está relacionado con el diseño de los algoritmos y los protocolos de análisis y previsión de la información. Es decir, los sesgos con los que se programan los sistemas a partir de los datos utilizados en el entrenamiento, testeo y validación de los modelos. Los sesgos –voluntarios o involuntarios– de las personas que los programan pueden generar exclusiones, exacerbar prejuicios, profundizar desigualdades o dificultar la diversidad cultural. De hecho, son varios los casos donde determinados sistemas invisibilizan o excluyen a mujeres o personas de color debido a que fueron programados para registrar solamente a algunas poblaciones y no a otras.
Desafíos éticos y políticos
Esta Recomendación de UNESCO define la IA como sistemas tecnológicos capaces de procesar información de una manera inteligente a los fines de predecir, planificar, controlar o adoptar decisiones en entornos materiales y virtuales. Estos sistemas se basan en la programación de modelos y algoritmos con capacidad de organizar datos conocidos y aprender a partir de ellos. Por lo tanto, están diseñados para funcionar con autonomía, mediante la modelización del conocimiento y la sistematización de datos y el cálculo de correlaciones.
La IA se conformó como una subdisciplina de las Ciencias Computacionales en torno a 1956 y desde entonces se debate sobre el comportamiento ético de estas máquinas que “piensan”. Sin embargo, siempre estuvo acotado debido a que su desarrollo técnico estuvo ralentizado durante el siglo XX. Pero resurgieron a partir de los 2000 cuando la IA encontró en la informatización las posibilidades técnicas para su concreción.
Si se consideran las potencialidades de la inteligencia artificial para su desarrollo futuro, se puede decir que los desafíos éticos y políticos que trae consigo comportan un dilema para el futuro de la humanidad. Y es por ello que estos lineamientos éticos, acordados por la gran mayoría de los países, son tan importantes. Porque si bien existen reglamentaciones en la Unión Europea o políticas específicas en algunos países, la configuración socio-tecnológica de la IA es global.
Esta Recomendación de la UNESCO comporta, entonces, un gran avance político sobre la IA. Sin embargo, queda pendiente ver cómo se aplicarán estos criterios normativos en los diferentes países, especialmente en los países en desarrollo como América Latina, donde el tema no está en la agenda prioritaria de discusión.
El acceso, una deuda pendiente
Finalmente, hay que decir que uno de los ejes centrales de estas Recomendaciones refiere al acceso y conectividad como derecho humano básico. Sin embargo, la brecha digital sigue siendo una deuda pendiente. Recientemente la Unión Internacional de las Telecomunicaciones publicó el informe Measuring digital development, facts and figures, donde indica que el 37% de la población mundial –la mayoría en países periféricos– no está conectada a internet. Incluso este dato se relaciona con el hecho de que en Argentina un tercio de los hogares no tiene acceso a internet fija. Esta situación constituye un gran problema que requiere ser afrontado, y más aún en el actual contexto de pandemia donde la digitalización de la vida social se ha acentuado.