Propone la UNESCO reglas para el desarrollo ético de la Inteligencia Artificial
La inteligencia artificial (IA) juega un papel en la vida de miles de millones de personas. A veces inadvertida, pero con profundas consecuencias.
La humanidad está en el umbral de una nueva era. La inteligencia artificial (I.A.) transformará nuestra existencia de un modo tal que ni alcanzamos a imaginar. Esta transformación ya comenzó y afecta todos los aspectos de nuestra vida. La I.A. tiene muchas aplicaciones en áreas tan variadas como la salud, la educación, la cultura, la seguridad, la defensa, etc. La investigación cobró un fuerte impulso en estos últimos años: los gigantes de la web (GAFAM), pero también muchos países realizan ahora importantes inversiones en I.A. y se convierten en actores de esta “cuarta revolución industrial”. La I.A. transformará profundamente la educación. Se van a revolucionar los métodos de enseñanza, las formas de aprender, de acceder al conocimiento, de capacitar a los docentes. Las competencias que habrá que desarrollar para evolucionar en un mundo cada vez más automatizado será un tema que adquirirá cada vez mayor importancia. Vivimos en la era en la que los dispositivos y robots aprenden hoy en día a tomar decisiones. Naturalmente, “decidir” es un término que suena excesivo para máquinas que no tienen conciencia y cuyo nivel de “inteligencia” no llega ni siquiera al de una rana. Pero los últimos adelantos de la I.A. bastan para atemorizar a algunos y hacer fantasear a otros. Para muchos, la palabra “inteligencia” es sólo una metáfora, cuando se trata de máquinas o de robots que están destinados ‒se nos asegura‒ a seguir siendo simples y humildes asistentes de los humanos. La I.A. nos ayuda a superar las barreras lingüísticas gracias a la traducción automática, a efectuar numerosas tareas rutinarias, incluso a realizar los quehaceres domésticos, a fabricar productos, a detectar enfermedades en etapas anteriores a las que los médicos pueden diagnosticarlas, a crear prótesis que pueden ser accionadas con el pensamiento. No obstante, la combinación de lo que se denomina el aprendizaje profundo de las máquinas (deep learning) y de los macrodatos (big data) está provocando no sólo una revolución de la IA, sino también una cuarta revolución industrial, que nuestras sociedades probablemente no están preparadas para afrontar. La pregunta que ya se plantea es: ¿no existe el riesgo de que los datos utilizados por la I.A. se empleen para consolidar ideas y prejuicios recibidos? Elaboración de perfiles raciales, censura o predicción del carácter delictivo. Estos criterios discriminatorios ya han sido introducidos en algunas máquinas a las que se les enseña a analizar tipos de comportamiento. Cuanto más complejo se vuelve el desarrollo tecnológico, más se complican las preguntas éticas que suscita. El desarrollo de los robots asesinos es un claro ejemplo de ello. Por ello, desde la Unesco presentaron, los últimos días de noviembre, una guía para “afrontar de manera responsable los efectos conocidos y desconocidos de la inteligencia artificial en los seres humanos, las sociedades y el medio ambiente y los ecosistemas”. Esta "Recomendación sobre la Ética de la Inteligencia Artificial", es una propuesta que se diferencía de las recomendaciones previas a ética de I.A. por la naturaleza de la institución que le promueve. Dado que las leyes y regulaciones son, a fin de cuentas, producidas por los Estados, el hecho de que la recomendación actual tenga consenso de 193 países implica una fortaleza mayor a la hora de garantizar la implementación efectiva de las propuestas. En el documento, que tiene 30 páginas, y que fue conformado por expertos de Google, Facebook, Microsoft, las Universidades de Stanford y Nueva York y la Academia China de Ciencia y Tecnología, entre otras instituciones, se insta a adoptar recomendaciones ante situaciones complejas como el reconocimiento facial, que no deberá usarse "con fines de vigilancia masiva o rendición de cuentas sociales" o en el caso de armas autónomas, donde las "las decisiones de vida o muerte no deben ser tomadas por sistemas de inteligencia artificial" especificando que la "última palabra" debe ser tomada por un humano. Así, las pautas generales pero intransigibles para el desarrollo de I.A. , así como las decisiones tomadas por sistemas de inteligencia artificial, deben ser: - Transparentes (explicables, tanto en términos algorítmicos como de datos utilizados) - Inclusivas (evitar sesgos tanto en los resultados como en los desarrollos) - Responsables (en última instancia, para toda decisión y/o sistema, debe haber rendición de cuentas humana). Se busca que desarrolladores y países puedan utilizar la recomendación y el instrumento de impacto ético de la UNESCO para certificar que siguen parámetros éticos globalmente consensuados. Sin embargo, cabe destacar que no hay código ético que se alcance sin una regulación efectiva. Esta responsabilidad, por supuesto, no es rol de la UNESCO sino de los Estados que forman parte de la ONU. Ahora que el documento fue publicado, y muy bien recibido, la responsabilidad reside en quienes tendrán en su momento la tarea de la implementación de éstas políticas y su desarrollo.
Con información de la UNESCO y La Nación |