Poco después de la ratificación de la Constitución de los Estados Unidos, la Carta de derechos agregó garantías específicas sobre la libertad de expresión y reunión, y el derecho a juicios justos, con el objetivo de poner límites a los poderes del gobierno recién creado. Este es el precedente que los asesores científicos del casa Blanca de Biden Invocan cuando proponen una nueva carta que tiene como objetivo proteger a los ciudadanos de la tecnología transformadora de la inteligencia artificial. Es una iniciativa admirable, pero debe extenderse a escala mundial, no solo a los estadounidenses.

Si la noción de un nuevo Carta de derechos parece pomposo, considere el contexto. Las salvaguardias internacionales y nacionales de los derechos fundamentales y contra el abuso y la discriminación por parte de gobiernos y empresas han logrado grandes avances desde Segunda Guerra Mundial. Pero estos están dirigidos a actores humanos.

Por primera vez en la historia, las decisiones cruciales para el bienestar humano las toman total o parcialmente máquinas en todo tipo de cosas, desde solicitudes de empleo hasta solvencia, procedimientos médicos o sentencias de prisión. Y la toma de decisiones algorítmica es propensa a errores o sesgos. La tecnología de reconocimiento facial puede combatir las tez más oscura. Lo que las máquinas aprenden está influenciado por los sesgos de quienes las programan y los conjuntos parciales de datos que reciben.

Cuando las cosas van mal, puede ser difícil encontrar seres humanos que asuman la responsabilidad. En el Reino Unido este mes un ex Uber raza negra cuya cuenta fue desactivada después Software Los escáneres faciales automáticos no lo reconocieron y presentaron repetidamente una demanda en la corte laboral.

Entonces, la primera tarea de un Carta de los derechos de la inteligencia artificial es fortalecer las protecciones existentes para un mundo de inteligencia artificial. Debe aplicarse a la toma de decisiones algorítmicas en áreas legales o que cambian la vida. Y debe extenderse a los datos y la privacidad, garantizando el derecho de las personas a saber qué datos se almacenan sobre ellos, cómo se usa la información y cómo se transfiere entre proveedores.

Las decisiones de la inteligencia artificial no deben surgir de una caja negra insondable, sino que deben ser “explicables”. Un proyecto de ley debe garantizar el derecho de una persona a saber cuándo un algoritmo está tomando decisiones al respecto, cómo funciona y qué datos se están utilizando. Debe garantizarse el derecho a impugnar decisiones y obtener reparación. Se debe mantener cierta responsabilidad humana o corporativa, y los gerentes deben rendir cuentas de los errores o malas decisiones de los sistemas que supervisan, así como de las realizadas por el personal humano.

Pero la inteligencia artificial da a los gobiernos sin escrúpulos la capacidad de espiar, controlar y potencialmente coaccionar a sus ciudadanos. Un proyecto de ley debe establecer qué tecnologías están permitidas o no y las reglas básicas para su uso.

La iniciativa de la Carta de Derechos va por detrás de lo que hace Europa. los Reglamento general de protección de datos de la Unión Europea ya contiene el derecho de los ciudadanos a no ser sometidos sin su consentimiento a decisiones “basadas en el procesamiento automatizado”, aunque esto no se aplica de manera generalizada. Un proyecto de ley describe una jerarquía de riesgos para tecnologías sujetas a diferentes garantías.

Administración Biden debe aceptar la invitación de la Unión Europea para trabajar juntos en cuestiones de inteligencia artificial. Pero al igual que el Declaración Universal de Derechos Humanos de Naciones Unidas (ONU) de 1948 estableció que los derechos humanos fundamentales deben ser protegidos universalmente, también merece una carta global de inteligencia artificial. Algunos países optarán por ir más lejos; otros, como China, pueden negarse a unirse. Pero como en la Guerra Fría, la protección superior de los derechos humanos, ahora contra la IA intrusiva, puede convertirse en un punto de diferenciación moral e influencia para las democracias.