Gobierno por algoritmo

El gobierno por algoritmo (también conocido como regulación algorítmica, regulación por algoritmos, gobierno algorítmico, gobierno algocrático , orden legal algorítmico o algocracia) es una forma alternativa de gobierno u ordenamiento social, donde el uso de algoritmos informáticos, especialmente de inteligencia artificial y blockchain, se aplica a los reglamentos, la aplicación de la ley y, en general, a cualquier aspecto de la vida cotidiana, como el transporte o el registro de tierras. El término 'gobierno por algoritmo' apareció en la literatura académica como una alternativa al 'gobierno algorítmico' en 2013.Un término relacionado, la regulación algorítmica se define como el establecimiento del estándar, el monitoreo y la modificación del comportamiento por medio de algoritmos computacionales; la automatización del poder judicial está dentro de su alcance. En el contexto de blockchain, también se conoce como gobierno de blockchain.

El gobierno por algoritmo plantea nuevos desafíos que no están capturados en la literatura del gobierno electrónico y la práctica de la administración pública. Algunas fuentes equiparan la ciberocracia, que es una forma hipotética de gobierno que gobierna mediante el uso eficaz de la información, con la gobernanza algorítmica, aunque los algoritmos no son el único medio de procesar la información. Nello Cristianini y Teresa Scantamburlo argumentaron que la combinación de una sociedad humana y ciertos algoritmos de regulación (como la puntuación basada en la reputación) forma una máquina social.

Historia

En 1962, el director del Instituto de Problemas de Transmisión de Información de la Academia Rusa de Ciencias en Moscú (luego Instituto Kharkevich), Alexander Kharkevich, publicó un artículo en la revista "Comunista" sobre una red informática para procesar información y controlar la economía.. De hecho, propuso hacer una red como la Internet moderna para las necesidades de la gobernanza algorítmica. Esto creó una seria preocupación entre los analistas de la CIA. En particular, Arthur M. Schlesinger Jr. advirtió que "para 1970, la URSS puede tener una tecnología de producción radicalmente nueva, que involucre empresas totales o complejos de industrias, administradas por control de retroalimentación de circuito cerrado que emplea computadoras de autoaprendizaje".

Entre 1971 y 1973, el gobierno chileno llevó a cabo el Proyecto Cybersyn durante la presidencia de Salvador Allende. Este proyecto tenía como objetivo construir un sistema de soporte de decisiones distribuido para mejorar la gestión de la economía nacional.

También en las décadas de 1960 y 1970, Herbert A. Simon defendió los sistemas expertos como herramientas para la racionalización y evaluación del comportamiento administrativo. La automatización de los procesos basados ​​en reglas fue una ambición de las agencias tributarias durante muchas décadas, lo que resultó en un éxito variable. Los primeros trabajos de este período incluyen el influyente proyecto TAXMAN de Thorne McCarty en los EE. UU. y el proyecto LEGOL de Ronald Stamper en el Reino Unido. En 1993, el científico informático Paul Cockshott de la Universidad de Glasgow y el economista Allin Cottrell de la Universidad Wake Forest publicaron el libro Towards a New Socialism, donde pretenden demostrar la posibilidad de una economía planificada democráticamente construida sobre la tecnología informática moderna.El Honorable Juez Michael Kirby publicó un artículo en 1998, donde expresó su optimismo de que las tecnologías informáticas disponibles en ese momento, como el sistema de expertos legales, podrían evolucionar a sistemas informáticos, lo que afectará fuertemente la práctica de los tribunales. En 2006, el abogado Lawrence Lessig, conocido por el eslogan "El código es ley", escribió:

"[L]a mano invisible del ciberespacio está construyendo una arquitectura que es todo lo contrario de su arquitectura original. Esta mano invisible, impulsada por el gobierno y el comercio, está construyendo una arquitectura que perfeccionará el control y hará posible una regulación altamente eficiente "

Desde la década de 2000, se han diseñado y utilizado algoritmos para analizar automáticamente los videos de vigilancia.

En su libro Migración virtual de 2006, A. Aneesh desarrolló el concepto de algocracia: las tecnologías de la información restringen la participación humana en la toma de decisiones públicas. Aneesh diferenció los sistemas algocráticos de los sistemas burocráticos (regulación legal-racional) así como de los sistemas basados ​​en el mercado (regulación basada en precios).

En 2013, la regulación algorítmica fue acuñada por Tim O'Reilly, fundador y director ejecutivo de O'Reilly Media Inc.:

A veces, las "reglas" ni siquiera son reglas. Gordon Bruce, el ex director de información de la ciudad de Honolulu, me explicó que cuando ingresó al gobierno desde el sector privado y trató de hacer cambios, le dijeron: "Eso es contra la ley". Su respuesta fue "OK. Muéstrame la ley". "Bueno, en realidad no es una ley. Es un reglamento". "Está bien. Muéstrame el reglamento". "Bueno, en realidad no es una regulación. Es una política que fue puesta en marcha por el Sr. Alguien hace veinte años". "Genial. ¡Podemos cambiar eso!""

[...] Las leyes deben especificar objetivos, derechos, resultados, autoridades y límites. Si se especifican ampliamente, esas leyes pueden resistir el paso del tiempo. Las regulaciones, que especifican cómo ejecutar esas leyes con mucho más detalle, deben considerarse de la misma manera que los programadores consideran su código y algoritmos, es decir, como un conjunto de herramientas constantemente actualizado para lograr los resultados especificados en las leyes. [...] Es hora de que el gobierno entre en la era de los grandes datos. La regulación algorítmica es una idea cuyo momento ha llegado.

En 2017, el Ministerio de Justicia de Ucrania realizó subastas gubernamentales experimentales utilizando tecnología blockchain para garantizar la transparencia y evitar la corrupción en las transacciones gubernamentales. "¿Gobierno por algoritmo?" fue el tema central presentado en la conferencia Data for Policy 2017 celebrada los días 6 y 7 de septiembre de 2017 en Londres, Reino Unido.

Ejemplos

Ciudades inteligentes

Una ciudad inteligente es un área urbana donde los datos de vigilancia recopilados se utilizan para mejorar varias operaciones. El aumento en el poder computacional permite una toma de decisiones más automatizada y el reemplazo de agencias públicas por gobernanza algorítmica. En particular, el uso combinado de inteligencia artificial y cadenas de bloques para IoT puede conducir a la creación de ecosistemas de ciudades inteligentes sostenibles. El alumbrado público inteligente en Glasgow es un ejemplo de aplicación gubernamental exitosa de algoritmos de IA.

El millonario de criptomonedas Jeffrey Berns propuso la operación de gobiernos locales en Nevada por parte de firmas tecnológicas en 2021. Berns compró 67,000 acres (271 km²) en el condado rural de Storey de Nevada por $ 170,000,000 (£ 121,000,000) en 2018 para desarrollar una ciudad inteligente con más de 36,000 residentes que podrían generar una producción anual de $4,600,000,000. Se permitirán las criptomonedas para los pagos. En Arabia Saudita, los planificadores de The Line afirman que será monitoreado por IA para mejorar la vida mediante el uso de datos y modelos predictivos.

Sistemas de reputación

Tim O'Reilly sugirió que las fuentes de datos y los sistemas de reputación combinados en la regulación algorítmica pueden superar las regulaciones tradicionales. Por ejemplo, una vez que los pasajeros califican a los taxistas, la calidad de sus servicios mejorará automáticamente y "se eliminarán los conductores que brindan un servicio deficiente". La sugerencia de O'Reilly se basa en el concepto teórico de control del circuito de retroalimentación: las mejoras y desmejoras de la reputación imponen el comportamiento deseado. Stafford Beer ya sugirió anteriormente el uso de bucles de alimentación para la gestión de sistemas sociales en cibernética de gestión.

Estas conexiones son exploradas por Nello Cristianini y Teresa Scantamburlo, donde el sistema de puntuación de reputación-crédito se modela como un incentivo dado a los ciudadanos y computado por una máquina social, de modo que los agentes racionales estarían motivados para aumentar su puntuación adaptando su comportamiento. Todavía se están discutiendo varios aspectos éticos de esa tecnología.

El Sistema de Crédito Social de China está estrechamente relacionado con los sistemas de vigilancia masiva de China, como Skynet, que incorpora un sistema de reconocimiento facial, tecnología de análisis de big data e IA. Este sistema proporciona evaluaciones de confiabilidad de individuos y empresas. Entre las conductas, que el sistema considera como mala conducta, se citan cruzar la calle imprudentemente y no clasificar correctamente los desechos personales. El comportamiento enumerado como factores positivos de las calificaciones crediticias incluye la donación de sangre, la donación a organizaciones benéficas, el voluntariado para servicios comunitarios, etc. El sistema de crédito social chino permite castigos a ciudadanos "no confiables", como negar la compra de boletos y recompensas para ciudadanos "confiables", como menos tiempo de espera en hospitales y agencias gubernamentales.

Contratos inteligentes

Los contratos inteligentes, las criptomonedas y la organización autónoma descentralizada se mencionan como medios para reemplazar las formas tradicionales de gobierno. Las criptomonedas son monedas que están habilitadas por algoritmos sin un banco central gubernamental. La moneda digital del banco central a menudo emplea una tecnología similar, pero se diferencia del hecho de que sí utiliza un banco central. Pronto será empleado por los principales sindicatos y gobiernos, como la Unión Europea y China. Los contratos inteligentes son contratos autoejecutables, cuyos objetivos son la reducción de la necesidad de intermediarios gubernamentales confiables, arbitrajes y costos de ejecución.Una organización autónoma descentralizada es una organización representada por contratos inteligentes que es transparente, controlada por accionistas y no influenciada por un gobierno central. Se ha discutido el uso de contratos inteligentes en aplicaciones tales como el uso en contratos de trabajo (temporales) y la transferencia automática de fondos y propiedades (es decir, herencia, al registrar un certificado de defunción). Algunos países, como Georgia y Suecia, ya han lanzado programas de cadena de bloques centrados en la propiedad (títulos de propiedad y propiedad de bienes inmuebles). Ucrania también está analizando otras áreas, como los registros estatales.

Algoritmos en agencias gubernamentales

Según un estudio de la Universidad de Stanford, el 45 % de las agencias federales de EE. UU. estudiadas han experimentado con IA y herramientas de aprendizaje automático (ML) relacionadas hasta 2020. Las agencias federales de EE. UU. contaron la siguiente cantidad de aplicaciones de inteligencia artificial.

Nombre de agencia	Número de casos de uso
Programas de la Oficina de Justicia	12
Comisión Nacional del Mercado de Valores	10
Administración Nacional de Aeronáutica y Espacio	9
Administración de Alimentos y Medicamentos	8
Encuesta geológica de los Estados Unidos	8
Servicio Postal de los Estados Unidos	8
Administracion de la Seguridad Social	7
Oficina de Patentes y Marcas de Estados Unidos	6
Oficina de estadísticas laborales	5
Aduanas y Protección de Fronteras de EE.UU	4

El 53% de estas aplicaciones fueron realizadas por expertos internos. Los proveedores comerciales de aplicaciones residuales incluyen Palantir Technologies.

A partir de 2012, NOPD inició una colaboración con Palantir Technologies en el campo de vigilancia predictiva. Además del software Gotham de Palantir, otros (software de análisis numérico) similares utilizados por las agencias policiales (como el NCRIC) incluyen SAS.

En la lucha contra el lavado de dinero, FinCEN emplea el Sistema de Inteligencia Artificial de FinCEN (FAIS).

Las entidades y organizaciones de la administración nacional de la salud, como AHIMA (Asociación Estadounidense de Gestión de la Información de la Salud), mantienen registros médicos. Los registros médicos sirven como depósito central para planificar la atención del paciente y documentar la comunicación entre el paciente y el proveedor de atención médica y los profesionales que contribuyen a la atención del paciente. En la UE, se está trabajando en un Espacio Europeo de Datos de Salud que apoya el uso de datos de salud.

El Departamento de Seguridad Nacional de EE. UU. ha empleado el software ATLAS, que se ejecuta en Amazon Cloud. Escaneó más de 16,5 millones de registros de estadounidenses naturalizados y marcó aproximadamente 124.000 de ellos para su análisis manual y revisión por parte de los funcionarios de USCIS con respecto a la desnaturalización. Se marcaron debido a posibles problemas de fraude, seguridad pública y seguridad nacional. Algunos de los datos escaneados provienen de la base de datos de detección de terroristas y el Centro Nacional de Información Criminal.

En Estonia, la inteligencia artificial se utiliza en su gobierno electrónico para hacerlo más automatizado y fluido. Un asistente virtual guiará a los ciudadanos a través de cualquier interacción que tengan con el gobierno. Los servicios automatizados y proactivos "empujan" los servicios a los ciudadanos en eventos clave de sus vidas (incluidos nacimientos, duelos, desempleo,...). Un ejemplo es el registro automatizado de bebés cuando nacen. El sistema X-Road de Estonia también se reconstruirá para incluir aún más control de privacidad y responsabilidad en la forma en que el gobierno utiliza los datos de los ciudadanos.

En Costa Rica, se ha investigado la posible digitalización de las actividades de contratación pública (es decir, licitaciones de obras públicas,...). El documento que analiza esta posibilidad menciona que el uso de las TIC en la contratación tiene varios beneficios, como aumentar la transparencia, facilitar el acceso digital a las licitaciones públicas, reducir la interacción directa entre los funcionarios de contratación y las empresas en momentos de alto riesgo para la integridad, aumentar el alcance y la competencia, y facilitar detección de irregularidades.

Además de utilizar licitaciones electrónicas para obras públicas regulares (construcción de edificios, carreteras,...), las licitaciones electrónicas también se pueden utilizar para proyectos de reforestación y otros proyectos de restauración de sumideros de carbono. Los proyectos de restauración de sumideros de carbono pueden ser parte de los planes de contribuciones determinadas a nivel nacional para alcanzar los objetivos nacionales del acuerdo de París.

También se puede utilizar el software de auditoría de adquisiciones gubernamentales. Las auditorías se realizan en algunos países después de que se han recibido los subsidios.

Algunas agencias gubernamentales proporcionan sistemas de seguimiento y localización para los servicios que ofrecen. Un ejemplo es el seguimiento y localización de las solicitudes realizadas por los ciudadanos (es decir, la obtención del permiso de conducción).

Algunos servicios gubernamentales utilizan un sistema de seguimiento de problemas para realizar un seguimiento de los problemas en curso.

Justicia por algoritmo

Las decisiones de los jueces en Australia están respaldadas por el software "Split Up" en caso de determinar el porcentaje de separación después de un divorcio.

El software COMPAS se utiliza en EE. UU. para evaluar el riesgo de reincidencia en los tribunales.

Según la declaración del Tribunal de Internet de Beijing, China es el primer país en crear un tribunal de Internet o tribunal cibernético. La jueza china AI es una recreación virtual de una jueza real. Ella "ayudará a los jueces de la corte a completar el trabajo básico repetitivo, incluida la recepción de litigios, lo que permitirá a los profesionales concentrarse mejor en su trabajo de juicio".

También Estonia planea emplear inteligencia artificial para decidir casos de menor cuantía de menos de 7.000 euros.

Los Lawbots pueden realizar tareas que normalmente realizan los asistentes legales o los jóvenes asociados en los bufetes de abogados. Una de esas tecnologías que utilizan los bufetes de abogados de EE. UU. para ayudar en la investigación legal es la de ROSS Intelligence, y otras varían en sofisticación y dependencia de algoritmos programados. Otra aplicación de chatbot de tecnología legal es DoNotPay.

IA en la educación

Debido a la pandemia de COVID-19 en 2020, los exámenes finales presenciales fueron imposibles para miles de estudiantes. La escuela secundaria pública Westminster High empleó algoritmos para asignar calificaciones. El Departamento de Educación del Reino Unido también empleó un cálculo estadístico para asignar calificaciones finales en los niveles A, debido a la pandemia.

Además de su uso para calificar, los sistemas de software y la IA también optimizan el trabajo del curso y se utilizan en la preparación de los exámenes de ingreso a la universidad.

Los asistentes de enseñanza de IA se están desarrollando y utilizando para la educación (es decir, Jill Watson de Georgia Tech) y también hay un debate en curso sobre si quizás los maestros pueden ser reemplazados por completo por sistemas de IA (es decir, en la educación en el hogar).

Políticos de IA

En 2018, un activista llamado Michihito Matsuda se postuló para alcalde en el área de la ciudad de Tama en Tokio como representante humano de un programa de inteligencia artificial. Si bien los carteles electorales y el material de la campaña usaban el término robot y mostraban imágenes de archivo de un androide femenino, el "alcalde de IA" era de hecho un algoritmo de aprendizaje automático entrenado con conjuntos de datos de la ciudad de Tama. El proyecto fue respaldado por ejecutivos de alto perfil Tetsuzo Matsumoto de Softbank y Norio Murakami de Google. Michihito Matsuda quedó tercero en las elecciones, siendo derrotado por Hiroyuki Abe. Los organizadores afirmaron que el 'alcalde AI' estaba programado para analizar las peticiones de los ciudadanos presentadas al ayuntamiento de una manera más 'justa y equilibrada' que los políticos humanos.

En 2019, SAM, el chatbot de mensajería impulsado por IA, participó en las discusiones en las redes sociales relacionadas con una carrera electoral en Nueva Zelanda. El creador de SAM, Nick Gerritsen, cree que SAM estará lo suficientemente avanzado como para postularse como candidato a fines de 2020, cuando Nueva Zelanda tenga sus próximas elecciones generales.

Manejo de la infección

En febrero de 2020, China lanzó una aplicación móvil para hacer frente al brote de coronavirus llamada "detector de contacto cercano". Se pide a los usuarios que introduzcan su nombre y número de identificación. La aplicación puede detectar "contacto cercano" utilizando datos de vigilancia (es decir, utilizando registros de transporte público, incluidos trenes y vuelos) y, por lo tanto, un riesgo potencial de infección. Cada usuario también puede comprobar el estado de otros tres usuarios. Para realizar esta consulta, los usuarios escanean un código de respuesta rápida (QR) en sus teléfonos inteligentes utilizando aplicaciones como Alipay o WeChat. Se puede acceder al detector de contacto cercano a través de aplicaciones móviles populares, incluido Alipay. Si se detecta un riesgo potencial, la aplicación no solo recomienda la autocuarentena, sino que también alerta a los funcionarios de salud locales.

Alipay también tiene el Código de Salud de Alipay que se utiliza para mantener seguros a los ciudadanos. Este sistema genera un código QR en uno de tres colores (verde, amarillo o rojo) después de que los usuarios completen un formulario en Alipay con datos personales. Un código verde permite al titular moverse sin restricciones. Un código amarillo requiere que el usuario permanezca en casa durante siete días y el rojo significa una cuarentena de dos semanas. En algunas ciudades como Hangzhou, se ha vuelto casi imposible moverse sin mostrar el código de Alipay.

En Cannes, Francia, se ha utilizado software de monitoreo en imágenes filmadas por cámaras de CCTV, lo que permite monitorear su cumplimiento del distanciamiento social local y el uso de máscaras durante la pandemia de COVID-19. El sistema no almacena datos de identificación, sino que permite alertar a las autoridades de la ciudad y a la policía cuando se detectan infracciones de las reglas de máscara y uso de máscara (permitiendo que se lleven a cabo multas cuando sea necesario). Los algoritmos utilizados por el software de monitorización pueden incorporarse a los sistemas de vigilancia existentes en espacios públicos (hospitales, estaciones, aeropuertos, centros comerciales,...)

Los datos de los teléfonos móviles se utilizan para localizar pacientes infectados en Corea del Sur, Taiwán, Singapur y otros países. En marzo de 2020, el gobierno israelí permitió a las agencias de seguridad rastrear los datos de los teléfonos móviles de las personas que se suponía que tenían coronavirus. La medida se tomó para hacer cumplir la cuarentena y proteger a quienes puedan entrar en contacto con ciudadanos infectados. También en marzo de 2020, Deutsche Telekom compartió datos de teléfonos celulares privados con la agencia del gobierno federal, el Instituto Robert Koch, para investigar y prevenir la propagación del virus. Rusia desplegó tecnología de reconocimiento facial para detectar a los infractores de la cuarentena. El comisionado regional de salud italiano, Giulio Gallera, dijo que "el 40% de las personas continúan moviéndose de todos modos", según le informaron los operadores de telefonía móvil.En EE. UU., Europa y el Reino Unido, Palantir Technologies se encarga de proporcionar servicios de seguimiento de COVID-19.

Prevención y gestión de desastres ambientales

Los tsunamis pueden ser detectados por los sistemas de alerta de tsunamis. Pueden hacer uso de la IA. Las inundaciones también se pueden detectar mediante sistemas de inteligencia artificial. Las áreas de reproducción de langostas se pueden aproximar utilizando el aprendizaje automático, lo que podría ayudar a detener los enjambres de langostas en una fase temprana. Los incendios forestales se pueden predecir utilizando sistemas de IA. Además, la detección de incendios forestales es posible mediante sistemas de IA (es decir, a través de datos satelitales, imágenes aéreas y posición del personal). y también pueden ayudar en la evacuación de personas durante incendios forestales.

Recepción

Beneficios

Se supone que la regulación algorítmica es un sistema de gobierno en el que se utilizan datos más exactos, recopilados de los ciudadanos a través de sus dispositivos inteligentes y computadoras, para organizar de manera más eficiente la vida humana como colectivo. Como estimó Deloitte en 2017, la automatización del trabajo del gobierno de los EE. UU. podría ahorrar 96,7 millones de horas federales al año, con un ahorro potencial de $3300 millones; en el extremo superior, esto se eleva a 1200 millones de horas y un ahorro potencial anual de $41 100 millones.

Crítica

Existen riesgos potenciales asociados con el uso de algoritmos en el gobierno. Estos incluyen algoritmos que se vuelven susceptibles al sesgo, falta de transparencia en la forma en que un algoritmo puede tomar decisiones y la responsabilidad de tales decisiones.

También existe una seria preocupación de que las partes reguladas puedan jugar, una vez que la gobernanza algorítmica traiga más transparencia a la toma de decisiones, las partes reguladas podrían intentar manipular su resultado a su favor e incluso utilizar el aprendizaje automático adversario. Según Harari, el conflicto entre democracia y dictadura se ve como un conflicto de dos sistemas de procesamiento de datos diferentes: la IA y los algoritmos pueden inclinar la ventaja hacia este último al procesar enormes cantidades de información de manera centralizada.

En 2018, los Países Bajos emplearon un sistema algorítmico SyRI (Systeem Risico Indicatie) para detectar a ciudadanos percibidos como de alto riesgo de cometer fraude de asistencia social, que silenciosamente señaló a miles de personas a los investigadores. Esto provocó una protesta pública. El tribunal de distrito de La Haya cerró SyRI haciendo referencia al artículo 8 del Convenio Europeo de Derechos Humanos (CEDH).

Los colaboradores del documental iHuman de 2019 expresaron su aprensión por las "dictaduras infinitamente estables" creadas por la IA del gobierno.

En 2020, los algoritmos que asignan calificaciones de exámenes a estudiantes en el Reino Unido provocaron una protesta abierta bajo el lema "A la mierda el algoritmo". Esta protesta tuvo éxito y se retiraron las calificaciones.

En 2020, el software del gobierno de EE. UU. ATLAS, que se ejecuta en Amazon Cloud, provocó el alboroto de los activistas y los propios empleados de Amazon.

En 2021, la Fundación Eticas ha lanzado una base de datos de algoritmos gubernamentales llamada Observatorio de Algoritmos con Impacto Social (OASI).

Sesgo algorítmico y transparencia

Un enfoque inicial hacia la transparencia incluía el código abierto de algoritmos. El código de software se puede analizar y se pueden proponer mejoras a través de instalaciones de alojamiento de código fuente.

Aceptación pública

Una encuesta de 2019 realizada por el Centro para la Gobernanza del Cambio de IE University en España encontró que el 25 % de los ciudadanos de países europeos seleccionados estaban algo o totalmente a favor de dejar que una inteligencia artificial tome decisiones importantes sobre cómo se dirige su país. La siguiente tabla enumera los resultados por país:

País	Porcentaje
Francia	25%
Alemania	31%
Irlanda	29%
Italia	28%
Países Bajos	43%
Portugal	19%
España	26%
Reino Unido	31%

Los investigadores encontraron alguna evidencia de que cuando los ciudadanos perciben que sus líderes políticos o proveedores de seguridad no son confiables, decepcionantes o inmorales, prefieren reemplazarlos por agentes artificiales, a quienes consideran más confiables. La evidencia se establece mediante experimentos de encuestas en estudiantes universitarios de todos los géneros.

En la cultura popular

Las novelas Daemon and Freedom™ de Daniel Suarez describen un escenario ficticio de regulación algorítmica global.