Economía digital en tiempos de pandemia (II). El crédito social (social scoring) | Funcasblog
Logo Funcas

Economía digital en tiempos de pandemia (II). El crédito social (social scoring)

Comparte esta entrada

China ha anunciado el final de confinamiento, lo que significa que, a partir del próximo 8 de abril, se permitirá a los ciudadanos de Wuhan viajar fuera de la ciudad. Sin embargo, para poder salir al espacio público los habitantes de Wuhan tendrán que mostrar un código QR “verde” en sus teléfonos móviles que certifique que no tienen un riesgo algo de contagio. Por el contrario, si su código QR de salud es amarillo o rojo, tendrán limitación de movimientos o deberán mantenerse en cuarentena. Todos los ciudadanos chinos están clasificados en a través de estos códigos de color que se asignan utilizando no solo su estado de salud, sino también su localización y movimientos pasados.

No es una película de ciencia ficción: está pasando hoy, a ocho horas de vuelo de nosotros, y puede ser nuestro futuro inmediato. No es descabellado pensar que, cuando empecemos a relajar las medidas de aislamiento social, la mejor la forma de hacerlo podría pasar por subordinar las nuevas normas a las probabilidades de contagio, a la vulnerabilidad de los colectivos e incluso a análisis coste-beneficio. Veamos un ejemplo: es probable que muchas actividades se liberalicen pero que, a pesar de ello y mientras haya riesgo de contagio, no se retomen las clases presenciales en la Universidad, puesto que las ganancias de volver a abrir las aulas, una vez rediseñados los cursos este año para impartirlos a distancia, no compensarían los riesgos. De igual forma, la regulación de las residencias para mayores debería ser muy restrictiva, dada su vulnerabilidad a la enfermedad. Pero aunque podamos tener argumentos para discriminar entre actividades y colectivos, hacerlo a nivel individual de acuerdo con un sistema de evaluación opaco (basado en un análisis ingente de datos) implica un salto cualitativo.  

Este sistema de evaluación social no es nuevo en China, ni está restringido al estado de salud. En 2018, Pekín promulgó una ley que parece inspirada en la orwelliana novela 1984, o en Un mundo feliz de Huxley, permitiendo a las autoridades públicas establecer un sistema de crédito social. Esta norma facultaría a las autoridades a emplear toda la información que tienen sobre el comportamiento de los individuos (utilizando bases de datos públicas, datos de redes sociales, miles de cámaras, sistemas de reconocimiento social…) para “puntuarles” y servirse de la evaluación para premiar y castigar. Los individuos con “buena reputacion” tendrían acceso prioritario a los servicios públicos, mientras que aquellos con una baja puntuación podrían encontrarse con obstáculos para obtener una plaza de guardería o un visado para viajar. No está claro el grado de implementación de este sistema crédito social. En este articulo se afirma que, aunque podría extenderse su uso en el futuro, de momento solo se habría llevado a cabo un estudio piloto en Rongcheng, un gran ciudad a 800 kilómetros de Pekín. Más allá de la realidad china, es interesante reflexionar sobre un sistema de crédito social y sus posibles implicaciones para situaciones excepcionales como la que ahora vivimos.

Lo que sí funciona en toda China es un sistema privado de puntuación de pagos electrónicos, Alipay, del grupo de Alibaba. En este caso, lo que se evalúa es la solvencia del individuo y parece que goza de gran aceptación en el país, porque ha permitido la expansión del crédito. En realidad, es un sistema que podría implantarse en Europa si las grandes empresas digitales como Google, Amazon y Facebook se introducen no solo en el mercado de medios de pago sino en el de crédito. Estas empresas tienen una potencial ventaja competitiva (además de su enorme liquidez) dado que pueden usar toda la información que tienen de sus usuarios para identificar su nivel de solvencia, reducir el riesgo y, con ello, expandir la oferta de crédito. El sistema de puntuación de Alipay señaliza el nivel de solvencia, además de funcionar como un sistema de fidelización (premia el uso) y un potente sistema de incentivos para garantizar el pago de las deudas. Los riesgos que un sistema así presenta son, al menos, del mismo tamaño que sus ventajas. ¿Es ético y permisible utilizar información de nuestras redes sociales para estimar nuestra solvencia? ¿Cómo afectaría a nuestra comunicación, a nuestro comportamiento? ¿Cómo podemos impugnar dicho índice cuando pensemos que no estemos de acuerdo con su evaluación?

«De hecho ya contamos con algo muy cercano a un sistema de crédito social: el carné por puntos. Este sistema, apoyado por cámaras, radares y sistemas de vigilancia convencionales, determina si podemos o no conducir. Su implementación tuvo un gran éxito en la reducción de las infracciones de tráfico y cuenta con un alto grado de aceptación social».

Juan José Ganuza

En una situación como la actual, la implementación de un sistema de crédito social podría implicar que nuestro comportamiento social –cómo reciclamos, pero también cómo cumplimos las medidas de aislamiento social– fuera observado por cientos de cámaras, incluso desde drones, e inferido de todos los datos que las administraciones puedan tener de nosotros. La información sobre nuestro comportamiento se resumiría en un índice, que podría ser empleado por las administraciones para asignar servicios y por las entidades privadas, por ejemplo, para dar empleo. Da miedo. Incluso con garantías judiciales sobre la objetividad de un índice así, muy posiblemente sólo una pequeña fracción de la ciudadanía lo aceptaría en nuestro país; nuestros imperfectos sistemas de vigilancia y multas serían mejor valorados.

Sin embargo, los incentivos al comportamiento prosocial que generaría tal sistema serían inmensas. Esto seguramente es importante para el reciclaje, pero puede ser crucial para el control sanitario si la pandemia se extiende en el tiempo y la salud general depende de controlar comportamientos incívicos. Si lo pensamos, de hecho ya contamos con algo muy cercano a un sistema de crédito social: el carné por puntos. Este sistema, apoyado por cámaras, radares y sistemas de vigilancia convencionales, determina si podemos o no conducir. Su implementación tuvo un gran éxito en la reducción de las infracciones de tráfico y cuenta con un alto grado de aceptación social.

Las virtudes o los defectos de un sistema de créditos social dependen de su diseño –de cómo se ponderan los distintos comportamientos en el índice–, de la transparencia en su construcción, de los objetivos que se persiguen, de las garantías judiciales sobre el uso de los datos … El nobel Jean Tirole presentó en la Digital Economics Conference de Toulouse su artículo Digital dystopia, en el que reflexionaba precisamente sobre el diseño óptimo de un sistema de crédito social en la era digital. Tirole concluye que, para promover el comportamiento prosocial, la forma en que se construye el índice debe ser muy transparente y sus metas han de ser muy explícitas (téngase en cuenta que, potencialmente, un sistema como este podría aprovecharse para, por ejemplo, castigar la disidencia política).

Por último, uno de los capítulos más interesantes de la serie británica Black Mirror titulado Nosedive (En España, “Caida en picado”) exploraba una aterradora versión descentralizada del crédito social que podría tener lugar al margen de la decisiones políticas que adoptemos: una red social, como muchas de las que conocemos, en la que los individuos evalúan constantemente la interaccion con otros individuos, es tan dominante que la puntuación obtenida por los usuarios determina sus relaciones sociales, incluso sus oportunidades económicas. El capitulo transmite dos mensajes inquietantes. El primero: cómo este sistema de crédito social se convierte en el centro de la vida de la protagonista; y, en segundo lugar –una conclusión más interesante desde el punto de vista económico–, que el sistema genera muchas desigualdades, ya que pondera más las valoraciones de los individuos mejor puntuados (lo que da lugar al titulo del capítulo: una vez perdida la reputación social es difícil recuperarla).

En conclusión, los sistemas de vigilancia masiva y crédito social generan muchos problemas éticos y por ello se encontraban en nuestro catálogo de pesadillas futuristas. Sin embargo, son sistemas muy potentes para generar incentivos a un comportamiento prosocial. Los comportamientos incívicos son socialmente costosísimos en tiempos de pandemia. Por ello, si esta se alarga, no debería sorprendernos que algún país decidiese hacer realidad la distopía e implementar alguna versión de estos sistemas de control social.

Comparte esta entrada