El dataísmo es la situación en la que, con suficientes datos biométricos sobre mí y suficiente poder computacional, un algoritmo externo puede entenderme mejor de lo que yo me entiendo a mí mismo.
Una vez existe este algoritmo, el poder pasa de mí, como individuo, a ese algoritmo, que puede tomar mejores decisiones que yo. Esto empieza con cosas simples, como el algoritmo de Amazon que te propone libros, o los sistemas de navegación que nos dicen qué camino tomar. Eran decisiones que tomábamos basándonos en nuestros instintos y conocimientos.
Ahora la gente cada vez confía más en aplicaciones y sigue instrucciones del teléfono celular. Y esto irá pasando también en decisiones más importantes, cómo en qué universidad estudiar, a quién votar… Iremos cediendo poder de decisión, y no porque lo decida un poder dictatorial, sino que seremos nosotros quienes querremos hacerlo.
Cuando la policía habla de georreferenciar el delito se basa en los que es un algoritmo el que decide dónde se debe desplegar a los patrulleros en función de los patrones de delincuencia, no un sargento veterano como antes.
En el próximo siglo encararemos no solo cambios tecnológicos sino también ideológicos. Y la idea de que podemos mantener los valores humanísticos que han sido predominantes durante el siglo XX, solo que con una mejor tecnología para hacer realidad estos ideales, es muy naïf.
Las ideas fundamentales de las democracias liberales con las que estamos familiarizados, como ‘un hombre un voto’, en un mundo con castas biológicas, ciborgs e inteligencia artificial pueden quedar completamente obsoletas. Los superricos podrán conseguir para sí mismos o para sus hijos capacidades que les harán superiores a la población media, que no podrá competir, y la brecha se hará cada vez mayor. Hoy no, y por eso el hijo de un pobre aún tiene alguna oportunidad. Cuando haya estas diferencias biológicas no tendrá ninguna.
El mundo es ahora mucho más igualitario entre razas, entre clases, entre géneros, incluso entre padres e hijos. Esto ahora quizá va a invertirse. Veremos mayores desigualdades que en cualquier otro momento de la historia. Podremos ver a una pequeñísima minoría de personas que monopolice el poder económico y político, los algoritmos y la tecnología, y utilice este enorme poder para empezar a mejorar biológicamente y crear clases biológicas.
Esto es abstracto, así que podemos poner un ejemplo: pensemos por ejemplo en los coches con pilotaje autónomo. Serán casi inevitables en los próximos 10 o 20 años. Hoy, millones de personas comparten las decisiones sobre la movilidad. Taxistas, conductores, profesores de autoescuelas, guardias de tráfico… Dentro de 20 años todos los vehículos estarán conectados a una única red que estará controlada por un único algoritmo. ¿Y quién será el propietario? Quizá una corporación como Google controlará toda la red de transporte de cualquier ciudad. Ese es el tipo de monopolización del poder que puede venir.