Las hipótesis de Yuval Noah Harari sobre el impacto del desarrollo científico en el individuo y su libertad, el mercado y la democracia

En entregas anteriores de “Interpretaciones sobre el actual estadio del capitalismo histórico” se presentó la comprensión de la crisis sistémica y su eventual desarrollo procedente de distintas perspectivas teóricas. Ahora iniciamos la revisión de las hipótesis de Harari sobre los probables efectos del desarrollo científico en la libertad de las personas, el mercado y la democracia.

Introducción

En su libro Homo Deus. Breve historia del mañana[1], Harari analiza la disrupción tecnológica. Este concepto será resumido en tres hipótesis. La primera, que es presentada aquí, postula que la aplicación rutinaria de los descubrimientos de la biología y neurociencia podría desplazar la democracia liberal y el mercado libre basados en las ideas del libre albedrío e individuación. La segunda trata la “religión” del tecnohumanismo cuyo objetivo sería la creación de un Homo Deus cuyas extraordinarias capacidades, incluyendo los algoritmos inconscientes, nos conducirían al desarrollo de los valores humanos y plena autonomía. La tercera representa una “religión más audaz”, es el “Dataísmo” que sustituiría los deseos y experiencias como el origen de todo sentido y autoridad, y deja de venerar al hombre y a Dios para adorar los datos. Es el primer movimiento desde la revolución francesa que ha conseguido crear un valor nuevo, esto es la libertad de información, que no es lo mismo que la libertad de expresión porque esta es concedida a los humanos, mientras que la libertad de información es un atributo concedido a la misma información. La propagación del dataísmo por todas las disciplinas da lugar a un paradigma científico unificado, y por lo mismo a una especie de “dogma irrefutable”.

Frente a estos posibles desarrollo Harari se pregunta si es realmente cierto que la vida es sólo un procesamiento de datos y que los algoritmos inconscientes son más valiosos que la conciencia.

Examinemos ahora más extensamente en esta entrega la primera hipótesis sobre el impacto de desarrollo científico en las ideas básicas del liberalismo. La segunda y tercera hipótesis las trataremos en próximas entregas.

Desarrollos científicos: los algoritmos no conscientes podrían superar los seres conscientes

Los descubrimientos científicos recientes surgidos de las ciencias de la vida -como por ejemplo la biología de la evolución y neurociencia-, y se logre al mismo tiempo su aplicación en técnicas rutinarias, las ideas sobre el libre albedrío y la individuación se verán profundamente socavadas.

El creciente aluvión de dispositivos tales como sensores, computadores portátiles incorporados a teléfonos inteligentes, relojes de pulsera, pulseras y ropa interior, además de variadas herramientas y estructuras, podrían terminar desplazando la democracia liberal y el mercado libre basados en las ideas liberales de libre albedrío e individuación.

En el siglo XXI los humanos perderían su utilidad militar y económica debido a los avances tecnológicos. El capitalismo pudo crecer porque cada ser humano tenía una gran utilidad en el masivo carácter de las guerras y economía modernas industriales. A Harari llama mucho la atención la coincidencia temporal entre la Declaración de los Derechos del Hombre y del Ciudadano y la promulgación del decreto sobre el servicio militar obligatorio. En ambos se arguye que todos los ciudadanos tienen igual valor e iguales derechos políticos. Se sostenía que los soldados y los obreros de los países democráticos rendían mejor que en las dictaduras porque gozaban de mayor motivación, la cual era de mucha utilidad en los ejércitos y en las industrias. Una lógica parecida subyacía en el otorgamiento de sufragio a las mujeres después de la Primera Guerra Mundial.

La sustitución del ser humano por los dispositivos tecnológicos

Para el siglo XXI, hombres y mujeres podrían perder su valor militar y económico. Los ejércitos más avanzados ahora se apoyan en tecnologías de última generación. Unos pocos expertos pueden dirigir drones sin pilotos y los cibergusanos están sustituyendo a los masivos ejércitos del siglo XX, mientras que los generales estarían delegando cada vez más decisiones a los algoritmos.

En la esfera económica está ocurriendo algo semejante. Aunque en 2016 los computadores no son más conscientes que en 1950, estaríamos cerca de una revolución trascendental. En la actualidad se están desarrollando nuevos tipos de inteligencia no conscientes, con más competencias para desarrollar tareas mucho mejor que los humanos. Todas estas tareas se basan en el reconocimiento de pautas. Los algoritmos no conscientes podrían superar pronto a los seres conscientes. En el siglo XXI “para ejércitos y compañías comerciales la inteligencia es obligatoria pero la consciencia es opcional”[2]. Los algoritmos ahorran tiempo y dinero, y salvarían vidas humanas. Esto está ocurriendo en la manufactura, bancos, agencias de viaje, la bolsa de valores, y en muchas profesiones como la de abogados, detectives, profesores, y médicos generales e internistas, y en la actividad farmacéutica: en 2011 se fundó en San Francisco una farmacia dirigida por un solo robot.

Como sabemos, la historia del mercado laboral en Estados Unidos puede dividirse en el desarrollo de tres sectores: hasta cerca de 1800 la inmensa mayoría trabajaba en la agricultura. Durante la revolución industrial la mayoría empezó a trabajar en las industrias y los servicios. En 2010 solo el 2% de los estadounidenses trabajaba en la agricultura, un 20% en la industria y un 78% como profesores, médicos y diseñadores de páginas web y otros oficios.

“Cuando los algoritmos sin mente sean capaces de enseñar, diagnosticar y diseñar mejor que los humanos, ¿Qué haremos?”[3].

En los siglos pasados, las máquinas solo podían competir con los humanos en la ejecución de tareas manuales, pero no en tareas cognitivas. “¿Qué ocurrirá cuando los algoritmos sean mejores que nosotros recordando, analizando y reconociendo pautas?”[4].

Los avances de la investigación científica hacen muy difícil sostener la idea de que los humanos siempre superarán a los algoritmos no conscientes. Primero, todos los animales, incluido el Homo Sapiens, son un conjunto de algoritmos modelados por la selección natural durante millones de años de evolución. Segundo, los algoritmos no se resienten como acontece con los materiales usados en la fabricación de calculadoras.

El rápido y continuo desarrollo de los algoritmos favorecerán la expulsión de los seres humanos del mercado, y la riqueza podría terminar en las manos de una minúscula élite que posea los todopoderosos algoritmos, generando así una desigualdad social y política sin precedentes. Los algoritmos no sólo podrían dirigir empresas, sino que también llegar ser sus propietarios[5]. En el siglo XXI podemos ver la formación de una nueva e inmensa clase no trabajadora, esto es a personas que perderían su utilidad desde un punto de vista económico y político. Lo mismo puede empezar a verse en el sector artístico.

Investigadores de la universidad de Oxford emplearon un algoritmo conforme al cual en los próximos 20 años muchos trabajadores quedarán desempleados. Por ejemplo, es probable que en 2033 el 99% de los televendedores y agentes de seguros pierdan sus puestos que serán ocupados por algoritmos. Probabilidades semejantes se esperan para otros numerosos oficios: árbitros deportivos, cajeras, camareras y guardias de seguridad, entre muchos. Sin embargo, hay algunos empleos seguros como el de los arqueólogos. Es probable que para 2033 se creen nuevas ocupaciones, como las de diseñadores de nuevos mundos virtuales que superen las capacidades de los humanos. Pero este desarrollo no podrá dar empleo a millones de desempleados, quienes podrán sobrevivir gracias a la posesión de medios materiales que el progreso económico estaría en condiciones de proporcionarles. Harari sostiene que lo que ellos harían con su tiempo podría consistir en el consumo de drogas y videojuegos, accediendo a mundos llenos de emociones que el mundo exterior sería incapaz de ofrecerles.

Liberalismo, ciencias de la vida y algoritmos

Lo anterior asestaría un golpe mortal a la creencia liberal en el carácter sagrado de la vida. Muchos filósofos piensan que esta pesimista hipótesis traería consigo el fin del individuo. En este sentido, vale la pena destacar la reflexión de Habermas coincidente con la de Nick Bostrom -citado por Harari-. Habermas dice que el límite impuesto por el inescapable requerimiento de legitimidad que da vida al orden normativo y la dependencia de ese orden de interpretaciones convincentes sólo podrían eliminarse si la búsqueda de motivos se desligase de cualquier estructura comunicativa de la acción, debería modificarse la forma de la socialización y, con ella, la identidad de los sistemas socioculturales mismos. Solo si los motivos del actuar dejaran de adecuarse a normas que requieren justificación, y solo si las estructuras de personalidad ya no tuvieran que encontrar su unidad en sistemas de interpretación garantizadores de su identidad, la aceptación inmotivada de decisiones podría convertirse en una rutina irreprochable. En este caso, se evitaría una crisis del sistema[6].

Para Habermas, aceptar la hipótesis de una conducta inmotivada, asociada al elevado grado de complejidad alcanzado por el sistema capitalista durante su proceso de evolución, implicaría dar por muerta la esperanza de poder organizar democráticamente una sociedad que responda a la interacción libre y razonada de personas que procuran la realización de los ideales de emancipación, individuación y extensión de la comunicación libre de cualquier forma de dominación. Aceptar la hipótesis de la actuación desmotivada significa concordar con la hipótesis del fin del individuo, declarada tan apresuradamente por las teorías pesimistas[7].

Algunos obstáculos técnicos o decisiones políticas podrían desacelerar la invasión logarítmica del mercado laboral. Gran parte de la mente humana es aún un territorio inexplicado y no sabemos qué talentos pueden descubrir los humanos y qué profesiones podrían inventar para sustituir las pérdidas causadas por los algoritmos. Pero esto no sería suficiente para salvar al liberalismo debido a su creencia en el individuo: en la medida en que el sistema no pueda prescindir de los humanos, estos podrían ser necesarios como entidades colectivas y no como individuos. En todo caso el número de individuos que el sistema requeriría jamás podría ni siquiera aproximarse a los millones de trabajadores que el sistema está volviendo inútiles por el arrasador desarrollo de la tecnología, como ya se ha señalado[8].

Recordemos que el liberalismo se sustenta filosóficamente en la idea de que cada ser humano es un “individuo” que goza de una sustancia única e indivisible que constituye su verdadero “yo auténtico”. Esto es una especie de voz clara y única. Se supone que ese yo auténtico es completamente libre. Según este razonamiento, sólo el yo auténtico puede conocerse a sí mismo, y por eso es investido de tanta autoridad. No se debe confiar a nadie las propias elecciones más importantes porque el yo íntimo conoce sus sentimientos y deseos. “Esto explica que el votante sea quien mejor sabe lo que le conviene, porque el cliente siempre tiene la razón, y porque la belleza está en el ojo del espectador”[9].

Pero las ciencias de la vida desafían estos argumentos: los organismos son un conjunto de varios algoritmos que no poseen un yo auténtico. Dichos organismos no son libres, sino que están modelados por los genes y presiones ambientales. Sus decisiones son tomadas de manera determinista o por el azar, pero no son el resultado de la libertad.

Un algoritmo externo puede conocer mejor los sentimientos y deseos del ser humano que lo que él mismo cree conocer. Una vez que el algoritmo externo se desarrolle suficientemente y sea capaz de supervisar cada uno de los sistemas que componen el cuerpo y cerebro del ser humano, podría sustituir al votante, cliente y espectador. Los algoritmos del siglo XXI, y en pleno desarrollo, con la capacidad de supervisar a los seres humanos, han debilitado mucho el importante papel desempeñado por los individuos en los siglos XIX y XX.

En este siglo es posible que la autoridad concedida al individuo en el proceso de toma de decisiones pase a ser asumido por los algoritmos en red. A esto ya se ha llegado en el campo de la medicina. Unos ejemplos paradigmáticos entre los muchos descritos por Harari son los algoritmos informáticos de Watson de IBM y la pulsera inteligente Microsoft Brand lanzada por Microsoft; otro caso es el movimiento Quantified Self que sostiene que el yo no es otra cosa que pautas matemáticas. Mientras más se incorporen a la vida cotidiana tecnologías genéticas y la gente desarrolle relaciones íntimas con su ADN, el yo único podría difuminarse aún más[10].

Si se permitiera legalmente que Google leyera los correos electrónicos e hiciera seguimiento de nuestras actividades cotidianas, no es impensable que desarrolle competencias para alertar a los seres humanos de epidemias en gestación antes que los servicios de salud tradicionales. Un proyecto muy ambicioso de Google es el Google Baseline Study, dirigido a crear una base de datos gigantesca sobre la salud humana, estableciendo el perfil de “salud perfecta”. Otros ejemplos destacados incluyen el reciente algoritmo de Facebook para juzgar la personalidad y disposiciones humanas. En un estudio de 2015 algunos analistas de este algoritmo destacaban que la gente podía dejar de lado sus propios juicios psicológicos y confiar sus decisiones sobre la elección de carreras y parejas a esos algoritmos. Más aún, señalaban que en las que iban a ser las próximas elecciones presidenciales de Estados Unidos en 2016, Facebook podía conocer las opiniones políticas de millones de votantes, así como identificar cuáles de ellos podrían cambiar sus opiniones y en qué sentido[11][11].

Otra ilustración es Cortana, un asistente personal de inteligencia artificial. Se espera que los usuarios permitan a Cortana acceder a todos sus archivos, correos electrónicos y aplicaciones para poder conocerlos mejor y dar consejos sobre una multitud de asuntos, transformándose en un agente virtual que represente los intereses del usuario. Now de Google y Siri de Apple y Amazon están desarrollando dispositivos en el mismo sentido.

En el siglo XXI nuestros datos personales son probablemente el recurso más valioso que la mayoría de los humanos aún podría ofrecer, y los estamos cediendo a los gigantes tecnológicos a cambio de “servicios de correo electrónico y divertidos videos de gatitos”[12].

Todos estos dispositivos podrían conducirnos a la imposibilidad de desconectarnos de una “red omnisciente” porque esto significará la muerte. En particular, si las expectativas médicas llegan a concretarse, la gente incorporará a su cuerpo varios dispositivos biométricos, órganos biónicos y nanorobots que supervisarán la salud, protegiendo la vida humana de infecciones, enfermedades y lesiones. Para que esto acontezca, es necesario estar permanentemente conectado, para conocer y disponer de los avances de la investigación médica. Es necesario entonces proteger marcapasos, audífonos, y el sistema inmunitario nanotecnológico de las plagas del ciberespacio.

Cuando los biólogos concluyeron que los organismos son logaritmos derrumbaron el muro que separaba lo orgánico de lo inorgánico. Ellos “transformaron la revolución informática que pasó de ser un asunto simplemente mecánico a un cataclismo biológico y transfirieron la autoridad de los individuos humanos a los algoritmos conectados en red […] la realidad será una malla de algoritmos bioquímicos y electrónicos sin fronteras claras y sin núcleos individuales”[13].

En estas condiciones, “¿cuál será la suerte […] de los humanos cuando ricos y pobres estén separados por enormes brechas en la posesión de la riqueza”[14].

Tecnología y desigualdad

A comienzos de 2016 los más ricos del mundo tenían tanto dinero como cerca de todo lo que poseían 7200 millones de personas. O sea, los 62 más ricos acumulaban la misma riqueza que toda la mitad inferior de la humanidad. Otra vez Harari se pregunta qué ocurriría cuando a esta brecha se añada también la brecha entre personas incapaces de prestar servicios al sistema y los superhombres.

La medicina del siglo XXI es un proyecto elitista

La medicina del siglo XX representó un proyecto humanitario, porque se comprometió con sanar a los enfermos, pero la medicina del siglo XXI aspira a mejorar aún más a los que ya están sanos. Esto es un proyecto elitista, porque rechaza el objetivo de una norma universal igualmente válida para toda la humanidad.

Este proyecto está en la búsqueda incesante de seres superdotados con una memoria e inteligencia por encima de la media. Las elites desecharían la medicina de masas del siglo XX que benefició a ejércitos y trabajadores, hombres y mujeres, porque gozaban de un valor utilitario. Para la medicina del siglo XXI no tendría sentido seguir invirtiendo en gente pobre e inútil, porque es mucho más inteligente, pero muy despiadado, construir a un puñado de superhumanos. Ellos serían capaces de alcanzar la prosperidad, la felicidad, la inmortalidad y hasta la divinidad[15].

En nuestra próxima entrega abordaremos el Tecnohumanismo, la creencia en que la tecnología podría llegar a crear un Homo Deus.

---

[1] Harari, Y. N., Homo Deus. Breve historia del mañana, Santiago: Penguin Random House, SAV, Decimosexta edición, octubre 2020.

[2] Ibíd., p. 342.

[3] Ibid., p. 349.

[4] Ibid., p. 350.

[5] Ibid., p. 354.

[6] Habermas, J., Problemas de legitimación en el capitalismo tardío (Buenos Aires: Amorrortu, 1989), 61-62.

[7] Ibíd., pp. 167-168.

[8] Harari, Homo Deus, op. cit., p. 359.

[9] Ibíd., p. 360.

[10] Ibid., p. 364.

[11] Wu Youyou, Michael Kosinski y David Stillwell, “Computer-Based Personality Judgments Are More Accurate Than Those Made By Humans”, PNAS, 112, 4 (2015), 1.36-1040, citado por Harari, Homo Deus, op. cit.

[12] Ibíd., p. 373.

[13] Ibid., p. 377.

[14] Ibid., p. 379.

[15] Ibid., pp. 381-382.