Werner von Siemens fue un ingeniero eléctrico del siglo XIX que inventó el generador autoexcitable y realizó otros descubrimientos importantes en el campo de la electricidad.⁹ En una carta fechada el 25 de diciembre de 1887, Siemens expone sus motivos :

“Ciertamente, he buscado obtener riqueza y beneficios económicos, pero no principalmente para disfrutar de ellos ; más bien para obtener los medios para la ejecución de otros planes y proyectos, y para, mediante mi éxito, lograr el reconocimiento de lo apropiado de mis procedimientos y de la utilidad de mi trabajo. Por tanto, desde mi juventud, he anhelado establecer una empresa internacional como la de los Fugger[iv], que garantizase, no sólo a mí sino también a mis sucesores, el poder y la estima en todo el mundo, así como los medios de elevar el nivel de vida de mis hermanas y de otros de mis parientes cercanos…

“Considero nuestro negocio sólo secundariamente como una fuente de riqueza ; para mí es más un reino que yo he fundado y que espero dejar intacto a mis sucesores para que sigan desarrollando un trabajo creativo”.¹⁰ (Las cursivas son mías).

Ni una palabra acerca del bien de la humanidad. Pero fíjese en la importancia que Siemens da, por sí misma, a la ejecución de “planes”, “proyectos” y “trabajo creativo”. Es decir, a las actividades sustitutorias. Véase La Sociedad Industrial y Su Futuro, párrafos 38–41, 84, 87–89.

Sin embargo, seguro que a los científicos que trabajan en campos cuya finalidad es obviamente humanitaria, tal como encontrar tratamientos para las enfermedades, les mueve el deseo de hacer el bien a la humanidad, ¿no es así ? En ciertos casos, quizá. Pero, en general, creo que no. El bacteriólogo Hans Zinsser escribió :

“No habiendo tenido nunca ninguna relación estrecha con quienes trabajan en el campo de las enfermedades infecciosas, él compartía la falsa creencia de que a esa gente tan peculiar les movían nobles motivos. Y, no entendiendo demasiado cómo alguien podía actuar impulsado por nobles motivos, nos preguntó : ‘¿Cómo decide alguien ser bacteriólogo?’… En realidad, los hombres eligen esta rama de la investigación por diversos motivos, de los cuales el deseo consciente de hacer el bien es el menos importante. Lo que importa es que es uno de los pocos desafíos que quedan para aquellos individuos que sienten necesidad de experimentar cierto grado de emoción. La lucha contra las enfermedades infecciosas es una de las pocas aventuras genuinas que quedan en el mundo… Casi el único desafío auténtico que sigue en pie tras la incansable domesticación de la, en su día libre, especie humana es la guerra contra esas pequeñas y feroces criaturas…”¹¹

Menciona usted a Einstein como ejemplo de alguien cuyo trabajo científico estaba motivado por un deseo de hacer el bien a la humanidad, pero creo que se equivoca. Según Gordon A. Craig, Einstein dijo en cierta ocasión : “Todo nuestro ensalzado progreso tecnológico, y la civilización en general, se podrían comparar con un hacha en la mano de un criminal patológico”.¹² Craig no menciona la fuente de su cita, así que no tengo forma de comprobar su exactitud.[v] Pero, si las palabras citadas reflejan la visión que Einstein tenía de la tecnología, entonces es difícil imaginar ningún motivo altruista para el trabajo científico de Einstein. Einstein continuó con su trabajo en física teórica hasta una edad muy avanzada.¹³ Debió de ser consciente de que cualquier avance en física seguramente tendría aplicaciones prácticas y, por tanto, reforzaría esa tecnología que el comparaba con “un hacha en la mano de un criminal patológico”. Así que, ¿por qué continuó con su trabajo ? Puede que fuese un tipo de compulsión. Hacia el final de su vida, Einstein escribió : “No puedo mantenerme apartado de mi trabajo. Me tiene inexorablemente atrapado”.¹⁴

Tanto si se trataba de una compulsión como si no, el trabajo científico de Einstein no tenía nada que ver con ningún deseo de hacer el bien a la raza humana. En una autobiografía¹⁵ que escribió a la edad de 67 años, Einstein describía sus razones para dedicarse a la ciencia. Ya cuando era un niño pequeño se sentía oprimido por la sensación de que tener esperanzas y esforzarse por lograr cosas era algo “vacío” o “carente de sentido” (Nichtigkeit). Esto sugiere una mentalidad depresiva y derrotista. Es más, parece ser que Einstein era un niño demasiado delicado como para afrontar el día a día del mundo, ya que descubrió a una edad temprana lo que él llamaba la “crueldad” de tener que dedicar esfuerzos (Treiben) a ganarse la vida. Al principio trató de escapar de esos sentimientos dolorosos haciéndose profundamente religioso, pero a la edad de doce años perdió la fe como resultado de leer libros científicos que refutaban las historias de la Biblia. Entonces, buscó consuelo en la propia ciencia, la cual le proporcionó un “paraíso” que reemplazó al paraíso religioso que había perdido.¹⁶

Por consiguiente, parece ser que, en el caso de Einstein, el trabajo científico no sólo era una actividad sustitutoria, sino también una forma de escapar de un mundo que él encontraba demasiado duro. En cualquier caso, lo cierto es que Einstein se dedicó a la ciencia solamente para satisfacer sus necesidades personales ; en ningún lugar en su autobiografía sugería que su investigación pudiese mejorar la situación de la raza humana en modo alguno.

Supongo que por cada científico que yo pueda citar cuya motivación declarada sea satisfacer sus necesidades personales, usted podrá citar muchos que aseguran tener motivos altruistas. Ciertamente, los motivos altruistas no son algo imposible. Por ejemplo, supongo que a la mayoría de quienes realizan estudios de campo en botánica y zoología les mueve en parte un genuino amor por las plantas y animales salvajes. De todos modos, a las declaraciones de motivos altruistas –o, por decirlo de forma más exacta, de motivos que son considerados admirables según las normas de la sociedad actual- hay que concederles, en general, muy poco valor. Mientras que un científico que admita que sus motivos son egoístas se arriesga a rebajarse a sí mismo ante los ojos de la gente que le rodea, uno que afirme tener un motivo “noble” satisface las expectativas del resto de la gente y se asegura la aprobación de ésta, cuando no su admiración. Es un hecho evidente que la mayoría de la gente, la mayoría del tiempo, dirán aquello que creen que le otorgará la aprobación de sus semejantes. Sin duda, esto a veces supone una falta de honestidad consciente, como era el caso de Von Braun cuando aseguraba que sus motivos eran “patrióticos”. Sin embargo, yo creo que, más a menudo, los científicos se creen sus propias excusas. La ciencia tiene su propia ideología autocomplaciente, y una de las funciones de la ideología es justificar al creyente ante sí mismo. Como explica el sociólogo Monnerot, la ideología “ofrece una versión diferente de la relación entre el motivo y lo que éste motiva. Los materiales que componen una ideología, y que ésta organiza, pueden ver la luz del día, por así decirlo. No sólo son permisibles, sino honorables, y constantemente tratan de afirmar su relación con los valores sociales reconocidos… Las aspiraciones de [el creyente] son pasadas a términos éticos y sociales por la ideología…”.¹⁷

Pero la ideología que presenta a la ciencia como una empresa humanitaria es desmentida por las conversaciones y el comportamiento cotidianos de los científicos. En mis once años como estudiante y profesor de matemáticas, durante los cuales también asistí a unos pocos cursos de física y de antropología física, nunca oí a ningún profesor o estudiante mencionar el efecto sobre la sociedad del trabajo científico o matemático, o el beneficio que dicho trabajo presuntamente proporcionaba a la humanidad. Hace usted referencia a mi “aislamiento incluso… en el plano académico”, así que me veo obligado a explicarle que las afirmaciones hechas por los medios acerca de mí a menudo han sido exageradas hasta la caricatura y más allá, cuando no completamente falsas. Es cierto que yo era un solitario, pero no tanto como para no poder escuchar o tener muchas conversaciones con otros estudiantes y profesores de matemáticas. Los profesores y los estudiantes hablábamos acerca de lo que ocurría en diversos campos de las matemáticas, acerca de qué tipos de investigación se realizaban y de quiénes las llevaban a cabo y acerca de los actos y la personalidad de ciertos matemáticos, pero nunca¹⁸ oí a nadie manifestar el menor interés acerca de qué beneficios podía proporcionar su trabajo a la raza humana.

Una versión menos infantil de la ideología científica presenta la ciencia no como una empresa humanitaria, sino como algo “moralmente neutro”: los científicos simplemente ponen ciertas herramientas a disposición de la sociedad y, si de ello se derivan consecuencias negativas, es culpa de la sociedad por haber hecho “mal uso” de ellas ; las manos de los científicos quedan así limpias. A uno le viene a la memoria el Evangelio de San Mateo, 27, 24 : “… tomó agua y se lavó las manos delante de la muchedumbre, diciendo : Yo soy inocente…” (Poncio Pilatos). La Encyclopaedia Britannica usa este argumento de la “neutralidad” en su artículo sobre tecnología ;¹⁹ usted, Dr. B., menciona el mismo argumento en la parte de su carta que cité antes ; Albert Speer lo mencionó al referirse a la excusa que daban los técnicos que creaban armas para Hitler (véase más arriba); von Braun, de modo similar, “subrayaba la imparcialidad intrínseca de la investigación científica, la cual en sí misma carece de dimensiones morales hasta que sus productos son utilizados por el conjunto de la sociedad”.²⁰

Por supuesto que la tecnología en abstracto es moralmente neutra. Pero von Braun no estaba desarrollando cohetes en el terreno abstracto de las Formas Ideales de Platón. Él estaba construyendo cohetes para Adolf Hitler y sabía muy bien que esos cohetes serían usados para defender un régimen que estaba llevando a cabo exterminios en masa. Por muy neutra que la tecnología pueda ser en abstracto, cuando alguien desarrolla una nueva tecnología o descubre un principio científico que tenga aplicaciones tecnológicas, está llevando a cabo una acción concreta que tiene un efecto concreto en la sociedad en que vive. Esa persona no tiene derecho a negar su responsabilidad en ese efecto basándose en que la sociedad podía haber usado esa tecnología de algún otro modo –igual que von Braun tampoco tenía derecho a negar su responsabilidad en los efectos de sus cohetes en base a que Hitler podía haberlos usado sólo para la exploración espacial y no como armas. Von Braun estaba obligado a preguntarse no ya lo que en teoría podría hacer Hitler con los cohetes, sino lo que haría con ellos en la práctica. Similarmente, cuando alguien desarrolla una nueva tecnología en la actualidad, está obligado a considerar no lo que la sociedad podría hacer, en teoría, con dicha tecnología, sino de qué modo es probable que esa tecnología interactúe con la sociedad en la práctica.

Todo lo dicho en el anterior párrafo es obvio y cualquiera suficientemente inteligente como para ser experto en cohetes, físico, o biólogo molecular puede llegar a ello en cinco minutos de reflexión honesta. El hecho de que tantos científicos echen mano del argumento de la “neutralidad moral” demuestra que o bien están siendo deshonestos consigo mismos o con los demás, o bien simplemente nunca se han preocupado de pensar seriamente acerca de las implicaciones sociales y morales de su trabajo.²¹

Existen unos pocos científicos que piensan seria y sinceramente en las consecuencias que su trabajo tiene en la sociedad. Pero sus escrúpulos morales no interfieren significativamente con su investigación ; la llevan a cabo de todos modos y luego tranquilizan sus consciencias sermoneando acerca del uso “ético” de su ciencia, imponiendo determinadas limitaciones a su investigación o evitando aquellos trabajos que estén específicamente encaminados al desarrollo de armamento.

Por supuesto, sus sermones y sus escrúpulos son completamente inútiles. El modo en que la ciencia es aplicada en la práctica no viene determinado por los científicos sino por la utilidad que la ciencia tiene para aquellos que buscan dinero o poder.

Alfred Nobel era en esencia un pacifista, pero eso no le impedía desarrollar potentes explosivos. Se consolaba con la esperanza “de que los poderes destructivos de sus invenciones ayudarían a acabar con las guerras”.²² Ya sabemos lo bien que funcionó esto, ¿verdad ? Como ya hemos visto, Einstein predicaba –de modo ineficaz- acerca de la paz mundial, pero continuó su investigación hasta prácticamente el final de su vida, a pesar de su opinión sobre la tecnología. Los científicos del Proyecto Manhattan primero desarrollaron la bomba atómica y después predicaron –de nuevo de forma ineficaz- acerca de la necesidad de una agencia internacional para el control de la energía atómica.²³ En su libro, Behavior Control²⁴, Perry London demostraba haber pensado seriamente acerca de las implicaciones de las técnicas que facilitaban la manipulación del comportamiento humano. Ofrecía ciertas ideas éticas que él esperaba que guiarían el uso de dichas técnicas, pero sus ideas éticas no han tenido ningún efecto práctico. David Gelernter, en su libro Mirror Worlds²⁵, expresaba serias preocupaciones acerca del efecto que tendría la informática en la sociedad. Sin embargo, Gelernter continuó promoviendo la tecnología, incluida la informática,²⁶  y las preocupaciones que expresó en Mirror Worlds no sirvieron en absoluto para mitigar las consecuencias del desarrollo de la informática.

Un artículo del New York Times²⁷ informa de una conferencia  de la AAAI[vi]  que tuvo lugar el 25 de febrero del 2009. La conferencia trataba de los peligros planteados por el desarrollo de la inteligencia artificial y, como posibles remedios, los científicos participantes plantearon los “límites a la investigación”, el confinamiento de algunas investigaciones en “laboratorios de alta seguridad” y una “comisión” que debería “dar forma a los avances y ayudar a la sociedad a afrontar las consecuencias” de la inteligencia artificial. Es difícil discernir hasta qué punto esto fue una maniobra publicitaria y hasta qué punto esos científicos realmente creían en ello, pero, en cualquier caso, las propuestas eran completamente ingenuas.

Está claro que los “límites” planteados por los científicos no estaban dirigidos a detener la investigación en el campo de la inteligencia artificial en general, sino sólo en ciertas áreas muy concretas que los científicos pensaban que eran especialmente delicadas. Dichos “límites” no serán mantenidos por mucho tiempo. Si los científicos del Proyecto Manhattan hubiesen rehusado trabajar en la investigación armamentística, habrían retrasado sólo unos pocos años la aparición de las armas nucleares ya que, una vez que la teoría cuántica había sido desarrollada y la fisión nuclear descubierta, era inevitable que alguien, antes o después, aplicase ese conocimiento para la fabricación de armas nucleares. De modo semejante, dado que la investigación en el campo de la inteligencia artificial va a continuar, es seguro que alguien, antes o después (probablemente pronto), aplicará el conocimiento técnico desarrollado para invadir áreas que la AAAI intenta declarar “prohibidas”.

Los “laboratorios de alta seguridad” no serán controlados ni por usted ni por mí, sino por organizaciones poderosas tales como grandes empresas o gobiernos. Por tanto, el confinamiento de ciertas investigaciones en laboratorios de alta seguridad lo único que hará será aumentar la ya excesiva concentración de poder existente en nuestra sociedad.

La “comisión” que se supone que “dará forma a los avances y ayudará a la sociedad a afrontar las consecuencias” de la inteligencia artificial me inspira temor y desprecio, ya que la idea de lo que es bueno para los seres humanos que tienen esos individuos apenas sobrepasa el nivel de la que tiene un niño de cuatro años. Tiemblo sólo de pensar en qué tipo de mundo crearían si pudiesen.

De todos modos, en la práctica, la “comisión” no tendrá más éxito que el que tuvieron los grupos de científicos que se formaron tras 1945 con el fin de tratar de que la energía nuclear fuese regulada “sabiamente” y usada sólo con fines pacíficos. A largo plazo, el modo en que la inteligencia artificial sea desarrollada y aplicada vendrá determinado por las necesidades de la gente que tiene el poder y que trata de aumentarlo.

Por tanto, sean cuales sean los criterios éticos que cualquier científico profese, esos criterios tienen como mucho un efecto insignificante del desarrollo de la ciencia y la tecnología en su conjunto. Lo que escribí en el párrafo 92 de La Sociedad Industrial y Su Futuro era en esencia correcto :

“la ciencia continúa adelante ciegamente, sin respeto por el verdadero bienestar de la raza humana ni por ningún otro criterio, obedeciendo solamente a las necesidades psicológicas de los científicos así como a las de los cargos de la administración del gobierno y de los directivos de las grandes empresas que aportan los fondos para la investigación.”

NOTAS :

1. Albert Speer, Inside the Third Reich, traducido por Richard y Clara Winston, Macmillan, Nueva York, 1970, página 212.
2. Véase The Week,  6 de marzo del 2009, página 39.
3. The New Encyclopaedia Britannica, 15ª edición, 2003, Vol. 2, artículo “Braun, Wernher von”, página 485.
4. Benjamin Schwarz, “Co-Conspirators”, The Atlantic, mayo del 2009, página 80.
5. Encycl. Britannica, 2003, Vol. 19, artículo “Exploration”, página 47.
6. El texto completo del discurso puede leerse en Alice Kimball Smith y Charles Weiner (editores), Robert Oppenheimer : Letters and Recollections, Stanford University Press, California, 1995, páginas 315–325.
7. Ibíd., páginas 315 y 350, nota 20.
8. Ibíd.
9. Véanse G. A. Zimmermann, Das Neunzehnte Jahrhundert, segunda mitad, segunda parte, Milwakee, 1902, páginas 439–442 ; Encycl. Britannica, 2003, Vol.10, artículo “Siemens, Werner von”, página 787.
10. Friedrich Klemm, A History of Western Technology, traducido por Dorothea Waley Singer, M.I.T. Press, 1964/1978, página 353.
11. Hans Zinsser, Rats, Lice, and History, cerca del final del capítulo I. No tengo apuntada la fecha de publicación de este libro, pero probablemente apareció en la década de los 30 del siglo XX.
12. “The End of the Golden Age”, The New York Review of Books, 4 de noviembre de 1999, página 14.
13. Encycl. Britannica, 2003, Vol. 18, artículo “Einstein”, página 157.
14. Ibíd.
15. Paul Arthur Schilpp (editor), Albert Einstein : Philosopher-Scientist, Open Court, La Salle, Illinois, Tercera Edición, 1970/1995, páginas 1–94. Esta autobiografía está impresa en el alemán original con una traducción al inglés en páginas alternativas. Yo aconsejaría al lector que lea la versión en alemán si le es posible, ya que la traducción al inglés me parece pobre.
16. Para todo este párrafo véase ibíd., páginas 2 y 4.
17. Jules Monnerot, Sociology and Psichology of Communism, traducido por Jane Degras y Richard Rees, Beacon Press, Boston, 1960, páginas 136 y 140.
18. Con una excepción trivial que no es relevante en este caso.
19. Encycl. Britannica, 2003, Vol. 28, artículo “Technology, The History of”, página 471.
20. Ibíd., Vol. 2, artículo “Braun, Wernher von”, página 485.
21. Me han comentado que en los últimos años algunos científicos o las empresas que les sirven de relaciones públicas han estado desarrollando argumentos bastante sofisticados para tratar de justificar el papel de la ciencia en la sociedad ; y no dudo que esto sea cierto. Pero todo aquello relevante que he visto en los medios de comunicación de masas, hasta el verano del 2009, parece indicar que la mayor parte del pensamiento de los científicos acerca de las implicaciones sociales y morales de su trabajo se halla aún en un nivel superficial, o incluso infantil. Sería muy deseable e importante realizar un estudio de la propaganda de la ciencia oficial, especialmente de la propaganda sofisticada dirigida a una audiencia inteligente, pero dicho estudio estaría muy lejos del alcance de esta carta ; y, es más, carezco de los conocimientos necesarios para ello. Los argumentos de los propagandistas sofisticados probablemente reflejen tan poco el pensamiento del científico corriente como, por ejemplo, los argumentos de los filósofos políticos sofisticados reflejan el pensamiento del soldado común que sale al campo de batalla para luchar por la democracia, por el fascismo o por el comunismo. Como mucho, los científicos y los soldados corrientes pueden repetir irreflexivamente los argumentos sofisticados de los propagandistas para justificar sus actos ante sí mismos o ante los demás.
22. Encycl. Britannica, 2003, vol. 8, artículo “Nobel, Alfred Bernhard”, página 738.
23. Smith y Weiner, op. cit., páginas 303 y 310.
24. Harper & Row, Nueva York, 1969.
25. Oxford University Press, Nueva York, 1991, páginas 213–225.
26. Véase David Gelernter, “U.S. faces technology crisis”, The Missoulian (periódico de Missoula, Montana), 24 de febrero de 1992.
27. John Markoff, “Scientists Worry Machines May Outsmart Man”, The New York Times, 26 de julio del 2009.