¿Está el trabajo científico motivado principalmente por un deseo de hacer el bien a la humanidad ? [i]
Usted, en sus comentarios acerca de los párrafos 87–92 de La Sociedad Industrial y Su Futuro, escribe :
“Los Motivos de los Científicos. Esta sección me resulta especialmente floja…
“Una larga explicación de por qué el señor Teller[ii] es un Hombre Malo. Lo cual está bien. Pero cuando pensamos en los físicos, la mayoría de nosotros piensa en Einstein antes que en Teller, y Einstein es un ejemplo paradigmático de alguien que contradice completamente esa afirmación –pero de ningún modo el único. [¿Qué afirmación ? ¿La afirmación de que la labor científica no está motivada principalmente por un deseo de beneficiar a la humanidad?]…
“[Kaczynski] esencialmente niega que los científicos tengan preocupaciones morales…
“Hablando con personas que creo que han trabajado en lo que yo considero campos de investigación genuinamente negativos –diseño de armas en Lawrence Livermore[iii], por ejemplo‑, he descubierto que aquellas que dirigen y están activamente involucradas en ese trabajo, lo están porque creen que están haciendo lo correcto por el país, incluso con todos los riesgos que su trabajo conlleva, y que haciendo lo correcto por el país, hacen lo correcto por el mundo. Esa gente es consciente de las implicaciones morales de las decisiones que activamente toma –en una dirección que yo no tomaría.
“Las personas que parecen no querer hacer eso [¿no querer hacer qué?] son personas brillantes que más que dirigir el trabajo sólo lo mantienen. Ven el empleo en ese campo como algo éticamente neutro, meramente como un trabajo legal, y no les gusta pensar acerca de los costes y beneficios de su labor.”
En primer lugar, tengamos esto bien presente : debería haber quedado claro que, en los párrafos 87–89 de La Sociedad Industrial y Su Futuro, yo estaba comentando los motivos habituales o típicos de los científicos ; no estaba teniendo en cuenta las excepciones ocasionales. Por tanto, aunque pudiese usted probar que el 1%, o incluso el 5%, de los científicos se hallan realmente motivados por un deseo de hacer el bien a la humanidad, eso no afectaría seriamente a mi argumentación. También debería haber sido evidente que, al preguntar por los motivos de los científicos, preguntaba por sus motivos para realizar trabajos científicos, no por sus motivos a la hora de actuar en otros campos. Yo nunca he dicho que a la mayoría de los científicos no les preocupen los asuntos morales. Una cosa es decir que a un científico le preocupan los asuntos morales y otra muy distinta, decir que su principal motivo para realizar investigación científica sea el deseo de hacer el bien a la humanidad. (De todos modos, se pueden encontrar muchos ejemplos de amoralidad entre los científicos, como señalaré más abajo).
Por tanto, el argumento de que los científicos (salvo algunas excepciones) no están motivados principalmente por un deseo de beneficiar a la humanidad no niega que los científicos tengan preocupaciones morales –fuera del laboratorio. Menciona usted a Einstein. Einstein trabajó asiduamente por la paz mundial, y sus motivos para hacerlo sin duda eran hondamente morales. Pero eso no tiene nada que ver con sus motivos para realizar investigación en el campo de la física.
Lo que usted supuestamente afirma es que los científicos actúan corrientemente como agentes morales a la hora de realizar su trabajo. Allá por el 2002, comenté su teoría a los dos psicólogos de esta cárcel, hombres competentes, en mi opinión, los cuales se consideran a sí mismos como “racionalistas recalcitrantes” y desdeñan teorías dudosas tales como el freudianismo. Cito parte de mis notas fechadas el 9 de abril del 2002 :
“Dado que estoy planeando contestar una carta que he recibido hace algún tiempo de un tal P.B., cuando los doctores Watterson y Morrison pasaron hoy por mi celda, les pregunté… si habían elegido el campo de la psicología para satisfacer sus propias necesidades personales o… para hacer el bien a la raza humana. Ambos contestaron que se habían hecho psicólogos para satisfacer sus propias necesidades personales. Entonces les pregunté si pensaban que la mayoría de los psicólogos elegían esa profesión para… hacer el bien a la raza humana, o para satisfacer sus propias necesidades personales. Ambos, el Dr. Watterson y el Dr. Morrison, dijeron que la mayoría de los psicólogos elegían esa profesión para satisfacer sus propias necesidades personales (especialmente las necesidades del ego’, dijo Watterson) y no para hacer el bien a la raza humana. Morrison añadió que muchos psicólogos dirán que se hicieron psicólogos para ayudar a la gente, pero que ése no es su motivo real. Comenté a Watterson y a Morrison la opinión de P.B. de que los científicos sentían ‘preocupación por asuntos morales’. Watterson y Morrison parecieron encontrar esto divertido. Morrison sugirió, medio en broma, que yo debería escribir a P.B…. [y] darle la siguiente respuesta breve : ‘¡Espabila!’.”
Con el fin de apoyar su argumento, usted dice que “ha descubierto” que las personas que “dirigen y están activamente involucradas en” el diseño de armas militares piensan que están haciendo lo correcto para el mundo y que están “teniendo en cuenta las implicaciones morales de las decisiones que activamente toman”. Pero, ¿cómo “descubrió” usted eso ? ¿Por el mero hecho de que ellos mismos se lo dijesen ? Su ingenuidad es pasmosa. Si esas personas pensasen que su trabajo es perjudicial, ¿cree que lo reconocerían ante usted ? Si un hombre es lo suficientemente poco escrupuloso como para realizar un trabajo dañino con el fin de satisfacer sus necesidades personales, seguro que es igualmente poco escrupuloso como para mentir acerca de sus motivaciones.
Existe gente cuyas opiniones acerca de los científicos involucrados en investigaciones militares son muy diferentes de las de usted. En sus autoinculpatorias memorias de posguerra, el ministro de armamento de Hitler escribió :
“Exploté el fenómeno de la dedicación, a menudo ciega, de los técnicos a su tarea. Debido a lo que parece ser la neutralidad moral de la tecnología, esta gente carecía de cualquier escrúpulo acerca de sus actividades. Cuanto más técnico era el mundo que nos imponía la guerra, más peligrosa era la indiferencia de los técnicos ante las consecuencias de sus anónimas actividades.”1
¿Cree usted que alguno de dichos técnicos habría admitido abiertamente ante extraños que era indiferente a las consecuencias de su trabajo ? Es muy poco probable. Un caso señalado es el de Wernher von Braun. Como usted probablemente sabrá, von Braun era el jefe de los científicos dedicados a desarrollar cohetes bajo el mandato de Hitler y dirigió la creación del cohete V‑2, que mató numerosos civiles en Londres y en otras ciudades.2 Von Braun afirmó tras la guerra que sus motivos habían sido “patrióticos”.3 Pero mientras estuvo trabajando para Hitler, von Braun debía saber que los judíos estaban siendo exterminados, ya que esto era un “secreto a voces en Alemania al menos desde finales de 1942”, según los estudios más recientes.4 ¿Qué clase de patriotismo llevaría a un hombre a construir armas para un régimen que extermina a grupos étnicos enteros por puro odio ? Queda suficientemente claro que el “patriotismo” era una mera excusa para von Braun, y que lo que él realmente quería era construir cohetes por el mero hecho de construirlos. “Cuando la Segunda Guerra Mundial tocaba a su fin, a principios de 1945, Braun y muchos de sus socios decidieron rendirse a los Estados Unidos, donde creían que encontrarían apoyo para su investigación sobre cohetes…”.5
Lo importante aquí no es si construir armas para Hitler es moralmente equivalente a construir armas para un régimen presuntamente democrático como el de los Estados Unidos. Lo importante es que los científicos normalmente se atribuyen a sí mismos motivaciones aparentemente nobles, tales como el “patriotismo”, las cuales no tienen necesariamente nada que ver con sus motivaciones reales.
Y, no, esta forma de actuar no se limita a los que construyen armas para regímenes dictatoriales. Como seguramente ya sabrá, J. Robert Oppenheimer dirigió el desarrollo de la primera bomba atómica de los Estados Unidos. En un discurso pronunciado el 2 de noviembre de 1945 ante los científicos que habían participado en el proyecto de la bomba en Los Alamos, Nuevo México,6 Oppenheimer señaló : “Uno siempre tiene que preocuparse de que lo que la gente dice acerca de sus motivaciones no sea adecuado”. Entonces, Oppenheimer expuso las excusas habituales que los científicos dieron para trabajar en la bomba : los nazis podrían haber conseguido la bomba primero ; no existe otro lugar en el mundo donde el desarrollo de armas atómicas habría tenido menos posibilidades de conducir a un desastre que en los Estados Unidos ; la importancia real de la energía atómica no estaba en las armas sino en los beneficios que dicha energía podría traer a la humanidad ; etc. Oppenheimer señaló que todas esas justificaciones eran más o menos válidas, pero insistió en que la razón real por la que los científicos habían desarrollado la bomba era que, para ellos, su trabajo era una necesidad personal, una “necesidad orgánica”. Los científicos, desde el punto de vista de Oppenheimer, vivían según una filosofía que consistía en que la adquisición y difusión del conocimiento eran fines en sí mismas, independientemente de si suponían beneficios prácticos para la raza humana.
Las implicaciones del discurso de Oppenheimer son evidentes, aunque Oppenheimer no las expusiese claramente : los científicos no trabajan por el bien de la humanidad, sino para satisfacer sus propias necesidades. Aunque Oppenheimer probablemente creía que, en general, la ciencia beneficiaba a la humanidad, reconocía que justificar la ciencia diciendo que beneficia a la humanidad era esencialmente una excusa que no representaba los motivos reales de los científicos.
Es significativo que la versión impresa de dicho discurso encontrada entre los papeles de Oppenheimer tuviese la siguiente nota : “Este material no debe ser hecho público. Probablemente, una versión revisada aparecerá pronto en una revista científica”.7 Pero, de hecho, parece ser que el discurso no fue publicado, ni en forma “revisada” ni de ningún otro modo, antes de que Smith y Weiner lo incluyesen en su libro.8
Aparentemente, Oppenheimer no estaba muy a gusto con lo que él mismo dijo acerca de los motivos de los científicos. Pero algunos científicos han expuesto sus motivos más abiertamente que Oppenheimer y sin dar muestra alguna de disgusto.
Werner von Siemens fue un ingeniero eléctrico del siglo XIX que inventó el generador autoexcitable y realizó otros descubrimientos importantes en el campo de la electricidad.9 En una carta fechada el 25 de diciembre de 1887, Siemens expone sus motivos :
“Ciertamente, he buscado obtener riqueza y beneficios económicos, pero no principalmente para disfrutar de ellos ; más bien para obtener los medios para la ejecución de otros planes y proyectos, y para, mediante mi éxito, lograr el reconocimiento de lo apropiado de mis procedimientos y de la utilidad de mi trabajo. Por tanto, desde mi juventud, he anhelado establecer una empresa internacional como la de los Fugger[iv], que garantizase, no sólo a mí sino también a mis sucesores, el poder y la estima en todo el mundo, así como los medios de elevar el nivel de vida de mis hermanas y de otros de mis parientes cercanos…
“Considero nuestro negocio sólo secundariamente como una fuente de riqueza ; para mí es más un reino que yo he fundado y que espero dejar intacto a mis sucesores para que sigan desarrollando un trabajo creativo”.10 (Las cursivas son mías).
Ni una palabra acerca del bien de la humanidad. Pero fíjese en la importancia que Siemens da, por sí misma, a la ejecución de “planes”, “proyectos” y “trabajo creativo”. Es decir, a las actividades sustitutorias. Véase La Sociedad Industrial y Su Futuro, párrafos 38–41, 84, 87–89.
Sin embargo, seguro que a los científicos que trabajan en campos cuya finalidad es obviamente humanitaria, tal como encontrar tratamientos para las enfermedades, les mueve el deseo de hacer el bien a la humanidad, ¿no es así ? En ciertos casos, quizá. Pero, en general, creo que no. El bacteriólogo Hans Zinsser escribió :
“No habiendo tenido nunca ninguna relación estrecha con quienes trabajan en el campo de las enfermedades infecciosas, él compartía la falsa creencia de que a esa gente tan peculiar les movían nobles motivos. Y, no entendiendo demasiado cómo alguien podía actuar impulsado por nobles motivos, nos preguntó : ‘¿Cómo decide alguien ser bacteriólogo?’… En realidad, los hombres eligen esta rama de la investigación por diversos motivos, de los cuales el deseo consciente de hacer el bien es el menos importante. Lo que importa es que es uno de los pocos desafíos que quedan para aquellos individuos que sienten necesidad de experimentar cierto grado de emoción. La lucha contra las enfermedades infecciosas es una de las pocas aventuras genuinas que quedan en el mundo… Casi el único desafío auténtico que sigue en pie tras la incansable domesticación de la, en su día libre, especie humana es la guerra contra esas pequeñas y feroces criaturas…”11
Menciona usted a Einstein como ejemplo de alguien cuyo trabajo científico estaba motivado por un deseo de hacer el bien a la humanidad, pero creo que se equivoca. Según Gordon A. Craig, Einstein dijo en cierta ocasión : “Todo nuestro ensalzado progreso tecnológico, y la civilización en general, se podrían comparar con un hacha en la mano de un criminal patológico”.12 Craig no menciona la fuente de su cita, así que no tengo forma de comprobar su exactitud.[v] Pero, si las palabras citadas reflejan la visión que Einstein tenía de la tecnología, entonces es difícil imaginar ningún motivo altruista para el trabajo científico de Einstein. Einstein continuó con su trabajo en física teórica hasta una edad muy avanzada.13 Debió de ser consciente de que cualquier avance en física seguramente tendría aplicaciones prácticas y, por tanto, reforzaría esa tecnología que el comparaba con “un hacha en la mano de un criminal patológico”. Así que, ¿por qué continuó con su trabajo ? Puede que fuese un tipo de compulsión. Hacia el final de su vida, Einstein escribió : “No puedo mantenerme apartado de mi trabajo. Me tiene inexorablemente atrapado”.14
Tanto si se trataba de una compulsión como si no, el trabajo científico de Einstein no tenía nada que ver con ningún deseo de hacer el bien a la raza humana. En una autobiografía15 que escribió a la edad de 67 años, Einstein describía sus razones para dedicarse a la ciencia. Ya cuando era un niño pequeño se sentía oprimido por la sensación de que tener esperanzas y esforzarse por lograr cosas era algo “vacío” o “carente de sentido” (Nichtigkeit). Esto sugiere una mentalidad depresiva y derrotista. Es más, parece ser que Einstein era un niño demasiado delicado como para afrontar el día a día del mundo, ya que descubrió a una edad temprana lo que él llamaba la “crueldad” de tener que dedicar esfuerzos (Treiben) a ganarse la vida. Al principio trató de escapar de esos sentimientos dolorosos haciéndose profundamente religioso, pero a la edad de doce años perdió la fe como resultado de leer libros científicos que refutaban las historias de la Biblia. Entonces, buscó consuelo en la propia ciencia, la cual le proporcionó un “paraíso” que reemplazó al paraíso religioso que había perdido.16
Por consiguiente, parece ser que, en el caso de Einstein, el trabajo científico no sólo era una actividad sustitutoria, sino también una forma de escapar de un mundo que él encontraba demasiado duro. En cualquier caso, lo cierto es que Einstein se dedicó a la ciencia solamente para satisfacer sus necesidades personales ; en ningún lugar en su autobiografía sugería que su investigación pudiese mejorar la situación de la raza humana en modo alguno.
Supongo que por cada científico que yo pueda citar cuya motivación declarada sea satisfacer sus necesidades personales, usted podrá citar muchos que aseguran tener motivos altruistas. Ciertamente, los motivos altruistas no son algo imposible. Por ejemplo, supongo que a la mayoría de quienes realizan estudios de campo en botánica y zoología les mueve en parte un genuino amor por las plantas y animales salvajes. De todos modos, a las declaraciones de motivos altruistas –o, por decirlo de forma más exacta, de motivos que son considerados admirables según las normas de la sociedad actual- hay que concederles, en general, muy poco valor. Mientras que un científico que admita que sus motivos son egoístas se arriesga a rebajarse a sí mismo ante los ojos de la gente que le rodea, uno que afirme tener un motivo “noble” satisface las expectativas del resto de la gente y se asegura la aprobación de ésta, cuando no su admiración. Es un hecho evidente que la mayoría de la gente, la mayoría del tiempo, dirán aquello que creen que le otorgará la aprobación de sus semejantes. Sin duda, esto a veces supone una falta de honestidad consciente, como era el caso de Von Braun cuando aseguraba que sus motivos eran “patrióticos”. Sin embargo, yo creo que, más a menudo, los científicos se creen sus propias excusas. La ciencia tiene su propia ideología autocomplaciente, y una de las funciones de la ideología es justificar al creyente ante sí mismo. Como explica el sociólogo Monnerot, la ideología “ofrece una versión diferente de la relación entre el motivo y lo que éste motiva. Los materiales que componen una ideología, y que ésta organiza, pueden ver la luz del día, por así decirlo. No sólo son permisibles, sino honorables, y constantemente tratan de afirmar su relación con los valores sociales reconocidos… Las aspiraciones de [el creyente] son pasadas a términos éticos y sociales por la ideología…”.17
Pero la ideología que presenta a la ciencia como una empresa humanitaria es desmentida por las conversaciones y el comportamiento cotidianos de los científicos. En mis once años como estudiante y profesor de matemáticas, durante los cuales también asistí a unos pocos cursos de física y de antropología física, nunca oí a ningún profesor o estudiante mencionar el efecto sobre la sociedad del trabajo científico o matemático, o el beneficio que dicho trabajo presuntamente proporcionaba a la humanidad. Hace usted referencia a mi “aislamiento incluso… en el plano académico”, así que me veo obligado a explicarle que las afirmaciones hechas por los medios acerca de mí a menudo han sido exageradas hasta la caricatura y más allá, cuando no completamente falsas. Es cierto que yo era un solitario, pero no tanto como para no poder escuchar o tener muchas conversaciones con otros estudiantes y profesores de matemáticas. Los profesores y los estudiantes hablábamos acerca de lo que ocurría en diversos campos de las matemáticas, acerca de qué tipos de investigación se realizaban y de quiénes las llevaban a cabo y acerca de los actos y la personalidad de ciertos matemáticos, pero nunca18 oí a nadie manifestar el menor interés acerca de qué beneficios podía proporcionar su trabajo a la raza humana.
Una versión menos infantil de la ideología científica presenta la ciencia no como una empresa humanitaria, sino como algo “moralmente neutro”: los científicos simplemente ponen ciertas herramientas a disposición de la sociedad y, si de ello se derivan consecuencias negativas, es culpa de la sociedad por haber hecho “mal uso” de ellas ; las manos de los científicos quedan así limpias. A uno le viene a la memoria el Evangelio de San Mateo, 27, 24 : “… tomó agua y se lavó las manos delante de la muchedumbre, diciendo : Yo soy inocente…” (Poncio Pilatos). La Encyclopaedia Britannica usa este argumento de la “neutralidad” en su artículo sobre tecnología ;19 usted, Dr. B., menciona el mismo argumento en la parte de su carta que cité antes ; Albert Speer lo mencionó al referirse a la excusa que daban los técnicos que creaban armas para Hitler (véase más arriba); von Braun, de modo similar, “subrayaba la imparcialidad intrínseca de la investigación científica, la cual en sí misma carece de dimensiones morales hasta que sus productos son utilizados por el conjunto de la sociedad”.20
Por supuesto que la tecnología en abstracto es moralmente neutra. Pero von Braun no estaba desarrollando cohetes en el terreno abstracto de las Formas Ideales de Platón. Él estaba construyendo cohetes para Adolf Hitler y sabía muy bien que esos cohetes serían usados para defender un régimen que estaba llevando a cabo exterminios en masa. Por muy neutra que la tecnología pueda ser en abstracto, cuando alguien desarrolla una nueva tecnología o descubre un principio científico que tenga aplicaciones tecnológicas, está llevando a cabo una acción concreta que tiene un efecto concreto en la sociedad en que vive. Esa persona no tiene derecho a negar su responsabilidad en ese efecto basándose en que la sociedad podía haber usado esa tecnología de algún otro modo –igual que von Braun tampoco tenía derecho a negar su responsabilidad en los efectos de sus cohetes en base a que Hitler podía haberlos usado sólo para la exploración espacial y no como armas. Von Braun estaba obligado a preguntarse no ya lo que en teoría podría hacer Hitler con los cohetes, sino lo que haría con ellos en la práctica. Similarmente, cuando alguien desarrolla una nueva tecnología en la actualidad, está obligado a considerar no lo que la sociedad podría hacer, en teoría, con dicha tecnología, sino de qué modo es probable que esa tecnología interactúe con la sociedad en la práctica.
Todo lo dicho en el anterior párrafo es obvio y cualquiera suficientemente inteligente como para ser experto en cohetes, físico, o biólogo molecular puede llegar a ello en cinco minutos de reflexión honesta. El hecho de que tantos científicos echen mano del argumento de la “neutralidad moral” demuestra que o bien están siendo deshonestos consigo mismos o con los demás, o bien simplemente nunca se han preocupado de pensar seriamente acerca de las implicaciones sociales y morales de su trabajo.21
Existen unos pocos científicos que piensan seria y sinceramente en las consecuencias que su trabajo tiene en la sociedad. Pero sus escrúpulos morales no interfieren significativamente con su investigación ; la llevan a cabo de todos modos y luego tranquilizan sus consciencias sermoneando acerca del uso “ético” de su ciencia, imponiendo determinadas limitaciones a su investigación o evitando aquellos trabajos que estén específicamente encaminados al desarrollo de armamento.
Por supuesto, sus sermones y sus escrúpulos son completamente inútiles. El modo en que la ciencia es aplicada en la práctica no viene determinado por los científicos sino por la utilidad que la ciencia tiene para aquellos que buscan dinero o poder.
Alfred Nobel era en esencia un pacifista, pero eso no le impedía desarrollar potentes explosivos. Se consolaba con la esperanza “de que los poderes destructivos de sus invenciones ayudarían a acabar con las guerras”.22 Ya sabemos lo bien que funcionó esto, ¿verdad ? Como ya hemos visto, Einstein predicaba –de modo ineficaz- acerca de la paz mundial, pero continuó su investigación hasta prácticamente el final de su vida, a pesar de su opinión sobre la tecnología. Los científicos del Proyecto Manhattan primero desarrollaron la bomba atómica y después predicaron –de nuevo de forma ineficaz- acerca de la necesidad de una agencia internacional para el control de la energía atómica.23 En su libro, Behavior Control24, Perry London demostraba haber pensado seriamente acerca de las implicaciones de las técnicas que facilitaban la manipulación del comportamiento humano. Ofrecía ciertas ideas éticas que él esperaba que guiarían el uso de dichas técnicas, pero sus ideas éticas no han tenido ningún efecto práctico. David Gelernter, en su libro Mirror Worlds25, expresaba serias preocupaciones acerca del efecto que tendría la informática en la sociedad. Sin embargo, Gelernter continuó promoviendo la tecnología, incluida la informática,26 y las preocupaciones que expresó en Mirror Worlds no sirvieron en absoluto para mitigar las consecuencias del desarrollo de la informática.
Un artículo del New York Times27 informa de una conferencia de la AAAI[vi] que tuvo lugar el 25 de febrero del 2009. La conferencia trataba de los peligros planteados por el desarrollo de la inteligencia artificial y, como posibles remedios, los científicos participantes plantearon los “límites a la investigación”, el confinamiento de algunas investigaciones en “laboratorios de alta seguridad” y una “comisión” que debería “dar forma a los avances y ayudar a la sociedad a afrontar las consecuencias” de la inteligencia artificial. Es difícil discernir hasta qué punto esto fue una maniobra publicitaria y hasta qué punto esos científicos realmente creían en ello, pero, en cualquier caso, las propuestas eran completamente ingenuas.
Está claro que los “límites” planteados por los científicos no estaban dirigidos a detener la investigación en el campo de la inteligencia artificial en general, sino sólo en ciertas áreas muy concretas que los científicos pensaban que eran especialmente delicadas. Dichos “límites” no serán mantenidos por mucho tiempo. Si los científicos del Proyecto Manhattan hubiesen rehusado trabajar en la investigación armamentística, habrían retrasado sólo unos pocos años la aparición de las armas nucleares ya que, una vez que la teoría cuántica había sido desarrollada y la fisión nuclear descubierta, era inevitable que alguien, antes o después, aplicase ese conocimiento para la fabricación de armas nucleares. De modo semejante, dado que la investigación en el campo de la inteligencia artificial va a continuar, es seguro que alguien, antes o después (probablemente pronto), aplicará el conocimiento técnico desarrollado para invadir áreas que la AAAI intenta declarar “prohibidas”.
Los “laboratorios de alta seguridad” no serán controlados ni por usted ni por mí, sino por organizaciones poderosas tales como grandes empresas o gobiernos. Por tanto, el confinamiento de ciertas investigaciones en laboratorios de alta seguridad lo único que hará será aumentar la ya excesiva concentración de poder existente en nuestra sociedad.
La “comisión” que se supone que “dará forma a los avances y ayudará a la sociedad a afrontar las consecuencias” de la inteligencia artificial me inspira temor y desprecio, ya que la idea de lo que es bueno para los seres humanos que tienen esos individuos apenas sobrepasa el nivel de la que tiene un niño de cuatro años. Tiemblo sólo de pensar en qué tipo de mundo crearían si pudiesen.
De todos modos, en la práctica, la “comisión” no tendrá más éxito que el que tuvieron los grupos de científicos que se formaron tras 1945 con el fin de tratar de que la energía nuclear fuese regulada “sabiamente” y usada sólo con fines pacíficos. A largo plazo, el modo en que la inteligencia artificial sea desarrollada y aplicada vendrá determinado por las necesidades de la gente que tiene el poder y que trata de aumentarlo.
Por tanto, sean cuales sean los criterios éticos que cualquier científico profese, esos criterios tienen como mucho un efecto insignificante del desarrollo de la ciencia y la tecnología en su conjunto. Lo que escribí en el párrafo 92 de La Sociedad Industrial y Su Futuro era en esencia correcto :
“la ciencia continúa adelante ciegamente, sin respeto por el verdadero bienestar de la raza humana ni por ningún otro criterio, obedeciendo solamente a las necesidades psicológicas de los científicos así como a las de los cargos de la administración del gobierno y de los directivos de las grandes empresas que aportan los fondos para la investigación.”
NOTAS :
- Albert Speer, Inside the Third Reich, traducido por Richard y Clara Winston, Macmillan, Nueva York, 1970, página 212.
- Véase The Week, 6 de marzo del 2009, página 39.
- The New Encyclopaedia Britannica, 15ª edición, 2003, Vol. 2, artículo “Braun, Wernher von”, página 485.
- Benjamin Schwarz, “Co-Conspirators”, The Atlantic, mayo del 2009, página 80.
- Encycl. Britannica, 2003, Vol. 19, artículo “Exploration”, página 47.
- El texto completo del discurso puede leerse en Alice Kimball Smith y Charles Weiner (editores), Robert Oppenheimer : Letters and Recollections, Stanford University Press, California, 1995, páginas 315–325.
- Ibíd., páginas 315 y 350, nota 20.
- Ibíd.
- Véanse G. A. Zimmermann, Das Neunzehnte Jahrhundert, segunda mitad, segunda parte, Milwakee, 1902, páginas 439–442 ; Encycl. Britannica, 2003, Vol.10, artículo “Siemens, Werner von”, página 787.
- Friedrich Klemm, A History of Western Technology, traducido por Dorothea Waley Singer, M.I.T. Press, 1964/1978, página 353.
- Hans Zinsser, Rats, Lice, and History, cerca del final del capítulo I. No tengo apuntada la fecha de publicación de este libro, pero probablemente apareció en la década de los 30 del siglo XX.
- “The End of the Golden Age”, The New York Review of Books, 4 de noviembre de 1999, página 14.
- Encycl. Britannica, 2003, Vol. 18, artículo “Einstein”, página 157.
- Ibíd.
- Paul Arthur Schilpp (editor), Albert Einstein : Philosopher-Scientist, Open Court, La Salle, Illinois, Tercera Edición, 1970/1995, páginas 1–94. Esta autobiografía está impresa en el alemán original con una traducción al inglés en páginas alternativas. Yo aconsejaría al lector que lea la versión en alemán si le es posible, ya que la traducción al inglés me parece pobre.
- Para todo este párrafo véase ibíd., páginas 2 y 4.
- Jules Monnerot, Sociology and Psichology of Communism, traducido por Jane Degras y Richard Rees, Beacon Press, Boston, 1960, páginas 136 y 140.
- Con una excepción trivial que no es relevante en este caso.
- Encycl. Britannica, 2003, Vol. 28, artículo “Technology, The History of”, página 471.
- Ibíd., Vol. 2, artículo “Braun, Wernher von”, página 485.
- Me han comentado que en los últimos años algunos científicos o las empresas que les sirven de relaciones públicas han estado desarrollando argumentos bastante sofisticados para tratar de justificar el papel de la ciencia en la sociedad ; y no dudo que esto sea cierto. Pero todo aquello relevante que he visto en los medios de comunicación de masas, hasta el verano del 2009, parece indicar que la mayor parte del pensamiento de los científicos acerca de las implicaciones sociales y morales de su trabajo se halla aún en un nivel superficial, o incluso infantil. Sería muy deseable e importante realizar un estudio de la propaganda de la ciencia oficial, especialmente de la propaganda sofisticada dirigida a una audiencia inteligente, pero dicho estudio estaría muy lejos del alcance de esta carta ; y, es más, carezco de los conocimientos necesarios para ello. Los argumentos de los propagandistas sofisticados probablemente reflejen tan poco el pensamiento del científico corriente como, por ejemplo, los argumentos de los filósofos políticos sofisticados reflejan el pensamiento del soldado común que sale al campo de batalla para luchar por la democracia, por el fascismo o por el comunismo. Como mucho, los científicos y los soldados corrientes pueden repetir irreflexivamente los argumentos sofisticados de los propagandistas para justificar sus actos ante sí mismos o ante los demás.
- Encycl. Britannica, 2003, vol. 8, artículo “Nobel, Alfred Bernhard”, página 738.
- Smith y Weiner, op. cit., páginas 303 y 310.
- Harper & Row, Nueva York, 1969.
- Oxford University Press, Nueva York, 1991, páginas 213–225.
- Véase David Gelernter, “U.S. faces technology crisis”, The Missoulian (periódico de Missoula, Montana), 24 de febrero de 1992.
- John Markoff, “Scientists Worry Machines May Outsmart Man”, The New York Times, 26 de julio del 2009.
[i] Fragmento de carta de Ted Kaczynski a P.B. del 16 de mayo del 2009. Revisado el 8 de septiembre del 2009 y el 27 de octubre del 2009. Original en inglés. Traducción a cargo de Último reducto. © 2009, Theodore John Kaczynski. © de la traducción, 2013, Último Reducto. N. del T.
[ii] Edward Teller, físico nuclear estadounidense de origen húngaro. FC, grupo autor de La Sociedad Industrial y Su Futuro del que Kaczynski era presuntamente el único miembro, mencionaba al Dr. Teller, en el párrafo 88 de dicha obra, como ejemplo de científico cuyas motivaciones para investigar no tenían nada que ver con el bien de la humanidad. N. del T.
[iii] Lawrence Livermore, centro federal de investigación y desarrollo situado en Livermore, California. Una de sus principales actividades es la investigación armamentística nuclear. N. del T.
[iv] Importante familia alemana de banqueros y comerciantes. N. del T.
[v] El autor consiguió posteriormente los datos del original usado por Craig : “Letter from Einstein to Heinrich Zangger, dated 6 Dec. 1917”. En Collected Papers of Albert Einstein, vol. 8A, páginas 561–562 (en alemán). Princeton University Press (1987), J. Stachel, editor. Y la cita original en alemán sería : “Unser ganzer gepriesene Fortschritt der Technik, überhaupt der Civilisation, ist der Axt in der Hand des pathologischen Verbrechers vergleichbar”. N. del T.
[vi] Siglas de “Association for the Advancement of Artificial Intelligence” (Asociación para el Avance de la Inteligencia Artificial). N. del T.
*Las imágenes relacionadas al escrito fueron agregadas por Le Partage para ilustrar más o menos el sujeto tratado.
