Le travail scientifique est-il principalement motivé par le désir de faire du bien à l’humanité ? (par Theodore Kaczynski)

Le texte qui suit est un extrait d’une lettre de Theo­dore Kac­zyns­ki à l’at­ten­tion d’un cer­tain P.B., en date du 16 mai 2009 (revue le 8 sep­tembre 2009 et le 27 octobre 2009). Il a été tra­duit en fran­çais par Ana Mins­ki depuis une ver­sion espa­gnole (la lettre ori­gi­nale, en anglais, n’est pas dis­po­nible sur inter­net), lisible à cette adresse.

Note limi­naire de l’é­di­teur : Afin de mieux com­prendre le pro­pos de Theo­dore Kac­zyns­ki dans le texte ci-après, je repro­duis ici les sec­tions 87 à 92 de son livre La Socié­té indus­trielle et son ave­nir :

87. La science et la tech­no­lo­gie four­nissent les exemples les plus par­lants de ce qu’est une acti­vi­té de sub­sti­tu­tion. Cer­tains scien­ti­fiques pré­tendent être mus par la « curio­si­té », ou encore œuvrer pour le « bien de l’hu­ma­ni­té ». Mais il est facile de voir qu’au­cune de ces expli­ca­tions ne tient. Quant à celle qui invoque la « curio­si­té », elle est tout sim­ple­ment absurde. La plu­part tra­vaillent dans des domaines hau­te­ment spé­cia­li­sés qui sortent du champ de la curio­si­té ordi­naire. Est-ce qu’un astro­nome, un mathé­ma­ti­cien ou un ento­mo­lo­giste est inté­res­sé par les pro­prié­tés de l’i­so­pro­pyl­tri­mé­thyl­mé­thane ? Bien sûr que non. Seul le chi­miste l’est, et il l’est seule­ment parce que la chi­mie est son acti­vi­té de sub­sti­tu­tion. Est-ce qu’un chi­miste est curieux de connaître la clas­si­fi­ca­tion appro­priée d’une nou­velle sorte de coléo­ptères ? Non. Cette ques­tion inté­resse seule­ment l’en­to­mo­lo­giste, et il s’y inté­resse seule­ment parce que l’en­to­mo­lo­gie est son acti­vi­té de sub­sti­tu­tion. Si le chi­miste et l’en­to­mo­lo­giste devaient sérieu­se­ment assu­rer leur sur­vie, et si cet effort mobi­li­sait leurs capa­ci­tés de manière inté­res­sante sans pour­tant rien avoir de scien­ti­fique, ils se fiche­raient com­plè­te­ment de l’i­so­pro­pyl­tri­mé­thyl­mé­thane ou de la clas­si­fi­ca­tion des coléo­ptères. Sup­po­sons que le manque de moyens ait empê­ché le chi­miste de pour­suivre ses études, et qu’il soit deve­nu agent d’as­su­rances. Il se serait inté­res­sé dans ce cas aux pro­blèmes d’as­su­rance et n’au­rait rien eu à faire de l’i­so­pro­pyl­tri­mé­thyl­mé­thane. Il est stu­pide d’ex­pli­quer par la simple curio­si­té la quan­ti­té de temps et d’ef­fort dépen­sée par les scien­ti­fiques dans leur tra­vail. Cette expli­ca­tion ne tient pas debout.

88. Il n’est pas plus plau­sible d’in­vo­quer le « bien de l’hu­ma­ni­té ». Cer­tains tra­vaux scien­ti­fiques n’ont aucun rap­port avec le bien-être de l’es­pèce humaine — comme la majeure par­tie de l’ar­chéo­lo­gie ou de la lin­guis­tique com­pa­rée, par exemple — et d’autres s’a­vèrent même mani­fes­te­ment dan­ge­reux. Les spé­cia­listes de ces domaines sont pour­tant aus­si enthou­siastes que ceux qui cherchent de nou­veaux vac­cins ou étu­dient la pol­lu­tion de l’air. Pre­nons le cas du Dr Edward Tel­ler, qui se lan­ça avec pas­sion dans la pro­mo­tion des cen­trales nucléaires. Cette pas­sion est-elle née du désir de faire le bien de l’hu­ma­ni­té ? Et dans ce cas pour­quoi le Dr Tel­ler s’est-il pas sen­ti concer­né par d’autres causes « huma­ni­taires » ? S’il était si huma­niste, pour­quoi a‑t-il par­ti­ci­pé au déve­lop­pe­ment de la bombe H ? Comme pour beau­coup d’autres tra­vaux scien­ti­fiques, il est loin d’être prou­vé que les cen­trales nucléaires sont réel­le­ment béné­fiques à l’hu­ma­ni­té. Est-ce que la la modi­ci­té du prix de l’élec­tri­ci­té com­pense l’ac­cu­mu­la­tion des déchets ou les risques d’ac­ci­dents ? Le Dr Tel­ler a vu seule­ment un aspect de la ques­tion. Son enga­ge­ment en faveur du nucléaire ne venait évi­dem­ment pas d’un désir d’œu­vrer au « bien de l’hu­ma­ni­té », mais du sen­ti­ment de réa­li­sa­tion per­son­nelle qu’il reti­rait de ses tra­vaux et de leurs applications.

89. Cela est vrai pour les scien­ti­fiques en géné­ral. Excep­té en de rares cas, leurs mobiles ne sont ni la curio­si­té ni le bien de l’hu­ma­ni­té, mais un besoin d’au­to-accom­plis­se­ment : avoir un but (un pro­blème scien­ti­fique à résoudre), faire un effort (la recherche) et atteindre son but (réso­lu­tion du pro­blème). La science est une acti­vi­té de sub­sti­tu­tion parce que les scien­ti­fiques tra­vaillent essen­tiel­le­ment pour le sen­ti­ment de réa­li­sa­tion qu’ils retirent du tra­vail lui-même.

90. Bien sûr, ce n’est pas si simple. En fait, chez beau­coup de scien­ti­fiques, d’autres mobiles entrent en jeu. L’argent et la car­rière par exemple. Cer­tains ont une soif inex­tin­guible de pres­tige (voir para­graphe 79) et cela peut être le prin­ci­pal mobile de leur tra­vail. Il est évident que la majo­ri­té des scien­ti­fiques, comme d’ailleurs le reste de la popu­la­tion, est plus ou moins récep­tive à la publi­ci­té ou au mar­ke­ting, et a besoin d’argent pour satis­faire sa frin­gale de mar­chan­dises et de ser­vices. La science n’est donc pas une pure acti­vi­té de sub­sti­tu­tion, mais elle l’est dans une large mesure.

91. La science et la tech­no­lo­gie consti­tuent en outre un puis­sant mou­ve­ment de masse, et de nom­breux scien­ti­fiques assou­vissent leur besoin de puis­sance en s’i­den­ti­fiant à ce mou­ve­ment (voir para­graphe 83).

92. La science pour­suit donc aveu­glé­ment sa marche en avant, sans se sou­cier du véri­table bien-être de l’es­pèce humaine (ni de quoi que ce soit d’autre), obéis­sant seule­ment aux besoins psy­cho­lo­giques des scien­ti­fiques, des fonc­tion­naires du gou­ver­ne­ment et des diri­geants de l’in­dus­trie qui financent la recherche.

***

Le travail scientifique est-il principalement motivé par le désir de faire du bien à l’humanité ?

Dans vos com­men­taires sur les para­graphes 87–92 de la Socié­té indus­trielle et son ave­nir [NdE : ci-avant] vous avez écrit :

« Les moti­va­tions des scien­ti­fiques. Cette sec­tion me semble par­ti­cu­liè­re­ment légère…

Une longue expli­ca­tion de pour­quoi Edward Tel­ler^[1] est un Homme Mau­vais. C’est bien. Mais quand nous pen­sons aux phy­si­ciens, la plu­part d’entre nous pensent à Ein­stein plu­tôt qu’à Tel­ler, et Ein­stein est un exemple para­dig­ma­tique de quel­qu’un qui contre­dit tota­le­ment cette affir­ma­tion — mais il n’est pas le seul. [Quelle affir­ma­tion ? L’af­fir­ma­tion que le tra­vail scien­ti­fique n’est pas prin­ci­pa­le­ment moti­vé par un désir de béné­fi­cier à l’humanité ?] …

[Kac­zyns­ki], essen­tiel­le­ment, nie que les scien­ti­fiques ont des pré­oc­cu­pa­tions morales…

En dis­cu­tant avec des gens qui, je crois, ont tra­vaillé dans ce que je consi­dère être des dis­ci­plines de recherche véri­ta­ble­ment nui­sibles — concep­tion d’armes à Law­rence Lever­more^[2], par exemple —, j’ai décou­vert que ceux qui dirigent et sont acti­ve­ment concer­nés par ce tra­vail, le sont parce qu’ils croient faire ce qui est appro­prié pour le pays, y com­pris tous les risques que leur tra­vail com­porte, et qu’en fai­sant ce qui est appro­prié pour le pays, il font aus­si ce qui est appro­prié pour le monde.

Ces gens sont conscients des impli­ca­tions morales des déci­sions qu’ils prennent acti­ve­ment — dans un sens que moi je ne pren­drais pas.

Les per­sonnes qui semblent ne pas vou­loir faire ça [ne pas vou­loir faire quoi ?] sont des per­sonnes brillantes qui, plus que diri­ger le tra­vail, l’en­tre­tiennent. Ils consi­dèrent l’emploi dans cette dis­ci­pline comme quelque chose d’é­thi­que­ment neutre, sim­ple­ment comme un tra­vail légal, et ils n’aiment pas pen­ser aux coûts et béné­fices de leur travail. »

En pre­mier lieu, gar­dons bien à l’es­prit ceci : il doit être clair que, dans les para­graphe 87–89 de La socié­té indus­trielle et son ave­nir, je com­men­tais les moti­va­tions habi­tuelles et typiques des scien­ti­fiques ; je ne pre­nais pas en compte les excep­tions. Par consé­quent, même si vous pou­vez prou­ver que 1 % ou 5 % des scien­ti­fiques sont réel­le­ment moti­vés par un désir de faire ce qu’il y a de mieux pour l’hu­ma­ni­té, cela n’af­fec­te­rait en rien mon argu­men­taire. Il aurait dû être aus­si évident qu’en ques­tion­nant les moti­va­tions des scien­ti­fiques, je m’in­ter­ro­geais sur leurs moti­va­tions à réa­li­ser des tra­vaux scien­ti­fiques, et non sur leurs moti­va­tions au moment d’a­gir dans d’autres contextes. Je n’ai jamais dit que la majo­ri­té des scien­ti­fiques ne se pré­oc­cu­pait pas des ques­tions morales. C’est une chose de dire qu’un scien­ti­fique ne se pré­oc­cupe pas des ques­tions morales et c’en est une autre, très dif­fé­rente, de dire que sa prin­ci­pale moti­va­tion pour mener une recherche scien­ti­fique est le désir de faire du bien à l’hu­ma­ni­té. (De toute manière, il est pos­sible de trou­ver de nom­breux exemples d’a­mo­ra­li­té chez les scien­ti­fiques, comme je le déve­lop­pe­rai plus loin).

Pour autant, l’ar­gu­ment selon lequel les scien­ti­fiques (sauf quelques excep­tions) ne sont pas prin­ci­pa­le­ment moti­vés par un désir de ser­vir l’hu­ma­ni­té ne nie pas que les scien­ti­fiques ont des pré­oc­cu­pa­tions morales — hors du labo­ra­toire. Vous men­tion­nez Ein­stein. Ein­stein a beau­coup œuvré pour la paix mon­diale, et ses moti­va­tions étaient sans aucun doute pro­fon­dé­ment morales. Mais cela n’a rien à voir avec ses moti­va­tions pour mener des recherches en physique.

Ce que vous affir­mez, c’est que les scien­ti­fiques agissent habi­tuel­le­ment comme des agents moraux dans leur tra­vail. Reve­nons à 2002, j’ai fait part de votre théo­rie aux deux psy­cho­logues de cette pri­son, des hommes com­pé­tents, selon moi, qui se consi­dèrent eux-mêmes comme des « ratio­na­listes récal­ci­trants » et dédaignent les théo­ries dou­teuses comme celle du freu­disme. Je cite une par­tie de mes notes datées du 9 avril 2002 :

« Étant don­né que je compte répondre à une lettre que j’ai reçue il y a quelques temps d’un cer­tain P. B., quand les doc­teurs Wat­ter­son et Mor­ri­son sont pas­sés aujourd’­hui par ma cel­lule, je leur ai deman­dé… s’ils avaient choi­si la dis­ci­pline de la psy­cho­lo­gie pour satis­faire leurs besoins per­son­nels, ou pour faire le bien de l’es­pèce humaine. Tous deux ont répon­du qu’ils avaient choi­si d’être psy­cho­logues pour satis­faire leurs besoins per­son­nels. Je leur ai alors deman­dé s’ils pen­saient que la majo­ri­té des psy­cho­logues choi­sis­saient cette pro­fes­sion pour… faire du bien à l’es­pèce humaine, ou pour satis­faire leurs besoins per­son­nels. Tous deux, les Dr. Wat­ter­son et Mor­ri­son, dirent que la majo­ri­té des psy­cho­logues choi­sis­saient cette pro­fes­sion pour satis­faire leurs besoins per­son­nels (et plus par­ti­cu­liè­re­ment leur ego, selon Wat­ter­son) et non pas pour le bien de l’es­pèce humaine. Mor­ri­son ajou­ta que beau­coup de psy­cho­logues diraient pro­ba­ble­ment qu’ils sont deve­nus psy­cho­logues pour aider les gens, mais que cela ne cor­res­pon­drait pas à leur moti­va­tion réelle. Je leur ai fait part de l’o­pi­nion de P. B., selon laquelle les scien­ti­fiques res­sen­taient des “pré­oc­cu­pa­tions d’ordre moral”. Wat­ter­son et Mor­ri­son sem­blèrent trou­ver ça amu­sant. Mor­ri­son sug­gé­ra, à moi­tié bla­gueur, que je devrais dire à P. B. de redes­cendre sur Terre. »

Dans le but de sou­te­nir votre argu­ment, vous dites « avoir décou­vert » que les per­sonnes qui « dirigent et sont actuel­le­ment impli­quées dans » la concep­tion d’armes mili­taires pensent qu’elles font ce qu’il y a de mieux pour le monde et qu’elles « prennent en compte les impli­ca­tions morales des déci­sions qu’elles prennent acti­ve­ment ». Mais com­ment avez-vous décou­vert cela ? Parce qu’elles vous l’ont elles-mêmes dit ? Votre naï­ve­té est stu­pé­fiante. Si ces per­sonnes pen­saient que leur tra­vail était pré­ju­di­ciable, pen­sez-vous qu’elles l’auraient admis devant vous ? Si une per­sonne a suf­fi­sam­ment peu de scru­pules pour effec­tuer un tra­vail aus­si nui­sible dans le but de satis­faire ses besoins per­son­nels, il est cer­tain qu’elle n’hésitera pas à tra­ves­tir ses moti­va­tions véritables.

Cer­taines per­sonnes ont des opi­nions très dif­fé­rentes des vôtres en ce qui concerne les scien­ti­fiques impli­qués dans les recherches mili­taires. Dans ses mémoires d’a­près-guerre, le ministre de l’ar­me­ment de Hit­ler écrivait :

« J’ai étu­dié le phé­no­mène du dévoue­ment, sou­vent aveugle, des tech­ni­ciens à leur tâche. Étant don­né qu’ils consi­dé­raient que la tech­no­lo­gie était mora­le­ment neutre, ces gens étaient dépour­vus du moindre scru­pule en ce qui concerne leurs acti­vi­tés. Plus tech­nique était le monde que nous impo­sait la guerre, plus dan­ge­reuse était l’in­dif­fé­rence des tech­ni­ciens face aux consé­quences de leurs acti­vi­tés ano­nymes. »^[3]

Pen­sez-vous qu’un de ces tech­ni­ciens aurait ouver­te­ment admis à un incon­nu qu’il était indif­fé­rent aux consé­quences de son tra­vail ? C’est très impro­bable. Pre­nons le cas de Wern­her von Braun. Comme vous le savez pro­ba­ble­ment, von Braun était le chef des scien­ti­fiques char­gés du déve­lop­pe­ment des mis­siles sous Hit­ler. Il a diri­gé la fabri­ca­tion du mis­sile V‑2, qui tua de nom­breux civils à Londres et dans d’autres villes.^[4] Von Braun affir­ma après la guerre que ses moti­va­tions avaient été « patrio­tiques ».^[5] Mais pen­dant tout le temps où il a tra­vaillé avec Hit­ler, von Braun devait savoir que les Juifs étaient en train d’être exter­mi­nés, puisqu’il s’agissait « d’un secret de poli­chi­nelle en Alle­magne au moins depuis fin 1942 », selon les études les plus récentes.^[6] Quel genre de patrio­tisme condui­rait un homme à construire des armes pour un régime qui exter­mine des groupes eth­niques entiers par simple haine ? Il est clair que le « patrio­tisme » n’é­tait qu’une excuse pour von Braun, et qu’il dési­rait sim­ple­ment construire des missiles.

« Quand la Seconde Guerre mon­diale tou­chait à sa fin, au début de 1945, Braun et beau­coup de ses asso­ciés déci­dèrent de se rendre aux États-Unis, où ils pen­saient trou­ver un appui pour leur recherche sur les mis­siles […]. »^[7] Ce qui importe n’est pas de savoir si construire des armes pour Hit­ler est mora­le­ment équi­valent à construire des armes pour un régime pré­ten­du­ment démo­cra­tique comme celui des États-Unis. L’im­por­tant c’est que les scien­ti­fiques s’at­tri­buent à eux-mêmes des moti­va­tions appa­rem­ment nobles, telles que le « patrio­tisme », qui n’ont rien à voir avec leurs véri­tables motivations.

Et, non, cette façon d’a­gir ne se limite pas à ceux qui construisent des armes pour des régimes dic­ta­to­riaux. Comme sûre­ment vous le savez déjà, J. Robert Oppen­hei­mer a diri­gé le déve­lop­pe­ment de la pre­mière bombe ato­mique des États-Unis. Dans un dis­cours pro­non­cé le 2 novembre 1945 devant les scien­ti­fiques qui avaient par­ti­ci­pé au pro­jet de la bombe à Los Ala­mos, au Nou­veau Mexique,^[8] Oppen­hei­mer sou­ligne : « On doit tou­jours s’in­quié­ter du fait que ce que les gens disent être leurs moti­va­tions n’est jamais juste. » Après quoi Oppen­hei­mer a pré­sen­té les excuses com­munes des scien­ti­fiques qui ont tra­vaillé sur la bombe : les nazis auraient pu conce­voir la bombe en pre­mier ; il n’existe aucun autre lieu au monde où le déve­lop­pe­ment des armes ato­miques aurait moins de pos­si­bi­li­tés de conduire au désastre qu’aux États-Unis ; l’im­por­tance réelle de l’éner­gie ato­mique n’é­tait pas dans les armes mais dans les béné­fices que cette éner­gie pou­vait appor­ter à l’hu­ma­ni­té ; etc. Oppen­hei­mer sou­ligne que toutes ces jus­ti­fi­ca­tions étaient plus ou moins valables, mais il insiste sur le fait que la véri­table rai­son pour laquelle les scien­ti­fiques avaient déve­lop­pé la bombe était que, pour eux, leur tra­vail était une néces­si­té per­son­nelle, une « néces­si­té orga­nique ». Les scien­ti­fiques, du point de vue d’Oppenheimer, vivaient selon une phi­lo­so­phie qui consi­dé­rait l’ac­qui­si­tion et la dif­fu­sion de connais­sances comme des fins, indé­pen­dam­ment de leurs béné­fices pra­tiques pour l’es­pèce humaine.

Les impli­ca­tions du dis­cours d’Oppenheimer sont évi­dentes, même si Oppen­hei­mer ne les expose pas clai­re­ment : les scien­ti­fiques ne tra­vaillent pas pour le bien de l’hu­ma­ni­té, mais pour satis­faire leurs propres besoins. Même si Oppen­hei­mer croyait pro­ba­ble­ment qu’en géné­ral la science béné­fi­cie à l’hu­ma­ni­té, il recon­nais­sait que jus­ti­fier la science en disant qu’elle est béné­fique pour l’hu­ma­ni­té était essen­tiel­le­ment une excuse qui ne repré­sen­tait pas les moti­va­tions réelles des scientifiques.

Il est signi­fi­ca­tif que la ver­sion impri­mée de ce dis­cours trou­vée par­mi les papiers d’Oppenheimer por­tait cette note : « Ce maté­riel ne doit pas être ren­du public. Une ver­sion cor­ri­gée devrait rapi­de­ment être publiée dans une revue scien­ti­fique. »^[9] Mais, de fait, il semble que le dis­cours n’ait pas été publié, ni sous forme « cor­ri­gée » ni aucu­ne­ment, avant que Smith et Wei­ner ne l’in­tègrent à leur livre.

Appa­rem­ment, Oppen­hei­mer n’é­tait pas très à l’aise avec ce qu’il avait lui-même écrit au sujet des moti­va­tions des scien­ti­fiques. Quoi qu’il en soit, cer­tains scien­ti­fiques ont expo­sé leur moti­va­tion plus ouver­te­ment qu’Oppenheimer et sans aucun scrupule.

Wer­ner von Sie­mens était un ingé­nieur du XIXe siècle qui inven­ta la géné­ra­trice à auto-exci­ta­tion et réa­li­sa d’autres décou­vertes impor­tantes dans le domaine de l’élec­tri­ci­té.^[10] Dans une lettre datée du 25 décembre 1887, Sie­mens expose ses motivations :

« Certes, j’ai cher­ché à obte­nir la richesse et les béné­fices éco­no­miques, mais pas prio­ri­tai­re­ment pour en pro­fi­ter ; c’é­tait plu­tôt pour obte­nir les moyens pour l’exécution d’autres plans et pro­jets et, grâce à mon suc­cès, par­ve­nir à la recon­nais­sance du bien­fon­dé de mes méthodes et de l’u­ti­li­té de mon tra­vail. Pour autant, depuis ma jeu­nesse, j’ai dési­ré éta­blir une entre­prise inter­na­tio­nale comme celles des Fug­ger,^[11] qui garan­ti­rait, non seule­ment à moi mais aus­si à mes suc­ces­seurs, le pou­voir et l’es­time dans le monde entier, ain­si que les moyens d’é­le­ver le niveau de vie de mes sœurs et des membres de ma famille proche. […] 

Je consi­dère notre entre­prise seule­ment secon­dai­re­ment comme une source de richesse ; pour moi c’est davan­tage un royaume que j’ai fon­dé et que j’es­père lais­ser intact à mes suc­ces­seurs pour qu’ils conti­nuent de déve­lop­per un tra­vail créa­tif. »^[12] (Les ita­liques sont de moi)

Pas même une parole sur le bien de l’hu­ma­ni­té. Mais por­tez votre atten­tion sur l’im­por­tance que Sie­mens se porte à lui-même, à l’exé­cu­tion de « plans », « pro­jets » et « tra­vail créa­tif ». C’est-à-dire aux acti­vi­tés alter­na­tives. Je vous ren­voie à La Socié­té indus­trielle et son ave­nir, para­graphes 38–41, 84, 87–89.

Il est tou­te­fois pro­bable que les scien­ti­fiques qui tra­vaillent dans des domaines dont les fina­li­tés sont expli­ci­te­ment huma­ni­taires, comme la recherche de trai­te­ments pour dif­fé­rentes mala­dies, soient mus par le désir de faire du bien à l’hu­ma­ni­té, n’est-ce pas ? Dans cer­tains cas, peut-être. Mais, en géné­ral, je crois que non. Le bac­té­rio­logue Hans Zins­ser a écrit :

« N’ayant jamais eu de rela­tion étroite avec quel­qu’un tra­vaillant dans le domaine des mala­dies infec­tieuses, il par­ta­geait la fausse croyance selon laquelle ces gens si par­ti­cu­liers étaient mus par de nobles moti­va­tions. Et, ne com­pre­nant pas com­ment quel­qu’un pou­vait être por­té par de telles moti­va­tions, il nous deman­da : “Com­ment quel­qu’un choi­sit de deve­nir bac­té­rio­logue ?” […] En véri­té, les hommes choi­sissent cette branche de la recherche pour divers motifs, par­mi les­quels le désir conscient de faire le bien est le moins impor­tant. Ce qui compte, c’est qu’il s’agit d’un des quelques défis qu’il reste pour ceux qui res­sentent le besoin de faire l’expérience de cer­taines émo­tions. La lutte contre les mala­dies infec­tieuses est l’une des quelques aven­tures authen­tiques qui res­tent encore dans le monde. […] Cette guerre contre ces petites et féroces créa­tures est peut-être l’u­nique défi authen­tique qui sub­siste après l’in­sa­tiable domes­ti­ca­tion de l’es­pèce humaine […]. »^[13]

Vous men­tion­nez Ein­stein comme exemple de quel­qu’un dont le tra­vail scien­ti­fique était moti­vé par un désir de faire le bien pour l’hu­ma­ni­té, mais je crois que vous vous trom­pez. Selon Gor­don A. Craig, Ein­stein aurait dit : « Tout notre pro­grès tech­no­lo­gique, tant louan­gé, et notre civi­li­sa­tion en géné­ral, sont comme une hache entre les mains d’un cri­mi­nel patho­lo­gique. »^[14] Craig n’in­dique pas la source de cette cita­tion, je ne peux donc pas véri­fier sa véra­ci­té.^[15] Mais, si ces paroles reflètent la vision qu’Einstein avait de la tech­no­lo­gie, dif­fi­cile de lui prê­ter une moti­va­tion altruiste. Ein­stein pour­sui­vit son tra­vail en phy­sique théo­rique jus­qu’à un âge très avan­cé.^[16] Il a bien dû réa­li­ser que n’im­porte quelle avan­cée phy­sique aurait très cer­tai­ne­ment des appli­ca­tions pra­tiques et, pour autant, il par­ti­ci­pait au ren­for­ce­ment de cette tech­no­lo­gie qu’il com­pa­rait à « une hache entre les mains d’un cri­mi­nel patho­lo­gique ». Alors, pour­quoi conti­nua-t-il son tra­vail ? Peut-être à cause d’une sorte de com­pul­sion. Ein­stein a écrit : « Je ne peux me tenir à l’é­cart de mon tra­vail. Il me tient inexo­ra­ble­ment pri­son­nier. »^[17]

Qu’il s’a­gisse d’une com­pul­sion ou non, le tra­vail scien­ti­fique d’Ein­stein n’a­vait rien à voir avec le désir de faire du bien à l’hu­ma­ni­té. Dans une auto­bio­gra­phie^[18] qu’il écri­vit à 67 ans, Ein­stein décrit ses moti­va­tions. Enfant, déjà, il se sen­tait oppri­mé par le sen­ti­ment qu’avoir des envies et faire des efforts pour obte­nir cer­taines choses était quelque chose de « vide » ou « dépour­vu de sens » (Nich­tig­keit).

Cela sug­gère une men­ta­li­té dépres­sive et défai­tiste. D’autre part, il semble qu’Ein­stein était un enfant extrê­me­ment déli­cat peu dis­po­sé à affron­ter la socié­té, puis­qu’il a décou­vert à un âge pré­coce ce qu’il appe­lait « la cruau­té » de devoir faire des efforts (trei­ben) pour gagner sa vie. Au début, il ten­ta d’échapper à ces sen­ti­ments dou­lou­reux en deve­nant pro­fon­dé­ment reli­gieux, mais à l’âge de douze ans il per­dit la foi en lisant des livres scien­ti­fiques qui réfu­taient l’his­toire de la Bible. Il cher­cha donc une conso­la­tion dans la science, laquelle lui four­nit un « para­dis » qui rem­pla­ça le para­dis reli­gieux qu’il avait per­du.^[19]

Par consé­quent, il sem­ble­rait que dans le cas d’Ein­stein, le tra­vail scien­ti­fique était non seule­ment une acti­vi­té de sub­sti­tu­tion, mais aus­si une manière de fuir un monde qu’il trou­vait trop dur. De toute façon, ce qui est sûr, c’est qu’Ein­stein s’est consa­cré à la science uni­que­ment pour satis­faire ses besoins per­son­nels ; il ne sug­gère nulle part dans sa bio­gra­phie que ses recherches pour­raient, de quelque manière, amé­lio­rer les condi­tions de l’es­pèce humaine.

Je sup­pose que pour chaque scien­ti­fique que je pour­rais citer et dont la moti­va­tion décla­rée serait de satis­faire ses besoins per­son­nels, vous pour­riez en citer beau­coup qui jure­raient avoir des moti­va­tions altruistes. Les moti­va­tions altruistes ne sont pas impos­sibles. J’imagine, par exemple, que la majo­ri­té de ceux qui étu­dient les dis­ci­plines de la bota­nique et de la zoo­lo­gie sont en par­tie mus par un amour naïf des plantes ou des ani­maux sau­vages. De toute façon, aux décla­ra­tions de moti­va­tions altruistes — ou, pour le dire de manière plus pré­cise, aux moti­va­tions qui sont consi­dé­rées admi­rables selon les normes de la socié­té actuelle — il faut, en géné­ral, accor­der très peu de valeur. Tan­dis qu’un scien­ti­fique qui admet que ses moti­va­tions sont égoïstes prend le risque de se déva­luer aux yeux de ceux qui l’en­tourent, celui qui affirme avoir une moti­va­tion « noble » satis­fait leurs attentes et s’as­sure leur appro­ba­tion, voire leur admi­ra­tion. Il devrait être évident que la majo­ri­té des gens, la plu­part du temps, diront ce qui pour­ra, à leur avis, leur octroyer l’ap­pro­ba­tion de leurs sem­blables. Cela sup­pose sans aucun doute une mal­hon­nê­te­té déli­bé­rée, ain­si de von Braun lorsqu’il assu­rait que ses moti­va­tions étaient « patrio­tiques ». Néan­moins, je pense que les scien­ti­fiques croient à peu près en leurs propres excuses. La science pos­sède sa propre idéo­lo­gie auto­com­plai­sante, dont une des fonc­tions consiste à ras­su­rer celui qui y croit. Ain­si que l’ex­plique le socio­logue Mon­ne­rot, l’idéologie « offre une ver­sion dif­fé­rente de la rela­tion entre la moti­va­tion et ce qu’elle engendre. Les maté­riaux qui com­posent une idéo­lo­gie, et que cette der­nière orga­nise, peuvent alors être expo­sés, en quelque sorte. Ils ne sont pas seule­ment per­mis, ou hono­rables, ils tentent constam­ment d’af­fir­mer leur rela­tion avec les valeurs sociales recon­nues […]. Les aspi­ra­tions du [croyant] sont chan­gées en valeurs éthiques et sociales par l’i­déo­lo­gie. […] »^[20]

Mais l’i­déo­lo­gie qui pré­sente la science comme une entre­prise huma­ni­taire est contre­dite par le dis­cours et le com­por­te­ment quo­ti­diens des scien­ti­fiques. Au cours des onze années où j’ai été étu­diant et pro­fes­seur de mathé­ma­tiques, durant les­quelles j’ai aus­si assis­té à quelques cours de phy­sique et d’an­thro­po­lo­gie phy­sique, jamais je n’ai enten­du, que ce soit dans la bouche d’un pro­fes­seur ou d’un étu­diant, la moindre men­tion de l’effet du tra­vail scien­ti­fique ou mathé­ma­tique sur la socié­té, ou du béné­fice qu’il pro­cu­re­rait à l’hu­ma­ni­té. Vous faites allu­sion à mon « iso­le­ment, y com­pris […] sur le plan aca­dé­mique », je me per­mets donc de vous rap­pe­ler que les affir­ma­tions for­mu­lées à mon sujet exa­gèrent sou­vent jus­qu’à la cari­ca­ture, ou pire, quand elles ne sont pas sim­ple­ment fausses. J’étais effec­ti­ve­ment soli­taire, mais pas au point de ne pou­voir écou­ter et enga­ger de nom­breuses conver­sa­tions avec d’autres étu­diants et pro­fes­seurs de mathé­ma­tiques. Nous par­lions entre pro­fes­seurs et étu­diants de ce qui se pas­sait dans les diverses dis­ci­plines des mathé­ma­tiques, à pro­pos de cer­tains types de recherches qui se pra­ti­quaient, de qui les menaient, de leurs actes et de la per­son­na­li­té de cer­tains mathé­ma­ti­ciens, mais jamais^[21] je n’ai enten­du quel­qu’un mani­fes­ter le moindre inté­rêt pour les avan­tages que son tra­vail pour­rait appor­ter à l’es­pèce humaine.

Une ver­sion moins infan­tile de l’i­déo­lo­gie scien­ti­fique pré­sente la science non comme une entre­prise huma­ni­taire, mais comme quelque chose de « mora­le­ment neutre » : les scien­ti­fiques mettent sim­ple­ment des outils à dis­po­si­tion de la socié­té, et s’ils sont uti­li­sés de manière néga­tive, c’est la faute de la socié­té, cou­pable d’en avoir fait un « mau­vais usage » ; ain­si, les mains des scien­ti­fiques res­tent propres. Comme celles de Ponce Pilate. L’Ency­clo­pé­die Bri­tan­nique énonce cet argu­ment de la « neu­tra­li­té » dans son article sur la tech­no­lo­gie^[22] ; vous, Dr. B., men­tion­nez le même argu­ment dans la par­tie de votre lettre que j’ai citée plus haut ; Albert Speer le men­tion­na en se réfé­rant à l’ex­cuse que don­naient les tech­ni­ciens qui créaient les armes pour Hit­ler (voyez plus haut) : von Braun, de la même façon, « sou­li­gnait l’im­par­tia­li­té intrin­sèque de la recherche scien­ti­fique, laquelle est en elle-même dépour­vue de dimen­sions morales jus­qu’à ce que ses pro­duits soient uti­li­sés par l’en­semble de la socié­té. »^[23]

D’un point de vue abs­trait, la tech­no­lo­gie peut effec­ti­ve­ment sem­bler mora­le­ment neutre. Mais von Braun ne déve­lop­pait pas des mis­siles dans le champ abs­trait des Formes Idéales de Pla­ton. Il construi­sait des mis­siles pour Adolf Hit­ler et savait très bien que ces fusées seraient uti­li­sées pour défendre un régime qui per­pé­trait des exter­mi­na­tions de masse. Aus­si neutre que puisse sem­bler la tech­no­lo­gie in abs­trac­to, lorsqu’un scien­ti­fique déve­loppe une nou­velle tech­no­lo­gie ou fait une décou­verte qui aura des appli­ca­tions tech­no­lo­giques, il agit d’une manière concrète qui implique des effets concrets sur la socié­té dans laquelle il vit. Il n’a pas le droit de nier sa res­pon­sa­bi­li­té en se basant sur l’idée selon laquelle la socié­té aurait pu en faire usage d’une manière non des­truc­trice. Von Braun était obli­gé de se deman­der non pas ce qu’­Hit­ler aurait pu faire de ces mis­siles, mais ce qu’il en ferait effec­ti­ve­ment. Pareille­ment, lorsque quelqu’un invente une nou­velle tech­no­lo­gie aujourd’hui, il est obli­gé de consi­dé­rer non pas ce que la socié­té pour­rait en faire, en théo­rie, mais de quelle manière cette tech­no­lo­gie inter­agi­ra avec la socié­té dans la pratique.

Tout ce qui a été dit dans le para­graphe pré­cé­dent est rela­ti­ve­ment évident, et n’importe quelle per­sonne suf­fi­sam­ment qua­li­fiée pour être experte en mis­sile, en phy­sique, ou en bio­lo­gie molé­cu­laire peut le com­prendre en cinq minutes de réflexion hon­nête. Le fait que tant de scien­ti­fiques défendent l’ar­gu­ment de la « neu­tra­li­té morale » démontre qu’ils sont soit mal­hon­nêtes vis-à-vis d’eux-mêmes et des autres, soit qu’ils n’ont sim­ple­ment jamais pris la peine de pen­ser sérieu­se­ment aux impli­ca­tions sociales et morales de leur tra­vail.^[24]

Il existe un petit nombre de scien­ti­fiques qui pensent sérieu­se­ment et sin­cè­re­ment aux consé­quences de leur tra­vail sur la socié­té. Mais leurs scru­pules moraux n’in­ter­fèrent pas signi­fi­ca­ti­ve­ment avec leur recherche ; ils la mènent à terme quoi qu’il en soit et tran­quillisent leur conscience en insis­tant sur l’u­sage « éthique » de leur science, en impo­sant des limi­ta­tions déter­mi­nées à leurs recherches ou en évi­tant les tra­vaux qui sont spé­ci­fi­que­ment liés au déve­lop­pe­ment des armes.

Natu­rel­le­ment, leur insis­tance et leurs scru­pules sont com­plè­te­ment inutiles. La façon dont la science est mise en pra­tique n’est pas déter­mi­née par les scien­ti­fiques mais par l’u­ti­li­té que la science revêt aux yeux de ceux qui détiennent le pou­voir ou l’argent.

Alfred Nobel était paci­fiste, ce qui ne l’a pas empê­ché de déve­lop­per de puis­sants explo­sifs. Il se conso­lait avec l’es­pé­rance « que les pou­voirs des­truc­teurs de ses inven­tions aide­raient à en finir avec la guerre ».^[25] Nous savons comme cela a bien fonc­tion­né, n’est-ce pas ? Comme nous l’a­vons déjà vu, Ein­stein prê­chait — de manière inef­fi­cace — la paix mon­diale, mais il pour­sui­vit ses recherches jus­qu’à la fin de sa vie, mal­gré son avis sur la tech­no­lo­gie. Les scien­ti­fiques du Pro­jet Man­hat­tan déve­lop­pèrent d’a­bord la bombe ato­mique et prê­chèrent ensuite — avec la même inef­fi­ca­ci­té — la néces­si­té d’une agence inter­na­tio­nale pour contrô­ler l’éner­gie ato­mique.^[26] Dans son livre Beha­vior Control^[27], Per­ry Lon­don mon­trait qu’il avait bien exa­mi­né les impli­ca­tions des tech­niques qui faci­li­taient la mani­pu­la­tion du com­por­te­ment humain. Il pro­po­sait cer­taines idées éthiques, espé­rant qu’elles gui­de­raient l’u­sage de ces tech­niques — mal­heu­reu­se­ment, ces idées n’eurent stric­te­ment aucun effet concret.

David Gelern­ter, dans son livre Mir­ror Worlds^[28], expri­mait cer­taines pré­oc­cu­pa­tions au sujet de l’impact de l’in­for­ma­tique sur la socié­té. Pour autant, Gelern­ter a conti­nué de pro­mou­voir la tech­no­lo­gie, y com­pris l’in­for­ma­tique^[29], et les pré­oc­cu­pa­tions qu’il expri­ma dans Mir­ror Worlds n’eurent stric­te­ment aucun effet sur les consé­quences du déve­lop­pe­ment de l’in­for­ma­tique. Dans un article publié dans le New York Times^[30] à pro­pos d’une confé­rence de l’AAAI^[31] en date du 25 février 2009, trai­tant des dan­gers que repré­sen­tait le déve­lop­pe­ment de l’in­tel­li­gence arti­fi­cielle, on apprend que comme solu­tions poten­tielles, les scien­ti­fiques pré­sents éta­blirent des « limites à la recherche », le confi­ne­ment de cer­taines recherches dans des « labo­ra­toires de haute sécu­ri­té » et une « com­mis­sion » qui devait « orga­ni­ser les avan­cées et aider la socié­té à affron­ter les consé­quences » de l’intelligence arti­fi­cielle. Dif­fi­cile de savoir dans quelle mesure il s’agissait d’une stra­té­gie publi­ci­taire et dans quelle mesure ces scien­ti­fiques y croyaient vrai­ment. Quoi qu’il en soit, ces pro­po­si­tions étaient com­plè­te­ment naïves.

Il est clair que les « limites » pro­po­sées par les scien­ti­fiques n’envisageaient pas d’entraver les recherches dans le champ de l’in­tel­li­gence arti­fi­cielle en géné­ral, mais seule­ment dans cer­tains sec­teurs très concrets que les scien­ti­fiques consi­dèrent comme par­ti­cu­liè­re­ment sen­sibles. Ces « limites » n’auraient pas tenu long­temps. Si les scien­ti­fiques du Pro­jet Man­hat­tan avaient refu­sé de tra­vailler dans la recherche mili­taire, ils auraient seule­ment retar­dé de quelques années l’ap­pa­ri­tion des armes nucléaires puisque, une fois la théo­rie quan­tique déve­lop­pée et la fis­sion nucléaire décou­verte, il était inévi­table que quel­qu’un, tôt ou tard, mette ces connais­sances au ser­vice de la fabri­ca­tion d’armes nucléaires. De la même manière, étant don­né que la recherche dans le domaine de l’in­tel­li­gence arti­fi­cielle va conti­nuer, il est cer­tain que quel­qu’un, tôt ou tard (et pro­ba­ble­ment assez tôt), met­tra les connais­sances tech­niques déve­lop­pées au ser­vice des pro­jets que l’ AAAI sou­hai­te­rait interdire

Les « labo­ra­toires de haute sécu­ri­té » ne seront contrô­lés ni par vous ni par moi, mais par des orga­nismes puis­sants tels que les grandes entre­prises ou les gou­ver­ne­ments. Par consé­quent, le confi­ne­ment de cer­taines recherches dans des labo­ra­toires de haute sécu­ri­té ne fera qu’ac­croître la concen­tra­tion du pou­voir dans nos socié­tés, déjà lar­ge­ment excessive.

La « com­mis­sion » qui pré­tend « don­ner corps aux avan­cées et aider la socié­té à affron­ter les consé­quences » de l’in­tel­li­gence arti­fi­cielle m’ins­pire crainte et mépris, parce que l’i­dée qu’ont ces gens de ce qui est bon pour les êtres humains dépasse à peine les réflexions d’un enfant de quatre ans. Le monde qu’ils crée­raient s’ils le pou­vaient est un cauchemar.

De toute manière, dans la pra­tique, la « com­mis­sion » n’au­ra pas plus de suc­cès que les groupes scien­ti­fiques qui se for­mèrent après 1945 afin de faire en sorte que l’éner­gie nucléaire soit « sage­ment » régu­lée et uni­que­ment uti­li­sée à des fins paci­fiques. Au bout du compte, la façon dont l’in­tel­li­gence arti­fi­cielle sera déve­lop­pée et appli­quée dépen­dra des volon­tés de ceux qui détiennent le pou­voir et qui en veulent tou­jours plus.

***

Quels que soient les cri­tères éthiques qu’un scien­ti­fique pro­fesse, ils n’ont aucun effet sur le déve­lop­pe­ment conjoint de la science et de la tech­no­lo­gie. Ce que j’ai écrit dans le para­graphe 92 de La Socié­té indus­trielle et son ave­nir est exact : « La science pour­suit donc aveu­glé­ment sa marche en avant, sans se sou­cier du véri­table bien-être de l’es­pèce humaine (ni de quoi que ce soit d’autre), obéis­sant seule­ment aux besoins psy­cho­lo­giques des scien­ti­fiques, des fonc­tion­naires du gou­ver­ne­ment et des diri­geants de l’in­dus­trie qui financent la recherche. »

Theo­dore Kaczynski

Tra­duc­tion : Ana Minski
Édi­tion : Nico­las Casaux
Relec­ture : Lola Bearzatto

1. Phy­si­cien nucléaire des États-Unis d’o­ri­gine hon­groise. FC, groupe auteur de La Socié­té indus­trielle et son ave­nir duquel Kac­zyns­ki serait l’u­nique membre, men­tion­nait le Dr. Tel­ler, dans le para­graphe 88 de ladite œuvre, comme exemple de scien­ti­fique dont les moti­va­tions pour la recherche n’a­vaient rien à voir avec le bien pour l’hu­ma­ni­té. N. du T. espa­gnol ↑
2. Law­rence Liver­more, centre fédé­ral de la recherche et du déve­lop­pe­ment situé à Liver­more, Cali­for­nie. Une de ses prin­ci­pales acti­vi­tés est la recherche en arme­ment nucléaire. N. du T. espa­gnol ↑
3. Albert Speer, Inside the Third Reich, tra­duit par Richard et Cla­ra Wins­ton, Mac­mil­lan, New York, 1970, page 212. ↑
4. The Week, 6 mars 2009, page 39. ↑
5. The New Ency­clo­pae­dia Bri­tan­ni­ca, 15e édi­tion, 2003, Vol. 2, article “Braun, Wern­her von”, page 485. ↑
6. Ben­ja­min Schwarz, “Co-Conspi­ra­tors”, The Atlan­tic, mai 2009, page 80. ↑
7. Ency­cl. Bri­tan­ni­ca, 2003, Vol. 19, article “Explo­ra­tion”, page 47. ↑
8. Le texte com­plet du dis­cours est dis­po­nible dans le livre d’A­lice Kim­ball Smith et Charles Wei­ner (eds), Robert Oppen­hei­mer : Let­ters and Recol­lec­tions, Stan­ford Uni­ver­si­ty Press, Cali­for­nia, 1995, pages 315–325. ↑
9. Ibid. ↑
10. Voir G. A. Zim­mer­mann, Das Neun­zehnte Jah­rhun­dert, deuxième moi­tié, deuxième par­tie, Mil­wa­kee, 1902, pages 439–442 ; Ency­cl. Bri­tan­ni­ca, 2003, Vol.10, article “Sie­mens, Wer­ner von”, page 787. ↑
11. Impor­tante famille alle­mande de ban­quiers et de com­mer­çants. (N.d. T. espa­gnol) ↑
12. Frie­drich Klemm, A His­to­ry of Wes­tern Tech­no­lo­gy, tra­duit par Doro­thea Waley Sin­ger, M.I.T. Press, 1964/1978, page 353. ↑
13. Hans Zins­ser, Rats, Lice, and His­to­ry, vers la fin du cha­pitre I. Je n’ai pas noté la date de publi­ca­tion de ce livre, mais pro­ba­ble­ment autour de la décen­nie 1930.. ↑
14. “The End of the Gol­den Age”, The New York Review of Books, 4 novembre 1999, page 14. ↑
15. L’au­teur par­vint pos­té­rieu­re­ment à trou­ver les dates ori­gi­nales uti­li­sées par Craig : “Let­ter from Ein­stein to Hein­rich Zang­ger, dated 6 Dec. 1917”, in Col­lec­ted Papers of Albert Ein­stein, vol. 8A, pages 561–562 (en alle­mand). Prin­ce­ton Uni­ver­si­ty Press (1987), J. Sta­chel, edi­tor. Et la cita­tion ori­gi­nale en alle­mand serait : “Unser gan­zer geprie­sene Fort­schritt der Tech­nik, übe­rhaupt der Civi­li­sa­tion, ist der Axt in der Hand des patho­lo­gi­schen Ver­bre­chers ver­gleich­bar”. N. du T. espa­gnol ↑
16. Ency­cl. Bri­tan­ni­ca, 2003, Vol. 18, article “Ein­stein”, page 157. ↑
17. Ibid. ↑
18. Paul Arthur Schilpp (ed), Albert Ein­stein : Phi­lo­so­pher-Scien­tist, Open Court, La Salle, Illi­nois, Ter­ce­ra Edi­ción, 1970/1995, pages 1–94. Cette auto­bio­gra­phie a été ori­gi­nel­le­ment écrite en alle­mand et une tra­duc­tion en anglais en pages alter­na­tives. Je conseille au lec­teur de lire la ver­sion alle­mande si pos­sible, la tra­duc­tion anglaise me semble pauvre. ↑
19. Pour ce para­graphe voir ibid., pages 2 et 4. ↑
20. Jules Mon­ne­rot, Socio­lo­gie du com­mu­nisme. ↑
21. Avec une excep­tion tri­viale qui n’est pas remar­quable dans ce cas. ↑
22. Ency­cl. Bri­tan­ni­ca, 2003, Vol. 28, article “Tech­no­lo­gy, The His­to­ry of”, p. 471. ↑
23. Ibid., Vol. 2, article “Braun, Wern­her von”, page 485. ↑
24. On m’a racon­té que ces der­nières années cer­tains scien­ti­fiques ou les entre­prises qui leur servent de rela­tions publiques ont déve­lop­pé des argu­ments suf­fi­sam­ment sophis­ti­qués pour ten­ter de jus­ti­fier le rôle de la science dans la socié­té ; et je ne doute pas que cela est vrai. Mais tout ce que j’ai vu dans les moyens de com­mu­ni­ca­tions de masse, jus­qu’à l’é­té 2009, semble indi­quer que la plus grande par­tie des pen­sées des scien­ti­fiques au sujet des impli­ca­tions sociales et morales de leur tra­vail est tou­jours d’un niveau super­fi­ciel, voir infan­tile. Il serait très dési­rable et impor­tant de mener une étude de la pro­pa­gande de la science offi­cielle, et plus spé­cia­le­ment de la pro­pa­gande sophis­ti­quée diri­gée à une audience intel­li­gente, mais cette étude res­te­rait très éloi­gnée de la visée de cette lettre ; de plus, je manque des connais­sances néces­saires pour cela. Les argu­ments des pro­pa­gan­distes pro­fes­sion­nels reflètent pro­ba­ble­ment aus­si peu la pen­sée du scien­ti­fique de base que les argu­ments des phi­lo­sophes pro­fes­sion­nels reflètent celle du sol­dat de base envoyé au front pour com­battre pour la démo­cra­tie, pour le fas­cisme, ou pour le com­mu­nisme. Comme beau­coup, les scien­ti­fiques et les sol­dats de base peuvent répé­ter sans réflé­chir les argu­ments sophis­ti­qués des pro­pa­gan­distes pour jus­ti­fier leurs actes envers eux-mêmes ou devant les autres. ↑
25. Ency­cl. Bri­tan­ni­ca, 2003, vol. 8, article “Nobel, Alfred Bern­hard”, page 738. ↑
26. Smith y Wei­ner, op. cit., pages 303 y 310. ↑
27. Har­per & Row, New York, 1969 ↑
28. Oxford Uni­ver­si­ty Press, New York, 1991, p. 213–225. ↑
29. Véase David Gelern­ter, “U.S. faces tech­no­lo­gy cri­sis”, The Mis­sou­lian (per­ió­di­co de Mis­sou­la, Mon­ta­na), 24 de febre­ro de 1992. ↑
30. John Mar­koff, “Scien­tists Wor­ry Machines May Outs­mart Man”, The New York Times, 26 juillet 2009. ↑

31. Sigles de “Asso­cia­tion for the Advan­ce­ment of Arti­fi­cial Intel­li­gence” (Asso­cia­tion pour l’Avancement

    de l’In­tel­li­gence Arti­fi­cielle). N du T. espa­gnol ↑