Tex­to reto­ma­do del sitio NATURALEZA INDOMITA, escri­to ori­gi­nal­mente en ingles por Theo­dore John Kac­zyns­ki y tra­du­ci­do al español por Últi­mo Reduc­to.

¿Está el tra­ba­jo cientí­fi­co moti­va­do prin­ci­pal­mente por un deseo de hacer el bien a la huma­ni­dad ? [i]

   Usted, en sus comen­ta­rios acer­ca de los pár­ra­fos 87–92 de La Socie­dad Indus­trial y Su Futu­ro, escribe :

   “Los Moti­vos de los Cientí­fi­cos. Esta sec­ción me resul­ta espe­cial­mente flo­ja…

   “Una lar­ga expli­ca­ción de por qué el señor Teller[ii] es un Hombre Malo. Lo cual está bien. Pero cuan­do pen­sa­mos en los físi­cos, la mayoría de noso­tros pien­sa en Ein­stein antes que en Tel­ler, y Ein­stein es un ejem­plo para­digmá­ti­co de alguien que contra­dice com­ple­ta­mente esa afir­ma­ción –pero de ningún modo el úni­co. [¿Qué afir­ma­ción ? ¿La afir­ma­ción de que la labor cientí­fi­ca no está moti­va­da prin­ci­pal­mente por un deseo de bene­fi­ciar a la huma­ni­dad?]…

   “[Kac­zyns­ki] esen­cial­mente nie­ga que los cientí­fi­cos ten­gan preo­cu­pa­ciones morales…

   “Hablan­do con per­so­nas que creo que han tra­ba­ja­do en lo que yo consi­de­ro cam­pos de inves­ti­ga­ción genui­na­mente nega­ti­vos –diseño de armas en Law­rence Livermore[iii], por ejemplo‑, he des­cu­bier­to que aquel­las que diri­gen y están acti­va­mente invo­lu­cra­das en ese tra­ba­jo, lo están porque creen que están hacien­do lo cor­rec­to por el país, inclu­so con todos los ries­gos que su tra­ba­jo conl­le­va, y que hacien­do lo cor­rec­to por el país, hacen lo cor­rec­to por el mun­do. Esa gente es consciente de las impli­ca­ciones morales de las deci­siones que acti­va­mente toma –en una direc­ción que yo no tomaría.

   “Las per­so­nas que pare­cen no que­rer hacer eso [¿no que­rer hacer qué?] son per­so­nas brillantes que más que diri­gir el tra­ba­jo sólo lo man­tie­nen. Ven el empleo en ese cam­po como algo éti­ca­mente neu­tro, mera­mente como un tra­ba­jo legal, y no les gus­ta pen­sar acer­ca de los costes y bene­fi­cios de su labor.”

   En pri­mer lugar, ten­ga­mos esto bien pre­sente : debería haber que­da­do cla­ro que, en los pár­ra­fos 87–89 de La Socie­dad Indus­trial y Su Futu­ro, yo esta­ba comen­tan­do los moti­vos habi­tuales o típi­cos de los cientí­fi­cos ; no esta­ba tenien­do en cuen­ta las excep­ciones oca­sio­nales. Por tan­to, aunque pudiese usted pro­bar que el 1%, o inclu­so el 5%, de los cientí­fi­cos se hal­lan real­mente moti­va­dos por un deseo de hacer el bien a la huma­ni­dad, eso no afec­taría seria­mente a mi argu­men­ta­ción. Tam­bién debería haber sido evi­dente que, al pre­gun­tar por los moti­vos de los cientí­fi­cos, pre­gun­ta­ba por sus moti­vos para rea­li­zar tra­ba­jos cientí­fi­cos, no por sus moti­vos a la hora de actuar en otros cam­pos. Yo nun­ca he dicho que a la mayoría de los cientí­fi­cos no les preo­cu­pen los asun­tos morales. Una cosa es decir que a un cientí­fi­co le preo­cu­pan los asun­tos morales y otra muy dis­tin­ta, decir que su prin­ci­pal moti­vo para rea­li­zar inves­ti­ga­ción cientí­fi­ca sea el deseo de hacer el bien a la huma­ni­dad. (De todos modos, se pue­den encon­trar muchos ejem­plos de amo­ra­li­dad entre los cientí­fi­cos, como seña­la­ré más aba­jo).

   Por tan­to, el argu­men­to de que los cientí­fi­cos (sal­vo algu­nas excep­ciones) no están moti­va­dos prin­ci­pal­mente por un deseo de bene­fi­ciar a la huma­ni­dad no nie­ga que los cientí­fi­cos ten­gan preo­cu­pa­ciones morales –fue­ra del labo­ra­to­rio. Men­cio­na usted a Ein­stein. Ein­stein tra­ba­jó asi­dua­mente por la paz mun­dial, y sus moti­vos para hacer­lo sin duda eran hon­da­mente morales. Pero eso no tiene nada que ver con sus moti­vos para rea­li­zar inves­ti­ga­ción en el cam­po de la físi­ca.

   Lo que usted supues­ta­mente afir­ma es que los cientí­fi­cos actúan cor­rien­te­mente como agentes morales a la hora de rea­li­zar su tra­ba­jo. Allá por el 2002, comen­té su teoría a los dos psicó­lo­gos de esta cár­cel, hombres com­pe­tentes, en mi opi­nión, los cuales se consi­de­ran a sí mis­mos como “racio­na­lis­tas recal­ci­trantes” y des­deñan teorías dudo­sas tales como el freu­dia­nis­mo. Cito parte de mis notas fecha­das el 9 de abril del 2002 :

   “Dado que estoy pla­nean­do contes­tar una car­ta que he reci­bi­do hace algún tiem­po de un tal P.B., cuan­do los doc­tores Wat­ter­son y Mor­ri­son pasa­ron hoy por mi cel­da, les pre­gun­té… si habían ele­gi­do el cam­po de la psi­co­logía para satis­fa­cer sus pro­pias nece­si­dades per­so­nales o… para hacer el bien a la raza huma­na. Ambos contes­ta­ron que se habían hecho psicó­lo­gos para satis­fa­cer sus pro­pias nece­si­dades per­so­nales. Entonces les pre­gun­té si pen­sa­ban que la mayoría de los psicó­lo­gos elegían esa pro­fe­sión para…  hacer el bien a la raza huma­na, o para satis­fa­cer sus pro­pias nece­si­dades per­so­nales. Ambos, el Dr. Wat­ter­son y el Dr. Mor­ri­son, dije­ron que la mayoría de los psicó­lo­gos elegían esa pro­fe­sión para satis­fa­cer sus pro­pias nece­si­dades per­so­nales (espe­cial­mente las nece­si­dades del ego’, dijo Wat­ter­son) y no para hacer el bien a la raza huma­na. Mor­ri­son aña­dió que muchos psicó­lo­gos dirán que se hicie­ron psicó­lo­gos para ayu­dar a la gente, pero que ése no es su moti­vo real. Comen­té a Wat­ter­son y a Mor­ri­son la opi­nión de P.B. de que los cientí­fi­cos sentían ‘preo­cu­pa­ción por asun­tos morales’. Wat­ter­son y Mor­ri­son pare­cie­ron encon­trar esto diver­ti­do. Mor­ri­son sugi­rió, medio en bro­ma, que yo debería escri­bir a P.B…. [y] darle la siguiente respues­ta breve : ‘¡Espa­bi­la!’.”

Un rat utilisé pour des expériences de contrôle par ordinateur, des électrodes fixées au cerveau (sic)...
Una rata uti­li­za­da para expe­ri­men­ta­ciones de control por com­pu­ta­do­ra, elec­tro­dos implan­ta­dos en su cere­bro (sic)…

   Con el fin de apoyar su argu­men­to, usted dice que “ha des­cu­bier­to” que las per­so­nas que “diri­gen y están acti­va­mente invo­lu­cra­das en” el diseño de armas mili­tares pien­san que están hacien­do lo cor­rec­to para el mun­do y que están “tenien­do en cuen­ta las impli­ca­ciones morales de las deci­siones que acti­va­mente toman”. Pero, ¿cómo “des­cu­brió” usted eso ? ¿Por el mero hecho de que ellos mis­mos se lo dije­sen ? Su inge­nui­dad es pas­mo­sa. Si esas per­so­nas pen­sa­sen que su tra­ba­jo es per­ju­di­cial, ¿cree que lo reco­no­cerían ante usted ? Si un hombre es lo sufi­cien­te­mente poco escru­pu­lo­so como para rea­li­zar un tra­ba­jo dañi­no con el fin de satis­fa­cer sus nece­si­dades per­so­nales, segu­ro que es igual­mente poco escru­pu­lo­so como para men­tir acer­ca de sus moti­va­ciones.

   Existe gente cuyas opi­niones acer­ca de los cientí­fi­cos invo­lu­cra­dos en inves­ti­ga­ciones mili­tares son muy dife­rentes de las de usted. En sus autoin­cul­pa­to­rias memo­rias de pos­guer­ra, el minis­tro de arma­men­to de Hit­ler escri­bió :

   “Explo­té el fenó­me­no de la dedi­ca­ción, a menu­do cie­ga, de los téc­ni­cos a su tarea. Debi­do a lo que parece ser la neu­tra­li­dad moral de la tec­no­logía, esta gente carecía de cual­quier escrú­pu­lo acer­ca de sus acti­vi­dades. Cuan­to más téc­ni­co era el mun­do que nos imponía la guer­ra, más peli­gro­sa era la indi­fe­ren­cia de los téc­ni­cos ante las conse­cuen­cias de sus anó­ni­mas acti­vi­dades.”1

   ¿Cree usted que algu­no de dichos téc­ni­cos habría admi­ti­do abier­ta­mente ante extra­ños que era indi­fe­rente a las conse­cuen­cias de su tra­ba­jo ? Es muy poco pro­bable. Un caso seña­la­do es el de Wern­her von Braun. Como usted pro­ba­ble­mente sabrá, von Braun era el jefe de los cientí­fi­cos dedi­ca­dos a desar­rol­lar cohetes bajo el man­da­to de Hit­ler y diri­gió la crea­ción del cohete V‑2, que mató nume­ro­sos civiles en Londres y en otras ciu­dades.2 Von Braun afirmó tras la guer­ra que sus moti­vos habían sido “patrió­ti­cos”.3 Pero mien­tras estu­vo tra­ba­jan­do para Hit­ler, von Braun debía saber que los judíos esta­ban sien­do exter­mi­na­dos, ya que esto era un “secre­to a voces en Ale­ma­nia al menos desde finales de 1942”, según los estu­dios más recientes.4 ¿Qué clase de patrio­tis­mo lle­varía a un hombre a construir armas para un régi­men que exter­mi­na a gru­pos étni­cos ente­ros por puro odio ? Que­da sufi­cien­te­mente cla­ro que el “patrio­tis­mo” era una mera excu­sa para von Braun, y que lo que él real­mente quería era construir cohetes por el mero hecho de construir­los. “Cuan­do la Segun­da Guer­ra Mun­dial toca­ba a su fin, a prin­ci­pios de 1945, Braun y muchos de sus socios deci­die­ron ren­dirse a los Esta­dos Uni­dos, donde creían que encon­trarían apoyo para su inves­ti­ga­ción sobre cohetes…”.5

   Lo impor­tante aquí no es si construir armas para Hit­ler es moral­mente equi­va­lente a construir armas para un régi­men pre­sun­ta­mente demo­crá­ti­co como el de los Esta­dos Uni­dos. Lo impor­tante es que los cientí­fi­cos nor­mal­mente se atri­buyen a sí mis­mos moti­va­ciones apa­ren­te­mente nobles, tales como el “patrio­tis­mo”, las cuales no tie­nen nece­sa­ria­mente nada que ver con sus moti­va­ciones reales.

   Y, no, esta for­ma de actuar no se limi­ta a los que construyen armas para regí­menes dic­ta­to­riales. Como segu­ra­mente ya sabrá, J. Robert Oppen­hei­mer diri­gió el desar­rol­lo de la pri­me­ra bom­ba ató­mi­ca de los Esta­dos Uni­dos. En un dis­cur­so pro­nun­cia­do el 2 de noviembre de 1945 ante los cientí­fi­cos que habían par­ti­ci­pa­do en el proyec­to de la bom­ba en Los Ala­mos, Nue­vo Méxi­co,6 Oppen­hei­mer señaló : “Uno siempre tiene que preo­cu­parse de que lo que la gente dice acer­ca de sus moti­va­ciones no sea ade­cua­do”. Entonces, Oppen­hei­mer expu­so las excu­sas habi­tuales que los cientí­fi­cos die­ron para tra­ba­jar en la bom­ba : los nazis podrían haber conse­gui­do la bom­ba pri­me­ro ; no existe otro lugar en el mun­do donde el desar­rol­lo de armas ató­mi­cas habría teni­do menos posi­bi­li­dades de condu­cir a un desastre que en los Esta­dos Uni­dos ; la impor­tan­cia real de la energía ató­mi­ca no esta­ba en las armas sino en los bene­fi­cios que dicha energía podría traer a la huma­ni­dad ; etc. Oppen­hei­mer señaló que todas esas jus­ti­fi­ca­ciones eran más o menos váli­das, pero insis­tió en que la razón real por la que los cientí­fi­cos habían desar­rol­la­do la bom­ba era que, para ellos, su tra­ba­jo era una nece­si­dad per­so­nal, una “nece­si­dad orgá­ni­ca”. Los cientí­fi­cos, desde el pun­to de vis­ta de Oppen­hei­mer, vivían según una filo­sofía que consistía en que la adqui­si­ción y difu­sión del cono­ci­mien­to eran fines en sí mis­mas, inde­pen­dien­te­mente de si suponían bene­fi­cios prác­ti­cos para la raza huma­na.

   Las impli­ca­ciones del dis­cur­so de Oppen­hei­mer son evi­dentes, aunque Oppen­hei­mer no las expu­siese cla­ra­mente : los cientí­fi­cos no tra­ba­jan por el bien de la huma­ni­dad, sino para satis­fa­cer sus pro­pias nece­si­dades. Aunque Oppen­hei­mer pro­ba­ble­mente creía que, en gene­ral, la cien­cia bene­fi­cia­ba a la huma­ni­dad, reco­nocía que jus­ti­fi­car la cien­cia dicien­do que bene­fi­cia a la huma­ni­dad era esen­cial­mente una excu­sa que no repre­sen­ta­ba los moti­vos reales de los cientí­fi­cos.

   Es signi­fi­ca­ti­vo que la ver­sión impre­sa de dicho dis­cur­so encon­tra­da entre los papeles de Oppen­hei­mer tuviese la siguiente nota : “Este mate­rial no debe ser hecho públi­co. Pro­ba­ble­mente, una ver­sión revi­sa­da apa­re­cerá pron­to en una revis­ta cientí­fi­ca”.7 Pero, de hecho, parece ser que el dis­cur­so no fue publi­ca­do, ni en for­ma “revi­sa­da” ni de ningún otro modo, antes de que Smith y Wei­ner lo incluye­sen en su libro.8

   Apa­ren­te­mente, Oppen­hei­mer no esta­ba muy a gus­to con lo que él mis­mo dijo acer­ca de los moti­vos de los cientí­fi­cos. Pero algu­nos cientí­fi­cos han expues­to sus moti­vos más abier­ta­mente que Oppen­hei­mer y sin dar mues­tra algu­na de dis­gus­to.

Photo du champignon nucléaire causé par l'explosion Baker (25 juillet 1946)
Foto­grafía del hon­go nuclear cau­sa­do por la explo­sión Baker (25 de julio de 1946)

   Wer­ner von Sie­mens fue un inge­nie­ro eléc­tri­co del siglo XIX que inventó el gene­ra­dor autoex­ci­table y rea­lizó otros des­cu­bri­mien­tos impor­tantes en el cam­po de la elec­tri­ci­dad.9 En una car­ta fecha­da el 25 de diciembre de 1887, Sie­mens expone sus moti­vos :

   “Cier­ta­mente, he bus­ca­do obte­ner rique­za y bene­fi­cios econó­mi­cos, pero no prin­ci­pal­mente para dis­fru­tar de ellos ; más bien para obte­ner los medios para la eje­cu­ción de otros planes y proyec­tos, y para, mediante mi éxi­to, lograr el reco­no­ci­mien­to de lo apro­pia­do de mis pro­ce­di­mien­tos y de la uti­li­dad de mi tra­ba­jo. Por tan­to, desde mi juven­tud, he anhe­la­do esta­ble­cer una empre­sa inter­na­cio­nal como la de los Fugger[iv], que garan­ti­zase, no sólo a mí sino tam­bién a mis suce­sores, el poder y la esti­ma en todo el mun­do, así como los medios de ele­var el nivel de vida de mis her­ma­nas y de otros de mis parientes cer­ca­nos…

   “Consi­de­ro nues­tro nego­cio sólo secun­da­ria­mente como una fuente de rique­za ; para mí es más un rei­no que yo he fun­da­do y que espe­ro dejar intac­to a mis suce­sores para que sigan desar­rol­lan­do un tra­ba­jo crea­ti­vo”.10 (Las cur­si­vas son mías).

   Ni una pala­bra acer­ca del bien de la huma­ni­dad. Pero fíjese en la impor­tan­cia que Sie­mens da, por sí mis­ma, a la eje­cu­ción de “planes”, “proyec­tos” y “tra­ba­jo crea­ti­vo”. Es decir, a las acti­vi­dades sus­ti­tu­to­rias. Véase La Socie­dad Indus­trial y Su Futu­ro, pár­ra­fos 38–41, 84, 87–89.

   Sin embar­go, segu­ro que a los cientí­fi­cos que tra­ba­jan en cam­pos cuya fina­li­dad es obvia­mente huma­ni­ta­ria, tal como encon­trar tra­ta­mien­tos para las enfer­me­dades, les mueve el deseo de hacer el bien a la huma­ni­dad, ¿no es así ? En cier­tos casos, quizá. Pero, en gene­ral, creo que no. El bac­te­rió­lo­go Hans Zins­ser escri­bió :

   “No habien­do teni­do nun­ca nin­gu­na rela­ción estre­cha con quienes tra­ba­jan en el cam­po de las enfer­me­dades infec­cio­sas, él com­partía la fal­sa creen­cia de que a esa gente tan pecu­liar les movían nobles moti­vos. Y, no enten­dien­do dema­sia­do cómo alguien podía actuar impul­sa­do por nobles moti­vos, nos pre­guntó : ‘¿Cómo decide alguien ser bac­te­rió­lo­go?’… En rea­li­dad, los hombres eli­gen esta rama de la inves­ti­ga­ción por diver­sos moti­vos, de los cuales el deseo consciente de hacer el bien es el menos impor­tante. Lo que impor­ta es que es uno de los pocos desafíos que que­dan para aquel­los indi­vi­duos que sien­ten nece­si­dad de expe­ri­men­tar cier­to gra­do de emo­ción. La lucha contra las enfer­me­dades infec­cio­sas es una de las pocas aven­tu­ras genui­nas que que­dan en el mun­do… Casi el úni­co desafío autén­ti­co que sigue en pie tras la incan­sable domes­ti­ca­ción de la, en su día libre, espe­cie huma­na es la guer­ra contra esas pequeñas y feroces cria­tu­ras…”11

   Men­cio­na usted a Ein­stein como ejem­plo de alguien cuyo tra­ba­jo cientí­fi­co esta­ba moti­va­do por un deseo de hacer el bien a la huma­ni­dad, pero creo que se equi­vo­ca. Según Gor­don A. Craig, Ein­stein dijo en cier­ta oca­sión : Todo nues­tro ensal­za­do pro­gre­so tec­noló­gi­co, y la civi­li­za­ción en gene­ral, se podrían com­pa­rar con un hacha en la mano de un cri­mi­nal patoló­gi­co”.12 Craig no men­cio­na la fuente de su cita, así que no ten­go for­ma de com­pro­bar su exactitud.[v] Pero, si las pala­bras cita­das refle­jan la visión que Ein­stein tenía de la tec­no­logía, entonces es difí­cil ima­gi­nar ningún moti­vo altruis­ta para el tra­ba­jo cientí­fi­co de Ein­stein. Ein­stein conti­nuó con su tra­ba­jo en físi­ca teó­ri­ca has­ta una edad muy avan­za­da.13 Debió de ser consciente de que cual­quier avance en físi­ca segu­ra­mente ten­dría apli­ca­ciones prác­ti­cas y, por tan­to, refor­zaría esa tec­no­logía que el com­pa­ra­ba con “un hacha en la mano de un cri­mi­nal patoló­gi­co”. Así que, ¿por qué conti­nuó con su tra­ba­jo ? Puede que fuese un tipo de com­pul­sión. Hacia el final de su vida, Ein­stein escri­bió : “No pue­do man­te­nerme apar­ta­do de mi tra­ba­jo. Me tiene inexo­ra­ble­mente atra­pa­do”.14

scientsimidol

   Tan­to si se tra­ta­ba de una com­pul­sión como si no, el tra­ba­jo cientí­fi­co de Ein­stein no tenía nada que ver con ningún deseo de hacer el bien a la raza huma­na. En una auto­bio­grafía15 que escri­bió a la edad de 67 años, Ein­stein des­cribía sus razones para dedi­carse a la cien­cia. Ya cuan­do era un niño pequeño se sentía opri­mi­do por la sen­sa­ción de que tener espe­ran­zas y esfor­zarse por lograr cosas era algo “vacío” o “carente de sen­ti­do” (Nich­tig­keit). Esto sugiere una men­ta­li­dad depre­si­va y der­ro­tis­ta. Es más, parece ser que Ein­stein era un niño dema­sia­do deli­ca­do como para afron­tar el día a día del mun­do, ya que des­cu­brió a una edad tem­pra­na lo que él lla­ma­ba la “cruel­dad” de tener que dedi­car esfuer­zos (Trei­ben) a ganarse la vida. Al prin­ci­pio trató de esca­par de esos sen­ti­mien­tos dolo­ro­sos hacién­dose pro­fun­da­mente reli­gio­so, pero a la edad de doce años per­dió la fe como resul­ta­do de leer libros cientí­fi­cos que refu­ta­ban las his­to­rias de la Biblia. Entonces, buscó consue­lo en la pro­pia cien­cia, la cual le pro­por­cionó un “paraí­so” que reem­plazó al paraí­so reli­gio­so que había per­di­do.16

   Por consi­guiente, parece ser que, en el caso de Ein­stein, el tra­ba­jo cientí­fi­co no sólo era una acti­vi­dad sus­ti­tu­to­ria, sino tam­bién una for­ma de esca­par de un mun­do que él encon­tra­ba dema­sia­do duro. En cual­quier caso, lo cier­to es que Ein­stein se dedicó a la cien­cia sola­mente para satis­fa­cer sus nece­si­dades per­so­nales ; en ningún lugar en su auto­bio­grafía sugería que su inves­ti­ga­ción pudiese mejo­rar la situa­ción de la raza huma­na en modo algu­no.

   Supon­go que por cada cientí­fi­co que yo pue­da citar cuya moti­va­ción decla­ra­da sea satis­fa­cer sus nece­si­dades per­so­nales, usted podrá citar muchos que ase­gu­ran tener moti­vos altruis­tas. Cier­ta­mente, los moti­vos altruis­tas no son algo impo­sible. Por ejem­plo, supon­go que a la mayoría de quienes rea­li­zan estu­dios de cam­po en botá­ni­ca y zoo­logía les mueve en parte un genui­no amor por las plan­tas y ani­males sal­vajes. De todos modos, a las decla­ra­ciones de moti­vos altruis­tas –o, por decir­lo de for­ma más exac­ta, de moti­vos que son consi­de­ra­dos admi­rables según las nor­mas de la socie­dad actual- hay que conce­derles, en gene­ral, muy poco valor. Mien­tras que un cientí­fi­co que admi­ta que sus moti­vos son egoís­tas se arries­ga a reba­jarse a sí mis­mo ante los ojos de la gente que le rodea, uno que afirme tener un moti­vo “noble” satis­face las expec­ta­ti­vas del res­to de la gente y se ase­gu­ra la apro­ba­ción de ésta, cuan­do no su admi­ra­ción. Es un hecho evi­dente que la mayoría de la gente, la mayoría del tiem­po, dirán aquel­lo que creen que le otor­gará la apro­ba­ción de sus seme­jantes. Sin duda, esto a veces supone una fal­ta de hones­ti­dad consciente, como era el caso de Von Braun cuan­do ase­gu­ra­ba que sus moti­vos eran “patrió­ti­cos”. Sin embar­go, yo creo que, más a menu­do, los cientí­fi­cos se creen sus pro­pias excu­sas. La cien­cia tiene su pro­pia ideo­logía auto­com­pla­ciente, y una de las fun­ciones de la ideo­logía es jus­ti­fi­car al creyente ante sí mis­mo. Como expli­ca el soció­lo­go Mon­ne­rot, la ideo­logía “ofrece una ver­sión dife­rente de la rela­ción entre el moti­vo y lo que éste moti­va. Los mate­riales que com­po­nen una ideo­logía, y que ésta orga­ni­za, pue­den ver la luz del día, por así decir­lo. No sólo son per­mi­sibles, sino hono­rables, y constan­te­mente tra­tan de afir­mar su rela­ción con los valores sociales reco­no­ci­dos… Las aspi­ra­ciones de [el creyente] son pasa­das a tér­mi­nos éti­cos y sociales por la ideo­logía…”.17

   Pero la ideo­logía que pre­sen­ta a la cien­cia como una empre­sa huma­ni­ta­ria es des­men­ti­da por las conver­sa­ciones y el com­por­ta­mien­to coti­dia­nos de los cientí­fi­cos. En mis once años como estu­diante y pro­fe­sor de matemá­ti­cas, durante los cuales tam­bién asistí a unos pocos cur­sos de físi­ca y de antro­po­logía físi­ca, nun­ca oí a ningún pro­fe­sor o estu­diante men­cio­nar el efec­to sobre la socie­dad del tra­ba­jo cientí­fi­co o matemá­ti­co, o el bene­fi­cio que dicho tra­ba­jo pre­sun­ta­mente pro­por­cio­na­ba a la huma­ni­dad. Hace usted refe­ren­cia a mi “ais­la­mien­to inclu­so… en el pla­no aca­dé­mi­co”, así que me veo obli­ga­do a expli­carle que las afir­ma­ciones hechas por los medios acer­ca de mí a menu­do han sido exa­ge­ra­das has­ta la cari­ca­tu­ra y más allá, cuan­do no com­ple­ta­mente fal­sas. Es cier­to que yo era un soli­ta­rio, pero no tan­to como para no poder escu­char o tener muchas conver­sa­ciones con otros estu­diantes y pro­fe­sores de matemá­ti­cas. Los pro­fe­sores y los estu­diantes hablá­ba­mos acer­ca de lo que ocurría en diver­sos cam­pos de las matemá­ti­cas, acer­ca de qué tipos de inves­ti­ga­ción se rea­li­za­ban y de quiénes las lle­va­ban a cabo y acer­ca de los actos y la per­so­na­li­dad de cier­tos matemá­ti­cos, pero nun­ca18 oí a nadie mani­fes­tar el menor inter­és acer­ca de qué bene­fi­cios podía pro­por­cio­nar su tra­ba­jo a la raza huma­na.

   Una ver­sión menos infan­til de la ideo­logía cientí­fi­ca pre­sen­ta la cien­cia no como una empre­sa huma­ni­ta­ria, sino como algo “moral­mente neu­tro”: los cientí­fi­cos sim­ple­mente ponen cier­tas her­ra­mien­tas a dis­po­si­ción de la socie­dad y, si de ello se deri­van conse­cuen­cias nega­ti­vas, es culpa de la socie­dad por haber hecho “mal uso” de ellas ; las manos de los cientí­fi­cos que­dan así lim­pias. A uno le viene a la memo­ria el Evan­ge­lio de San Mateo, 27, 24 : “… tomó agua y se lavó las manos delante de la muche­dumbre, dicien­do : Yo soy inocente…” (Pon­cio Pila­tos). La Ency­clo­pae­dia Bri­tan­ni­ca usa este argu­men­to de la “neu­tra­li­dad” en su artí­cu­lo sobre tec­no­logía ;19 usted, Dr. B., men­cio­na el mis­mo argu­men­to en la parte de su car­ta que cité antes ; Albert Speer lo men­cionó al refe­rirse a la excu­sa que daban los téc­ni­cos que crea­ban armas para Hit­ler (véase más arri­ba); von Braun, de modo simi­lar, “subraya­ba la impar­cia­li­dad intrín­se­ca de la inves­ti­ga­ción cientí­fi­ca, la cual en sí mis­ma carece de dimen­siones morales has­ta que sus pro­duc­tos son uti­li­za­dos por el conjun­to de la socie­dad”.20

Mostra immagine originale
A la dere­cha, Von Braun : « En su bús­que­da por desar­rol­lar grandes cohetes, se enroló en el ejér­ci­to alemán (en el SS o ‘Escua­dras de Defen­sa’ guar­dias per­so­nales de Adolf Hit­ler) para desar­rol­lar misiles balísticos…Hacia prin­ci­pios de 1945 era obvio que Ale­ma­nia no lograría la vic­to­ria en la guer­ra, Von Braun empezó a pla­ni­fi­car su futu­ro en la posguerra…pudo contac­tar con los Alia­dos y pre­paró su ren­di­ción ante las fuer­zas esta­dou­ni­denses, quienes desar­rol­la­ban la ope­ra­ción Paper­clip para cap­tu­rar a cientí­fi­cos ale­manes y poner­los al ser­vi­cio del ban­do aliado…Estuvo a pun­to de ser cap­tu­ra­do por los sovié­ti­cos, que desea­ban inte­grar­lo en el equi­po de Ser­guéi Koro­liov. En los Esta­dos Uni­dos, Von Braun y sus cola­bo­ra­dores fue­ron ins­ta­dos a coope­rar con la fuer­za aérea esta­dou­ni­dense, y a cam­bio, se les exi­miría de culpa por su pasa­do nazi ; esto incluía las muertes oca­sio­na­das por el uso de sus proyec­tos aéreos por los nazis y por uti­li­zar obre­ros esclavos…La NASA le pidió en 1970 que se muda­ra a Washing­ton, D.C. para lide­rar el plan estra­té­gi­co de la agen­cia »[…]

   Por supues­to que la tec­no­logía en abs­trac­to es moral­mente neu­tra. Pero von Braun no esta­ba desar­rol­lan­do cohetes en el ter­re­no abs­trac­to de las For­mas Ideales de Platón. Él esta­ba construyen­do cohetes para Adolf Hit­ler y sabía muy bien que esos cohetes serían usa­dos para defen­der un régi­men que esta­ba lle­van­do a cabo exter­mi­nios en masa. Por muy neu­tra que la tec­no­logía pue­da ser en abs­trac­to, cuan­do alguien desar­rol­la una nue­va tec­no­logía o des­cubre un prin­ci­pio cientí­fi­co que ten­ga apli­ca­ciones tec­noló­gi­cas, está lle­van­do a cabo una acción concre­ta que tiene un efec­to concre­to en la socie­dad en que vive. Esa per­so­na no tiene dere­cho a negar su res­pon­sa­bi­li­dad en ese efec­to basán­dose en que la socie­dad podía haber usa­do esa tec­no­logía de algún otro modo –igual que von Braun tam­po­co tenía dere­cho a negar su res­pon­sa­bi­li­dad en los efec­tos de sus cohetes en base a que Hit­ler podía haber­los usa­do sólo para la explo­ra­ción espa­cial y no como armas. Von Braun esta­ba obli­ga­do a pre­gun­tarse no ya lo que en teoría podría hacer Hit­ler con los cohetes, sino lo que haría con ellos en la prác­ti­ca. Simi­lar­mente, cuan­do alguien desar­rol­la una nue­va tec­no­logía en la actua­li­dad, está obli­ga­do a consi­de­rar no lo que la socie­dad podría hacer, en teoría, con dicha tec­no­logía, sino de qué modo es pro­bable que esa tec­no­logía inter­actúe con la socie­dad en la prác­ti­ca.

   Todo lo dicho en el ante­rior pár­ra­fo es obvio y cual­quie­ra sufi­cien­te­mente inte­li­gente como para ser exper­to en cohetes, físi­co, o bió­lo­go mole­cu­lar puede lle­gar a ello en cin­co minu­tos de reflexión hones­ta. El hecho de que tan­tos cientí­fi­cos echen mano del argu­men­to de la “neu­tra­li­dad moral” demues­tra que o bien están sien­do desho­nes­tos consi­go mis­mos o con los demás, o bien sim­ple­mente nun­ca se han preo­cu­pa­do de pen­sar seria­mente acer­ca de las impli­ca­ciones sociales y morales de su tra­ba­jo.21

   Exis­ten unos pocos cientí­fi­cos que pien­san seria y sin­ce­ra­mente en las conse­cuen­cias que su tra­ba­jo tiene en la socie­dad. Pero sus escrú­pu­los morales no inter­fie­ren signi­fi­ca­ti­va­mente con su inves­ti­ga­ción ; la lle­van a cabo de todos modos y lue­go tran­qui­li­zan sus conscien­cias ser­mo­nean­do acer­ca del uso “éti­co” de su cien­cia, impo­nien­do deter­mi­na­das limi­ta­ciones a su inves­ti­ga­ción o evi­tan­do aquel­los tra­ba­jos que estén especí­fi­ca­mente enca­mi­na­dos al desar­rol­lo de arma­men­to.

ddd

   Por supues­to, sus ser­mones y sus escrú­pu­los son com­ple­ta­mente inú­tiles. El modo en que la cien­cia es apli­ca­da en la prác­ti­ca no viene deter­mi­na­do por los cientí­fi­cos sino por la uti­li­dad que la cien­cia tiene para aquel­los que bus­can dine­ro o poder.

   Alfred Nobel era en esen­cia un paci­fis­ta, pero eso no le impedía desar­rol­lar potentes explo­si­vos. Se conso­la­ba con la espe­ran­za “de que los poderes des­truc­ti­vos de sus inven­ciones ayu­darían a aca­bar con las guer­ras”.22 Ya sabe­mos lo bien que fun­cionó esto, ¿ver­dad ? Como ya hemos vis­to, Ein­stein pre­di­ca­ba –de modo inefi­caz- acer­ca de la paz mun­dial, pero conti­nuó su inves­ti­ga­ción has­ta prác­ti­ca­mente el final de su vida, a pesar de su opi­nión sobre la tec­no­logía. Los cientí­fi­cos del Proyec­to Man­hat­tan pri­me­ro desar­rol­la­ron la bom­ba ató­mi­ca y des­pués pre­di­ca­ron –de nue­vo de for­ma inefi­caz- acer­ca de la nece­si­dad de una agen­cia inter­na­cio­nal para el control de la energía ató­mi­ca.23 En su libro, Beha­vior Control24, Per­ry Lon­don demos­tra­ba haber pen­sa­do seria­mente acer­ca de las impli­ca­ciones de las téc­ni­cas que faci­li­ta­ban la mani­pu­la­ción del com­por­ta­mien­to huma­no. Ofrecía cier­tas ideas éti­cas que él espe­ra­ba que guiarían el uso de dichas téc­ni­cas, pero sus ideas éti­cas no han teni­do ningún efec­to prác­ti­co. David Gelern­ter, en su libro Mir­ror Worlds25, expre­sa­ba serias preo­cu­pa­ciones acer­ca del efec­to que ten­dría la informá­ti­ca en la socie­dad. Sin embar­go, Gelern­ter conti­nuó pro­mo­vien­do la tec­no­logía, inclui­da la informá­ti­ca,26  y las preo­cu­pa­ciones que expresó en Mir­ror Worlds no sir­vie­ron en abso­lu­to para miti­gar las conse­cuen­cias del desar­rol­lo de la informá­ti­ca.

   Un artí­cu­lo del New York Times27 infor­ma de una confe­ren­cia  de la AAAI[vi]  que tuvo lugar el 25 de febre­ro del 2009. La confe­ren­cia tra­ta­ba de los peli­gros plan­tea­dos por el desar­rol­lo de la inte­li­gen­cia arti­fi­cial y, como posibles reme­dios, los cientí­fi­cos par­ti­ci­pantes plan­tea­ron los “límites a la inves­ti­ga­ción”, el confi­na­mien­to de algu­nas inves­ti­ga­ciones en “labo­ra­to­rios de alta segu­ri­dad” y una “comi­sión” que debería “dar for­ma a los avances y ayu­dar a la socie­dad a afron­tar las conse­cuen­cias” de la inte­li­gen­cia arti­fi­cial. Es difí­cil dis­cer­nir has­ta qué pun­to esto fue una manio­bra publi­ci­ta­ria y has­ta qué pun­to esos cientí­fi­cos real­mente creían en ello, pero, en cual­quier caso, las pro­pues­tas eran com­ple­ta­mente inge­nuas.

   Está cla­ro que los “límites” plan­tea­dos por los cientí­fi­cos no esta­ban diri­gi­dos a dete­ner la inves­ti­ga­ción en el cam­po de la inte­li­gen­cia arti­fi­cial en gene­ral, sino sólo en cier­tas áreas muy concre­tas que los cientí­fi­cos pen­sa­ban que eran espe­cial­mente deli­ca­das. Dichos “límites” no serán man­te­ni­dos por mucho tiem­po. Si los cientí­fi­cos del Proyec­to Man­hat­tan hubie­sen rehu­sa­do tra­ba­jar en la inves­ti­ga­ción arma­mentís­ti­ca, habrían retra­sa­do sólo unos pocos años la apa­ri­ción de las armas nucleares ya que, una vez que la teoría cuán­ti­ca había sido desar­rol­la­da y la fisión nuclear des­cu­bier­ta, era inevi­table que alguien, antes o des­pués, apli­case ese cono­ci­mien­to para la fabri­ca­ción de armas nucleares. De modo seme­jante, dado que la inves­ti­ga­ción en el cam­po de la inte­li­gen­cia arti­fi­cial va a conti­nuar, es segu­ro que alguien, antes o des­pués (pro­ba­ble­mente pron­to), apli­cará el cono­ci­mien­to téc­ni­co desar­rol­la­do para inva­dir áreas que la AAAI inten­ta decla­rar “pro­hi­bi­das”.

   Los “labo­ra­to­rios de alta segu­ri­dad” no serán contro­la­dos ni por usted ni por mí, sino por orga­ni­za­ciones pode­ro­sas tales como grandes empre­sas o gobier­nos. Por tan­to, el confi­na­mien­to de cier­tas inves­ti­ga­ciones en labo­ra­to­rios de alta segu­ri­dad lo úni­co que hará será aumen­tar la ya exce­si­va concen­tra­ción de poder exis­tente en nues­tra socie­dad.

   La “comi­sión” que se supone que “dará for­ma a los avances y ayu­dará a la socie­dad a afron­tar las conse­cuen­cias” de la inte­li­gen­cia arti­fi­cial me ins­pi­ra temor y des­pre­cio, ya que la idea de lo que es bue­no para los seres huma­nos que tie­nen esos indi­vi­duos ape­nas sobre­pa­sa el nivel de la que tiene un niño de cua­tro años. Tiem­blo sólo de pen­sar en qué tipo de mun­do crearían si pudie­sen.

   De todos modos, en la prác­ti­ca, la “comi­sión” no ten­drá más éxi­to que el que tuvie­ron los gru­pos de cientí­fi­cos que se for­ma­ron tras 1945 con el fin de tra­tar de que la energía nuclear fuese regu­la­da “sabia­mente” y usa­da sólo con fines pací­fi­cos. A lar­go pla­zo, el modo en que la inte­li­gen­cia arti­fi­cial sea desar­rol­la­da y apli­ca­da ven­drá deter­mi­na­do por las nece­si­dades de la gente que tiene el poder y que tra­ta de aumen­tar­lo.

pg

   Por tan­to, sean cuales sean los cri­te­rios éti­cos que cual­quier cientí­fi­co pro­fese, esos cri­te­rios tie­nen como mucho un efec­to insi­gni­fi­cante del desar­rol­lo de la cien­cia y la tec­no­logía en su conjun­to. Lo que escribí en el pár­ra­fo 92 de La Socie­dad Indus­trial y Su Futu­ro era en esen­cia cor­rec­to :

“la cien­cia continúa ade­lante cie­ga­mente, sin respe­to por el ver­da­de­ro bie­nes­tar de la raza huma­na ni por ningún otro cri­te­rio, obe­de­cien­do sola­mente a las nece­si­dades psi­coló­gi­cas de los cientí­fi­cos así como a las de los car­gos de la admi­nis­tra­ción del gobier­no y de los direc­ti­vos de las grandes empre­sas que apor­tan los fon­dos para la inves­ti­ga­ción.”

NOTAS :

  1. Albert Speer, Inside the Third Reich, tra­du­ci­do por Richard y Cla­ra Wins­ton, Mac­mil­lan, Nue­va York, 1970, pági­na 212.
  2. Véase The Week,  6 de mar­zo del 2009, pági­na 39.
  3. The New Ency­clo­pae­dia Bri­tan­ni­ca, 15ª edi­ción, 2003, Vol. 2, artí­cu­lo “Braun, Wern­her von”, pági­na 485.
  4. Ben­ja­min Schwarz, “Co-Conspi­ra­tors”, The Atlan­tic, mayo del 2009, pági­na 80.
  5. Ency­cl. Bri­tan­ni­ca, 2003, Vol. 19, artí­cu­lo “Explo­ra­tion”, pági­na 47.
  6. El tex­to com­ple­to del dis­cur­so puede leerse en Alice Kim­ball Smith y Charles Wei­ner (edi­tores), Robert Oppen­hei­mer : Let­ters and Recol­lec­tions, Stan­ford Uni­ver­si­ty Press, Cali­for­nia, 1995, pági­nas 315–325.
  7. Ibíd., pági­nas 315 y 350, nota 20.
  8. Ibíd.
  9. Véanse G. A. Zim­mer­mann, Das Neun­zehnte Jah­rhun­dert, segun­da mitad, segun­da parte, Mil­wa­kee, 1902, pági­nas 439–442 ; Ency­cl. Bri­tan­ni­ca, 2003, Vol.10, artí­cu­lo “Sie­mens, Wer­ner von”, pági­na 787.
  10. Frie­drich Klemm, A His­to­ry of Wes­tern Tech­no­lo­gy, tra­du­ci­do por Doro­thea Waley Sin­ger, M.I.T. Press, 1964/1978, pági­na 353.
  11. Hans Zins­ser, Rats, Lice, and His­to­ry, cer­ca del final del capí­tu­lo I. No ten­go apun­ta­da la fecha de publi­ca­ción de este libro, pero pro­ba­ble­mente apa­re­ció en la déca­da de los 30 del siglo XX.
  12. “The End of the Gol­den Age”, The New York Review of Books, 4 de noviembre de 1999, pági­na 14.
  13. Ency­cl. Bri­tan­ni­ca, 2003, Vol. 18, artí­cu­lo “Ein­stein”, pági­na 157.
  14. Ibíd.
  15. Paul Arthur Schilpp (edi­tor), Albert Ein­stein : Phi­lo­so­pher-Scien­tist, Open Court, La Salle, Illi­nois, Ter­ce­ra Edi­ción, 1970/1995, pági­nas 1–94. Esta auto­bio­grafía está impre­sa en el alemán ori­gi­nal con una tra­duc­ción al inglés en pági­nas alter­na­ti­vas. Yo acon­se­jaría al lec­tor que lea la ver­sión en alemán si le es posible, ya que la tra­duc­ción al inglés me parece pobre.
  16. Para todo este pár­ra­fo véase ibíd., pági­nas 2 y 4.
  17. Jules Mon­ne­rot, Socio­lo­gy and Psi­cho­lo­gy of Com­mu­nism, tra­du­ci­do por Jane Degras y Richard Rees, Bea­con Press, Bos­ton, 1960, pági­nas 136 y 140.
  18. Con una excep­ción tri­vial que no es rele­vante en este caso.
  19. Ency­cl. Bri­tan­ni­ca, 2003, Vol. 28, artí­cu­lo “Tech­no­lo­gy, The His­to­ry of”, pági­na 471.
  20. Ibíd., Vol. 2, artí­cu­lo “Braun, Wern­her von”, pági­na 485.
  21. Me han comen­ta­do que en los últi­mos años algu­nos cientí­fi­cos o las empre­sas que les sir­ven de rela­ciones públi­cas han esta­do desar­rol­lan­do argu­men­tos bas­tante sofis­ti­ca­dos para tra­tar de jus­ti­fi­car el papel de la cien­cia en la socie­dad ; y no dudo que esto sea cier­to. Pero todo aquel­lo rele­vante que he vis­to en los medios de comu­ni­ca­ción de masas, has­ta el vera­no del 2009, parece indi­car que la mayor parte del pen­sa­mien­to de los cientí­fi­cos acer­ca de las impli­ca­ciones sociales y morales de su tra­ba­jo se hal­la aún en un nivel super­fi­cial, o inclu­so infan­til. Sería muy deseable e impor­tante rea­li­zar un estu­dio de la pro­pa­gan­da de la cien­cia ofi­cial, espe­cial­mente de la pro­pa­gan­da sofis­ti­ca­da diri­gi­da a una audien­cia inte­li­gente, pero dicho estu­dio estaría muy lejos del alcance de esta car­ta ; y, es más, carez­co de los cono­ci­mien­tos nece­sa­rios para ello. Los argu­men­tos de los pro­pa­gan­dis­tas sofis­ti­ca­dos pro­ba­ble­mente refle­jen tan poco el pen­sa­mien­to del cientí­fi­co cor­riente como, por ejem­plo, los argu­men­tos de los filó­so­fos polí­ti­cos sofis­ti­ca­dos refle­jan el pen­sa­mien­to del sol­da­do común que sale al cam­po de batal­la para luchar por la demo­cra­cia, por el fas­cis­mo o por el comu­nis­mo. Como mucho, los cientí­fi­cos y los sol­da­dos cor­rientes pue­den repe­tir irre­flexi­va­mente los argu­men­tos sofis­ti­ca­dos de los pro­pa­gan­dis­tas para jus­ti­fi­car sus actos ante sí mis­mos o ante los demás.
  22. Ency­cl. Bri­tan­ni­ca, 2003, vol. 8, artí­cu­lo “Nobel, Alfred Bern­hard”, pági­na 738.
  23. Smith y Wei­ner, op. cit., pági­nas 303 y 310.
  24. Har­per & Row, Nue­va York, 1969.
  25. Oxford Uni­ver­si­ty Press, Nue­va York, 1991, pági­nas 213–225.
  26. Véase David Gelern­ter, “U.S. faces tech­no­lo­gy cri­sis”, The Mis­sou­lian (per­ió­di­co de Mis­sou­la, Mon­ta­na), 24 de febre­ro de 1992.
  27. John Mar­koff, “Scien­tists Wor­ry Machines May Outs­mart Man”, The New York Times, 26 de julio del 2009.

[i] Frag­men­to de car­ta de Ted Kac­zyns­ki a P.B. del 16 de mayo del 2009. Revi­sa­do el 8 de sep­tiembre del 2009 y el 27 de octubre del 2009. Ori­gi­nal en inglés. Tra­duc­ción a car­go de Últi­mo reduc­to. © 2009, Theo­dore John Kac­zyns­ki. © de la tra­duc­ción, 2013, Últi­mo Reduc­to. N. del T.

[ii] Edward Tel­ler, físi­co nuclear esta­dou­ni­dense de ori­gen hún­ga­ro. FC, gru­po autor de La Socie­dad Indus­trial y Su Futu­ro del que Kac­zyns­ki era pre­sun­ta­mente el úni­co miem­bro, men­cio­na­ba al Dr. Tel­ler, en el pár­ra­fo 88 de dicha obra, como ejem­plo de cientí­fi­co cuyas moti­va­ciones para inves­ti­gar no tenían nada que ver con el bien de la huma­ni­dad. N. del T.

[iii] Law­rence Liver­more, cen­tro fede­ral de inves­ti­ga­ción y desar­rol­lo situa­do en Liver­more, Cali­for­nia. Una de sus prin­ci­pales acti­vi­dades es la inves­ti­ga­ción arma­mentís­ti­ca nuclear. N. del T.

[iv] Impor­tante fami­lia ale­ma­na de ban­que­ros y comer­ciantes. N. del T.

[v] El autor consi­guió pos­te­rior­mente los datos del ori­gi­nal usa­do por Craig : “Let­ter from Ein­stein to Hein­rich Zang­ger, dated 6 Dec. 1917”. En Col­lec­ted Papers of Albert Ein­stein, vol. 8A, pági­nas 561–562 (en alemán). Prin­ce­ton Uni­ver­si­ty Press (1987), J. Sta­chel, edi­tor. Y la cita ori­gi­nal en alemán sería : “Unser gan­zer geprie­sene Fort­schritt der Tech­nik, übe­rhaupt der Civi­li­sa­tion, ist der Axt in der Hand des patho­lo­gi­schen Ver­bre­chers ver­gleich­bar”. N. del T.

[vi] Siglas de “Asso­cia­tion for the Advan­ce­ment of Arti­fi­cial Intel­li­gence” (Aso­cia­ción para el Avance de la Inte­li­gen­cia Arti­fi­cial). N. del T.

*Las imágenes relacionadas al escrito fueron agregadas por Le Partage para ilustrar más o menos el sujeto tratado.


 

Vous avez réagi à cet article !
Afficher les commentaires Hide comments
Comments to: ¿Está el trabajo científico motivado principalmente por un deseo de hacer el bien a la humanidad ? (Por Ted Kaczynski)
Write a response

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Attach images - Only PNG, JPG, JPEG and GIF are supported.