Le discours public autour des nanotechnologies laisse émerger un lien particulièrement fort entre elles et la science-fiction dans. Présentées comme une révolution scientifique, technologique, productive, industrielle, leur arrivée, leur impact, leurs problèmes ont été anticipés bien avant leur implémentation concrète et à grande échelle. C’est ce caractère d’anticipation qui donne une place particulière à la fiction, non seulement dans la narration, mais aussi dans les textes officiels des scientifiques et des politiques, qui discutent des applications futures des nanotechnologies, et dans les articles destinés aux profanes des nanowriters, les spécialistes des nanotechnologies.

La vision d’un monde futur où tous les aspects de la vie humaine et de son rapport au monde — naturel et artificiel — seront changés par les nanotechnologies, en positif ou en négatif, selon la notion de « singularité » de l’écrivain et mathématicien Vernor Vinge,1 semble désormais accompagner aussi une partie du discours non fictionnel.

Ce régime et cette rhétorique de la promesse sont très efficaces. Ils semblent nous donner la possibilité de réaliser concrètement ce que simulait sur ordinateur la réalité virtuelle : les « cyberêves » virtuels sont enfin près de devenir réalité. On est fasciné par l’idée de pouvoir matérialiser l’imaginaire. La capacité de construire des objets à partir des éléments ultimes de la matière est, en effet, l’une des promesses des nanotechnologies qui éveillent les espoirs de la science et de la technologie : les nanotechnologies réactivent l’idéal classique de la maîtrise parfaite, le contrôle total du monde grâce à une connaissance profonde de la matière et à la manipulation de ses unités de base.

La projection dans un monde futur n’est pas le seul aspect qui semble lier les nanothecnologies à la narration de science-fiction. Il y a aussi le fait que la science-fiction se fonde sur la science et la technologie comme point de départ de la construction de la fiction.

Le critique Darko Suvin, dans son essai fondateur d’une classification formelle du genre littéraire de la science-fiction, trouve la différence spécifique de la narration de science-fiction dans la domination ou l’hégémonie narrative d’un novum  (nouveauté, innovation) de fiction soutenue par une « logique cognitive ».2 Même si la littérature de science-fiction ne doit pas être analysée seulement dans son contenu scientifique manifeste, son mécanisme narratif est validé par une connaissance qui se fonde sur une méthode scientifique. Le discours fictionnel supplée à l’impossibilité d’expérimenter et de vérifier les anticipations dans un laboratoire. La fiction fonctionne alors comme une sorte « d’expérience de pensée »,en suivant une logique scientifique et respectant les canons de la mise en scène expérimentale sans pour autant réaliser pratiquement l’expérience.

Le novum de la science-fiction concerne surtout les transformations scientifiques et technologiques  considérées dans leur impact sur la société : le monde décrit par la science-fiction est un monde possible, humain et social, changé plus ou moins radicalement par une technologie qui est parvenue à s’imposer. Dans cette perspective, à la science fiction on attribue une finalité et une activité réflexive sur les rapports entre science, technologie, société et possibles transformations portées par l’usage et l’implémentation de certaines technologies qui placent les auteurs de science-fiction dans un des « groupes d’intérêt » les plus motivés, avec les social scientists, à réfléchir aux « implications sociales et éthiques des nanotechnologies ».3

En effet, la science-fiction n’est pas une simple anticipation des développements futurs de la science ou des possibles applications des technologies. Au contraire, il s’agit d’un genre littéraire créateur, original et autonome, mais qui peut, dans certains cas, jouer un rôle fondamental dans l’imagination des « mondes possibles ». Cependant, même si la probabilité de ces mondes n’est souvent pas calculable, dans un régime d’incertitude, la fiction fournit parfois des « idées-guides » autour desquelles prennent position les acteurs d’une controverse qui intéresse la science et la société.4

Menace réelle, menace fictionnelle, le cas du gray goo

Désormais entrée dans l’imagination collective, la menace du gray goo, la « gelée grise » est un exemple en même temps très populaire et peu exploré dans ses implications éthiques ou philosophiques. Formulée explicitement pour la première fois par Eric Drexler dans son texte fondateur de la nanoscience Engines of Creation en 1986, l’idée de gray goo a été anticipé par le roman de l’américain Greg Bear, Blood Music, en 1985, et rendue populaire au grand public grâce à l’ouvrage de Michael Crichton Prey, en 2002.5

Évidemment, mélanger sans discrimination textes littéraires et textes scientifiques peut créer de la confusion. Cependant, Engines of Creation — Les engins de création en français6 —  a la particularité de se trouver à mi-chemin entre science et prévision, ce qui rend plus complexe encore le va-et-vient entre fiction littéraire et fiction scientifique. La force visionnaire de ce texte invite au rapprochement avec les ouvrages de science-fiction parce qu’il permet, par sa rhétorique, de bâtir plausiblement un pont entre ce qui est possible actuellement et ce qui ne l’est pas encore. Si, comme le disait Richard Smalley, prix Nobel de chimie en 1996 pour son travail sur les fullérènes (structures de carbone à forme sphérique, buckyballs enraisonde leurforme),

« les nanotechnologies sont la dernière frontière du constructeur »,7

la boîte à outils qui permettra de construire des objets atome par atome. On doit à Drexler le concept original de manufacture moléculaire. Dans son ouvrage, il imagine que la synthèse de matériaux et d’objets puisse avoir lieu grâce à des « assembleurs » mécaniques : des machines capables de construire un objet en sélectionnant des atomes dans l’environnement et en les positionnant un par un pour l’assemblage. Cet assembleur pourrait être programmé, doté d’une énergie autonome et, surtout, se reproduire lui-même.

« Les assembleurs seront capables de faire pratiquement n’importe quoi à partir de matériaux courants et sans travail humain, remplaçant les usines polluantes par des systèmes aussi propres que les forêts. Ils transformeront la technologie et l’économie dans leurs racines, ouvrant un nouveau monde de possibilités. Ces assembleurs seront réellement des moteurs d’abondance. »8

Tout sera possible avec ces engins : réparer les cellules, soigner les maladies, prolonger la vie, lancer de nouveaux programmes de conquête de l’espace. Dans la vision de l’avenir de Drexler, la manufacture moléculaire pourra permettre

« un futur ouvert de richesses, d’espace et de diversité, les groupes de personnes seront libres de former presque n’importe quel type de société : elles seront libres d’échouer ou d’être un exemple lumineux pour le monde. »9

Le discours de Drexler semble considérer la venue des ces « moteurs de la création » comme inévitable, puisqu’elle suit un chemin déjà ouvert par les biotechnologies et les technologies moléculaires actuelles combinées avec le pouvoir des nanoordinateurs jusqu’à aboutir à la réalisation de la nano-ère. La cohérence de ce récit est garantie par ce que la critique littéraire de science-fiction appelle un

«parfait chronotope », {c’est-à-dire} « un espace-temps littéraire dans lequel les aspects fictionnels marchent en accord avec leur propres lois de temps et d’espace. »10

Drexler construit un monde atomique, un monde vu du point de vue atomique, où l’histoire de l’humanité est l’histoire de la tentative de manipuler les atomes à fin de créer des dispositifs capables de soigner « une personne âgée, un malade ou un blessé ».11 Le monde de Drexler est machinique : la vie est assurée par le fonctionnement de petites machines comme les ribosomes, que l’on peut considérer comme des modèles de nano-machines. Les ribosomes sont des machines protéiques qui assemblent des protéines dans leurs cellules : d’après Drexler, donc

« les cellules vivantes démontrent le bon fonctionnement des machines moléculaires »12 et « l’histoire de la vie est l’histoire d’une course aux armements fondée sur des machines moléculaires ».13

En prenant l’exemple du mécanisme naturel de la mutation génétique, Drexler applique la même logique évolutionniste à d’autres, et plus récents, objets : « outils, habitations, avions et ordinateurs ».14 De ce point de vue, la nature n’est plus l’agent de cette nouvelle sélection, mais plutôt l’ingénieur :

« Dans le domaine de l’ingénierie, le processus efficacement dirigé d’essais et d’erreurs, à l’opposé de la conception directe par des cerveaux infaillibles, a permis la plupart des avancées ».15

Depuis le début, Drexler contextualise sa fiction dans une grande fresque historique. Sa narrative s’organise autour d’un novum — apparition de la manufacture moléculaire — doté d’une force telle que, d’un coup, toutes les avancées technologiques du passé sont mélangées en une sorte de préhistoire. Dans la tentative de montrer comment, à travers un changement technologique ou scientifique, on peut explorer un monde modifié par la nouveauté, Drexler ne décrit pas seulement les aspects positifs de son nanomonde, mais aussi met en évidence les risques potentiels. Dans son scénario, le risque plus important semble venir de la potentielle autonomisation des ses machines qui, capables de s’auto-reproduire et de s’auto-assembler, pourraient se soustraire au contrôle de l’ingénieur-apprenti sorcier. Voilà qu’ainsi la menace du gray goo devient concrète. Le gray goo représente le risque hypothétique d’une catastrophe généralisée résultant de la perte de contrôle du processus d’autoréplication des nanorobots. L’autoréplication des nanorobots risquerait de consommer, en fait, toute la vie sur la planète afin d’assurer l’énergie nécessaire au processus de reproduction. Dans le pire des cas, toute la matière de l’univers pourrait se transformer en une substance gluante (goo), c’est-à-dire une masse de nanomachines répliquantes manquant d’une structure à grande échelle. Eric Drexler présente ainsi brièvement le scénario du gray goo :

» Chez les familiers des nanotechnologies, cette menace a reçu le nom de « péril de la mélasse grise ». Bien qu’une multitude de réplicateurs incontrôlés ne soit pas forcément grise ou goudronneuse, le terme de mélasse grise suggère que les réplicateurs capables de supprimer la vie peuvent être encore moins engageants qu’une unique espèce de chiendent. Ils seraient peut-être supérieurs d’un point de vue évolutionniste mais cela ne les rend pas désirables pour autant. La menace de la mélasse grise montre à l’évidence que nous ne pouvons pas nous permettre certains types d’accidents avec les assembleurs répliquants. La mélasse grise serait certainement une fin déprimante pour notre aventure sur la Terre, bien pire que la glace ou le feu, et qui pourrait trouver son origine dans un simple accident de laboratoire. »16

Critiques des deux côtés opposés

Depuis sa formulation, la théorie des assembleurs universels autorépliquants et du gray goo a provoqué de vives réactions de la part de la communauté scientifique à propos de la plausibilité de la théorie de Drexler. Plusieurs réactions contre celle-ci ont opposé Drexler à d’autres scientifiques, le cas plus connu étant le débat entre Drexler et Richard Smalley. La controverse porte sur la faisabilité des assembleurs autorépliquants. Smalley et George Whitesides — chercheurs en biochimie à l’université de Harvard — ont discuté de la possibilité de réaliser concrètement les nanorobots de Drexler et ils ont pointé les difficultés fondamentales dérivant des limites chimiques et physiques qui empêcheraient l’existence et le travail des assembleurs universels. Richard Jones a plusieurs fois rappelé qu’il faut toujours considérer que le nanomonde répond à des lois totalement différentes de celles du monde macroscopique. Deux problèmes majeurs concerneraient une structure rigide (comme un sous-marin ou un nanorobot) plongée dans un organisme vivant : le mouvement brownien, qui soumettrait la structure à une agitation continue, et la viscosité de l’eau à l’échelle nanométrique, qui augmenterait énormément les forces de surface.17

Comme le disent Hans Fogelberg et Hans Glimell,

« les nanotechnologies sont un terrain fertile pour une étude sociale de la technoscience »18

dans laquelle se confrontent deux différents points de vue sur la science et la technologie. La position de Drexler semble, d’une part, trop mécaniciste et pas assez complexe par rapport aux formes naturelles d’existence, d’autre part, elle voudrait construire trop de ponts entre ce qui peut être produit (ingénierie), ce qui est possible (la science expérimentale) et ce qui est impensable (science-fiction). Les opposants de Drexler cherchent à porter les nanotechnologies sur le terrain plus traditionnel de la science expérimentale, où le débat est moins passionnel et ne laisse pas de place à la science-fiction.

Pour la philosophie et l’éthique, accepter le chronotope de Drexler et son déterminisme technologique, signifie accepter un monde à une seule dimension, extrêmement cohérent et plausible de différents points de vue (la relation entre passé, présent et futur) mais dans lequel la liberté de choix n’existe pas. Le gray goo est un horizon catastrophique à l’intérieur d’une construction narrative qui suit sa logique interne. Entre la sélection de l’évolution, le monde machinique et la logique de l’ingénierie, ce risque radical ne semble pouvoir être évité que grâce à un contrôle technologique, mais pas social, des nanotechnologies

Comment la fiction peut stimuler un débat éthique

Cette controverse scientifique sur le bien-fondé de la vision de Drexler19 n’empêche pas que le scénario plutôt rigide du gray goo ait contribué à ouvrir au débat public et à la décision politique une question de choix dans les nanotechnologies. La controverse née avec Drexler est bientôt passée d’une arène publique à une autre, jusqu’à devenir une question publique et politique importante.

Le premier pas a été la publication de l’article de Bill Joy Why Future Doesn’t Need Us.20 Bill Joy est l’informaticien qui a développé le langage java, actuellement directeur de recherche chez Sun Microsystems. Dans sa dénonciation, il affirme que les technologies du xxie siècle — génétique, nanotechnologie, robotique (gnr) — sont extrêmement puissantes et susceptibles d’engendrer une série nouvelle et inconnue des risques et abus.

« C’est surtout ce pouvoir d’une autoréplication destructrice en génétique, nanotechnologie et robotique (gnr) qui devraient nous arrêter ».

Les dangers de la course au nucléaire n’étaient rien, comparés aux menaces engendrées par la fabrication de robots intelligents et capables de s’auto-reproduire sans besoin de grandes installations. Il appelle donc à un moratoire, un arrêt des recherches.

En 2000, partiellement en réponse à l’appel de Bill Joy, Robert Freytas — chercheur à l’Institute for Molecular Manufacturing et très actif dans l’étude des applications des nanotechnologies en médecine — publie un article.21 La notion de gray goo y a été reprise sous le terme d’écophagie. La raison du danger est vue par Freytas dans la capacité des nanorobots auto-répliquants

L’étude de Freytas est le premier de type quantitatif et tend à répondre de manière moins alarmiste à l’article de Bill Joy pour un moratoire de la convergence nbic.23 Même s’il avoue que la connaissance de certains comportements naturels, semblables à ceux des nanorobots, ne sont nullement connus et maîtrisés, comme ceux des microbes et des nouveaux agents infectieux (hiv, Ebola) et que

Freytas affiche une certaine confiance dans le fait que des

Dans les recommandations finales, Freytas cherche à poser les bases pour la construction d’une série de scénarios susceptibles de guider l’action publique et de pointer de manière précise la nature et les antidotes du danger de l’écophagie.

La tentative de Freytas de faire entrer le danger de l’écophagie dans un domaine d’incertitude moins étendu, s’il n’a pas convaincu ceux qui étaient déjà très alarmés, a d’autre part focalisé encore plus l’attention sur un risque qui met radicalement  en question la survie de toute forme de vie sur la planète, tout en confortant la plausibilité du chronotope de Drexler puisqu’il en accepte totalement les présupposés.

D’une part, donc, on met en discussion la possibilité de l’existence des assembleurs universels mêmes, de l’autre, en acceptant la possibilité d’une telle réalisation, on tente d’exclure l’éventualité du gray goo comme un processus trop compliqué et improbable pour pouvoir surgir par simple accident.

On peut distinguer deux types de débat à propos du gray goo : une controverse scientifique sur la faisabilité des assembleurs universels de Drexler, laquelle met en évidence les limites chimiques et physiques de la théorie (science-fiction contre science) en niant la construction de science-fiction ; une controverse qui, en acceptant la faisabilité des assembleurs capables d’auto-réplication, envisage les possibles conséquences et surtout les dangers potentiels, en acceptant d’une certaine manière la fiction de Drexler. Dans les deux cas, on tente d’exclure l’existence d’un danger réel, mais à un niveau d’acceptation d’un scénario de science-fiction différent.

Le gray goo comme risque paradigmatique

Fondé scientifiquement ou non, le danger du gray goo est  constamment évoqué dans les documents, dossiers et rapports officiels qui analysent les impacts sociaux, les risques et les retombées éthiques du développement et de l’utilisation des nanotechnologies. Souvent considéré comme un objet relevant davantage de la science-fiction que d’une théorie scientifique, le gray goo est l’horizon catastrophique en même temps évoqué et nié.

En effet, c’est surtout au niveau de la controverse opposant les associations citoyennes et les fondations autour des impacts possibles des nanotechnologies que la notion de gray goo devient un mot-clé, le pivot d’un positionnement. Un exemple désormais très célèbre est représenté par le canadien etc Group, (The Action Group on Erosion, Technology and Concentration).25 Dans son rapport, The Big Down. From Genomes to Atoms. Atomtech : Technologies Converging at the Nano-scale, paru en janvier 2003, etc cherche à construire un pont entre la situation actuelle et celle à venir en indiquant quatre niveaux de réalisation « risquée » des « technologies atomiques » :

• 1. la bulk nano, représente l’état actuel des applications des nanotechnologies : une production en masse de nanoparticules, comme les nanotubes ou les buckyballs.

• 2. lananofabrication est la manipulation et l’assemblage des nanoparticules pour construire des structures supra-moléculaires qui restent encore dans l’ordre nano, (environ cent nanomètres) et où l’auto-assemblage est encore estimé « naturel », suivant les lois de la chimie et de la physique.

• 3. la manufacture moléculaire est l’aboutissement du point 2 : la possibilité d’utiliser des nanorobots autorépliquants pour la construction en masse (et à très bon marché) de tout type de matériel.

• 4. la nanobionique fait référence à l’usage des nanomatériaux affectant les processus biochimiques ou cellulaires. C’est l’étape de la convergence entre nano et bio : des cellules qui travaillent au service ou comme des nanomachines ; des bionanomoteurs exploitant la capacité de atp de certaines bactéries de produire de l’énergie pour la rotation ; les nanoframes : une protéine fonctionne comme structure pour la production d’autres macrostructures.

Le danger du gray goo intervient aux deux derniers niveaux, c’est-à-dire aux stades qui correspondent à la version drexlerienne d’une nanotechnologie moléculaire convergeant avec les biotechnologies et les projets d’intelligence artificielle. etc utilise le modèle de la gelée grise pour décliner d’autres risques majeurs qui semblent se profiler à l’horizon. Ainsi la gelée peut devenir « verte » (green goo) non seulement parce que les machines auto-répliquantes pourraient se multiplier de manière incontrôlée, jusqu’à épuiser la matière et l’énergie de la planète, mais dans le cas d’une convergence bio et nano des machines auto-répliquantes — soit par imitation de la nature (biomimétiques), soit par hybridation, issues d’un croisement de nanomachines naturelles et artificielles —  pourrait être encore plus susceptible de se soustraire au contrôle. On pourrait assister au « Grey New World », une version du « Big Cyborg Brother », un monde sous contrôle de minuscules machines extrêmement intelligentes, issues de la convergence entre le pouvoir des nanotechnologies et des sciences cognitives et de l’information, qui mettraient en danger tout principe démocratique et toute possibilité d’expression des dissidents. Le rapport etc ne refuse pas de se confronter avec un scénario fictionnel, elle contribue même à le doter d’une consistance plus articulée et concrète.

Cependant, en ce qui concerne le gray ou green goo, il ne s’agit pas de formuler des scénarios précisément définis : ceux-ci sont évoqués comme des modèles théoriques où l’application d’un certain type de technologie est vue dans ses issues et risques possibles. Aborder ce type de scénario relève d’une urgence absolue pour etc, parce que la question n’est pas  if but when (pas si cette technologie existera mais quand), d’une part, parce que la convergence bio-nano-info est de plus en plus développée, d’autre part, parce que le marché n’attendra pas d’obtenir des produits sûrs pour implémenter certaines productions.

Dans l’arène publique, le point de vue du groupe etc est opposé à celui du Foresight Institute, organisation no-profit (sans but lucratif) créée par Drexler et Christine Peterson, actuel président, en 1986 pour stimuler la réflexion e la recherche sur les nanotechnologies.

Comme Drexler, Peterson place les nanotechnologies dans une perspective téléologique : l’histoire entière de la théorie atomique est un continuum de Démocrite à nos jours, ce qui suggère l’irrésistible trajectoire du développement des nanotechnologies et leur progression vers un inéluctable « nanoavenir ». Contrairement à la perspective du groupe etc, pour le Foresight Institute, croire en un avenir des nanosciences c’est croire en la capacité de contrôler et prévenir les risques technologiquement.

Le débat devient officiel. Le cas de l’Angleterre

Le rapport etc a été considéré comme un point de repère fondamental pour réfléchir aux espoirs et aux questions suscités par le développement de la nanoscience et des nanotechnologies dans leurs retombées sociales et éthiques. En juillet 2004, la Royal Society et la Royal Academy of Engineering britanniques publient un bilan commandité par le prince Charles : Nanoscience and nanotechnologies : opportunities and uncertainties. Il s’agit d’une analyse indépendante, qui doit aider à clarifier les questions concernant les domaines, l’état des connaissances, les applications spécifiques, les applications futures, les implications et les incertitudes des applications aujourd’hui et, dans l’avenir, la nécessité d’une réglementation. Si, d’une part, les intérêts de l’industrie et de la recherche poussent les États et les privés à fournir de plus en plus de financements au développement technologique ; d’autre part, il ne faut pas oublier la situation d’incertitude à propos de l’impact des nouveaux matériaux sur la santé, à propos du type d’application dans le long terme de la convergence nbic et au sujet de la perspective d’une perte de contrôle des nano-robots auto-répliquants. D’après le rapport, il n’y a pas de preuve que le mainstream scientifique consacre beaucoup d’attention à la construction des assembleurs auto-répliquants, cependant le gray goo reste l’un des pôles extrêmes entre lesquels le rapport anglais voudrait placer sa position : d’un côté, donc, une vision très optimiste du progrès et de l’autre, une vision pessimiste, apocalyptique, celle du gray goo. Dans une situation d’incertitude et de promesses, les pôles extrêmes délimitent un continuum de positions qui n’exclut aucune possibilité, mais permet de clarifier à quel niveau on doit se positionner par rapport à l’analyse des faits et des connaissances, aux représentations, aux points de vue de chaque interlocuteur.

Au pôle opposé par rapport au gray-green goo, le rapport anglais semble vouloir placer le rapport de la National Science Foundation, Converging technologies for improving Humain Performance, éditée en 2002 par Roco et Bainbridge.26 D’après Mihaïl Roco, le coordonnateur de l’initiative américaine en matière de nanotechnologies, la nni (National Nanotechnology Initiative), la convergence des nanotechnologies avec les biotechnologies, l’informatique et les sciences cognitives permettra l’unification des sciences et des techniques, le bien-être matériel et spirituel universel, l’interaction pacifique et mutuellement avantageuse des humains et des machines intelligentes, la disparition complète des obstacles à la communication généralisée, en particulier ceux résultant de la diversité des langues, l’accès à des sources d’énergie inépuisables, la fin des soucis liés à la dégradation de l’environnement.

Il s’agit d’un texte en plein mainstream scientifique, malgré cela, il est soumis à de vives critiques dans le rapport anglais. Entre autres, l’accusation plus significative porte sur l’étroit mélange de hype et de hope, qui laisse plus de place à la science-fiction qu’à la science et propose une vision mécaniciste de la société, orientée par une forme de déterminisme technologique.

Le débat est maintenant introduit dans la sphère officielle et académique des institutions et des gouvernements. En Angleterre, le gray goo est une alarme, même s’il est clairement perçu comme une fiction. Dans ce cas, la fiction devient partie intégrante de la gestion de la science et stimule des débats sociaux à propos des questions soulevées par les nouvelles technologies.

L’avenir du gray goo

Nous sommes maintenant à un point de bifurcation. L’ascension du débat sur le gray goo touche peut-être à sa fin. La communauté scientifique et celle des social scientists tendent de plus en plus à discréditer Drexler et à marginaliser le Foresight Institute.

Le gray goo est une fiction, mais une fiction significative.

Certains auteurs ont mis en évidence la difficulté à utiliser la science-fiction « à la Drexler » pour générer un terrain propice aux considérations éthiques et aux implications sociales des nanotechnologies. En effet, le novum de Engines of Creation crée un monde séparé du monde réel dans lequel tout fonctionne selon une logique interne qui rend inévitable le lien entre les prémisses et les développements futurs. Ce type de science-fiction établirait donc un pont trop rigide, ou beaucoup trop des ponts, entre réalité et projection future, selon un déterminisme qui soustrait les nanotechnologies à l’action et à l’influence sociale et critique.

Il est également vrai que le gray goo représente un risque exemplaire, qui a son sens dans une certaine construction, celle de Drexler (ou de Freytas), mais qui est loin d’épuiser l’analyse des risques, ce qui rend problématique l’utilisation de cet horizon.

Le gray goo est devenu synonyme de la perte de contrôle sur les technologies, et désigne le syndrome de l’apprenti sorcier nanotechnologique. Il pourrait être compris selon le principe de Hans Jonas d’une « heuristique de la peur » : une grande catastrophe se profile à l’horizon. Bien que plusieurs raisons rendent difficile de croire à cette possibilité, la fiction est nécessaire pour maintenir ouvert un espace de débat. Tel un bouc émissaire, la notion de gray goo va probablement être sacrifiée, définitivement bannie de ce que l’on considère comme discours scientifiquement fondé, mais elle aura permis de faire apparaître l’innovation technologique comme un problème autant  qu’une solution.

L’hypothèse du gray goo lancée par le père visionnaire des nanotechnologies, récupérée par ses détracteurs, ou partisans, et posée à l’un des extrêmes du continuum des positions autour du débat public sur les implications sociales des nanotechnologies, est exemplaire d’une parabole qui a fait dire à Drexler lui-même :

« I wish I had never used the term gray goo.»27