Commençons par poser comme hypothèse que les informaticiens parviennent à mettre au point des machines intelligentes capables de faire toutes les choses mieux que les êtres humains ne peuvent les faire. Dans ce cas, on peut supposer que tout le travail sera accompli par de vastes systèmes de machines hautement organisés et qu’aucun effort humain ne sera nécessaire. Deux situations pourraient alors se présenter. Soit les machines seront autorisées à prendre toutes leurs propres décisions, sans supervision humaine, soit le contrôle humain sur les machines sera maintenu.
Si les machines sont autorisées à prendre toutes leurs propres décisions, nous ne pouvons formuler aucune conjecture quant aux résultats, car il est impossible de prévoir comment de telles machines pourraient se comporter. Nous nous contentons de souligner que le destin de la race humaine serait alors à la merci des machines.
On pourrait objecter que l’humanité ne serait jamais assez stupide pour remettre tout son pouvoir aux machines. Mais nous ne prétendons ni que l’humanité céderait volontairement son pouvoir aux machines, ni que celles-ci s’empareraient de ce pouvoir de leur propre initiative. Ce que nous suggérons, c’est que l’humanité pourrait facilement se laisser glisser vers une situation de dépendance envers les machines telle qu’elle n’aurait plus, en pratique, d’autre choix que d’accepter toutes leurs décisions.
À mesure que la société et les problèmes auxquels elle est confrontée deviennent de plus en plus complexes, et que les machines deviennent de plus en plus intelligentes, les êtres humains laisseront les machines prendre une part toujours plus importante de leurs décisions à leur place, tout simplement parce que les décisions prises par les machines produiront de meilleurs résultats que celles prises par les humains.
On pourrait finir par atteindre un stade où les décisions nécessaires au maintien du fonctionnement du système seraient devenues si complexes que les êtres humains seraient incapables de les prendre intelligemment. À ce stade, les machines exerceraient effectivement le contrôle.
Les gens ne pourraient même plus simplement éteindre les machines, car ils en seraient devenus tellement dépendants que les arrêter reviendrait à se suicider.
D’un autre côté, il est possible que le contrôle humain sur les machines soit maintenu. Dans ce cas, l’homme ordinaire pourrait contrôler certaines machines individuelles à usage privé, comme sa voiture ou son ordinateur personnel, mais le contrôle des grands systèmes de machines serait entre les mains d’une toute petite élite — comme c’est déjà le cas aujourd’hui, mais avec deux différences.
Grâce à l’amélioration des techniques, l’élite exercerait un contrôle plus important sur les masses ; et, puisque le travail humain ne serait plus nécessaire, les masses deviendraient superflues, constituant une charge inutile pour le système.
Si l’élite se montrait impitoyable, elle pourrait tout simplement décider d’exterminer la majeure partie de l’humanité. Si elle était humaine, elle pourrait recourir à la propagande ou à d’autres techniques psychologiques ou biologiques pour réduire le taux de natalité, jusqu’à ce que l’humanité disparaisse, laissant le monde à l’élite.
Ou bien, si cette élite était composée de libéraux au cœur tendre, elle pourrait décider de jouer le rôle de bons bergers auprès du reste de l’humanité. Elle veillerait à ce que les besoins matériels de chacun soient satisfaits, à ce que tous les enfants soient élevés dans des conditions psychologiquement saines, à ce que chacun dispose d’un passe-temps sain pour l’occuper, et à ce que toute personne susceptible de devenir mécontente subisse un « traitement » destiné à guérir son « problème ».
Bien entendu, la vie serait si dépourvue de sens que les gens devraient être conditionnés biologiquement ou psychologiquement, soit pour éliminer leur besoin d’accomplir le processus de puissance, soit pour leur faire « sublimer » leur désir de puissance en le détournant vers quelque passe-temps inoffensif.
Ces êtres humains ainsi façonnés pourraient être heureux dans une telle société, mais ils ne seraient certainement pas libres. Ils auraient été réduits au statut d’animaux domestiques.
Mais supposons maintenant que les informaticiens ne parviennent pas à développer une intelligence artificielle, de sorte que le travail humain demeure nécessaire. Malgré cela, les machines prendront en charge un nombre toujours croissant des tâches les plus simples, si bien que les travailleurs les moins qualifiés seront de plus en plus nombreux à se retrouver en surnombre.
(Nous observons déjà ce phénomène. Beaucoup de personnes éprouvent des difficultés, voire se trouvent dans l’impossibilité, de trouver un emploi, parce qu’elles ne peuvent acquérir, pour des raisons intellectuelles ou psychologiques, le niveau de formation nécessaire pour se rendre utiles dans le système actuel.)
Quant à ceux qui auront un emploi, les exigences qui pèseront sur eux ne cesseront de croître : ils devront posséder une formation toujours plus poussée, des compétences toujours plus grandes, et se montrer toujours plus fiables, conformistes et dociles, car ils ressembleront de plus en plus aux cellules d’un organisme gigantesque.
Leurs tâches seront de plus en plus spécialisées, si bien que leur travail sera, en un sens, coupé du monde réel, puisqu’il se concentrera sur une infime portion de la réalité.
Le système devra recourir à tous les moyens à sa disposition, qu’ils soient psychologiques ou biologiques, pour façonner des individus dociles, dotés des capacités dont il a besoin, et capables de « sublimer » leur besoin de puissance en le canalisant vers une tâche spécialisée.
Il convient toutefois de nuancer l’affirmation selon laquelle les individus d’une telle société devront être dociles. La société pourrait trouver la compétitivité utile, à condition de parvenir à orienter celle-ci vers des domaines qui répondent aux besoins du système.
On peut imaginer une société future dans laquelle régnerait une compétition incessante pour accéder aux positions de prestige et de pouvoir. Pourtant, seule une infime minorité parviendrait jamais au sommet, là où se trouve le seul pouvoir véritable.
Il y a quelque chose de profondément répugnant dans une société où un individu ne peut satisfaire son besoin de puissance qu’en écartant de son chemin un grand nombre d’autres personnes et en les privant, par là même, de la possibilité d’accéder elles aussi au pouvoir.
Source : Théodore Kaczynski - La Société industrielle et son avenir
