>b's weblog

Aber wir behaupten weder, dass die Menschen den Maschinen freiwillig die Macht überlassen, noch dass die Maschinen absichtlich die Macht an sich reißen. Was wir andeuten, ist, dass die menschliche Rasse sich leicht in eine solche Abhängigkeit von den Maschinen begeben könnte, dass sie keine andere Wahl hätte, als alle Entscheidungen der Maschinen zu akzeptieren. In dem Maße, wie die Gesellschaft und die Probleme, mit denen sie konfrontiert ist, immer komplexer werden und die Maschinen immer intelligenter werden, werden die Menschen immer mehr Entscheidungen von den Maschinen treffen lassen, einfach weil die maschinellen Entscheidungen bessere Ergebnisse bringen als die von Menschen getroffenen. Schließlich könnte ein Stadium erreicht werden, in dem die Entscheidungen, die notwendig sind, um das System am Laufen zu halten, so komplex sind, dass der Mensch nicht mehr in der Lage ist, sie auf intelligente Weise zu treffen. In diesem Stadium werden die Maschinen die tatsächliche Kontrolle haben. Die Menschen werden nicht in der Lage sein, die Maschinen einfach abzuschalten, denn sie werden so abhängig von ihnen sein, dass ein Abschalten einem Selbstmord gleichkommen würde. Die Technologie wird schließlich eine annähernd vollständige Kontrolle über das menschliche Verhalten erlangen.

Wird der Widerstand der Öffentlichkeit die Einführung der technischen Kontrolle des menschlichen Verhaltens verhindern? Das würde er sicherlich, wenn man versuchen würde, eine solche Kontrolle auf einmal einzuführen. Aber da die technologische Kontrolle durch eine lange Abfolge von kleinen Fortschritten eingeführt wird, wird es keinen rationalen und effektiven öffentlichen Widerstand geben. [...]

Nehmen wir zunächst an, dass es den Informatikern gelingt, intelligente Maschinen zu entwickeln, die alles besser können als der Mensch. In diesem Fall wird vermutlich die gesamte Arbeit von riesigen, hoch organisierten Maschinensystemen erledigt werden, und es wird keine menschliche Anstrengung mehr nötig sein. Es sind zwei Fälle denkbar. Die Maschinen könnten die Erlaubnis erhalten, alle ihre eigenen Entscheidungen ohne menschliche Aufsicht zu treffen, oder aber die menschliche Kontrolle über die Maschinen könnte beibehalten werden.

enn den Maschinen erlaubt wird, alle Entscheidungen selbst zu treffen, önnen wir keine Vermutungen über die Ergebnisse anstellen, weil es nmöglich ist, zu erraten, wie sich solche Maschinen verhalten könnten. ir weisen nur darauf hin, dass das Schicksal der Menschheit der Gnade er Maschinen ausgeliefert wäre. Man könnte einwenden, dass die enschheit niemals so töricht sein würde, die gesamte Macht den aschinen zu überlassen. Aber wir behaupten weder, dass die Menschen den aschinen freiwillig die Macht überlassen würden, noch dass die aschinen absichtlich die Macht an sich reißen würden. Was wir andeuten, st, dass die Menschheit sich leicht in eine solche Abhängigkeit von den aschinen begeben könnte, dass sie praktisch keine andere Wahl hätte, ls alle Entscheidungen der Maschinen zu akzeptieren. In dem Maße, wie ie Gesellschaft und ihre Probleme immer komplexer und die Maschinen mmer intelligenter werden, werden die Menschen immer mehr ntscheidungen von Maschinen treffen lassen, einfach weil maschinelle ntscheidungen bessere Ergebnisse bringen als von Menschen getroffene. chließlich könnte ein Stadium erreicht werden, in dem die ntscheidungen, die notwendig sind, um das System am Laufen zu halten, o komplex sind, dass der Mensch nicht mehr in der Lage ist, sie auf ntelligente Weise zu treffen. In diesem Stadium werden die Maschinen ie tatsächliche Kontrolle haben. Die Menschen werden nicht in der Lage ein, die Maschinen einfach abzuschalten, denn sie werden so

ndererseits ist es möglich, dass die menschliche Kontrolle über die aschinen beibehalten wird. In diesem Fall hat der Durchschnittsmensch ielleicht die Kontrolle über bestimmte private Maschinen, wie sein Auto der seinen Personalcomputer, aber die Kontrolle über große aschinensysteme wird in den Händen einer winzigen Elite liegen - genau ie heute, aber mit zwei Unterschieden. Aufgrund verbesserter Techniken ird die Elite eine größere Kontrolle über die Massen haben; und da enschliche Arbeit nicht mehr notwendig sein wird, werden die Massen berflüssig sein, eine nutzlose Last für das System. Wenn die Elite ücksichtslos ist, kann sie einfach beschließen, die Masse der enschheit auszurotten. Wenn sie human ist, kann sie Propaganda oder ndere psychologische oder biologische Techniken einsetzen, um die eburtenrate zu senken, bis die Masse der Menschheit ausstirbt und die elt der Elite überlässt. Oder, wenn die Elite aus weichherzigen iberalen besteht, können sie beschließen, die Rolle des guten Hirten ür den Rest der Menschheit zu spielen. Sie werden dafür sorgen, dass edermanns körperliche Bedürfnisse befriedigt werden, dass alle Kinder nter psychologisch hygienischen Bedingungen aufwachsen, dass jeder ein esundes Hobby hat, um sich zu beschäftigen, und dass jeder, der nzufrieden wird, sich einer „Behandlung“ unterzieht, um sein „Problem“ u heilen. Natürlich wird das Leben so zwecklos sein, dass die Menschen iologisch oder psychologisch manipuliert werden müssen, um entweder ihr edürfnis nach dem Machtprozess zu beseitigen oder sie dazu zu bringen, hren Drang nach Macht in ein harmloses Hobby zu „sublimieren“.

Diese manipulierten Menschen mögen in einer solchen Gesellschaft glücklich sein, aber sie werden ganz sicher nicht frei sein. Sie werden auf den Status von Haustieren reduziert sein.

Im englischsprachigen Original:

The system HAS TO regulate human behavior closely in order to function. At work, people have to do what they are told to do, otherwise production would be thrown into chaos. Bureaucracies HAVE TO be run according to rigid rules. To allow any substantial personal discretion to lower-level bureaucrats would disrupt the system and lead to charges of unfairness due to differences in the way individual bureaucrats exercised their discretion. It is true that some restrictions on our freedom could be eliminated, but GENERALLY SPEAKING the regulation of our lives by large organizations is necessary for the functioning of industrial-technological society. The result is a sense of powerlessness on the part of the average person.

It is not possible to make a LASTING compromise between technology and freedom, because technology is by far the more powerful social force and continually encroaches on freedom through REPEATED compromises. Another reason why technology is such a powerful social force is that, within the context of a given society, technological progress marches in only one direction; it can never be reversed. Once a technical innovation has been introduced, people usually become dependent on it, unless it is replaced by some still more advanced innovation. Not only do people become dependent as individuals on a new item of technology, but, even modre, the system as a whole becomes dependent on it.

When a new item of technology is introduced as an option that an individual can accept or not as he chooses, it does not necessarily REMAIN optional. In many cases the new technology changes society in such a way that people eventually find themselves FORCED to use it. […]

But we are suggesting neither that the human race would voluntarily turn power over to the machines nor that the machines would willfully seize power. What we do suggest is that the human race might easily permit itself to drift into a position of such dependence on the machines that it would have no practical choice but to accept all of the machines decisions. As society and the problems that face it become more and more complex and machines become more and more intelligent, people will let machines make more of their decision for them, simply because machine-made decisions will bring better result than man-made ones. Eventually a stage may be reached at which the decisions necessary to keep the system running will be so complex that human beings will be incapable of making them intelligently. At that stage the machines will be in effective control. People won’t be able to just turn the machines off, because they will be so dependent on them that turning them off would amount to suicide. .. Technology will eventually acquire something approaching complete control over human behavior.

Will public resistance prevent the introduction of technological control of human behavior? It certainly would if an attempt were made to introduce such control all at once. But since technological control will be introduced through a long sequence of small advances, there will be no rational and effective public resistance. […]

First let us postulate that the computer scientists succeed in developing intelligent machines that can do all things better than human beings can do them. In that case presumably all work will be done by vast, highly organized systems of machines and no human effort will be necessary. Either of two cases might occur. The machines might be permitted to make all of their own decisions without human oversight, or else human control over the machines might be retained.

If the machines are permitted to make all their own decisions, we can’t make any conjectures as to the results, because it is impossible to guess how such machines might behave. We only point out that the fate of the human race would be at the mercy of the machines. It might be argued that the human race would never be foolish enough to hand over all the power to the machines. But we are suggesting neither that the human race would voluntarily turn power over to the machines nor that the machines would willfully seize power. What we do suggest is that the human race might easily permit itself to drift into a position of such dependence on the machines that it would have no practical choice but to accept all of the machines’ decisions. As society and the problems that face it become more and more complex and machines become more and more intelligent, people will let machines make more of their decisions for them, simply because machine-made decisions will bring better results than man-made ones. Eventually a stage may be reached at which the decisions necessary to keep the system running will be so complex that human beings will be incapable of making them intelligently. At that stage the machines will be in effective control. People won’t be able to just turn the machines off, because they will be so dependent on them that turning them off would amount to suicide.

On the other hand it is possible that human control over the machines may be retained. In that case the average man may have control over certain private machines of his own, such as his car or his personal computer, but control over large systems of machines will be in the hands of a tiny elite — just as it is today, but with two differences. Due to improved techniques the elite will have greater control over the masses; and because human work will no longer be necessary the masses will be superfluous, a useless burden on the system. If the elite is ruthless they may simply decide to exterminate the mass of humanity. If they are humane they may use propaganda or other psychological or biological techniques to reduce the birth rate until the mass of humanity becomes extinct, leaving the world to the elite. Or, if the elite consists of soft-hearted liberals, they may decide to play the role of good shepherds to the rest of the human race. They will see to it that everyone’s physical needs are satisfied, that all children are raised under psychologically hygienic conditions, that everyone has a wholesome hobby to keep him busy, and that anyone who may become dissatisfied undergoes “treatment” to cure his “problem.” Of course, life will be so purposeless that people will have to be biologically or psychologically engineered either to remove their need for the power process or make them “sublimate” their drive for power into some harmless hobby. These engineered human beings may be happy in such a society, but they will most certainly not be free. They will have been reduced to the status of domestic animals.