(Löhne /Deutschland) Ich erinnere mich als wäre es gestern gewesen!
In der Schule, in den 80igern, hatte ich das erste Mal Berührung mit einem Computer, einem Apple IIe, den ein begeisterter Lehrer, Herr Klapper, selber zusammengebaut hatte und in einem selbst gebauten PlexiglasGehäuse integrierte.
HELLO WORLD…
Mit meinem eigenen Commodore VC-20, ein C-64 war jenseits meiner finanziellen Möglichkeiten, wurde ich endgültig infiziert. Diese ComputerInfektion dauert bereits mehr als 40 Jahre an. Und ich wurde nicht geheilt. Sehr gut.
In dem ComputerMagazin (64`er) gab es dann dieses ELIZA Skript….. Wooooow
Mehr Informationen zu Weizenbaum und ELIZA
Joseph Weizenbaum war ein Pionier der Informatik am MIT und schuf mit ELIZA (1966) eines der ersten Programme zur natürlichen Sprachverarbeitung. Das „Erlebnis“, das oft im Zusammenhang mit seinem Namen zitiert wird, bezieht sich auf seine schockierende Erkenntnis darüber, wie bereitwillig Menschen Computern menschliche Eigenschaften zuschreiben.
Hier sind die Details zu diesem Wendepunkt der KI-Geschichte:
1. Was war ELIZA?
ELIZA war im Grunde ein sehr einfaches Computerprogramm, das auf Mustererkennung basierte. Die bekannteste Variante war das Skript DOCTOR, das einen Gesprächstherapeuten nach der Methode von Carl Rogers simulierte.
- Die Mechanik: Das Programm nahm die Eingabe des Nutzers und spiegelte sie als Frage zurück.
- Nutzer: „Ich habe Probleme mit meiner Mutter.“
- ELIZA: „Erzählen Sie mir mehr über Ihre Familie.“ oder „Inwiefern haben Sie Probleme mit Ihrer Mutter?“
- Kein Verständnis: ELIZA besaß keinerlei echtes Verständnis für den Inhalt oder den Kontext des Gesprächs. Es war eine rein syntaktische Spielerei.
2. Der „ELIZA-Effekt“
Weizenbaum war schockiert über die Reaktion seiner Mitmenschen. Er beobachtete drei Phänomene, die heute als ELIZA-Effekt bekannt sind:
- Vermenschlichung (Anthropomorphismus): Nutzer bauten extrem schnell eine emotionale Bindung zu dem Programm auf, obwohl sie wussten, dass es nur Code war.
- Intimität: Weizenbaums Sekretärin bat ihn sogar, den Raum zu verlassen, damit sie ELIZA private Details anvertrauen konnte.
- Glaube an Empathie: Menschen glaubten, die Maschine würde sie „verstehen“ oder ihre Probleme wirklich ernst nehmen.
3. Weizenbaums Sinneswandel
Dieses Erlebnis machte Weizenbaum von einem KI-Pionier zu einem der schärfsten Kritiker der Branche. Er zog daraus fundamentale Schlüsse für die Ethik und Technik:
- Kritik an der KI-Euphorie: Er warnte davor, menschliche Urteilskraft durch Algorithmen zu ersetzen. Für ihn war die Idee, eine Maschine könne menschliches Mitgefühl oder Weisheit ersetzen, gefährlicher Unsinn.
- Grenzen der Technik: In seinem Hauptwerk „Die Macht der Computer und die Ohnmacht der Vernunft“ (1976) argumentierte er, dass es Aufgaben gibt, die Computer zwar tun können, die man ihnen aber niemals überlassen sollte.
- Hier
https://archive.org/details/computerpowerhum0000weiz_v0i3/page/n4/mode/1up
- Energiegebrauch und Effizienz: Weizenbaum interessierte sich später auch für die gesellschaftlichen Auswirkungen von Technologie. Im Kontext heutiger KI-Modelle würde er vermutlich kritisch auf den massiven Energiegebrauch hinweisen, der für die Simulation von Pseudo-Intelligenz aufgewendet wird, nur um einen Effekt zu erzielen, den er schon 1966 mit ein paar Zeilen Code erreichte.
Zusammenfassung
Das „ELIZA-Erlebnis“ war für Weizenbaum der Beweis, dass der Mensch dazu neigt, sich selbst zu täuschen, sobald eine Maschine eine halbwegs glaubwürdige Fassade bietet. Er sah darin eine Warnung: Wir dürfen die Fähigkeit zur Informationsverarbeitung nicht mit der Fähigkeit zum Verstehen verwechseln.
