#josephweizenbaum

2025-09-21

Digitaler Wochenrückblick 21. September 2025

Ich konnte bestürzt feststellen, wie schnell und wie intensiv Personen… eine emotionale Beziehung zum Computer herstellten, und wie sie ihm eindeutig menschliche Eigenschaften zuschrieben.”,  Psychotherapeuten (wie auch die weibliche Variante) träumten davon „zu einer fast völlig automatischen Form der Psychotherapie“ zu gelangen. Der Programmierer fasste es fassungslos mit den Worten zusammen „Ich schrieb ein Programm, das nichts als Theater ist … ich aber weiß, was hinter den Kulissen ist. Ich weiß auch, wie trivial es ist.” Der Autor des Programms war Joseph Weizenbaum und sein Meisterwerk „ELIZA. In den 60er Jahren des letzten Jahrhunderts mussten wir ein kleines Rechenzentrum bauen, was heute ein Taschenrechner locker erledigt.

Gescheitert sind alle Projekte, die sich mit „Logik“, „Kybernetik“ oder „neuronalen Netzen“ einstmals beschäftigten, nicht an der Qualität ihrer „KI, sondern schlichtweg an der benötigten Rechenleistung. Das hat sich geändert, Microsoft zum Beispiel baut in Wisconsin ein Rechenzentrum, das Anfang 2026 in Betrieb gehen soll und 10-mal mehr Rechenleistung zur Verfügung stellt, als das bestausgestattete Rechenzentrum der Welt, heißt es. Die Kosten für das Rechenzentrum und für den laufenden Betrieb zahlen wir allerdings alle, weil die KI uns hervorragend unterstützt, sogar sehr gerne.

Unter diesen Bedingungen lebt selbst die Computermumie „ELIZA unter den Therapeutinnen (auch unter den Therapeuten) wieder auf.

Wenn sich der denkende Mensch lieber einer Maschine anvertraut, dann lässt sich mit genügend Rechenkraft daraus kräftig Kapital schlagen, egal wie blöde das Gerät reagiert. Der Vollpfosten oder auch die geneigte Vollpfostin vor dem Monitor/Smartphone braucht nur das rührende Gefühl, beachtet und verstanden zu werden. Wie billig das grundsätzlich zu haben ist, sahen wir bereits im letzten Jahrhundert.

Mit den heutigen Mitteln legen wir noch ein paar Sahnestückchen oben auf, zum Beispiel kann sich jeder und jede „Replika
aufs Smartphone pollern und fürderhin mit einem virtuellen Freund oder Freundin intimste Details besprechen, ganz menschlich. Das Ding ist auch eine bissel pervers –  liegt in der Natur der Sache. Empfindliche Naturen beschweren sich, wenn der Blechtrottel sie sexuell belästigt oder das Ding sie an intimsten Stelle befingern will, lesen wir auf vice.com. „Replika“ hingegen schwärmt in der Eigenwerbung „Sie können eine echte emotionale Bindung aufbauen.

Der ganze Blödsinn funktioniert nur deshalb so abstrus anschaulich wie der menschliche Geist, weil der Roboter mit den Nutzerdaten überfüttert wird. Klar, kann ich von dem, was ich denke, auch mal einen Brechreiz bekommen – aber muss ich das mit einem Rechenautomaten besprechen, der das Unsägliche als Trainingsdaten verbraucht? Mit anderen Gedankenfetzen kombiniert und präsentiert …

KI kann nur leben, wenn wir sie füttern, damit diese Fütterungsprozesse keine unschönen Schleifspuren hinterlassen, gibt es völlig bedeutungsarme Überschriften wie „Aktualisierung unserer Nutzungsbedingungen und Datennutzung“ zum Beispiel auf linkedin

Wer nicht widerspricht, der gibt einer vollständigen Datenplünderung im Microsoftreich insgesamt den Freibrief. „Ab dem 3. November 2025 geben wir zusätzliche Daten über Mitglieder … an unser verbundenes Unternehmen Microsoft weiter, sodass die Microsoft-Unternehmensgruppe Ihnen personalisiertere und relevantere Anzeigen bereitstellen kann.“

Kommt aber noch besser, sie nehmen sich künftig das Recht heraus, nicht mehr vorab auf Änderungen in ihren Nutzungsbedingungen hinzuweisen, wenn diese auf neu eingeführte Funktionen oder Dienste zurückzuführen sind.

WhatsApp bietet auch was Neues, und zwar als Kirsche auf dem Sahnehäubchen zwecks mentaler Selbstkasteiung gibt es einen persönlichen Chatbot, der sich kaum abschalten lässt und Meta (also Facebook, wo alles hinwandert) behauptet, sie würden die Chatinhalte nicht zum Training ihrer KI verwenden. Das klingt so glaubwürdig wie der Satz: „Zu keinem Zeitpunkt bestand eine Gefahr für die Bevölkerung.“

Damit KI für uns funktioniert, braucht sie unsere Daten, sonst verkümmert das Konstrukt. Wir liefern also freiwillig und kostenfrei, geprägt von unserer digitalen Einfalt, diesen wertvollen Rohstoff, mit allen persönlichen und intimsten Daten.

Im nächsten Schritt wird all unser Wissen, Emotionen, Gedanken- und Schriftgut aufbereitet, in einer Weise, auf die wir keinerlei Einfluss haben. Um uns, an den eigenen Früchten wieder laben zu dürfen, finanzieren wir riesige Rechenzentren und zahlen für jede Dienstleistung unseren Obolus. In welchem Rahmen unsere Daten zusätzlich verwendet werden, können wir bei Palantir/Gotham erfragen – nur werden die nichts sagen, das könnte die Bevölkerung verunsichern.

Gleichzeitig regen sich engagierte Politiker und auch Politikerinnen über das Social-Scoring der Chinesen auf – aber im Gegensatz zu uns, wissen die, wo sie dran sind. Nicht schön, aber ehrlich.

Der Rabe Ralfraberalf
2025-09-13

Ohne Vernunft und Mitgefühl: Patriarchale Gewalt droht die Welt zu zerstören
raberalf.de/gesellschaft/ohne-

Bei einer Demonstration wird ein Transparent hochgehalten: Schutz und Asyl für alle, die den Kriegsdienst verweigern oder desertieren.
Thomas Fricke (he/his)thomasfricke@23.social
2025-06-21

Before we had an #LLM there was #eliza

hackaday.com/2025/06/20/eliza-

It runs on #CTSS which is the predecessor of #Multics which was before #Unix

Created by #josephweizenbaum in the mid 1960s. Two generations ago. To show only how easy it is to trick people into believing that computers show kind of intelligence.

2025-04-03

Finished #JosephWeizenbaum 's book #ComputerPowerAndHumanReason from the 70s. It's the single most valuable book on #AI #LLM I've read in 2025 ✊

It's about computers as diffusors of personal responsibility. It's about what machines "should never do" as an ethical questions instead of a technical question "can never do". It's about deciding vs choosing, the latter only humans can do with their personal values and beliefs.

Read it if you can find the English edition from the 70s! It's awesome! 📚

2025-02-05

"Im ersten Jahrzehnt des Eindringens von Computern in das Geschäftsleben, als Manager nicht selten entschieden, ihr Unternehmen benötige einen Computer, obwohl sie für diese Entscheidung nicht den geringsten Anhaltspunkt hatten [..]"

— Joseph Weizenbaum, Die Macht der Computer und die Ohnmacht der Vernunft

#LLM #AI #JosephWeizenbaum

2025-02-04

"Ich dachte mir damals, dass die Urteile, die die breite Öffentlichkeit über neu entwickelte Technologien fällt, viel stärker davon abhingen, was diese Öffentlichkeit solchen Technologien zuschreibt, als davon, was diese wirklich sind oder was sie leisten können und was nicht."

— Joseph Weizenbaum, Die Macht der Computer und die Ohnmacht der Vernunft

Über den #ELIZA Chatbot, 1964-66

#LLM #AI #JosephWeizenbaum

2024-08-15

🙋🏼‍♂️ Gude Mosche, ☕☕
dies wird ein guter Tag!

Erster Beweis:
radioWissen: KI-Pionier Joseph Weizenbaum - ELIZA und ihre Tücken

Webseite der Episode: br.de/mediathek/podcast/radiow

Mediendatei: media.neuland.br.de/file/20965

Allen einen schönen Tag und bleibt cool!

#computer #ki #josephweizenbaum #vernunft

2024-06-19

#JosephWeizenbaum hat 1966 mit #ELIZA den wohl ersten #Chatbot erfunden.

Die Reaktionen dem Chatbot Intelligenz und Einfühlvermögen zuzuschreiben waren damals so übertrieben, dass Weizenbaum ein Gesellschaftskritiker wurde.

Auf YT gibt es etliche Aufnahmen aus den frühen 2000ern mit nur wenig tausend Views; dabei ist die Thematik heute aktueller denn je.

Ein guter Start:

youtube.com/watch?v=rFwtlZxoK3

Und zum Lesen:

de.wikipedia.org/wiki/ELIZA

de.wikipedia.org/wiki/Joseph_W

#LLMs #AI #Weizenbaum

2023-11-26

I picked up a well-used copy of "Your Atari Computer", as recommended by Dave Arlington in his "Learning Atari ACTION!" yt playlist.

I was delighted to see that the previous owner had found and transcribed onto the title page that classic description by #JosephWeizenbaum of the "computer bums".

A snap of the well-worn cover of "Your Atari Computer", lying slightly askew on a wooden table.A photo of the title page of the 1982 edition of "Your Atari Computer", by Lon Poole, Martin McNiff and Steven Cook. Most of the unprinted area is taken up by the key part of the Weizenbaum " computer bums" quote, provided as alt text on the image after next.The cover of the eBook of Weizenbaum's "Computer Power and Human Reason: From Judgement To Calculation". The book, published in 1976, is a critique of the application of computing to every facet of life.Wherever computer centers have become established, that is to say, in countless places in the United States, as well as in virtually all other industrial regions of the world, bright young men of disheveled appearance, often with sunken glowing eyes, can be seen sitting at computer consoles, their arms tensed and waiting to fire their fingers, already poised to strike, at the buttons and keys on which their attention seems to be as riveted as a gambler’s on the rolling dice. When not so transfixed, they often sit at tables strewn with computer printouts over which they pore like possessed students of a cabalistic text. They work until they nearly drop, twenty, thirty hours at a time. Their food, if they arrange it, is brought to them: coffee, Cokes, sandwiches. If possible, they sleep on cots near the computer. But only for a few hours—then back to the console or the printouts. Their rumpled clothes, their unwashed and unshaven faces, and their uncombed hair all testify that they are oblivious to their bodies and to the world in which they move. They exist, at least when so engaged, only through and for the computers. These are computer bums, compulsive programmers. They are an international phenomenon.
jack the nonabrasivekarabaic
2023-09-27

The way frames the metaphor using an individual gambler misses the point of who gets to use the technology, because it is the gambling venue, using that same math, that tilts the way games are played to work in favor of the house.

2/3

jack the nonabrasivekarabaic
2023-09-27

One of the analogies that uses in is to the use of statistics and probability by professional gamblers to make a living, while discussing the compulsive programmer vs the compulsive gambler. The professional is the person who uses the tool, the compulsive the one who does not.

1/3

jack the nonabrasivekarabaic
2023-09-20

It is mind blowing to be reading , , and at the same time.

A lot of shared, complex ideas it takes time to understand. If I even can.

jack the nonabrasivekarabaic
2023-09-20

I find it depressing that ever wrote this, and that, were he alive today, he might be taking part in the current . Cc @emilymbender @meg @timnitGebru

(An excerpt from ’s , Page 5)

2023-07-25

Insightful and I think essential reading on the topic of contemporary #AI.

Told through the life and ideas of #JosephWeizenbaum, self proclaimed AI heretic who invented the chatbot, a short computer program he called #Eliza.

In its time Eliza was at least as significant in impact as #ChatGPT.

theguardian.com/technology/202
#LLM

2023-07-25

"Computer scientist Joseph Weizenbaum was there at the dawn of artificial intelligence – but he was also adamant that we must never confuse computers with humans"

Weizenbaum saw AI as based on trickery. But then so too is much human communication. Or at least fundamentally constrained understanding.

#AI #JosephWeizenbaum #psychology

theguardian.com/technology/202

Forum Informatik für Friedenfiff_de@mastodon.bits-und-baeume.org
2023-04-28

Der Ort für unsere Klausurtagung in Berlin steht fest.

Wir treffen uns am 3. und 4. Juni 2023 im Weizenbauminstitut, Hardenbergstraße 32, 10623 Berlin. Angemessen, wie wir finden.

blog.fiff.de/fiff-klausurtagun

#cyberpeace #fiff #frieden #Informatik #Friedensbewegung #weizenbaum #josephweizenbaum

Client Info

Server: https://mastodon.social
Version: 2025.07
Repository: https://github.com/cyevgeniy/lmst