I really like this @wchr framing of the "our LLM refused to turn itself off! oh noes!!1!" planted stories.

Treat them as a broken Windows process interfering with shutdown, at best. The result of bad programming, bad training, and poor QA.

https://mastodon.social/@wchr/114585547811878865

...or a shell company refusing to pay taxes due to a tax haven loophole

Any potential harm from a failure like this is ultimately about how humans, organizations and society design, deploy and manage these systems.

A good example for bad AI propaganda and bad reporting.

That kind of anthropomorphization - implying agency ("revolt", "refuse to shut down when instructed", "sabotage the shutdown script") - is completely misguided and only contributes to the AI marketing hype.

It would be more adequate to report on it the way you'd report on:

- a Windows computer refusing to shut down because of a broken service/process
- a PLC-controlled assembly line refusing to stop because a certain condition isn't met

Hab Folien gemacht für meinen Input zum Thema "Von der kalifornischen Ideologie zum Tech-Faschismus" morgen 17h am Institut für europäische Ethnologie in 1010 Wien und das is mein Einstieg, und offen gesagt frag ich mich immer noch ein wenig, warum diese Leute aus Prag 2017 keinen SEK/SWAT-Besuch oder sowas bekommen haben.

...hat mich damals gut einen beachtlichen Schritt weiter weg von diversen cyberlibertären Freiheitsversprechen geführt.

https://www.volkskundemuseum.at/gespraechsreihe_2025-05-22

"Freiheit für die Wenigen: Anarchokapitalismus, Tech-Faschismus und der Aufstieg des libertären Autoritarismus in Lateinamerika und den USA"

Ich diskutiere übermorgen Donnerstag 22.5. ab 17h mit Tobias Boos in Wien über Milei, Thiel, Musk & Co.

...am Institut für Europäische Ethnologie, im Rahmen der Gesprächsreihe "Through the Dark" des Wiener Volkskundemuseums:
https://www.volkskundemuseum.at/gespraechsreihe_2025-05-22

Airlines Reporting Corp (ARC), eine öffentlich bislang weitgehend unbekannte Clearingstelle der Luftfahrtindustrie sammelt und verarbeitet Daten über zwölf Milliarden Passagierflüge pro Jahr und verkauft diese Informationen an die US-Regierung, etwa an die US-Einwanderungsbehörde ICE.

ARC ist im Besitz von neun Fluggesellschaften. Dazu zählen neben Delta, Southwest, United, American Airlines, Alaska Airlines, JetBlue und Air Canada auch Air France und Lufthansa:
https://www.heise.de/news/Big-Brother-in-der-Luft-Flugdaten-Riese-verkauft-Milliarden-Passagierprofile-10385176.html

Big news this evening
7 years in the making
The Court speaks
https://www.iccl.ie/digital-data/eu-ruling-tracking-based-advertising-by-google-microsoft-amazon-x-across-europe-has-no-legal-basis/

ARC's commercial data business alone already raises many questions regarding data protection in the EU and consumer privacy in many other regions.

They claim to provide businesses with "access to the industry’s most comprehensive database of global airline sales, including market and passenger itinerary data at the segment, O&D and ticket level", based on "airline sales transactions, reflecting both historical and advance travel purchases".
https://www2.arccorp.com/products-participation/products/direct-data-solutions/
https://www2.arccorp.com/about-us/our-data/arc-data-coverage/

"A company you’ve probably never heard of is selling copies of every airline ticket issued by a travel agency in the US to the US Department of Homeland Security (DHS) and a plethora of other Federal law enforcement and immigration agencies — and who knows who else"

In-depth analysis by @ehasbrouck:
https://papersplease.org/wp/2025/05/08/arc-sells-airline-ticket-records-to-ice-and-others/

Airlines Reporting Corporation (ARC), a firm owned by 9 airlines from US, Canada, Germany, France that acts as an aviation industry clearinghouse and processes data on 12 billion passenger flights per year ("54 percent of all flights taken globally"), is selling to ICE:
https://www.levernews.com/airlines-are-collecting-your-data-and-selling-it-to-ice/

Put differently, a firm co-owned by EU airlines like Lufthansa and Air France is selling massive personal data to US government agencies.

Article republished without paywall here:
https://jacobin.com/2025/05/airlines-data-ice-trump-immigration

Im Außendienst organisieren Firmen ihre Beschäftigten mit Apps. Die Software soll Abläufe optimieren, Touren verkürzen und die Produktivität steigern – auf Kosten von Privatsphäre und Betriebsklima. Eine Studie hat die Apps nun untersucht.

https://netzpolitik.org/2025/studie-druck-und-ueberwachung-per-arbeits-app/

@Yonggan Immerhin führt das dazu, dass z.B. Microsoft die *voreingebauten* Berichtsfunktionen überall in der Welt anbietet, nur nicht in Deutschland ;) ...Österreich ist wohl ein zu kleiner Markt für eine Ausnahme.
https://mastodon.social/@wchr/114426122706815175

@Yonggan In Österreich kommt es auf die "Kontrollintensität" an. Wenn sie laut vergangenen Fällen aus der Rechtsprechung die Menschenwürde "berührt", ist für eine Kontrollmaßnahme die Zustimmung des Betriebsrats bzw. eine Betriebsvereinbarung erforderlich. Wenn sie die Menschenwürde der Beschäftigten verletzt, ist sie unzulässig. Siehe Kapitel 4.3. in meiner Studie. Denke, das ist in Deutschland ähnlich.

Finds aber gut, im Betrieb mal davon auszugehen, dass Leistungskontrolle gar nicht geht.

Die Schritte 3 und 4 fokussieren auf die österreichische Rechtslage. Vieles davon ist aber m.E. auf Deutschland übertragbar, wo anstatt des österreichischen Arbeitsverfassungsgesetzes das dt. Betriebsverfassungsgesetz gilt.

Microsoft bietet die voreingebauten Berichtsfunktionen, die Verhaltens- und Leistungskennzahlen für einzelne Beschäftigte darstellen können, übrigens fast überall in der Welt an, aber nicht in Deutschland. Betriebe können aber natürlich Power BI oder die Graph API nutzen.

Meine neue Studie is raus, yay.

"Algorithmisches Management via Smartphone. Digitale Steuerung und Kontrolle von Beschäftigten im Außendienst – von technischer Wartung bis mobile Pflege"

Ich untersuche Software von Microsoft, SAP & Co, den konkreten Einsatz in Österreich und anderen Ländern, Auswirkungen, Handlungsoptionen.

Eine Studie von Cracked Labs im Auftrag der AK Wien, April 2025, 91 Seiten.

Download AK-Website:
https://wien.arbeiterkammer.at/interessenvertretung/arbeitdigital/DataPolitics/Studie-Algorithmisches-Management-via-Smartphone.html

Kurzfassung & Download:
https://crackedlabs.org/mobilearbeit

4) Abschließend skizziere ich überbetriebliche Handlungsoptionen für Gewerkschaften, Politik, Forschung und andere Akteur:innen, die sich aus der Untersuchung ergeben, u.a.

- Mehr Unterstützung für Betriebsrät:innen
- Durchsetzung Arbeits- und Datenschutzrecht
- Behebung rechtlicher Lücken
- Ausgestaltung KI-Verordnung
- Verantwortlichkeit von Softwareanbietern
- Prototypische "beschäftigtenfreundliche" Algorithmen

Generell? Keine Mitbestimmung ohne starke Betriebsrät:innen und Gewerkschaften.

Nicht zuletzt hab ich im Rahmen der Studie eine erste Version einer Systematik "Formen der Leistungskontrolle" entwickelt, abgeleitet aus der eigenen Forschung der letzten Jahre und Literatur zu Überwachung am Arbeitsplatz und “Electronic Performance Monitoring“.

Darüber hinaus diskutiere ich die Rolle von Datafizierung/Quantifizierung bei der gezielten Förderung innerbetrieblicher Konkurrenz und anderen Mechanismen der „indirekten“ Steuerung wie Peer Control und leistungsbezogene Entlohnung.

b) Bei rechtlicher Einordnung und Handlungsoptionen für Betriebsrät:innen geht es einerseits um Beschäftigtendatenschutz von DSGVO bis Arbeitsverfassung.

Gerade bei Steuerung via App und algorithmischer Einsatzplanung können auch Regelungen zur Arbeitssicherheit- und gesundheit, Arbeitsplatzevaluierung und Software-Ergonomie als Hebel dienen.

Bei der Verhandlung von Arbeitsorganisation via App kann außerdem auf altes gewerkschaftliches Wissen aus der Industriearbeit zurückgegriffen werden.

3) In einem dritten Schritt hab ich a) Auswirkungen auf Beschäftigte entlang wesentlicher Themenfelder systematisiert und b) Handlungsoptionen für Betriebsrät:innen herausgearbeitet - mit Hilfe von Literatur und Interviews mit Expert:innen aus der gewerkschaftlichen Beratungspraxis.

a) Die Analyse zeigt, dass Datenerfassung und algorithmische Kontrolle in fast jeder Hinsicht den Arbeitsalltag der Beschäftigten, ihre Arbeitsbedingungen und die Machtverhältnisse am Arbeitsplatz prägen können.

2) Zweitens hab Interviews mit Betriebsrät:innen gemacht und Feldforschung aus Österreich, Deutschland, Norwegen und anderen Ländern ausgewertet.

Die Fallbeispiele aus technischer Anlagenwartung, Gebäudetechnik, mobiler Heimkrankenpflege und anderen Bereichen zeigen, wie Außendienst-Technologien in konkreten Betrieben eingesetzt werden und welche Risiken und Nebenwirkungen sich daraus für Beschäftigten ergeben - von Überwachung bis Stress durch Arbeitsintensivierung und Dysfunktionalität.