🤖 Algoritmes bepalen steeds meer beslissingen in ons leven - van leningen tot sollicitatiekansen.

De AP houdt toezicht op AI die persoonsgegevens verwerkt. U heeft recht op transparantie en een menselijke blik bij belangrijke beslissingen.

Meer info: https://autoriteitpersoonsgegevens.nl/themas/algoritmes-ai

#Algoritmes #AI #Privacy #AVG

Ze is dood. En jullie algoritme boeit het niks.
Mijn vrouw, Michelle, is er niet meer. Toch spammen jullie elk jaar voor Moederdag. Parfum, hartjes, “verras haar!” We hebben alles opgezegd, jullie weten het. En toch blijven jullie zenden.
Meer dan 6.000 kinderen verliezen jaarlijks een ouder. Waarom geen ‘rouwstand’ in jullie systemen? Rouw verdient respect, geen reclame. Tijd voor een ethiek-update.
#rouw #moederdag #marketing #empathie #verlies #algoritmes #menselijkheid

@bitsoffreedom #alcohol 18 jaar, #drugs verboden, #gokken legaal, verslavende #algoritmes legaal.

@kimvsparrentak Wetenschappelijk is vastgesteld dat “sociale” media net zo verslavend werken als drugs. We hebben een alcoholverbod tot 18 jaar. Goksites mogen gewoon overal en altijd reclame maken (youtube) Als vaststaat dat een #algoritme #verslaving in de hand werkt moet dat gewoon verboden worden. Sommige politici hebben een grote mond over #cocaine en #xtc maar #tabak #alcohol #gokken en dit soort #algoritmes vindt men prima! Gezondheid alleen belangrijk als het hun uitkomt

Wat je moet weten over AI-geletterdheid

Sinds 2 februari 2025 verplicht de AI-verordening (overheids)organisaties werk te maken van AI-geletterdheid. Een belangrijke voorwaarde voor de verantwoorde inzet van AI is een toereikend kennisniveau bij medewerkers die met AI te maken krijgen. Maar wat houdt AI-geletterdheid precies in? En welke stappen kun je als organisatie nemen met het oog op deze verplichting?

Wat houdt AI-geletterdheid in?

AI-geletterdheid is een verzamelnaam voor kennis en kunde op het vlak van Artificiële Intelligentie (AI). Denk bijvoorbeeld aan dat je weet hoe deze technologie (op basaal niveau) werkt, waar de kansen liggen en welke risico’s er aan verbonden zijn. Hierbij gaat het dus niet alleen om technische kennis, maar ook om sociale, ethische en praktische aspecten. Als aanbieder of gebruiksverantwoordelijke van AI-systemen wordt in de AI-verordening (artikel 4) beschreven dat organisaties een toereikend niveau van AI-geletterdheid waarborgen.

AI geletterdheid: het gaat niet alleen om technische kennis, maar ook om sociale, ethische, en praktische aspecten.

Wat betekent AI-geletterdheid voor jouw organisatie?

Organisaties moeten een toereikend niveau van AI-geletterdheid bevorderen. Het gewenste niveau van AI-geletterdheid is sterk afhankelijk van de context waarbinnen de AI-toepassing wordt ingezet. Bijvoorbeeld in welke sector of bij het soort werkzaamheden. Denk aan ontwikkelaars die AI-modellen bouwen of aan het managementteam dat hier sturing aan geeft. Het doel is dat alle relevante personen binnen organisaties geïnformeerde keuzes met betrekking tot AI-systemen kunnen maken. Organisaties moeten inventariseren welke AI-systemen men gebruikt binnen de organisatie en welke kennis er al is. Op basis van deze inventarisatie kunnen organisaties het volgende doen:

• Zorg dat medewerkers die AI-systemen ontwikkelen of inkopen genoeg kennis hebben van hoe zo’n systeem werkt en welke risico’s het kan opleveren;
• Zorg dat medewerkers die verantwoordelijkheid dragen voor het gebruik van bepaalde AI-systemen weten hoe en waarvoor ze het moeten gebruiken, en welke risico’s daarbij horen;
• Alle medewerkers die met AI-systemen werken of erbij betrokken zijn, moeten algemene kennis hebben over AI en algoritmes. Ook is het belangrijk om de ethische en sociale aspecten uit te leggen, zoals risico’s en kansen. Zo kun je verantwoord gebruik van AI-systemen bevorderen.

Direct aan de slag

Om werk te maken van AI-geletterdheid zijn er verschillende materialen beschikbaar. Uiteenlopend van handreikingen, instructies, lezingen, interactieve sessies, e-learnings, cursussen en workshops met oefeningen tot het delen van kennis met andere organisaties. Denk aan:

• De Nationale AI en Ethiek Cursus. Deze online cursus biedt medewerkers een basis om mee te praten over verantwoord omgaan met AI.
• De Nationale AI-cursus. Hierin wordt AI op een begrijpelijke manier uitgelegd.
• Het RADIO Leerplatform. Dit overheidsleerplatform biedt, in opdracht van CIO Rijk, overheidsmedewerkers verschillende modules aan, bijvoorbeeld deze e-learning over non-discriminatie.

Hoe kun je AI-geletterdheid onderdeel maken van jouw werkprocessen?

Naast het opbouwen van kennis kan je AI-geletterdheid bevorderen door:

• Te wijzen op de verplichting uit de AI-verordening voor AI-geletterdheid. Dit kan een goede manier zijn om het belang van AI-geletterdheid onder de aandacht te brengen van je organisatie.
• AI-geletterdheid als standaard opnemen in inkoopvoorwaarden. Bijvoorbeeld door een verplichte gebruiksaanwijzing op te nemen in de inkoopvoorwaarden. Zo zorg je ervoor dat alle AI-systemen die je als organisatie inkoopt op een verantwoorde manier door werknemers gebruikt kunnen worden.

Goede voorbeelden

Vanuit de Europese Commissie is een document gepubliceerd met voorbeelden van werkwijzen om AI-geletterdheid binnen organisaties te bevorderen. Daarnaast komen er eind 2025 richtlijnen die organisaties kunnen helpen bij het verhogen van AI-geletterdheid. Het staat organisaties vrij om deze gedragscodes toe te passen of zelf op te stellen. Vanaf 2028 gaat de Europese Commissie evaluaties uitvoeren om de effectiviteit van de gedragscodes te onderzoeken.

Binnen de overheid zijn er ook organisaties die aan de slag zijn met het bevorderen van AI-geletterdheid:

• AI Kompas Waterschappen: de Unie van Waterschappen heeft een AI-kompas ontwikkeld. Dit is een bestuurlijk kader dat moet helpen bij het maken van de juiste afwegingen bij het toepassen van kunstmatige intelligentie.
• Interprovinciale Gids Digitale Ethiek: deze gids is opgesteld door het Interprovinciaal Overleg (IPO) en bevat informatie over waardengedreven inzet van technologie. De gids bevat handvatten, voorbeelden en tips om zo digitale technieken op een verantwoorde manier in te zetten.
• Amsterdamse visie op AI en Agenda Digitale Stad: de gemeente Amsterdam heeft samen met haar inwoners een visie en agenda ontwikkeld om AI op een verantwoorde manier in te zetten binnen de gemeente. Hierbij ligt de focus op de effectieve inzet van AI en het stimuleren van digivaardigheden.

Advies

Deze voorbeelden dienen als inspiratie. Ze laten zien dat AI-geletterdheid afhankelijk is van de context van je organisatie en dat het verschillende vormen kan aannemen. Daarnaast heeft de Directie Coördinatie Algoritmes (DCA) bij de Autoriteit Persoonsgegevens (AP) een advies uitgebracht om organisaties op weg te helpen met het opbouwen van AI-geletterdheid. Nu het aantal AI-systemen binnen de overheid sterk toeneemt, wordt AI-geletterdheid belangrijker. Het opbouwen van kennis door je organisatie biedt een bepaalde bescherming aan medewerkers en stimuleert tegelijkertijd de verantwoorde inzet van AI.

Dit is een automatisch geplaatst bericht. Vragen of opmerkingen kun je richten aan @DigitaleOverheid@social.overheid.nl

#AI #AIVerordening #algoritmes #nieuwsbrief42025

Algorithms are reshaping education, but at what cost to creativity, freedom, and ownership? #makesocialsocialagain #algoritmes #education https://medium.com/education-we-write/the-power-of-algorithms-in-education-opportunity-or-loss-of-control-a9b2a59157ef

Què collons és DeepSeek i per què tothom perd el cul amb això?

Què collons és DeepSeek i per què tothom perd el cul amb això?

El món de les IA és un món molt petit, bàsicament es compon de peixos molt grossos que fan coses molt bèsties gastant molts diners, posant molta gent a desenvolupar sistemes en màquines caríssimes que gasten una burrada d’electricitat, si bé és cert que hi ha una comunitat d’usuaris que experimenten i desenvolupen pel seu compte petits models (o no tan petits) que poden entrenar i fer córrer en ordinadors domèstics, però el pes realment està en les grans empreses. De sobte ha aparegut un projecte que ha agafat amb les calces baixades a tots aquests leviatans, un projecte xines, fundat per Liang Wenfeng, un gestor de fons de cobertura de 40 anys, DeepSeek va néixer com una unitat de recerca en IA dins de la seva firma High-Flyer, valorada en 8.000 milions de dòlars.

El concepte que ofereix Wenfeng és clar: crear una IA potent, accessible i, sobretot, econòmica. Mentre els gegants tecnològics inverteixen fortunes en desenvolupaments costosos, DeepSeek opta per un enfocament “low-cost”. Amb un pressupost de menys de 6 milions de dòlars en potència de computació, han entrenat el seu model DeepSeek-V3 utilitzant xips Nvidia H800, menys avançats, amb la meitat de potència dels actuals H100 i amb la meitat de consum elèctric. A més que és un dels pocs xips que es venen directament al mercat xinès.

Aquest enfocament minimalista no només ha reduït els costos, sinó que també ha demostrat que es podia aconseguir un rendiment comparable als millors models occidentals, com el ChatGPT d’OpenAI, però a una fracció del preu i amb un consum energètic molt inferior.

Però, què fa que DeepSeek sigui realment diferent? És simplement un chatGPT del xino? A més de la seva eficiència, han decidit fer el seu model DeepSeek-R1 de codi obert, cosa que permet que la comunitat global accedeixi, modifiqui i millori la tecnologia i el més interessant de tot, és que qualsevol que tingui un ordinador domèstic i ganes de perdre una estoneta, pot fer-ho córrer en local, a casa seva, sense que les dades surtin del seu ordinador, però per desgràcia no és tan potent ni còmode com entrar a la web de DeepSeek.

Aquesta combinació de rendiment, accessibilitat i transparència ha fet que DeepSeek es converteixi ràpidament en una alternativa atractiva per a empreses i desenvolupadors que busquen solucions d’IA eficients sense arruïnar-se. I tot això, sorgit d’una empresa que va començar amb recursos limitats però amb una visió clara i una determinació ferotge per desafiar l’statu quo.

Ara bé, no tot són flors i violes. DeepSeek pot ser codi obert, però els seus servidors són a la Xina i això vol dir que es regeixen per les lleis xineses. I si una cosa és segura, és que el govern xinès no és gaire fanàtic de la privacitat individual. Tot el que passa pels seus sistemes pot ser monitoritzat, analitzat o, com a mínim, accessible si algú de dalt decideix que li interessa. En aquest sentit, no és que sigui molt diferent de confiar en els serveis d’una corporació americana, amb els servidors pintats amb barres i estrelles i una gran placa que posi “MADE IN USA”, on Musk pot estar prenent notes entre bastidors. Però si algú es pensa que està parlant amb una IA lliure i independent, potser hauria de tornar a mirar-se la lletra petita.

Per entendre per què DeepSeek ha fet trontollar el mercat, primer cal entendre com funcionava el taulell de joc fins ara. L’IA no és només una qüestió de software. És una indústria sencera construïda sobre una xarxa d’interdependències on cada actor depèn dels altres per existir. D’una banda, tens els fabricants de hardware: Nvidia, que ha estat imprimint diners amb cada nova generació de xips acceleradors; AMD, intentant seguir-li el ritme; i Intel, que cada cop sembla més un boxejador vell intentant aguantar dret al ring. Després tens els desenvolupadors de models, amb OpenAI i Anthropic al capdavant, mentre Microsoft i Google intenten comprar-se un seient a la taula a cop de talonari. Però això només és la superfície. Per sota hi ha les infraestructures energètiques, perquè aquestes màquines devoren electricitat com si s’hagués d’acabar el món (de fet si segueixen a aquest ritme potser s’acaba), i per tant, les empreses d’energia, les de refrigeració i els proveïdors de servidors cloud també estan en aquest joc.

El problema és que aquest sistema s’ha anat construint com una piràmide humana absurda, on tothom ha anat pujant sobre els altres, i els de baix han fet el mateix fins que, al final, ningú no toca de peus a terra. Els diners han anat entrant en forma de rondes d’inversió cada cop més grosses, promeses cada cop més exagerades i una fe cega en què la IA serà “la pròxima revolució industrial”. I aquí és on entra la broligarguia: aquest club privat de megamultimilionaris que, d’una manera o altra, sempre acaben remenant les cireres. Elon Musk, per exemple, va decidir muntar la seva pròpia IA, xatejar-la amb el seu ego i de passada intentar destrossar OpenAI, la seva ex, en directe i sense filtres. Mentrestant, Sam Altman, CEO d’OpenAI, ha estat anant de bracet amb Microsoft i altres inversors per assegurar-se que els diners no deixin de rajar, fins al punt que el govern americà ja ha deixat clar que pensa invertir bilions en IA a través d’aquests mateixos actors. I Trump? Ell, encantat de prometre que els Estats Units dominaran aquest sector com ho fan amb les armes, perquè si una cosa sap fer la indústria americana, és convertir qualsevol cosa en un oligopoli i després acusar la competència de ser un perill per la democràcia.

Tot això ha fet que el mercat es converteixi en una bombolla especulativa on els actors no només guanyen diners perquè venen tecnologia, sinó perquè el valor de les seves accions es dispara cada cop que fan un anunci espectacular. I aquí és on entra DeepSeek: un jugador nou, imprevist i, sobretot, descontrolat. Algú que, en comptes de seguir les normes d’aquest joc, ha decidit fabricar-se el seu propi tauler. I això, als que viuen d’aquest sistema, els posa molt, molt nerviosos.

El que ha passat amb DeepSeek ha estat un terratrèmol financer que ha agafat per sorpresa la borsa i la indústria tecnològica. Quan s’ha fet evident que una IA potent es podia entrenar i executar amb una fracció dels recursos que fins ara es consideraven imprescindibles, els inversors han reaccionat com reaccionen sempre davant d’una amenaça que no comprenen: pànic.

Nvidia, que ha estat creixent en valor perquè molts inversors els veien com el venedor de pics i pales durant la febre de l’or, ha descobert que les pales i els pics ja no eren tan necessaris com pensaven. En dos dies, ha perdut 556.400 milions de dòlars en capitalització borsària. Broadcom i Taiwan Semiconductor, dos gegants que també han basat el seu negoci a vendre hardware clau per a l’entrenament de models d’IA, han perdut 199.400 i 165.900 milions respectivament. Però el cop no s’ha quedat només en els fabricants de xips. Les grans empreses que compren i utilitzen IA, com Microsoft, Alphabet i Amazon, també han vist com els seus valors han caigut, ja que el mercat s’ha començat a preguntar si les seves inversions multimilionàries en IA supercostosa tenien sentit. OpenAI, Anthropic i altres companyies que es dediquen a vendre IA han quedat tocades, perquè el model de negoci que tenien s’ha posat en dubte. A més, les empreses que venen infraestructura per a datacenters, com Arista Networks i Equinix, etc. La necessitat energètica dels grans models d’IA ha estat un factor clau en l’augment de valor de moltes empreses elèctriques, però DeepSeek ha demostrat que es pot aconseguir un rendiment similar consumint molt menys. Això ha provocat que empreses que havien pujat en borsa perquè proveeixen energia per fer funcionar aquests centres, com GE Vernova, Constellation Energy i Siemmens Energy AG, també han rebut l’impacte. En total, en un sol dia s’han esborrat 53,3 miliards de dòlars en valor borsari.

Davant d’aquest escenari, la indústria ha començat a moure fitxa. OpenAI ha introduït una nova opció que permet fer servir un model amb raonament avançat, un moviment que alguns interpreten com una resposta a la irrupció de DeepSeek. Mentrestant, Nvidia i altres fabricants de hardware busquen com diferenciar-se i justificar els preus dels seus productes, mentre que els grans proveïdors d’IA intenten convèncer el mercat que els seus serveis encara són essencials.

Però la gran pregunta no és si DeepSeek ha vingut per quedar-se, sinó quant d’inflada estava aquesta bombolla. Han aconseguit aturar la deflació o aquest és només el començament d’una caiguda més gran? Si el valor del sector continua caient, potser deixarà de ser “el negoci del segle” i perdrà part de la seva influència. I si és així, quin paper tindrà DeepSeek i les empreses que adoptin estratègies low-cost com ells?

L’especulació financera ha convertit la indústria tecnològica en un casino gegant. La febre per la intel·ligència artificial ha fet que els inversors aboquessin diners sense entendre realment què compraven. No era una qüestió de tecnologia, sinó d’eufòria col·lectiva i de la promesa d’un futur on tot es tornaria màgic gràcies a la IA. Ara que el mercat ha vist que es pot fer el mateix amb menys recursos, el miratge s’ha trencat i la borsa s’ha desplomat. Aquesta dinàmica no és nova. Un petit grup d’inversors i directius la “broligarquia” tecnològica ha sabut aprofitar el hype per inflar els preus i treure’n profit mentre ha durat la festa. Però quan el globus ha començat a desinflar-se, qui ha pagat el preu són els petits inversors i les empreses que havien basat els seus models de negoci en una realitat que potser mai no ha existit.

Les grans corporacions mai han desenvolupat tecnologia per amor a la ciència o al progrés humà. Tot gira al voltant dels beneficis, i la intel·ligència artificial no és una excepció. Els sistemes generatius han estat creats amb la promesa d’automatitzar tasques, però quan aquesta automatització implica substituir llocs de treball, el que realment està passant és que es destrueixen vides per maximitzar beneficis. A més, la IA generativa es basa en el treball creatiu de milions de persones. Quan una IA escriu un text, compon música o genera una imatge, no ho fa del no-res: s’ha entrenat amb dades que provenen del treball humà. Això vol dir que cada contingut generat per una IA és, en certa manera, un robatori, un aprofitament massiu de la feina d’altres sense reconeixement ni compensació.

És innegable que aquests models són un prodigi tecnològic, però també és clar que s’han d’usar amb precaució. La seva imprecisió i propensió a inventar informació fan que siguin eines problemàtiques. Si han d’existir, s’ha de trobar una manera ètica d’utilitzar-los, limitant-los a tasques de suport, com resumir informació o donar format a textos, i evitant-ne l’ús per substituir la feina humana. El geni ja ha sortit de la llàntia, i no tornarà a entrar-hi, però encara es pot decidir com fer-lo servir de manera responsable.

#AI #Algoritmes #aprenentatgeAutomàtic #bombollaTecnològica #broligarguia #codiObert #dades #deepLearning #DeepSeek #especulacióFinancera #IA #innovació #intelLigènciaArtificial #machineLearning #modelDeLlenguatge #Nvidia #OpenAI #revolucióTecnològica #techIndustry #tecnologia

Een onbevredigend debat in de Tweede Kamer over de transparantie van #algoritmes en de opname in het Nationaal Algoritmeregister. Dat moet beter. @staatssecretarisbzk Szabó zegde de Kamer nog niets toe.
https://ibestuur.nl/artikel/kamer-wil-dat-overheid-de-transparantie-van-algoritmes-snel-verbeterd/

Waarom ik het argument 'tegengeluid' om op bepaalde sociale media platforms te blijven niet valide vind: 👇🏼

"Het op grote schaal afnemen van bereik zonder dat je er iets tegen kunt doen, werd al eerder opgemerkt door mensen die online hun solidariteit betonen met bijvoorbeeld Palestina of Oekraïne. Hun boodschappen worden stelselmatig verstomd, nog maar heel weinigen krijgen ze te zien.

Dat gaat verder dan het verspreiden van racisme en fascisme, het is het vernietigen van het tegengif. Bij verkiezingen kan de boodschap van democratische partijen straks gewoon weggedrukt worden. Daar sta je dan. Massa’s volgers en niemand die je nog hoort."

https://www.bnnvara.nl/joop/artikelen/als-mark-zuckerberg-gaat-bepalen-wie-je-vrienden-zijn

#socialemedia #bereik #algoritmes #tegengeluid #politiek

We onderzoeken of de drie reclasseringsorganisaties op een verantwoorde manier gebruik maken van #algoritmes. We kijken naar zowel het ontwikkelen als het inzetten van algoritmes.
We zien dat overheidsorganisaties steeds vaker gebruik maken van data en algoritmes in hun taakuitvoering. Het gebruik van algoritmes kunnen grote consequenties hebben voor mensen. We vinden het dus belangrijk dat algoritmes verantwoord worden gebruikt.
https://www.inspectie-jenv.nl/actueel/nieuws/2025/01/16/inspectie-jenv-onderzoekt-gebruik-van-algoritmes-bij-de-reclassering

Nepmuziek op Spotify: heeft de streamingindustrie nog wel het beste voor met echte artiesten? | de #Volkskrant
https://www.volkskrant.nl/muziek/nepmuziek-op-spotify-heeft-de-streamingindustrie-nog-wel-het-beste-voor-met-echte-artiesten~b7da7f77/

Gaat spotify met nep-muziek, algoritmen en AI de muziekindustrie kapotmaken of zichzelf?

#Spotify #Algoritmes #AI

@Steeph Je leest de hele tijd dat er dan geen redelijke stemmen meer overblijven. Maar dat denkwn gaat ervan uit dat er geen #algoritmes zijn. Daar redelijk zijn is tegen een exponentieel versnellende roltrap oprennen 🙄

#exit

#Trump #Zuckerberg en ultrarechtse #algoritmes

Una puta merda

Cada cop tot es torna mes una puta merda

Tinc una confessió: em fa fàstic com ha evolucionat internet. Vaja, no és cap sorpresa. El món digital, que prometia llibertat i connexió global, ha acabat convertit en un femer de plataformes que són el pitjor exemple de l’esperit empresarial modern. Cory Doctorow en diu “enshittification”, i és el millor nom que he sentit per descriure aquest merder. De fet les idees d’aquest article es poden trobar en part a la conferencia de Doctorow a la Defcon 31 a Las Vegas on parlava ampliament d’això i pots trobar-ne la transcripció aqui https://pluralistic.net/2023/08/27/an-audacious-plan-to-halt-the-internets-enshittification-and-throw-it-into-reverse/ o el video aqui https://www.youtube.com/watch?v=4EmstuO0Em8

L’enshittification pasa quan una plataforma comença sent generosa amb els usuaris, després comença a explotar-los per fer contents els seus clients comercials, i finalment es folla tant els usuaris com els clients per beneficiar només els accionistes. El resultat? Un servei tan merdós que ningú el pot tolerar.

La cosa comença dolça, com una droga gratis. Facebook és l’exemple perfecte. Va començar dient: “Ei, som millors que Myspace! Nosaltres no espiarem les teves dades com aquell vell putrefacte australià que controla Myspace. Vine, reuneix-te amb els teus amics, i nosaltres et farem un feed personalitzat amb tot allò que vols veure.” Però abans d’això, cal recordar d’on venia Facebook.

La idea original del seu fundador, Mark Zuckerberg, no era exactament crear un espai de connexió i comunitat. No, el primer Facebook, anomenat Facemash, era una plataforma on es puntuava anònimament i sense consentiment l’aspecte físic d’altres estudiants. Aquesta és la gènesi de la plataforma: un lloc creat per cosificar persones i reduir-les a puntuacions. Això ja donava pistes del tipus d’empresa que seria en el futur.

Van guanyar usuaris gràcies a les xarxes d’amistat: un amic s’hi uneix, i llavors tots els altres s’hi uneixen també. Aquests “efectes de xarxa” són com una droga col·lectiva. Un cop tothom hi és, fugir es torna impossible. Què faràs? Convencer els teus 200 amics que deixin Facebook per alguna cosa millor? Bona sort amb això.

I aquí és on la cosa comença a degenerar. Quan tenen prou usuaris atrapats, comencen a explotar-los. Primer es ven l’ànima als anunciants: “Ei, recordeu quan vam dir als usuaris que no els espiaríem? Doncs era mentida. Ara ho sabem tot d’ells, des de què mengen per esmorzar fins a quantes vegades van al lavabo.” Els anunciants paguen, i Facebook treu beneficis.

També es venen als editors de contingut: “Voleu audiència? Penjeu els vostres articles aquí i nosaltres els fotrem als ulls dels usuaris encara que no ho vulguin.” I mentre publishers i anunciants es freguen les mans, Facebook ho controla tot. Quan arriba el moment, els deixa sense escapatòria. Els algoritmes limiten el contingut que arriba als usuaris, i obliguen els editors a pagar més per arribar al mateix públic.

Tot es redueix a una simple lògica de Darth Vader: “He alterat l’acord. Pregueu que no l’alteri més.” Aquest procés, tot i semblar únic del món tecnològic, té paral·lels històrics en altres indústries. A principis del segle XX, els magnats del ferrocarril i del petroli als Estats Units aplicaven tàctiques semblants. Una frase de Rebecca Solnit ho resumeix perfectament: “Els grans imperis comercials són, per sobre de tot, màquines d’acaparar poder.”

Però això només és la punta de l’iceberg. Avui dia, Amazon ha eliminat pràcticament totes les eines de control de qualitat per als productes que es venen a la seva plataforma. Gran part del seu catàleg està ple de productes de dropshipping que no han passat cap mena de revisió. Si compres un cable de coure per a electrònica, és altament probable que sigui un fil de ferro cobert amb una capa de coure falsa. És literalment més rendible fabricar fils falsos i vendre’ls a Amazon que assegurar la qualitat. Aquest caos afecta sectors sencers. Els petits fabricants que realment volen vendre productes de qualitat han de competir amb una allau de falsificacions barates. I Amazon? Es renta les mans mentre segueix acumulant beneficis.

Twitter no es queda enrere. El que una vegada va ser una plataforma relativament funcional i útil per a debats i notícies s’ha convertit en un femer infecte sota la direcció d’Elon Musk. La decisió de Musk de fer de Twitter el seu altaveu polític i personal va accelerar el declivi de la plataforma. Entre bots de propaganda, pornografia no moderada i la promoció desenfrenada de discursos d’odi, el nou Twitter és una ombra del que era abans. L’obsessió de Musk per monetitzar qualsevol aspecte de la plataforma ha portat a un augment de comptes verificats falsos, la desaparició de moderadors humans i un algoritme que amplifica continguts extremistes i desinformació. Això, combinat amb el seu suport explícit a figures polítiques d’extrema dreta, ha fet que Twitter es converteixi en un lloc perillós per a molts usuaris. Twitter no només ha perdut la confiança dels seus usuaris, sinó també la de molts anunciants importants. El procés d’enshittification aquí és tan evident que es podria utilitzar com a cas d’estudi en qualsevol llibre sobre la decadència de les plataformes tecnològiques.

Quan mirem com aquestes plataformes arriben al seu punt de col·lapse, es fa evident que aquest cicle és inevitable. Facebook, Google, Amazon… totes arriben a un punt on els seus serveis es tornen insuportables. Els usuaris es queden per inèrcia fins que arriba l’escàndol de Cambridge Analytica, la muskada del dia o algun altre desastre que els obliga a fugir. Llavors tot peta. Pensa en l’èxit inicial de Google: un cercador net, senzill i que feia el que prometia. Ara és un garbuix ple d’anuncis, resultats manipulats i funcions que només beneficien els accionistes. Aquestes empreses són com els bancs als que es refereix Thomas Piketty: acumulen capital fins a ofegar tota competència. Quan això passa, l’únic que pots esperar és l’empobriment general. O com deia Karl Marx: “L’acumulació de riquesa en uns quants porta a l’empobriment de molts.”

El patró de dominació no es limita a plataformes socials i comerç electrònic. Apple, per exemple, van fer reverse engineering de Microsoft Office per crear un competidor directe que era assequible i funcional i crear iWork. Aquesta pràctica, en aquell moment, no era il·legal i formava part del mercat competitiu. Però després, Apple, Microsoft i altres grans corporacions van pressionar per canviar la legislació, fent que aquest tipus de pràctiques esdevinguessin il·legals. Això no només va protegir el seu estatus de dominadors del mercat, sinó que també va tancar la porta a qualsevol startup o petita empresa que volgués competir amb les mateixes regles que ells havien aprofitat. És un clar exemple de com els gegants tecnològics manipulen el sistema per assegurar que ningú pugui desafiar-los.

A Amazon, la situació no és gaire diferent. Quan van voler comprar Diapers.com, una empresa especialitzada en la venda de bolquers, aquesta es va negar. La resposta d’Amazon? Venem bolquers a pèrdues! Literalment van cremar 100 milions de dòlars venent bolquers per sota del seu cost, fins que van enviar a la bancarrota a la competència i es van quedar amb el mercat.

Un altre exemple de com les grans corporacions han manipulat les normes del joc per mantenir el control el trobem en la gestió dels drets digitals, també coneguda com DRM (Digital Rights Management). Inicialment, aquestes mesures es van introduir amb la justificació de protegir la propietat intel·lectual i evitar la pirateria, però, amb el temps, s’han convertit en eines despòtiques que restringeixen el que podem fer amb els productes que comprem legalment. Quan compres un llibre electrònic, una pel·lícula o una cançó, en realitat no n’ets propietari. Només adquireixes una llicència per utilitzar-lo sota condicions estrictes dictades per la corporació.

Aquest sistema permet a les empreses mantenir un control absolut sobre els seus productes, fins i tot després de la venda. No pots transferir el contingut a un altre dispositiu sense el seu permís, ni tampoc compartir-lo, encara que sigui per un ús personal i dins dels límits de la llei. Imagina comprar un llibre de paper i que l’editorial t’impedeixi deixar-lo a un amic o llegir-lo en una altra habitació. Això és el que passa diàriament amb els continguts digitals.

El DRM també és una arma poderosa per destruir la competència i perpetuar monopolis. Les empreses creen formats propietaris que obliguen els consumidors a quedar-se dins del seu ecosistema. Amazon, per exemple, utilitza DRM per assegurar que els llibres electrònics comprats al seu Kindle no es puguin llegir en altres dispositius sense passar per processos complicats que sovint poden infringir la llei. Això no és protecció, és captiveri.

Encara més greu és que aquest sistema permet a les corporacions eliminar contingut dels teus dispositius, fins i tot si l’has comprat legalment. Si, per exemple, la corporació deixa de tenir els drets de distribució d’un llibre o una pel·lícula, poden esborrar-lo remotament del teu dispositiu sense el teu consentiment ni compensació. Això és un nivell de control que mai abans s’havia vist amb els productes físics.

Com diu Cory Doctorow, el DRM no protegeix els artistes ni els creadors, protegeix les corporacions. En lloc de fomentar un mercat obert i competitiu, perpetua una dinàmica de control on els consumidors són tractats com a llogaters dels productes digitals que haurien de posseir. Aquesta lògica és una altra capa de l’enshittification: fer que el valor del producte desaparegui en benefici d’una estratègia empresarial que només beneficia els accionistes i destrueix qualsevol possibilitat de resistència o innovació.

També hi ha sectors com el de l’automoció que exemplifiquen la magnitud del problema. Els fabricants de cotxes, per exemple, guanyen tants diners venent dades de telemetria com venent els cotxes. Et controlen quantes vegades has frenat bruscament, quantes vegades has superat el límit de velocitat i molt més i ho venen a les asseguradores que fan servir aquesta informació per decidir si et canvien el preu de l’assegurança o directament si et renoven o no. Això no és vendre cotxes, és vendre control.

I aquesta explotació no es limita als cotxes. Els dispositius intel·ligents de casa també participen d’aquesta dinàmica. Refrigeradors que monitoritzen quins aliments compres i els venedors de termòstats que recopilen dades sobre quanta energia consumeixes. És una estratègia de control total. Cal recordar com la manca de competència porta a l’estancament. Com diu Evgeny Morozov: “Quan el poder es concentra en poques mans, la innovació es converteix en un simple vehicle per perpetuar aquest poder.”

No tot està perdut. Per frenar l’enshittification, hem d’atacar tres fronts: desfer monopolis, garantir interoperabilitat i implementar regulacions estrictes.
Necessitem lleis que protegeixin la privacitat, evitin la manipulació d’algoritmes i protegeixin els treballadors.
Com diu Rebecca Solnit: “L’economia digital és un sistema de servitud voluntària.” Això no pot continuar així. Però la resistència comença amb nosaltres. El hacking ha estat històricament una força de transformació. Des de la creació de Linux fins al moviment del codi obert, els hackers han desafiat les grans corporacions i han obert nous camins. Avui, més que mai, aquesta resistència és essencial. La comunitat hacker és la millor eina contra aquests abusos. Recuperar internet per la gent vol dir lluitar per un món on les plataformes no puguin alterar les regles quan vulguin, ni explotar la nostra privacitat sense conseqüències.
Com diu Doctorow, necessitem un foc controlat per cremar el vell sistema i fer espai per al nou. L’alternativa no és evitar el foc, és el gran incendi que ho consumeix tot. Tornem a una internet feta per i per a la gent. El vell internet va morir, però podem crear-ne un de nou, i millor.

#Algoritmes #Amazon #Apple #Capitalisme #CapitalismeDigital #ControlCorporatiu #CoryDoctorow #DiapersCom #DretsDigitals #DRM #EconomiaDigital #ElonMusk #Enshittification #EvgenyMorozov #Facebook #Google #Hacking #InnovacióTecnològica #KarlMarx #Monopolis #Musk #PlataformesDigitals #PrivacitatDigital #RebeccaSolnit #ResistènciaTecnològica #ReverseEngineering #ThomasPiketty #Twitter #XCom

Begonnen met een nieuw boek, en het begint scherp: “Socialemediabedrijven beweren dat een algoritme dat zich baseert op populariteit is bedoeld om betere berichten te tonen, zoals die van betrouwbare nieuwsbronnen. Maar uit een onderzoek naar deze algoritmes blijkt dat het waarheidsgehalte van de content die gepusht wordt in veel gevallen juist omlaaggaat.”

#boek #politiek #socialmedia #algoritmen #algoritmes https://books.apple.com/nl/book/de-domheid-regeert/id6737697804

@waag beginnen met het verbieden van #algoritmes tenzij aantoonbaar niet #verslavend, #manipulerend of #fakenieuws #AR moeten #opensource worden zodat ze gecontroleerd kunnen worden. #socialemedia verslavender dan #gokken waar wel (minimale) regels voor gelden.

Verantwoord innoveren is het nieuwe normaal

Jan van Ginkel is loco-provinciesecretaris bij de provincie Zuid-Holland en veelgevraagd spreker over digitalisering. In eigen huis is hij volop bezig met de digitale transformatie. Verantwoord innoveren met AI en algoritmes is het nieuwe normaal, stelt hij. Wat het van hem vraagt als leider? “Ruimte geven, investeren, de goede mensen in huis hebben en bewust zelf ontwikkelen.”

Bij bijna alles wat de provincie Zuid-Holland doet, speelt ICT een belangrijke rol. De inzet van algoritmes en AI horen daarbij. Van Ginkel geeft een voorbeeld: “De provincie is de beheerder van de wegen en vaarwegen. We zetten AI in om brugbedieners te ondersteunen het beste moment te kiezen voor een brugopening. Zo kunnen we de doorstroming verbeteren voor weggebruikers en de scheepvaart.” Van Ginkel benadrukt: “We gebruiken AI altijd om de maatschappelijke opgaven een stukje verder te brengen.” Bekijk de algoritmes van Zuid-Holland in het Algoritmeregister.

Generatieve AI

Zuid-Holland zet ook AI en algoritmes in in de bedrijfsvoering. Zo werd in eigen huis PZH-assist ontwikkeld, een generatieve AI-toepassing. “Medewerkers kunnen die gebruiken om allerlei ChatGPT-achtige vragen te stellen.” Het was een bewuste keuze om de oplossing zelf te ontwikkelen: “Als je aan commerciële AI-tools een document aanbiedt met de prompt ‘maak een samenvatting’, dan kunnen de Googles van deze wereld meelezen. Onze eigen versie draait in een eigen omgeving en is volstrekt veilig. Ook ontwikkelen we nu toepassingen waarbij via een chatbot onze eigen data bevraagd kan worden, bijvoorbeeld een chatbot die vragen kan beantwoorden over onze verlof en IKB regelingen.” PZH Assist staat alvast vol in de belangstelling: “Er is inmiddels een community van mensen die dit naar hun eigen organisatie willen vertalen en daar implementeren. We delen onze oplossingen graag, het is immers al betaald met publiek geld.” Meer over PZH Assist.

“Transparantie, betrouwbaarheid en democratische rechten zijn voor ons hoge waarden”Jan van Ginkel  loco-provinciesecretaris Provincie Zuid-Holland

Nieuw normaal

Verantwoord innoveren is voor Van Ginkel vanzelfsprekend. “Wij zijn een overheidsorganisatie, dus transparantie, betrouwbaarheid en democratische rechten zijn voor ons belangrijke waarden.” Wel geeft hij aan dat provincies vooral geodata gebruiken. “Bij het verwerken van persoonsdata telt privacy en ethiek zwaarder. De moreel-ethische kant nemen we bloedserieus, maar we kunnen veel ontwikkelen zonder persoonsgegevens.” Zuid-Holland waarborgt de ethische kant op verschillende manieren. “Een team met ethici is voortdurend in gesprek met de organisatie om bewustwording, belang en de vaardigheden te helpen ontwikkelen. Verantwoord innoveren is het nieuwe normaal waar ik naartoe wil.”

IAMA

Natuurlijk komen daar ook dilemma’s bij kijken. “Daar doen we sessies voor, zoals IAMA’s.” Dataminimalisatie is bij de provincie een belangrijk uitgangpunt, vertelt Van Ginkel. “Altijd is de vraag: hoe kun je met zo min mogelijk data een goede oplossing creëren? Bijvoorbeeld: op welk detailniveau koop je geodata in? Bij een te hoog detailniveau wordt die informatie wellicht toch privacygevoelig. Of: als ik een algoritme maak om de brugbediening te optimaliseren, moet ik toch wat informatie verzamelen over schepen en weggebruikers. Maar ik hoef niet te weten of de schipper Piet of Jan heet.”

Gespreksmiddel met politiek

Zelf kennis opbouwen

Hoe stuurt Van Ginkel op verantwoorde inzet van algoritmes en AI? “Ruimte geven, erin investeren, de goede mensen in huis hebben, maar ook bewust zelf ontwikkelen.” Dat laatste was een bewuste keuze bij de ontwikkeling van PZH-Assist: “We willen dat onze medewerkers snappen hoe generatieve AI werkt. Kunnen we dat bijvoorbeeld zelf programmeren? Ja, dat kunnen we, zo blijkt.” Kennis is belangrijk. “Wil je mee kunnen doen in de digitale transformatie, kun je niet alles uitbesteden of regie doen: je moet zelf kennis opbouwen. Daar wil ik in investeren.” De kennis over de kracht van data en van algoritmes moet voor hem dan ook niet beperkt blijven tot de technici. Van Ginkel: “Begrijpen dat de wereld van data en algoritmes inmiddels een dominante wereld is die rechtstreeks elke functie van de overheid raakt, en dat bewustzijn omzetten in kennis en handelen, is voor de overheid de grootste opgave, denk ik.”

Opschaalbare oplossingen

Van Ginkel is trots dat de provincie veel zelf ontwikkelt. “Waar we het niet zelf kunnen doen, werken we samen met een netwerk van startups en universiteiten. En we hebben met 4 andere provincies het initiatief genomen 8 top-trainees op AI-gebied aan te trekken. Zij gaan ons 5en helpen om een aantal maatschappelijke opgaven verder te brengen en te zorgen dat die oplossingen opschaalbaar zijn (door anderen te gebruiken, red.).” Dat blijft een lastig vraagstuk, vertelt hij: “Als wij iets maken rond woningbouw en infrastructuur met AI, dat is dat vaak niet direct door anderen te gebruiken. De definitie van een woning in Flevoland is misschien anders dan bij ons.” Die vertaalslag wil hij nu ook automatiseren. “Ik probeer de opschaling onderdeel te laten zijn van de algoritmische oplossing.”

“Ik probeer de opschaling onderdeel te laten zijn van de algoritmische oplossing”

Principieel relevant

De provincie Zuid-Holland was een van de voorlopers bij het ontstaan van het Algoritmeregister. Van Ginkel draagt het register dan ook een warm hart toe, maar plaatst er ook een kritische kanttekening bij. “Ik zei eerder al: De overheid moet betrouwbaar zijn, enzovoort. Dan is het logisch dat je transparant bent over de algoritmes die je inzet. Ik vind dat principieel relevant, dan moet je dat in handelen omzetten. Een algoritmeregister is een van de manieren waarop dat kan.” Het levert de organisatie ook wat op, vertelt hij: “We verwijzen burgers, bedrijven en instellingen ernaar om te laten zien: zo doen wij de dingen.”

Hij wil tegelijkertijd ook een kanttekening plaatsen. “Het aantal algoritmes neemt exponentieel toe: vandaag komen er 10 bij, morgen 100 en overmorgen 1000. Het register wordt grotendeels handmatig gevuld. Mijn kritische vraag is: hoe houdbaar is zo’n algoritmeregister dan? Als je zegt: het register is vooral bedoeld om organisaties bewust te houden en transparant te zijn naar burgers, dan snap ik het. Maar als je wilt dat het register compleet is, is dat op den duur zo niet doenlijk. Als je tegenwoordig een boekhoudpakket koopt, zitten daar ook algoritmes in. Ik heb hier zelf nog geen oplossing voor.” Zijn conclusie: “Ik draag het algoritmeregister van harte, maar er zit ook iets naïefs in.”

Samen innoveren

Wat hij andere bestuurders wil aanraden? “Mijn oproep is: laten we interdepartementaal en interbestuurlijk met veel meer tempo en kracht aan de slag gaan. Samen innoveren. Om dwars door alle overheidsorganisaties heen resultaten te boeken in maatschappelijke opgaven. Het probleem met netcongestie (overbelasting van het energienetwerk, red.) bijvoorbeeld raakt het rijk, raakt gemeentes, raakt de waterschappen, raakt de markt… Als we nou met elkaar zeggen: hier gaan wij niet 8, maar 80 AI-trainees opzetten?”

Meer weten over hoe de provincie verantwoord AI en Algoritmes gebruikt? Kom op 30 januari naar de regiotour AI en Algoritmes Overheid bij de Provincie Zuid Holland.

Dit is een automatisch geplaatst bericht. Vragen of opmerkingen kun je richten aan @DigitaleOverheid@social.overheid.nl

#AI #algoritmes #nieuwsbrief212024

De Nationale Toekomstcursus: bereid je voor op de toekomst

Technologische ontwikkelingen gaan zo snel. Denk bijvoorbeeld aan Artificiële Intelligentie (AI) en algoritmes. Ontwikkeling op het gebied van digitalisering is onlosmakelijk verbonden met het nadenken over de toekomst. Met de Nationale Toekomstcursus bereid jij jezelf en je organisatie goed voor.

Gratis cursus

Deze gratis cursus laat zien hoe je zelf invloed kunt hebben op de toekomst en geeft handvatten om zelf aan de slag te gaan met toekomstdenken. Van verschillende scenario’s, denken als een futurist, tot aan omgaan met verandering. De cursus bestaat uit 9 modules. Ben je benieuwd? Meer informatie en de cursus vind je op de website van de Nationale Toekomstcursus.

De Nationale Toekomstcursus is een initiatief van Stichting Toekomstbeeld der Techniek (STT). De RijksAcademie voor Digitalisering en Informatisering Overheid (RADIO) is partner en wil deze cursus meer onder de aandacht brengen binnen de overheid en de kennis van medewerkers vergroten.

Dit is een automatisch geplaatst bericht. Vragen of opmerkingen kun je richten aan @DigitaleOverheid@social.overheid.nl

#AI #AIArtificiëleIntelligentie_ #algoritmes #digitalisering #Innovatie #lerenEnOntwikkelen

Hoogheemraadschap Hollands Noorderkwartier (HHNK) zet sinds kort drones in om primaire dijken en keringen te controleren op scheuren. Met behulp van Artificiële Intelligentie (AI)!

Met drones maken zij hoge resolutie foto’s van de dijken en wordt een algoritme getraind om scheuren te leren herkennen. Erik Vastenburg, programmamanager waterveiligheid bij het HHNK, vertelt er meer over op de Pleio-omgeving van Algoritmes: https://algoritmes.pleio.nl/news/view/47aebc58-32a5-4458-a001-106765e9ef59/scheurdetectie-met-drones.

#AI #Algoritmes