Kapitalistische Intelligentie? Staking en effectief altruïsme (deel 5)

Een vertaling in vijf delen van een artikel van het Duitse Wildcat over Artificial Intelligence (AI), oftewel Kunstmatige Intelligentie (KI) in het Nederlands. Het werd eerder al in het Engels vertaald door onze vrienden van de Angry Workers uit het Verenigd Koninkrijk. Lees ook deel 1, deel 2, deel 3 en deel 4.

De eerste staking tegen AI

Sinds begin mei 2023 staken in de VS meer dan 11.000 scenarioschrijvers die zijn aangesloten bij de Writers Guild of America. Half juli gingen ook de acteurs in staking. Hun vakbond, de Screen Actors Guild, heeft ongeveer 160.000 leden. Volgens vakbondsvoorzitter Fran Drescher verdient 86 procent van hen minder dan 26.000 dollar per jaar. Beide vakbonden eisen hogere lonen en regulering van het gebruik van AI.

Na bijna vijf maanden staken meldde de vakbond van typisten een succes. Naast hogere vergoedingen voor pensioen en gezondheidszorg, en loonsverhogingen van vijf procent dit jaar, vier procent volgend jaar en 3,5 procent in 2025, werd overeengekomen dat een AI geen menselijke auteurs mag vervangen of hun loon mag inpikken. De studio’s zelf mogen geen AI gebruiken om scripts te schrijven of ideeën te ontwikkelen, maar de auteurs mogen wel AI gebruiken. In de toekomst moeten streamingdiensten aan auteurs bekendmaken hoe vaak hun series worden bekeken en hen dienovereenkomstig betalen. Op 9 oktober keurden de vakbondsleden de cao goed. Die loopt tot mei 2026.

De staking van de acteursvakbond gaat door. Voor het eerst sinds het begin van de staking, begin oktober, zijn er onderhandelingen gevoerd, maar die zijn mislukt en onderbroken. Meer nog dan over de auteurs wordt hier onderhandeld over de toekomst van de industrie: generatieve AI die scènes en sequenties voor films maakt is de natte droom van tweederangsproducenten en regisseurs die het dagelijks brood leveren van de entertainmentindustrie van tv-series en B-films. De hausse in de streamingindustrie heeft de druk op deze producenten van alledaags beeldmateriaal nog verder opgevoerd. Het elimineren van de onzekerheden en kosten die gepaard gaan met het creatieve proletariaat van acteurs zou het vege lijf van hun winstmodel moeten redden. Er zijn al enkele pogingen gedaan met digitale hulpmiddelen. De vermoorde rapper Tupac verscheen virtueel via een hologram op het Coachella-festival in 2012. Scorsese liet de hoofdrolspelers in zijn film The Irishman digitaal verjongen, enzovoorts. Dit waren echter digitale methoden voor individuele details of beelden in films die het werk van acteurs niet overbodig maken. Met het gebruik van generatieve AI’s zouden ze echter grotendeels overbodig kunnen worden. Generatieve AI’s kunnen al een willekeurig aantal sequenties creëren met opnames van acteurs in uiteenlopende situaties en emotionele toestanden. (11)

De Amerikaanse acteursvakbond SAG-AFTRA wil het gebruik van AI’s bij de productie van films niet helemaal uitsluiten. Hun eis voor een passende vergoeding voor acteurs stuitte echter al op hevig verzet van de Alliance of Motion Picture and Television Producers. De vakbond besloot om zich met hun staking te richten op zowel de productie als de marketing van alle tv-, film- en streamingproducties. Dit was bindend voor alle vakbondsleden. De vakbond eist verplichte goedkeuring en een passende beloning wanneer AI’s worden gebruikt om scènes te veranderen of nieuwe scènes te genereren. De bedrijven willen slechts een halve werkdag betalen voor opnames, die vervolgens naar believen kunnen worden gebruikt om nieuwe scènes te genereren – zonder toestemming van de acteurs en zonder verdere betaling. De bazen willen ook dat het mogelijk moet worden om de gemaakte opnames te gebruiken voor het trainen van AI’s, zonder toestemming van de acteurs.

De productiekracht van scenarioschrijvers en acteurs was genoeg om de industrie tot stilstand te brengen. Maar dit laat die aan bedrijven des te meer zien waarom ze moeten vertrouwen op generatieve AI – het gaat erom die macht te breken. De uitkomst van de staking was bij het ter perse gaan van dit nummer van Wildcat nog onduidelijk.

Eind juli lieten ook auteurs in de VS hun stem horen. In een open brief van de Authors Guild protesteerden meer dan 9.000 van hen tegen het gratis gebruik van hun werken bij de ontwikkeling van AI. “Onze teksten zijn voedsel voor een machine die onophoudelijk eet zonder ervoor te betalen”, staat er. De voorzitter van de schrijversbond, Maya Shanbhag Lang, zei in een interview dat de resultaten van AI altijd “tweede-hands” zullen zijn en dat de technologie alleen kan “uitbraken” wat het van mensen heeft gekregen. De petitie wijst er ook op dat het gemiddelde inkomen van professionele auteurs de afgelopen tien jaar al met veertig procent is gedaald. Dit viel samen met het nieuws dat het grootste boekenbedrijf in de VS, Penguin Random House, meer mensen ontslaat. De New York Times citeerde een brief van de CEO aan zijn werkers: “Het spijt me dat ik gisteren een aantal van onze collega’s overal in het bedrijf moest mededelen dat hun functies komen te vervallen.” Dat klinkt als een AI-horror. Dietmar Dath wees erop in een FAZ-krantenartikel: “Het is niet AI dat het probleem is, maar de mindset van Bill Gates bijvoorbeeld, die onlangs op een evenement van Goldman Sachs zei dat persoonlijke AI-assistenten Amazon binnenkort overbodig zouden maken omdat ze ‘de dingen kunnen lezen waar je zelf geen tijd voor hebt’. Dat Gates duidelijk niet weet waar lezen en schrijven goed voor zijn, behalve geld verdienen, had je kunnen zien aan het functionele ontwerp van de producten van zijn bedrijf Microsoft.” (12)

“Verwacht niet dat je binnenkort wordt gedownload in een androïde lichaamsvorm.”
(Aldus het advies van de Fugs, in hun nummer “Advice from the Fugs” uit 2003.)

Heel vaak werden nieuwe technologieën in het kapitalisme op de wereld gebracht met fantasieën over verlossing. Werner von Siemens wilde mensen verheffen naar een “hoger bestaansniveau” in het “wetenschappelijke tijdperk”. Emil Rathenau geloofde dat elektriciteit een “beschaving die mensen gelukkig maakt” mogelijk zou maken. Henry Ford beloofde dat zijn “auto-mobiel” het “paradijs op aarde” zou brengen, en James Martin, de computerpionier van de jaren zestig, had een visie van een verbonden maatschappij waarin computers zouden zorgen voor meer democratie, meer vrije tijd, meer veiligheid, meer schone lucht en meer vrede.

Internetbedrijven verkopen ons onteigening (gegevensdiefstal) en manipulatie (romantische oplichters) als vooruitgang. Complexe problemen kunnen worden opgelost door ze te reduceren tot technische problemen, en het is “de taak van de maatschappij” om zich “beter aan te passen” aan de nieuwe technologieën, zoals Musk en Co. stelden in hun open brief in maart.

Umberto Eco zag de cultus van de technologie als een kenmerk van het fascisme. En inderdaad, Henry Ford was niet alleen geestelijk gestoord, maar ook een groot bewonderaar van het nationaal-socialisme. De geestesgesteldheid en politieke oriëntatie van de huidige Silicon Valley-beroemdheden is zeer vergelijkbaar. Als het om hun “visies” gaat, is het vaak moeilijk om marketing en megalomanie van elkaar te scheiden. Geloven ze er zelf echt in? Met AI “kunnen we de wereld en het leven van mensen geweldig maken. We kunnen ziektes genezen en de materiële welvaart vergroten. We kunnen mensen helpen gelukkiger en bevredigender te leven”, zei het hoofd van OpenAI Sam Altman – in dezelfde maand dat hij waarschuwde voor het uitsterven van de mensheid door AI!

Zal AI redding brengen of het uitsterven van de mensheid? Enorm geluk of het einde van de wereld? Deze gecreëerde scherpe tegenstelling emotionaliseert en versmalt het debat. Er is geen ruimte meer voor kritiek en vragen – ook niet in hoeverre een groot deel van de hype is ingegeven door publiciteitsoverwegingen en de beloften slechts gebakken lucht en geënsceneerd bedrog zijn. Deze strategie is typerend voor het “lange termijn-denken”.

Twitter heet nu X

Dat “lange termijn-denken” ziet de primaire morele verplichting van de mensheid in het veiligstellen van de voorwaarden voor het welzijn van biljoenen en biljoenen wezens met gevoel in de verre toekomst. Om dit te kunnen doen, moet de mensheid echter wel overleven. Daarom worden alle morele vragen gereduceerd tot “existentiële risico’s” (het zogenaamde “x-risico”).

Een centraal gedachte-experiment van dit lange termijn-denken is de overweging dat vrede en een kernoorlog die 99 procent van de wereldbevolking doodt op de lange termijn meer gemeen zouden kunnen hebben, dan deze kernoorlog met iets dat het hele menselijke ras uitroeit. Dergelijke voorspellingen zijn gebaseerd op aannames zoals interstellaire ruimtekolonisatie, het uploaden van de geest en de digitale repliceerbaarheid van het bewustzijn – hoewel die waarschijnlijk nog wel een paar weken op zich zullen laten wachten (zie Human Brain Project)! Ze negeren echter de huidige problemen, zoals de gevolgen van de opwarming van de aarde of sociale ongelijkheid, als “moreel verwaarloosbaar”. Immers, vergeleken met de biljoenen en biljoenen gelukkige wezens in de verre toekomst, zijn de paar miljard mensen van vandaag de dag slechts een afrondingsfout, en hun problemen zijn te verwaarlozen.

Het onderscheidende kenmerk van lange termijn-isme is de x (x-risico). Musk verklaarde dat het lange termijn-denken “nauw aansluit bij mijn eigen filosofie”. Hij noemde zijn zoon X Æ A-12, zijn bedrijf voor ruimtetoerisme “Space X”. Twitter heet nu X – en is “een logische volgende stap naar superintelligentie”, in de woorden van digitale marketingexpert Helén Orgis, op LinkedIn. X levert namelijk een enorme hoeveelheid gegevens (communicatie, financiële bewegingen, koopgedrag). Op zijn beurt kan Musk dat allemaal gebruiken om zijn AI-bedrijf X.AI en zijn bedrijf voor hersenimplantaten Neuralink te voeden. In het algemeen doet Musk “onderzoek” op alle gebieden die door het lange termijn-denken worden genoemd.

De schil van het lange termijn-denken is “effectief altruïsme” (er is geen moraal; goed is wat de meeste mensen ten goede komt; verdien zoveel mogelijk geld om zoveel mogelijk goed te doen). Dit ziet zichzelf als een verdere ontwikkeling van het “objectivisme” van Ayn Rand. Naast Altman en Musk zijn andere prominente aanhangers Peter Thiel, vertegenwoordigers van de cryptoscene (bijvoorbeeld Sam Bankman-Fried) en de oprichter van de website Our World in Data. Het VN-rapport “Our Common Agenda”, gepubliceerd in 2021, zou belangrijke concepten en benaderingen van het lange termijn-denken hebben overgenomen.

Een ‘ondernemerfilosofie rechtstreeks uit een boek

Timnit Gebru schreef in november 2022 ook dat ze in haar twee decennia in Silicon Valley had gezien hoe “de effectief altruïsme-beweging een verontrustend niveau van invloed heeft gekregen” en steeds meer AI-onderzoek domineert. Thiel en Musk waren bijvoorbeeld sprekers op de effectief altruïsme-conferenties in respectievelijk 2013 en 2015. (13)

Net als lange termijn-denken werkt effectief altruïsme ook met apocalyptische bedreigingen. De grootste bedreiging is dat een algemene kunstmatige intelligentie de mensheid zal uitroeien. De enige manier om dit te voorkomen is door zo snel mogelijk een goede AI te maken. Daarom richtten Elon Musk en Peter Thiel in 2015 het bedrijf OpenAI op, om “ervoor te zorgen dat kunstmatige intelligentie de hele mensheid ten goede komt”, zoals op hun website staat. Helaas liep het anders: OpenAI bracht eind 2022 ChatGPT uit. Vier jaar eerder had Musk zich teruggetrokken uit het bedrijf omdat hij niet in staat was om de volledige controle over te nemen, en sinds 2019 is Microsoft de belangrijkste aandeelhouder. Musk en Thiel hebben veel geïnvesteerd in soortgelijke bedrijven om “goede AI” te ontwikkelen, zoals in DeepMind en MIRI.

Musk speelt graag met codes van de qanon-beweging. Thiel is ook een fascistische technocraat die de macht wil overdragen aan een “superieure heersende klasse”. Een “enkel individu” zou het lot van de mensen ten goede kunnen veranderen, schreef hij. In 2009 verklaarde hij dat vrijheid en democratie niet “verenigbaar” zijn. Tijdens de verkiezingscampagne van 2016 koos hij publiekelijk de kant van Trump en doneerde hij miljoenen aan zijn campagne. Sindsdien financiert hij ultra-rechtse republikeinen. Zijn bedrijf Palantir is verweven met geheime diensten en de militaire industrie.

Alleen een elite kan de mensheid redden; egoïsme, vindingrijkheid en efficiëntie zijn de hoogste deugden; egoïstische grootindustriëlen zijn de “motor van de wereld”; het stoppen van deze motor leidt tot het einde van de beschaving; daarom is alle staatsinterventie immoreel. Ayn Rand maakte van dit soort dingen bestsellers in de jaren vijftig. In de VS is ze nog steeds een van de meest invloedrijke en meest gelezen politieke auteurs. Haar boekje “Atlas Shrugged” uit 1957 is meerdere keren in het Duits vertaald, – onder steeds nieuwe titels – voor het laatst in 2021 als “Der freie Mensch”. Rand zag Kant, de filosoof van de Verlichting, als “de meest kwaadaardige man in de geschiedenis van de mensheid”. Alan Greenspan, de voormalige voorzitter van de Federal Reserve, was een goede vriend van Rand en nam haar politiek-economische ideeën over. Dat deed ook de Tea Party-beweging. Het Ayn Rand Institute, dat effectief altruïsme propageert, speelde ook een belangrijke rol in de protesten tegen de hervorming van de gezondheidszorg door Barack Obama.

“We moeten onszelf bevrijden van het alternatief dat effectief altruïsme ons verkoopt: ofwel onderworpen worden door een AI ofwel gered worden door een steeds ongrijpbaardere techno-utopie die ons beloofd wordt door de Silicon Valley-elites.”
(Timnit Gebru)

Technologie is geen motor van sociale vooruitgang

Een datalek bij Tesla onthulde in juni dat zijn automatische bestuurder al meer dan duizend ongelukken had veroorzaakt. Technisch gezien was die hetzelfde als de oplossing van Volkswagen, die al enkele jaren oud was, met één cruciaal verschil: die van Tesla schakelde zichzelf niet uit uit voorzorg. De nonchalance waarmee Musk en zijn bedrijven technische tekortkomingen negeren en verdere onhoudbare beloftes doen is geen “gril van een ondernemersgenie” – het is zijn zakenprincipe.

Met behulp van de startupmethode van het Minimal Viable Product (een nauwelijks levensvatbaar product op de markt brengen) schiet hij raketten de ruimte in, zet hij auto’s op de weg en laat hij gevaarlijke software op ons los. Uiteindelijk geeft hij niets om mensenlevens als die zijn lange termijn-missie in de weg staan.

De tech-miljardairs zijn rijk geworden met big data, aandelentransacties en de verkoop van bedrijven. Ze zijn allesbehalve progressief. Ze gebruiken hun rijkdom om reactionaire krachten te financieren (Thiel). Ze sturen de ontwikkeling van AI in de richting die hen uitkomt (zwarte doos, verantwoordelijkheid uitsluiten, sociale behoeften uitbuiten zoals bij het programma Replica). AI versnelt inderdaad sommige sociale ontwikkelingen – maar niet in een progressieve richting.

Als ‘leren’ bijvoorbeeld niet langer betekent dat je iets begrijpt, maar dat je slaagt voor een meerkeuzetoets, dan zal vroeg of laat het uur van de generatieve AI aanbreken.

Als denktanks het politieke debat kunnen vervangen en regeringen kunnen manipuleren, dan is AI voor het kapitaal “een nog ingenieuzer instrument voor indirect politiek-economisch bedrog … dan de populaire ‘stichtingen’, de denktanks”. (Dietmar Dath in “Finde ein Kürzel…”)

De “auto-mobiel” van Ford leidde onder andere tot de ontmanteling van functionerende openbaar vervoer-systemen (elektrische bussen, spoornetwerken, pneumatische buis-systemen). Maar de auto was meer dan anderhalve eeuw lang een zeer succesvol bedrijfsmodel. Dit is nog niet het geval met generatieve AI. ChatGPT kost ongeveer 700.000 dollar per dag om te draaien. Het is een factor negentig te duur om het via advertenties te financieren, zoals dat gebeurt bij de zoekmachine van Google. De maandelijkse reclame-inkomsten van Twitter zijn in de VS gehalveerd sinds de overname door Musk in oktober 2022. We hebben dus abonnementsmodellen nodig. Microsoft rekent tien dollar per maand voor de co-piloot op zijn ontwikkelaarsplatform Github – en maakt blijkbaar een verlies van twintig dollar per gebruiker, of zelfs tachtig dollar per maand voor Power Users. Met een paar miljoen ontwikkelaars kan Microsoft het tekort zeker aan. Maar het kan zijn AI-helpers niet beschikbaar maken voor honderden miljoenen gebruikers van zijn Office-programma’s of als onderdeel van zijn smartphone-besturingssystemen. Voor zakelijke klanten zijn Microsoft en Google nu dertig dollar per gebruiker overeengekomen – de meeste particuliere gebruikers zullen dat zeker niet betalen voor extra AI-hulpmiddelen. De grote vijf techbedrijven breiden hun macht nog steeds uit door AI te kruissubsidiëren. Maar op een gegeven moment moet er winst worden gemaakt. Anders heeft Dietmar Dath gelijk en was AI de afkorting voor in “Afwachting van Insolventie” (het moment dat een bedrijf niet langer aan financiële verplichtingen kan voldoen).

Klanten beslissen over het succes van het bedrijf (niemand hoeft bij X te blijven). De mensen in Brandenburg, Maagdenburg en Saksen beslissen ook hoe het verhaal verder gaat: blijft hun water worden afgenomen? En de werkers van Musk, die slechts onregelmatig betaald worden en een hoog risico op ongelukken hebben – zullen zij dat voor altijd blijven pikken? Al een jaar lang zijn er ziektecijfers tot dertig procent in de autofabriek in Grünheide. Gisteren (9 oktober) werd de eerste grote actie gevoerd tegen de extreme werkdruk, de te hoge productiedoelen en het gebrek aan veiligheid op het werk.

Wildcat

(Dit artikel verscheen oorspronkelijk in het herfstnummer van 2023 van Wildcat onder de titel: “Kapitalistische Intelligenz – Was steckt hinter dem Hype um KI?”)

Noten

• 11. Het staakbesluit van de bond staat online: https://www.sagaftrastrike.org/post/sag-aftra-strike-order-for-tv-theatrical-streaming-contracts – The Alliance of Motion Picture and Television Producers includes Amazon/MGM, Apple, Disney/ABC/Fox, NBCUniversal, Netflix, Paramount/CBS, Sony, Warner Bros. Discovery/HBO and others.
• 12. Dietmar Dath: FAZ, 1 juni 2023.
• 13. Timnit Gebru: “Effective Altruism Is Pushing a Dangerous Brand of ‘AI Safety’” in Wired, 30 november 2022.