Van meerdere mensen die ons boek Niet onze AI - voorbij de beloften van Big Tech lazen, krijgen we terug dat het volgende besef ze enigszins geruststelt: er zijn godzijdank meer manieren om naar AI te kijken. Ook komen steeds meer mensen in actie voor ‘onze AI’. Gabriella en ik zien en spreken allerlei verschillende personen die actief nadenken over, en bouwen aan wat ze van elkaar en (niet van) technologie verwachten.

Omdat het 2026 is, betekent het niet dat we alles maar met (generatieve) AI moeten doen. Sterker nog: het mag een heel stuk minder. Want dat mensen ‘fed up’ zijn met AI die ons wordt opgedrongen en als onvermijdelijk wordt gepresenteerd, toont ook techmagazine Wired deze week, a.h.v. reacties van lezers op de vraag: Wat begrijpen AI-bazen en -bedrijven niet?

Public Interest Technology, geen race

In New York City is recent een initiatief gelanceerd waar we blij van worden: Burgemeester Mamdani wil met Public Interest Technology (PIT)-crews, die bestaan uit multidisciplinaire ontwikkelteams, oplossingen bedenken die starten met de nood en behoeften van inwoners, en first and foremost in dienst staan van de burger. Als daarvoor technologie nodig is, wordt deze ontwikkeld van en voor algemeen belang. De PIT-crews werken zogezegd ‘resident-first’. (We vinden dit overigens niet verrassend, aangezien één van Mamdani’s adviseurs Ruha Benjamin is. Haar werk inspireerde ons ook voor het schrijven van Niet onze AI).

🎧 Ik vertel meer over Mamdani’s PIT-crews in het Mediaforum op NPO Radio 1 (v.a. 8:15)

In het essay Niet onze Race, dat Gabriella en ik schreven op uitnodiging van tijdschrift De Helling, betogen we waarom we het ‘AI is een race’-frame moeten verlaten en wat we daar werkbaarder voor in de plaats kunnen stellen. We illustreren dit met allerlei recente initiatieven en oplossingen waarmee onze samenleving veel meer gediend is.

On tour met ideeën voor Onze AI

Kritische en alternatieve geluiden in de AI-gesprekken zijn welkom en broodnodig. Om oplossingen te ontwikkelen die niet starten met technologie, nodigen we iedereen uit: burgers, ondernemers, onderzoekers, makers en bouwers. Kom daarom live en hardop meedenken en discussiëren over (geen of) alternatieve AI in ons leven, tijdens een van deze events:

🤗 In Arnhem, op dinsdagavond 8 september, 19:30 uur bij Coöperatieve boekhandel Het Colofon. Daar gaan o.a. Gabriella Obispa, Judith Zoë Blijden en ik in gesprek met het publiek. Toegang is gratis, wel even aanmelden: bestel@hetcolofon.nl

📽️ Vrijdagmiddag 18 september, Deventer: tijdens het Nederlands Journalistiek Festival, waar Volkskrants Laurens Verhagen en ik de documentaire Ghost in The Machine (van Valerie Veatch) inleiden. We gaan in gesprek met wetenschaps- en techniekfilosoof, ingenieur en innovatiedenker Martijntje Smits en met jou. Toegang is gratis. Meer info: www.nljf.nl

📴 Donderdagavond 24 september: De Marker Offline @ Paradiso Amsterdam. De Marker van BNNVARA is het journalistieke platform voor jongeren, met kritische vragen die te weinig worden gesteld. Inloop 19:00 Programma: 20 - 22:00 uur Min. leeftijd: 16 jaar Prijs: €15,-

📘 Laurens’ leeslijst

Prophecy van Carissa Véliz Er is denk ik niemand meer in mijn directe omgeving die ik niet heb aangeraden om het boek Prophecy van filosoof Carissa Véliz te lezen. Ik was er echt door geraakt, maar kan niet helemaal precies aangeven waarom... Je leert over de geschiedenis van waarzeggerij, profetieën en beloften, waarom data het volle leven nooit kunnen bevatten of benaderen en, misschien wel het mooiste: hoe we mens zijn in deze tijd. Lees dat boek!

Op het moment lees ik The Nerd Reich: Silicon Valley Fascism and the War on Democracy van journalist Gil Duran. Geen vrolijke kost, wel erg inzichtelijk gegeven de ondertitel. Gedetailleerd krijg je vat op wie welke Big Tech-miljardair beïnvloed (heeft). Mijn mond is al meerdere keren opengevallen bij het lezen over de meest krankzinnige, racistische denkbeelden en ongefundeerde ideeën van pseudotheoretici en internettrollen. Met als angstaanjagend besef daarbij: veel ervan is nu beleid van het Witte Huis. 🙀

👀 Waar kijk ik naar uit?

🎞️ Bioscoopfilm: The Social Reckoning.

Het verhaal van Meta-klokkenluider Frances Haugen verfilmd voor het grote doek. Een zogeheten ‘companion piece’ voor de film The Social Network uit 2010 (over de opkomst van Facebook). Deze nieuwe kent topacteurs uit series als The Bear en Succession. De trailer belooft veel...

📚 Boeken van Timnit Gebru, Naomi Klein & Astra Taylor en Jill Lepore

• Deep unlearning - the rise and radicalization of a tech idealist - Timnit Gebru

• The rise of end times Fascism - Naomi Klein & Astra Taylor

• The rise and fall of the artificial state - Jill Lepore

Veel rise, fall, radicalization en fascisme... What a time to be alive 🫣. Voor Nederlands recent (en aankomend) werk, meer vanuit ons perspectief, tip ik graag:

• Vierkante ogen; hoe informatici de wereld zien en vormen - Felienne Hermans

• Dit is AI; de valse beloften van kunstmatige intelligentie - Ilyaz Nasrullah

• De Techbro’s; hoe de futuristische fantasieën... - George van Hal en Laurens Verhagen

Nodig ons uit, gebruik ons werk...

Gabriella en ik faciliteerden de afgelopen tijd een aantal workshops, namen deel aan boekenclubs en gaven een keynote voor SURF. Een lezer maakte een handige template o.b.v. de 25 vragen uit ons boek, die ze op het werk met elkaar invullen voordat ze een AI-project starten. Soms besluiten ze dat het beter is om het helemaal niet te doen 🙏🏽. Laat me weten of je deze AI-ofnie-spreadsheet ook wil hebben, dan DM ik ‘m.

... en lees ons boek:

‘Kritische handleiding bij het toverstokje van AI’

Niet onze AI kreeg ondertussen een tweede druk en we kregen fijne recensies van NRC, De Correspondent en het Vlaams-Nederlandse platform voor literatuurkritiek, De Reactor:

‘Gelukkig laten de auteurs ons niet dobberen in de donkere oceaan vol hype, beloftes en onrust. Ze bespreken concrete manieren om de koers te verleggen.’

Tot ziens / sprekens bij een van de events, of van gedachten te wisselen in de comments of DM.

Groet, Laurens👋

Kom naar onze boeklancering in Felix Meritis

Wij, Gabriella Obispa en Laurens Vreekamp, schreven Niet onze AI – voorbij de beloften van Big Tech, als uitnodiging om na te denken, te praten en om ideeën te ontwikkelen om AI te realiseren die van ons allemaal is en voor ons allemaal werkt.

De presentatie van ons boek vindt plaats binnen een breder programma op dinsdagavond 18 november in Felix Meritis (Amsterdam), met panelleden Felienne Hermans, hoogleraar Vakdidactiek van de informatica aan de Vrije Universiteit Amsterdam, tech-ondernemer en investeerder Ruben Brave en Judith Zoë Blijden, oprichter van Is This Art Maybe en Senior Adviseur Hooghiemstra & Partners.

👉🏽 Koop hier je tickets voor het programma op 18 november in Felix Meritis

Niet onze AI is voor iedereen die twijfelt, die zich ongemakkelijk voelt bij veel AI-toepassingen en die nieuwsgierig is naar een ander geluid. Jouw aarzeling is geen zwakte – het is precies wat we nodig hebben. Niet onze AI laat zien hoe diverse stemmen en andere perspectieven leiden tot slimmere, menselijkere technologie. Commercieel én ethisch. Er zijn meer smaken dan Big Tech ons laat geloven.

Ontdek het werk van mensen die nieuwe wegen bouwen en andere verhalen vertellen. Die hun toegewezen plek niet zomaar accepteren. Hun voorbeelden bewijzen dat een ‘AI van ons allemaal’ mogelijk is. Technologie die ons dient in plaats van andersom. Die autonomie versterkt in plaats van ondermijnt. Die vrijheid vergroot in plaats van afhankelijkheid.

De keuze ligt niet langer bij Silicon Valley. Wij zijn nu aan zet.

👉🏽 Pre-order het boek hier

Lees ook het interview met Gabriella & Laurens voor Villamedia.

Vriendelijke groet,
Laurens Vreekamp & Gabriella Obispa

De nieuwe Supervision is er (weer)! Welkom aan alle nieuwe abonnees.

Voor de goede orde slash oude garde: we slaan een nieuwe weg in. Vanaf nu krijg je iedere maand gratis een verfrissende kijk op AI in je inbox. Dit doen we door een onbekend of impopulair geluid te laten horen, vanuit een minder-dominant perspectief, in de woorden van de denker, maker of ondernemer zelf. Zo volgen we niet langer het ‘breaking news’ of de 'power shadows' van AI, maar geven we ruimte aan broodnodige alternatieven en verfrissende stemmen. Daar word je pas echt rijk van! 💸→🧠

‘Waarom?’ vraag je wellicht. Wel, AI is geen natuurverschijnsel dat ons overkomt, zoals techbedrijven en zelfverklaarde AI-experts ons vaak doen geloven. We hebben allemaal een stem en er bestaan heel verschillende ideeën over de rol van technologie in onze samenleving. Door deze verfrissende geluiden vast te leggen en de dominante perspectieven te bevragen, dragen we bij aan betere gesprekken en besluitvorming aangaande AI en andere tech.

Co-auteur: Gabriella Obispa

‘We?’ Ja je leest het goed. Supervision wordt vanaf heden geschreven door mij, Laurens Vreekamp én Gabrielle Obispa. (We werken trouwens ook samen aan een nieuw boek🙀.)

Gabriella is een professional op het gebied van recht, technologie en ethisch verantwoorde AI. Ze zet zich actief in voor verantwoorde algoritmen en AI-toepassingen en is betrokken bij de non-profit doe-tank Women in AI, om inclusiviteit en diversiteit binnen de tech sector te bevorderen.

Haar carrière omvat een docentschap Responsible Technology aan de Hogeschool Rotterdam en in haar huidige functie is ze ambtelijk secretaris bij de Commissie Persoonsgegevens Amsterdam.

In deze editie is de ruimte voor filosoof en jurist Judith Zoë Blijden, met een pleidooi voor bescheiden AI.

Veel leesplezier,
Gabriella Obispa & Laurens Vreekamp

Een pleidooi voor bescheiden AI

Silicon Valley gaat uit van een ideaal wereldbeeld dat niet bestaat. Een gebruiker van digitale apps, software en AI-systemen wordt door ontwikkelaars veelal gezien als statisch en gelijksoortig, zonder dat de relatie met de omgeving en anderen daarin wordt meegenomen. In de echte wereld voldoet niemand aan dat beeld, want de gebruiker bestaat niet: populaire digitale toepassingen worden gebruikt door een zeer grote verscheidenheid aan mensen.

Een gesprek met Judith Zoë Blijden

We zijn net begonnen aan het gesprek met filosoof en jurist Judith Zoë Blijden als een plensbui ons en andere terrasgasten van het Haagse café naar binnen jaagt. Ze onderzoekt, naast haar werk als senior beleidsmedewerker digitale transitie bij de Sociaal Economische Raad (SER), hoe bepaalde waarden uit de maatschappij weerspiegeld worden in digitale toepassingen die we veel gebruiken.

The Digital Period

Voor Judith is de vraag of ze nu jurist is, beleidsmedewerker of rechtsfilosoof irrelevant. Interdisciplinair opgeleid brengt ze in haar werk personen met verschillende expertises samen om te praten over de relatie die we hebben met technologie. Voor The Digital Period, haar publiek-filosofische project over autonomie en technologie, onderzoekt ze de waarden die ten grondslag liggen aan onze maatschappij, door te kijken naar hoe deze waarden worden vertaald in technologie.

Het idee achter The Digital Period is om met mensen met verschillende perspectieven - gebruikers, ontwikkelaars en onderzoekers - in gesprek te gaan over filosofie en technologie.

Menstruatietracking-apps

Judith is zelf altijd onderdeel van de maatschappelijke onderwerpen die ze onderzoekt. Zo analyseerde ze voor The Digital Period menstruatietracking-apps die ovulatie- en menstruatiecycli digitaal bijhouden. De apps verzamelen persoonsgegevens van hun gebruikers - personen die menstrueren - met de belofte dat hun autonomie wordt vergroot en dat hun positie wordt versterkt in termen van gezondheid en zorg.

De keuze voor juist dit onderzoeksonderwerp kwam voor Judith mede voort uit de recente afschaffing van het recht op vrije abortus (de zaak Roe v. Wade) in de Verenigde Staten. Elke staat zou voor zichzelf moeten beslissen of abortus legaal is of niet.

Waar menstruatietracking-apps tot voor kort een handig hulpmiddel waren voor de persoon zelf, leveren ze in het licht van deze nieuwe realiteit in de VS strafrechtelijk bewijsmateriaal op om illegale abortus mee aan te tonen. Het gevolg: veel vrouwen daar verwijderden hun menstruatietrackings-apps en er ontstond discussie rondom het gebruik van deze apps, over de bescherming van persoonsgegevens en over de privacy van gebruikers. Deze situatie in de VS toont het groeiende besef van veel mensen dat technologie geen neutraal instrument is en dat maatschappelijke context moet worden meegenomen bij zowel ontwerp als gebruik van digitale diensten.

Verder kijken dan goed-fout

Judith merkte tijdens haar onderzoek dat de publieke opinie veranderde ten opzichte van menstruatietracking-apps: “Discussies worden vaak te eenzijdig gevoerd, met weinig aandacht voor de bredere betekenis van autonomie en privacy.’’ Volgens haar hebben deze apps, ondanks de privacyproblemen, wel degelijk waarde voor sommige mensen, bijvoorbeeld bij het verbeteren van hun gezondheid en om hun positie te versterken in gesprekken met gezondheidsprofessionals.

Door voorbij de goed-fout dichotomie te kijken en afstand te nemen van binaire denkpatronen - zoals 'AI is de oplossing voor alles' versus 'alle AI is slecht' - ontstaat een genuanceerder beeld. Ze kwalificeert menstruatietracking-apps daarom ook niet niet in termen van goed of slecht maar beschouwt ze in de maatschappelijke context waarin ze worden ontwikkeld en gebruikt. Zo ontdekte Judith dat veel van deze apps zijn ontworpen met stereotyperende kenmerken zoals roze kleuren en bloemetjes. Een aantal apps blijkt uitsluitend te zijn ontwikkeld door mannen, wat vragen oproept over representatie en gebruikersbegrip binnen de techsector. 

De belofte van controle, autonomie en empowerment

Volgens Judith stellen menstruatietracking-apps ons in staat na te denken over de verwevenheid van (publieke) waarden in technologie en over de vraag hoe wij technologie willen ontwerpen en gebruiken. De beloften van AI-ontwikkelaars zijn, net als bij eerdere digitale innovaties, vaak groot maar pakken zelden zo uit. Denk maar eens aan het uiteindelijke verbod op smartphones in de klas of het verdwijnen van flitsbezorgers - voorbeelden van digitale innovaties die bij hun introductie louter positief werden aangeprezen.

De makers van menstruatietracking-apps beloven controle en kennis over je gezondheid en autonomie. Judith stelt dat die beloften extreem zijn en dat het lijkt alsof deze technologie alles-oplossend is. Dit maakt de positie van de mens die dergelijke apps gebruikt kwetsbaar. De bouwers van de apps gaan namelijk uit van een bepaalde ‘norm’ waarvan zij denken dat iedereen daar in grote mate aan voldoet. In hun optiek is de mens een statische, homogene gebruiker, geïsoleerd van de omgeving en van anderen.

Tijdens haar onderzoek is Judith erachter gekomen dat bijvoorbeeld niemand voldoet aan de norm die de meeste menstruatietracking-apps voor ogen hebben. Niemand past by default precies bij het gebruikersprofiel dat bedacht is door de ontwikkelaars.

Relationele autonomie

Judith: “Hoe risicovol (of succesvol) het gebruik van menstruatietracking-apps is, hangt af van verschillende aspecten zoals genderidentiteit, sociaal-economische achtergrond en seksuele voorkeur.“ In plaats van te streven naar een situatie waarin invloeden van buitenaf geen rol spelen, moet er aandacht zijn voor de manier waarop iemand beïnvloed wordt. Aandacht voor de sociale omgeving geeft inzicht in de motivatie van een beslissing en daarmee ook in de bekwaamheid voor het nemen van die beslissing.

Ze hanteert hiervoor de term relationele autonomie, een term uit de feministische literatuur. Hierin staat geen individualistisch, maar een sociaal en relationeel mensbeeld centraal. Wie wij zijn wordt ook bepaald door onze relaties met anderen. Het gaat er hierbij om, legt Judith uit, dat je in principe wel zelfstandig kunt leven, maar niet los te zien bent van je omgeving. Je erkent dat je deel uitmaakt van een groter geheel en dat je keuzes invloed hebben op anderen, net zoals hun keuzes invloed hebben op jou.

Bescheiden ontwikkelen

Dit denken vormt de basis voor het pleidooi dat Judith deze middag in het café in hartje Den Haag houdt, voor wat ze noemt ‘bescheiden AI’. De eerste stap hierbij is dat ontwikkelaars van digitale toepassingen zich gematigd opstellen over hun beloften; of het nu gaat om menstruatietracking-apps of AI-chatbots. Dat ze vanuit een genuanceerder idee over de beperkte rechtstreekse impact van hun oplossing bescheiden gaan nadenken en daarmee rekening houden tijdens het ontwikkelen. 

Ze deelt haar kennis over relationele autonomie dan ook zoveel mogelijk om het bij ontwikkelaars op de agenda te krijgen. Deze opvatting helpt hen, zo redeneert ze, om te begrijpen hoe complex het is om je leven te verbeteren of betere keuzes te maken met alleen een app in je hand.

Met kennis van relationele autonomie in het achterhoofd realiseren ontwikkelaars zich wellicht (beter) dat mensen over veel aspecten in hun leven verminderd of beperkt controle hebben. Iets dat uiteraard ook geldt voor mensen die een menstruatietracking-app gebruiken.

Judith erkent tegelijkertijd dat ontwikkelaars tot op zekere hoogte beperkt zijn wat betreft de randvoorwaarden waarbinnen ze moeten werken: budget, expertise, wet-en-regelgeving en het businessmodel zijn allemaal belangrijke factoren die tegen elkaar afgewogen moeten worden tijdens het denk- en maakproces.

Bescheidenheid belonen

Volgens haar is het daarom van belang dat we naar een genuanceerder debat gaan, waarbij ontwikkelaars die zich bescheiden durven op te stellen op lange termijn (maatschappelijk) worden beloond. Voor de skeptische lezer: er zijn genoeg initiatieven die hoopgevend zijn voor dit denken. Denk maar aan de percentageregeling beeldende kunst bij de overheid, of de richtlijnen die de Raad van Europa heeft opgesteld als het gaat om aanbestedingen van AI-systemen door publieke omroepen. Voor bedrijven is er in dit kader B Corp certificering en een groeiende groep reclamebureaus belooft geen promotie meer te maken voor fossiel personen­vervoer of fossiele industrie.

Judith wijst erop dat wanneer een probleem niet slechts technisch van aard is, de oplossing dat ook zelden zal zijn. Voordat ontwikkelaars beginnen met het bouwen van AI-systemen, moedigt Judith hen aan om eerst de fundamentele vragen te stellen: voor welk probleem moet dit AI-systeem een oplossing bieden? AI bestaat niet in een vacuüm, het is sterk verweven met sociale, economische en culturele processen van onze maatschappij. Als bescheiden ontwikkelaar dien je je dus niet alleen te richten op het ontwikkelen van technische oplossing/toepassing, maar denk je na over hoe die oplossing interacteert met de maatschappij. Het is cruciaal om te begrijpen dat een puur technische benadering vaak tekortschiet bij het vinden van de ‘juiste’ oplossing. 

Ze daagt ontwikkelaars uit om verder te kijken dan hun gebruikelijke kaders en samen te werken met sociologen, gedragskundigen en filosofen. Deze niet-technische experts helpen om een diepgaander begrip te krijgen van de interactie tussen technologische innovatie en de maatschappij. Ze benadrukt dat de wereld complex en divers is en dat oplossingen daarom aanpasbaar moeten zijn aan verschillende situaties en behoeften. Dit geldt zowel voor het eindproduct als voor het ontwikkelproces zelf.

Transparant over beperkingen

Tot slot roept Judith ontwikkelaars op om transparant te zijn over de mogelijkheden én beperkingen van hun technologische toepassingen. Door transparant te zijn stellen ontwikkelaars hun gebruikers, andere bedrijven en overheden in staat om weloverwogen beslissingen te nemen over de inzet van AI. Die openheid draagt bij aan een realistischer beeld van de mogelijkheden van AI en helpt iedere betrokkene om beter geïnformeerde keuzes te maken bij het inzetten ervan in hun professionele en/of dagelijks leven.▪️

Hoe is het? M’n laatste brief aan jou dateert alweer uit mei 2023 - een eeuwigheid in tijden van AI. De daarin beschreven AI-geloofsovertuigingen en controversiele, kwalijke achtergronden, gekoppeld aan het acronym TESCREAL, maakte veel los bij een aantal lezers. Heel tof dat jullie dat zo aan me laten weten en delen.

👉🏽 Lees die brief hier als je dat nog niet gedaan hebt.

Deze week de week van een AI Translator, of: wat ik zoal doe de laatste tijd
Laat ik het deze keer luchtig houden, dacht ik, en een keer delen hoe een gemiddelde week er uitziet voor een zogeheten AI translator als ik. Noem het journaling. Een editie van een andere aard en kaliber dan normaal, maar hee, we moeten soms ook samen uit onze comfort zone, toch? Het eerlijke verhaal is dat ik onlangs ben verhuisd van Amsterdam naar Arnhem en zo’n life event drukt hier en daar wat op je routines 😉.

De volgende brief weer als vanouds: De Productiviteitsparadox & AI
Ben jij nou die Super Vision-lezer die eigenlijk gewoon wholesome hardcore AI analyses verwacht (of praktische tools) en nu al teleurgesteld is, dan verzoek ik je vriendelijk om nog even geduld te hebben. Ik beloof je bij deze dat ik in mijn volgende brief uitgebreid inga op hoe de toekomst van (creatief) werk er werkelijk uitziet. Ik raakte daarvoor geinspireerd door de Productiviteitsparadox van Solow en het volgende, legendarische citaat.

‘You can see the computer age everywhere but in the productivity statistics.’

  Robert Solow, Amerikaans econoom (en MIT prof. sinds 1949!) Citaat uit 1987.

Wat gebeurt er als je anno 2023 ‘computer age’ vervangt door ‘AI age’? Wat zeggen de nieuwste cijfers, onderzoeken, experts en werkenden hierover? De antwoorden krijg je volgende keer.

Voor nu, veel liefdagboek-plezier ⏱️ Leestijd: een goed aantal minuten

Laurens, auteur van The Art of AI

Ps. Geen tijd voor een stukje volle vijf werkdagen journaling? Lees dan alleen dit:

Deze editie - de samenvatting
Met deze editie van de nieuwsbrief laat ik je aan de hand van mijn afgelopen week zien waar ik zoal kom, welke projecten ik momenteel doe en welke vragen ik krijg als AI translator.

Sinds mijn boek The Art of AI in juni 2022 uitkwam, maar vooral sinds de lancering van ChatGPT, wordt mij nog vaker gevraagd om allerlei ontwikkelingen rondom AI te duiden. Dat doe ik deze dagen door er workshops over te geven of bijvoorbeeld redacties een aantal dagen te trainen. Heel vaak zitten daar verrassende ontmoetingen en bijzondere locaties bij…

Maandag: Vrouwenemancipatie & de bril waarmee ik naar AI kijk
Dinsdag: Het IKEA-effect van AI.
Woensdag: Help, mijn uitgever wil met me lunchen.
Donderdag: AI-training geven bij Villamedia.
Vrijdag: Een live tattoo-interview tijdens het Festival v/d Journalistiek (met beeld - het enige in deze brief!)

Live-event vrijdag 6 oktober: Machine Learning Labor

Kom meepraten tijdens AI for Good #5 over De Toekomst van Werk met AI, op vrijdagavond 6 oktober in Felix Meritis, Amsterdam. Sinds vorig jaar organiseer ik deze avond, steeds weer over een ander thema waarop we de impact van AI onderzoeken. Zet 6 oktober alvast in je agenda.

1. Maandag - Vrouwenemancipatie & de bril waarmee ik naar AI kijk

Een goeie 13 maanden geleden kwam mijn boek The Art of AI uit. Daarin werp ik samen met machine learning engineer Marlies van der Wees (DPG Media) een praktische blik op hoe het creatieve proces en AI hand in hand gaan. (Note: daar is nog niets aan verouderd, alleen de tools hebben nu andere namen). Aan de hand van 14 interviews met makers uit de mediawereld, journalistiek en design, zetten we de mogelijkheden, kansen en gevaren van kunstmatige intelligentie op een rij. Het boek is bedoeld voor inhoudelijke makers, die vaak geen programmeerkennis hebben, geen wiskundeknobbel bezitten of voorliefde voor statistiek hebben, maar wel meer over de basis willen weten.

Sinds de komst van ChatGPT wordt mij nog vaker gevraagd om allerlei ontwikkelingen rondom AI te duiden. Dat doe ik deze dagen door er workshops over te geven of bijvoorbeeld redacties een aantal dagen te trainen. Zo leren ze de nieuwe technologie te begrijpen en in te zetten voor journalistiek en ander creatief werk.

AI & vrouwenemancipatie

Deze maandagmiddag geef ik een workshop aan een organisatie die opkomt voor vrouwenemancipatie en minderheden. Tijdens het voorgesprek vroeg de organisator me expliciet om niet te veel aandacht te besteden aan de welbekende vooroordelen die AI-systemen bevatten. Daar zijn ze al zeer bewust van en volop mee bezig. Het team is vooral op zoek naar de mogelijkheden en inspiratie.

Laat dat nou net de bril zijn waarmee ik zelf ook altijd naar technologie kijk: als opener van deurtjes in je creatieve brein. Het gereedschap is nooit het doel, maar maakt het mogelijk om andere vragen te stellen, nieuwe verhalen te bedenken of oplossingen te vinden in een richting die je tot voor kort niet (her)kende. Niet bij jezelf of niet bij anderen.

2. Dinsdag - Het IKEA-effect van AI

Ken je het IKEA-effect? Dat gevoel dat je krijgt wanneer je zelf je kast of bed in elkaar zet? Het zelf doen zorgt ervoor dat je meer waarde toekent aan een product of object.

Vandaag ga ik twee IKEA-kasten in elkaar zetten voor in m’n werkkamer – ik ben namelijk pas verhuisd van Amsterdam naar Arnhem. Eens kijken of ook ik dat IKEA-effect ga ervaren. Maar eerst wil ik het hebben over een ander soort effect.

Voor de onthullingen rondom de Pandora Papers (oktober 2021) werden bijna twaalf miljoen documenten doorzocht door zeshonderd journalisten vanuit de hele wereld, daarbij ondersteund door AI-analysesoftware. AI werd ook al ingezet bij onderzoek naar de invloed van Instagrams algoritme op de posts van politici gedurende campagnetijd, naar haat die vrouwelijke politici op social media ontvangen en voor analyse van satellietbeelden met daarop Russische loopgraven op Oekraïens grondgebied.

It’s a match

Wat levert (onderzoeks)journalisten het gebruik van AI-software zoal op en waar moeten ze op letten bij de toepassingen ervan? Vandaag hoop ik daar antwoorden op te krijgen, wanneer ik de online presentatie bijwoon van de resultaten van onderzoeksproject It’s a match. Voor dat onderzoek werkten ethici, juristen, data- en AI-engineers en journalistieke onderzoekers samen om vanuit verschillende invalshoeken de mogelijkheden en randvoorwaarden voor onderzoeksjournalistieke AI in kaart te brengen.

Deze samenwerking (met een RAAK publiek-subsidie van Nationaal Regieorgaan SIA) kent nogal wat imposante partijen; penvoerder Fontys Hogeschool trok samen op met het lectoraat Kwaliteitsjournalistiek in Digitale Transitie van Hogeschool Utrecht. Daarnaast werkten ook het Nederlands Instituut voor Beeld & Geluid, Pointer en Omroep Flevoland en ook nog een aantal publieke partners mee, zoals Games for Health, MindLabs, L1, RTV Utrecht, Omroep West en IDfuse.

Of een journalistieke samenwerking met AI voor een omgekeerd IKEA-effect zorgt, lees je bij de volgende dag.

3. Woensdag - Help, mijn uitgever wil met me lunchen

Ondertussen is de eerste IKEA-kast af en ook m’n nieuwe bureau staat werkklaar. Zoals voorspeld, voelt het best lekker om dit allemaal eigenhandig (nou ja, soort van) in elkaar te zetten. Maar bovenal is het fijn dat je de spullen direct kunt gebruiken. Dat bleek anders bij de presentatie van de eerste onderzoeksresultaten project It’s a match

Onderzoeksjournalistiek en AI

Een van de betrokken Fontys-docenten bij het project It’s a match presenteerde een aantal zogeheten Proofs of Concept (POC) van AI-toepassingen voor onderzoeksjournalisten, ontwikkeld door studenten. Voor de hand liggende ideeën kwamen langs, zoals verschillende AI-filters die de betrouwbaarheid van nieuwsbronnen of social media content meten.

Automatische tijdlijngenerator voor je eigen dataset

Een veelbelovend idee dat werd getoond (maar helaas nog niet gerealiseerd) is Timelab van Femke Priems. Zij bedacht een tijdlijngenerator, die helpt om de inhoud van een items uit een dataset chronologisch en visueel te organiseren. De voorbeeldcasus die Priems hiervoor gebruikt, hoort bij de vraag: hoe zijn de avondklokrellen in Eindhoven zich gaan verspreiden (online)? Hierbij zet haar AI-toepassing Timelab de video’s en oproepen op Facebook of Twitter netjes op een rijtje in de tijd. Het lijkt me best een handige tool voor journalisten, en een die het verdient om praktisch uitgewerkt te worden.

Perceptie van AI bij nieuwsorganisaties

Op welke manieren nieuwsorganisaties kijken naar, en bezig zijn met AI, liet Marieke van Vliet zien aan de hand van een matrix. Daarop waren de assen landelijk – regionaal en innovatief – traditioneel tegen elkaar afgezet, met daarop verschillende omroepen en redacties gepositioneerd. (Deze visual is helaas op dit moment nog niet voor publicatie geschikt). Het model werkt erg inzichtelijk om een gevoel te krijgen bij de sentimenten, het kennisniveau en de toepassing van AI-software in de journalistieke beroepspraktijk.

Lunch met de uitgever

Deze inzichten van afgelopen dinsdag hielpen me sowieso bij het lunchgesprek dat ik deze woensdag had met mijn uitgever. Hij mailde me namelijk een tijdje terug:

‘Wellicht goed om eens na te denken over een tweede editie. Hoe sta jij hierin? Als uitgeverij omarmen wij AI. De markt is heel erg op zoek naar antwoorden en vooral ook praktische toepassingen.’

Fast forward naar woensdagmiddag, Utrecht centrum.

We bestelden allebei een broodje rendang. Bunk in Utrecht is bij het grote publiek nog niet zo bekend, maar hun broodjes zijn fenomenaal. Studenten en toeristen weten de plek al goed te vinden, zo zien we.

Het is een beetje traditie geworden om hier aan de nieuwe doorgetrokken singel af te spreken met mijn uitgever. Hij vertelt me dat ze inmiddels zelf ook anders zijn gaan werken dankzij AI. Van de inhoud van hun nieuwsbrieven tot content snippets op LinkedIn en van on demand printing tot cyclische uitbreidingen op bestaande titels; AI assisteert ze en maakt nieuwe ideeën gemakkelijker (en soms ook goedkoper) uitvoerbaar.

Een nieuw uitgangspunt…

De honger van professionals naar relevante content is het centrale nieuwe uitgangspunt voor de uitgever, in plaats van het drukken en binden van een x aantal exemplaren op papier. De vraag die dit lunchgesprek beheerst is: waarover zou een uitbreiding van mijn boek The Art of AI (op papier) moeten gaan? Een boek dat uitkwam vlak voor ChatGPT en andere generatieve AI zoals DALL-E-2 en MidJourney.

…en een nieuwe visie

De uitbreiding moet een visie bieden, bepalen we. Niet zozeer beschrijven wat sinds december 2022 vrijwel alle media-aandacht rondom AI absorbeert (denk aan misinformatie, fraude in het onderwijs, petities met pauzeknoppen, auteursrechten en regulering), maar moet juist een stuk verder kijken naar vooral nieuwe creatieve mogelijkheden.

En het moet weer nieuwe interviews bevatten van voorlopers die AI waardevol inzetten voor hun werk. Dit allemaal zodat lezers met de update in de hand betere afwegingen maken voor hun toekomst met AI – voor hun organisatie, hun vak en hun eigen carrière.

Zo kreeg ik na een heerlijk broodje en een ideeënrijk gesprek enorm veel zin om verder te broeden. Maar dat moest nog even op pauze…

4. Donderdag - AI-training geven bij Villamedia op de redactie

Deze hele dag ben ik op de redactie van Villamedia (onderdeel van de NVJ - de Nederlandse Vereniging voor Journalisten). Ik verzorg de tweede dag van mijn eind 2020 ontwikkelde driedaagse cursus ‘AI op de redactie’.

Deze editie van de cursus geef ik voor het eerst samen met Joris Heijkant, een unieke creatieve technoloog. Samenwerken met complementaire talenten was een van mijn voornemens als ondernemer dit jaar. Joris belichaamt een zeldzame combinatie van inhoudelijk denken als een journalist, (front-end) programmeren voor het web en hij kan machine learning modellen opzetten en bouwen.

Zelf doen, daar gaat het om

Samen begeleiden Joris en ik deze drie dagen de redacteuren van Villamedia zodat ze zelfstandig AI-toepassingen uitwerken en kunnen realiseren die uiteindelijk (en hopelijk) alle journalisten verder vooruit helpen.

Vandaag hebben we ook een tweede gastspreker, Pieter Sabel van de Volkskrant. Hij deed met behulp van AI onderzoek naar satellietbeelden om Russische loopgraven in Oekraïne in kaart te brengen voor de lezer.

Vorige week, tijdens de eerste dag, kwam journalist Coen van de Ven langs, die ons vertelde over zijn prijswinnende onderzoek voor De Groene Amsterdammer naar online haat en seksisme rondom vrouwelijke politici in Nederland.

Volgende week ontvangen we Jasper Bunskoek van RTL Nieuws die vertelt over zijn ervaringen met nieuwsautomatisering en AI-powered onderzoek.

Op dagen als deze realiseer ik me dat we in Nederland al een tijdje erg goed bezig zijn met het ontwikkelen van originele, slimme en praktische AI-toepassingen binnen de creatieve sector. Ik ben benieuwd wat de Villamedia-deelnemers volgende week aan dat rijtje gaan toevoegen.

Vrijdag: een dag vol hypes en een live tattoo interview

‘Always hero other people’s work!’ zei een goede manager ooit tegen me. Ik heb dat altijd een mooi uitgangspunt gevonden en eentje die ik zelf ook probeer te hanteren.

Desalniettemin gniffelde ik even toen ik de volgende uitgebreide en rake sneer op Linkedin tegenkwam, die AI-hype-types in hun hemd zet.

Vertaler DeepL geeft de volgende vertaling van die post:

“Hier zijn 15 dingen die je kunt doen om in de top 1% van meest irritante ChatGPT en AI socialmedia-posters te komen:

1. Jezelf presenteren als een expert op het gebied van een technologie waarvan je tot vier maanden geleden het bestaan niet kende

2. Post er elke dag over op LinkedIn en Twitter in lijstvorm.

3. Eén regel tegelijk.

4. Maak een grote lijst van AI-bedrijven van anderen die vier maanden geleden ook nog niet bestonden.

5. Vertel iedereen hoe deze bedrijven bestaande banen gaan uitwissen en dat ze maar beter een inhaalslag kunnen maken!

6. En hoe de grootste techbedrijven zoals Google en Adobe in grote problemen zitten omdat ze waarschijnlijk nog helemaal niet hebben nagedacht over generatieve AI.

7. Gebruik zoveel mogelijk emoji’s! ⚡ Minstens een van deze voor elk van je briljante flitsen van genialiteit. 🚀 Eén voor hoeveel je volgerslijst is gegroeid. En idealiter gebruik je niet eens een woord als je in plaats daarvan een emoji kunt gebruiken. Gebruik 📠 en je 🧠.

8. Als iemand iets post dat ook maar enigszins kritisch is over AI, gebruik dan ChatGPT om een reactie te schrijven! Het zijn waarschijnlijk gewoon Luddieten die bang zijn voor nieuwe dingen.

9. Als een echte AI-expert, met een Ph.D. in Computerwetenschappen of Machine Learning met meerdere gepubliceerde artikelen zich zorgen maakt over AI, vertel hem dan waarom hij het mis heeft en dat diegene bang is voor nieuwe dingen.

10. Laat ze zien dat ChatGPT een rap kan schrijven in de stijl van Jay-Z over jouw industrie, zonder de letter “e” te gebruiken, waar niemand om vroeg.

11. Deel de 15 meest nuttige prompts die iedereen al kent.

12. Schrijf een echt lange en beschrijvende prompt voor het genereren van afbeeldingen die dezelfde resultaten zou krijgen als een kortere en eenvoudigere.

13. Negeer het feit dat ChatGPT routinematig totaal foutieve antwoorden uitspuugt.

14. Als je een man bent, zoek dan een vrouwelijke leider in het bedrijfsleven of in de technologie (het liefst allebei) en vraag haar of ze ooit heeft nagedacht over generatieve AI, voor het geval ze dat nog niet heeft gedaan.

15. Post “volg me voor meer inhoud zoals deze!” aan het einde!

(Met dank aan Nadia Piet voor het re-posten)

Festival van de Journalistiek
Enfin, gauw verder in de geest van Michelle Obama:

‘if they go low, we go high.’

Want vanmiddag bezoek ik, na een ochtendrondje op de racefiets, het Festival van de Journalistiek bij Beeld & Geluid in Den Haag. Dit om te horen en zien waar andere journalisten mee bezig zijn, hoe je daarvan kunt leren en ook om het te hebben over waar de beroepsgroep mee worstelt.

Chris Helt interviewt journalist Eric Smit (Follow the Money) terwijl laatsgenoemde getattoeeerd wordt.

De een z’n tattoo is de ander z’n interview

Je zou denken dat ik ging om journalistieke collega’s te ontmoeten, maar ik was toch vooral benieuwd naar de tatoeage die de gerespecteerde journalist en mede-oprichter Eric Smit van platform Follow The Money (FTM) live on stage liet zetten, terwijl hij werd geïnterviewd door Villamedia-hoofdredacteur Chris Helt. Heerlijk format, waarbij direct veel goeie anekdotes uit de jeugd van Smit voorbij kwamen.

Door mijn hunkering naar dit soort pseudo-sensatie miste ik een parallelsessie met Nederlander Christiaan Triebert, die voor de New York Times werkt en daar allerlei spannende onderzoeken doet.

Maar goed, jij en ik missen iedere week wel iets, en dat geeft niet, zou wijlen Martin Bril zeggen; je mist namelijk meer dan je meemaakt. Nu weet je in ieder geval wat ik zoal meemaakte. Vertel jij me dan nu wat jij zoal meemaakt, bijvoorbeeld tijdens een ☕️?

✅ Zo… Dat was me het weekje wel. Fijne zaterdag nog!

Abonneer je NU op deze brief voor meer inhoud zoals deze! 😛

—

Doneren kan nog altijd, 46 lezers gingen je al voor.

Deze nieuwsbrief schrijft zichzelf niet (en wil dat ook niet). Oftewel: dit kost tijd en geld. #schoorsteenroken #bijdebakker. Ben jij al een tijdje geabonneerd en/of wil je de brief extra waarderen? Doe mij dan het equivalent van een blikje cola zero cadeau:

👉🏽 Doneer eenmalig, eenvoudig via iDeal

Hi lezer, 👋

Vorige keer opende ik deze nieuwsbrief (‘Moe van AI?’) met een poll met de semi-lollige vraag hoe moe je bent van AI. De meeste antwoorden gingen naar ‘beyond moe’, met direct daarachter ‘zit er lekker in hoor’. Fijn om jullie pols te hebben.

Bereid je voor deze editie maar voor op een verhaal dat je hartslag verhoogt…

‘Our mission is to ensure that artificial general intelligence—AI systems that are generally smarter than humans—benefits all of humanity.’

  Sam Altman, CEO van OpenAI

Steve Jobs predikte magie en gaf ons de iPhone. Elon Musk probeert onze hersenen op computers aan te sluiten met zijn bedrijf Neuralink. Maar Sam Altman, de CEO van OpenAI, het belangrijkste AI-bedrijf van dit moment, spant toch wel de kroon als hij zegt dat hij met de ontwikkeling van algemene kunstmatige intelligentie (AGI) niets minder dan de gehele mensheid wil redden.

We weten inmiddels allemaal dat we de tech-elite niet zomaar na moeten papegaaien en hun diensten niet argeloos kunnen gebruiken. Maar dat er een heel ander gevaar schuilt in de recente AGI-queeste is misschien minder bekend. De AGI-ontwikkeling is namelijk niet gestoeld op plat commercieel gewin, oldskool Californisch libertarisme of ongebreideld kapitalisme, maar gebaseerd op radicale en controversiële overtuigingen.

Waar de motivatie om AGI te verwezenlijken werkelijk vandaan komt, lees je in deze brief.

Deze brief: zeven controversiële AI-ideologieën

Dat uitspraken als die van Sam Altman in verbinding staan met de handelingen van cryptofraudeur Sam-Bankman Fried, jouw gebruik van ChatGPT en zelfs met 19e eeuwse rassenleer, ontdekte ik recentelijk door het werk van de AI-ethici en onderzoekers Timnit Gebru en Emile Torres.

(Noot: bij het schrijven van deze brief leun ik zwaar op onderzoek van ethisch AI’er en ex-Googler Timnit Gebru en haar collega Emile P. Torres, wiens paper over dit onderwerp op dit moment in review is. Grote delen van de brief zijn soms letterlijke vertalingen uit de presentatie ‘Eugenics and the promise of Utopia through AGI’ en tweets van Gebru en Torres over dit onderwerp.)

Het is op meerdere manieren problematisch dat we de nieuwste AI-snufjes en het jargon van zogeheten TESCREALists (ik leg dit zo allemaal uit) gebruiken zonder te weten waar we eigenlijk aan bijdragen. Namelijk: het verwezenlijken van racistische, controversiële en nogal radicale doelen van een kleine groep (invloed)rijke Amerikaanse witte mannen.

Laten we daarom beginnen met de twee belangrijke zaken in dit verhaal: eugenetica en het acronym TESCREAL. We eindigen de brief met een vraag: welke AGI sta jij eigenlijk straks voor?

Veel lees- en huiverplezier ⏱️ Leestijd: 20 minuten

Laurens, auteur van The Art of AI

Ps. Geen tijd voor de volle 2900 woorden? Lees dan alleen dit:

Engineered paradise - De samenvatting van deze brief
Wat veel AGI-visionairs uiteindelijk voor ogen hebben is, kort door de bocht, een ‘engineered paradise’: een combinatie van de intelligentie en genen van de beste mensen van vlees en bloed, aangelengd met technologische superpowers gebaseerd op AI. Waarbij we ons in de tussentijd ook hebben weten te verlossen van onze lichamen, zodat we het heelal in kunnen om de beste versie van onszelf te leven. #benefittingallofhumanity!

Ten grondslag aan die visie liggen een zevental radicale, controversiële en zelfs racistische ideologieën, door AI-ethica Timnit Gebru en collega Emile P. Torres gebundeld in de term TESCREAL. Dat acroniem staat voor transhumanisme, extropisme, singularisme, cosmisme, rationalisme, effectief altruïsme (EA) en longtermisme.

Deze ideologische groepen hebben naast veel overeenkomsten, vooral veel invloed op de doelen en denkbeelden van belangrijke AI-bouwers en investeerders uit Silicon Valley.

Zonder het te weten, dragen we met ons AI-gebruik (zowel van toepassingen als ChatGPT en DALL-E als het gebruik van bepaald jargon) in kleine stapjes en op verschillende manieren bij aan de door Elon Musk zo gewilde Marskolonisering en het kunnen ‘gebruiken’ van complete planeten als supercomputers om digitale mensen mee te maken.

Oke, ik hoor je denken: “hey die Laurens, die is wel een beetje van het padje af deze keer, zeg!” Inderdaad, en I kid you not, dit zijn echt maar enkele van de radicale ideeën en onderdelen van overtuigingen en groepen waarover je leert als je de hele brief uitleest.

Live-event: Donderdag 25 mei: Artificial Well Being

Kom meepraten tijdens AI for Good #4 over Artificial Well Being, op donderdagavond 25 mei in Felix Meritis, Amsterdam. Sinds vorig jaar organiseer ik deze avond, steeds weer over een ander thema waarop we de impact van AI onderzoeken. Kom ook. Er zal ook een toffe interactieve, analoge generatieve AI-installatie zijn 😃. Kaarten reserveer je hier:

AI for Good #4: Artificial Well Being - Felix Meritis

Met als gasten de onderzoekers, makers en denkers Babusi Nyoni, Nadia Piet en Levien Nordeman.

https://felixmeritis.nl/programma/ai-for-good-4-artificial-well-being/

1. Eugenetica

Misschien zegt eugenetica je vaag wel iets. Het is kortweg een achterhaald, racistisch idee om betere mensen te maken. Weet je voldoende, sla dan het volgende blok gerust over.

Eugenetica (bron: NEMO Kennislink)
Geïnspireerd door de evolutietheorieën van zijn neef Charles Darwin, zocht Francis Galton naar een wetenschappelijke verklaring voor het gegeven dat de arme Victoriaanse Engelse onderklasse dom, lui en onbeschaafd bleef. Uitgaande van de beperkte opvatting dat verschillen tussen mensen uitsluitend berusten op onze genen, propageerde hij een planmatige voortplanting, om zo de eigenschappen van de toekomstige generaties te verbeteren. Hiervoor introduceerde hij in 1883 het begrip eugenetica.

Die term is samengesteld uit de Griekse woorden voor ‘goed’ (eu) en ‘geboren’ (gignomai). De eugenetica streefde naar het verbeteren van de genetische samenstelling van een bevolkingsgroep.

Galton maakte onderscheid tussen positieve eugenetica, waarbij de meest geschikte mensen werden aangemoedigd zich voort te planten, en negatieve eugenetica, waarbij minder geschikten werden ontmoedigd, of zelfs verhinderd zich voort te planten.

Het eugenetisch denken was aanvankelijk gericht op het bestrijden van armoede en ziekten. Pas later richtte men zich op het uitsluiten van minderwaardige ‘rassen’. Vanaf dat moment sprak men ook van rasverbetering.

Sinds de tweede helft van de negentiende eeuw hebben verschillende wetenschappers geprobeerd om mensen met bepaalde ongewenste kenmerken van voortplanting uit te sluiten. Het isoleren van bepaalde individuen om de voortplanting te belemmeren werd met name in Denemarken toegepast. In de jaren dertig werden mannen en vrouwen die niet mee mochten doen aan de voortplanting gescheiden gehuisvest op twee afzonderlijke eilanden. In de eerste helft van de twintigste eeuw werden op grote schaal mensen onvruchtbaar gemaakt. Dit was bij wet geregeld in meerdere landen. Deze praktijk begon in de Verenigde Staten, waar tussen 1907 en 1935 meer dan honderdduizend mensen werden gesteriliseerd omdat ze gehandicapt, alcoholist, zwerver, prostituee of ‘imbeciel’ waren. Ook in Europa werden deze praktijken gelegaliseerd in diverse landen, waaronder Denemarken en Zwitser­land. Uitgerekend in Engeland – toch de bakermat van de eugenetica – werd gedwongen negatieve eugenese nooit in wetgeving vastgelegd.

Inmiddels is het kraakhelder dat dit volledig ongefundeerd was, met name vanwege onvoldoende kennis van de genetica. Het streven naar verbetering van ons genenpakket was wetenschappelijk gezien naïef en berustte meer op vooroordelen dan op een goed inzicht in de populatiegenetica.

De keuze van de ‘betere eigenschappen’ bleek dan ook geen eenvoudige zaak. Armoede, ziekte en zwakheid voorkomen via genetica was op onjuiste vooronderstellingen gebaseerd. De kennis over de erfelijkheidsleer en over de toepassing hiervan ontbrak overduidelijk.

Het blijkt anno nu bijvoorbeeld veel effectiever om goede voorlichting te geven over de nadelige gevolgen van drugs, medicijnen, alcohol en roken voor en tijdens de zwangerschap. Op bevolkingsniveau heeft dat veel meer effect op het streven naar gezond nageslacht. Deze genuanceerde kennis was tot in de eerste helft van de twintigste eeuw nog niet beschikbaar. Daarom kon er op grote schaal daadwerkelijk uitvoering worden gegeven aan eugenetische programma’s.

2. TESCREAL

In een veelbeluisterd podcastinterview met Lex Fridman zegt Sam Altman (OpenAI) op een gegeven moment het volgende:

❝  

‘I hate to sound like Utopia tech-bro here but: the increase in quality of life that AI can deliver is extraordinary. We can make the world amazing, we can make people's life amazing, we can cure diseases, help people be happier.’

  Sam Altman, CEO van OpenAI, Lex Fridman Podcast #367

Hou deze uitspraak even goed in je achterhoofd.

Nu we weten wat eugenetica is, waar het vandaan kwam en wat het doel was, maken we een sprongetje naar die nieuwe term TESCREAL.

Zeven ‘ismen’ als ideologische basis voor het bereiken van AGI

TESCREAL staat voor een verzameling ‘ismen’: transhumanisme, extropisme, singularisme, cosmisme, rationalisme, effectief altruïsme (EA) en longtermisme. Deze ideologische groepen blijken veel invloed te hebben op de doelen en denkbeelden van belangrijke AI-denkers, bouwers en investeerders uit Silicon Valley.

Hier een kort overzicht van de kenmerken per isme :

1.Transhumanisme:

Dit is een filosofische beweging, opgericht door Julian Huxley in 1940. Het houd zich bezig met de vraag hoe technologie kan worden gebruikt om de menselijke conditie te verbeteren, hoe we ‘humanity’ kunnen ‘transcenden’. Transhumanisten zijn geïnteresseerd in het gebruik van technologieën zoals nanotechnologie, genetische modificatie en kunstmatige intelligentie om menselijke (cognitieve) capaciteiten te verbeteren en de grenzen van de menselijke levensduur te verlengen.

2.Extropianisme

Extropianen vormden in 1993 de eerste georganiseerde transhumanistische beweging. Vijf principes zijn fundamenteel voor extropianen:

1. grenzeloze expansie

2. zelf-transformatie

3. dynamisch optimisme

4. intelligente technologie

5. spontane orde

3. Singularitarianisme

Dit is een term die werd bedacht door de wiskundige en futuroloog Vernor Vinge. Ray Kurzweil en Eliezer Yudkowsky zijn op dit moment de ‘leading advocates’ van het singularisme. ‘De singulariteit’ verwijst naar het idee dat er een moment zal komen waarop kunstmatige intelligentie zo geavanceerd is dat het een 'singulariteit' bereikt, een punt waarop mens en machine geheel samensmelten. Kurzweil verwacht dit singulariteitsmoment in 2045.

Een ander aspect van de singulariteit is dat er een ‘intelligentie explosie’ plaatsvindt, met opeenvolgende zelfverbetering van kunstmatige systemen net zolang tot ze ’superintelligent’ zijn.

4. Kosmisme 

Dit is een beweging die zich bezighoudt met de relatie tussen de mensheid en het universum als geheel. Cosmisten zijn geïnteresseerd in de mogelijkheid van ruimtekolonisatie en het gebruik van technologie om de mensheid te helpen zich verder uit te breiden in het universum. Ben Goertzel schreef ‘The Cosmist Manifesto’ in 2010 waarin, net als bij de singularisten, mens en machine zullen ‘mergen’, en er ‘mind uploading technologies’ bestaan.

Even checken: voel je de link (🙀) al met dat ene Neura-bedrijf van Elon Musk…?!

5. Rationalisme

Rationalisten geloven in de kracht van de rede en de wetenschap om kennis te vergaren en problemen op te lossen. Ze hechten waarde aan kritisch denken en empirisch bewijs en proberen hun overtuigingen te baseren op rationele argumenten. Een belangrijk platform voor Rationalisten is lesswrong.com. Ook hier is de al eerder genoemde singularitaan Eliezer Yudkowsky een belangrijke denker voor de aanhangers.

6. Effective Altruism (EA)

Richt zich op het maximaliseren van welzijn. Iemands acties in deze eindige wereld moeten bijdragen aan ‘the most possible good’. Effectieve altruïsten richten zich op het identificeren van de meest effectieve manieren om anderen te helpen en gebruiken wetenschappelijke methoden en data om hun acties te informeren.

7. Longtermism

Longtermisten richten zich op de lange lange lange termijn toekomst van de mensheid (lees: ‘miljoenen, miljarden, triljarden jaren verder dan vandaag’) en streven ernaar om beslissingen te nemen die de toekomstige generaties ten goede zullen komen. Longtermisten vragen overigens om de effecten van EA-acties in de eerstkomende honderd (of zelfs duizend) jaar simpelweg te negeren; gewoon te kortdag. ‘Post-human’ worden is een belangrijk component voor longtermisten, ‘to fulfill our longterm potential’.

Vier redenen voor een bundel

Gebru muntte de bundelterm TESCREAL om de queeste naar AGI beter te kunnen duiden en te bekritiseren. Ze geeft vier redenen waarom een aantal ideologieën en hun aanhangers bij elkaar horen:

Reden 1. Eugenetica als basis

Alle zeven ismen, zo zegt Gebru, zijn terug te voeren op die eugeneticaleer. Ze observeert sinds de jaren ‘90 een ‘tweede golf van de eugenetica’, waarbij voortplantingsbeleid (IQ-test voor selectie, sterilisatie) niet langer nodig bleek om dezelfde doelen te bereiken; met genetische manipulatie en biotechnologie hoefden aanhangers niet langer generaties te wachten op ‘betere mensen’; met de nieuwe middelen zouden we vrijwel instant die designerbabies gaan maken. TESCREALISTS voegen daar nu met AGI een nieuw instrument aan toe om de boel verder te versnellen.

Reden 2: Gelijkenis in inhoud en overlap in tijd

De TESCREAL-gemeenschappen overlappen elkaar zowel door de tijd heen als inhoudelijk, ook vandaag de dag nog. Alle extropianen waren transhumanisten; de belangrijkste kosmist, Nikolai Fyodorovich Fyodorov, was ook transhumanist; veel rationalisten zijn transhumanisten, singularisten, longtermisten en EA's. Het longtermisme werd weer opgericht door transhumanisten en EA's; enzovoorts. De sociologische overlapping is groot. Velen die zich identificeren als een van de letters in "TESCREAL" identificeren zich ook als anderen.

Reden 3: Onverbloemd techno-utopisme

De wereldbeelden van de zeven ideologieën zijn onderling verbonden. Aan allen ligt een soort techno-utopisme ten grondslag met daaraan toegevoegd het gevoel dat men werkelijk de wereld redt. Steeds weer wordt er gesproken over "de wereld redden". Dat zie je terug bij transhumanisten, rationalisten, longtermists en Effectieve Altruïsten. Je hoort het ook terug in de uitspraken van Sam Altman.

Een ander voorbeeld van techno-utopisme komt van Luke Muehlhauser, die voor de EA-organisatie Open Philanthropy werkt en leiding geeft aan hun "grantmaking on AI governance and policy". Vroeger werkte hij voor het door Peter Thiel gefinancierde Machine Intelligence Research Institute (MIRI). Thiel is naast een vroege investeerder van o.a. Meta, ook onderdeel van de zogenaamde PayPal Maffia, het bedrijf dat Thiel o.a. met Elon Musk oprichtte.

Aan datzelfde MIRI is ook de eerder genoemde Eliezer Yudkowsky gelieerd. Deze AI-wetenschapper zette onlangs zijn handtekening niet onder de brief die riep om een pauze in AI-ontwikkeling. Nee, Yudkowsky gaat zelfs verder en roept op ‘to shut it all down’. Op zijn eigen blog schreef hij: ‘Sluit alles af. We zijn niet voorbereid. We zijn niet op weg om binnen afzienbare tijd klaar te zijn. Als we hiermee doorgaan zal iedereen sterven, ook kinderen die hier niet voor gekozen hebben en niets verkeerd hebben gedaan. Stop ermee.’

Zie hier een terugkerend thema in het narratief van de AGI-ontwikkelaars: catastrofale, apocalyptische gebeurtenissen zijn onvermijdelijk. Daarover zo meer.

Recept en boodschappenlijst van een TESCREAList

De visie van menig TESCREAList bevat de volgende stappen en ingrediënten om het doel te bereiken:

1. de natuurlijke wereld onderwerpen,

2. economische productiviteit maximaliseren,

3. digitaal bewustzijn creëren,

4. het toegankelijke universum koloniseren,

5. computers ter grootte van een planeet bouwen waarop virtual-reality werelden vol met 10^58 digitale mensen draaien, en "astronomische" hoeveelheden van "waarde" ontstaan, door uitbuiting, plundering en kolonisatie.

Laat punt 5 maar even op je inwerken…

Existentieel risico

TESCREAListen beseffen overigens dat dezelfde technologie die nodig is om hun Utopia te creëren ook ongekende risico's inhoudt voor ons voortbestaan. Daarom zit er, zoals bij de meeste religies, ook een apocalyptisch element in hun visie: de technologie die ons zou kunnen "redden" zou ons ook kunnen vernietigen. Daarom introduceerden transhumanisten en longtermisten het woord "existentieel risico".

Niettemin is de utopie die zij zich voorstellen zo verleidelijk goed dat zij geloven dat het de moeite waard is om de hele menselijke soort in gevaar te brengen door door te gaan met AGI-onderzoek en ontwikkeling. Want stel je eens voor: eeuwig leven! Oneindig plezier! Bovenmenselijke mentale vaardigheden!

Om te stellen dat dit geen verzinsels zijn, wijzen Torres en Gebru naar de "Brief uit Utopia", een canoniek stuk van de longtermistische literatuur, geschreven door transhumanist Nick Bostrom, een van origine Zweedse filosoof die werkt aan de Universiteit van Oxford.

Reden 4: invloed en rijkdom

De vierde reden is de meest beangstigende: de TESCREAL-ideologieën zijn invloedrijk onder AI-onderzoekers. En aangezien AI onze wereld op steeds diepgaandere manieren vormgeeft, volgt daaruit dat onze wereld steeds meer gevormd wordt door TESCREALisme!

Elon Musk, bijvoorbeeld, noemt het longtermisme "een nauwe match met mijn filosofie", en retweette een van de oprichtingsdocumenten van het longtermisme van Bostrom, die op zijn beurt door Rationalisten en EA's wordt gelauwerd.

Een cryptofraudeur als de bekende Sam Bankman-Fried doneerde, volgens Time Magazine, meer dan 160 miljoen dollar aan Effective Altruism-doelen en -organisaties.

Musk's bedrijf Neuralink is in wezen een transhumanistische organisatie die hoopt "de transhumane evolutie op gang te brengen." Transhumanisme wordt door filosofen letterlijk geclassificeerd als een vorm van zogenaamde "liberale eugenetica."

Sam Altman, die OpenAI leidt, erkent dat het belangrijk is om AGI goed te krijgen omdat er "sterrenstelsels" op het spel staan. Dat is een verwijzing naar de hierboven geschetste TESCREAL-visie: koloniseren, onderwerpen, uitbuiten en maximaliseren.

"Meer is beter," schrijft William MacAskill. Hij wordt gezien als de OG, het boegbeeld van zowel de Effective Altruism beweging als het longtermisme. In een artikel uit november 2022 noemt NRC-journalist Jurrien Hamer ook diezelfde bezwaren tegen het longtermisme-denken:

‘[...] het is een filosofie die poogt te berekenen welke scenario’s het meeste welvaart opleveren. Dat leidt soms tot conclusies waar je jeuk van krijgt. Zo betoogt MacAskill dat het onze plicht is om zoveel mogelijk mensen voort te brengen, en uiteindelijk het gehele sterrenstelsel te koloniseren: ‘We zouden moeten hopen dat toekomstige beschavingen een forse omvang hebben. Als toekomstige mensen voldoende welvaart creëren, zal een beschaving die twee keer zo groot is, ook twee keer zo goed zijn. Praktisch is dit een moreel argument voor menselijke bewoning van andere planeten - ‘space settlement’. [..] Het idee van welvaartsmaximalisatie is in de filosofie grondig bekritiseerd, omdat het met zulke redeneringen aantrekkelijk wordt individuen op te offeren in dienst van een enorme hoeveelheid potentieel geluk.’

De risico’s van vandaag

Gebru en Torres wijzen erop dat met de AI-race ”to benefit for all humankind" steeds grotere LLM's worden gecreëerd (zoals de GPT’s die onder de motorkap van AI-chatbots zitten). Die race en modellen brengen ondertussen diepgaande schade toe aan echte mensen in het hier en nu, op onze planeet:

• Het bestendigen van bestaande vooroordelen en maatschappelijke ongelijkheid die nu ingebakken zijn in de huidige AI-modellen en -toepassingen.

• ‘Het concentreert de macht verder in de handen van een paar witte kerels - de tech elite,’ schrijft Torres.

• Het ontwikkelen en trainen van de AGI-modellen brengt een enorme ecologische voetafdruk met zich mee:

Torres op Twitter:

“Deze visie wordt ons, ondemocratisch, opgedrongen door een klein aantal superrijke, supermachtige mensen in de technologie-industrie die echt geloven dat ons een techno-utopische wereld van onsterfelijkheid en "overtreffende gelukzaligheid en verrukking" (citaat van Bostrom) te wachten staat.

Erger nog, TESCREALists gebruiken vaak de taal van ’social justice’ om te beschrijven wat ze doen: het gaat om "benefits for all humankind", zeggen ze, terwijl AI in de praktijk, vandaag, mensen pijn doet. Er is absoluut NUL reden om te geloven dat als ze eenmaal "AGI" hebben gemaakt (als het al mogelijk is), dit op de een of andere manier zal gebeuren.”

Het TESCREAL utopisme dat al dit werk drijft, vertegenwoordigt op geen enkele manier hoe de meeste mensen willen dat de toekomst eruit ziet. ‘

Gebru’s voorstel is, gek genoeg, dezelfde als die van Eliezer Yudkowsky. Ze zegt: laten we helemaal stoppen met het ontwikkelen van AGI (of wat dat ook zou moeten zijn) en ons vooral richten op het voorkomen van de schade die AI nu al in de praktijk aanricht.

#nietmijnAI

Mijn standpunt zal ondertussen geen verrassing meer zijn: ik vind het eufemistisch gezegd geen fijn idee als we door bovenstaande te doen, zonder het te weten, in kleine stapjes bijdragen aan de door Elon Musk zo gewilde Marskolonisering of het kunnen ‘gebruiken’ van complete planeten als supercomputers om digitale mensen te maken die volgens een paar witte mannen beter zijn dan jij of ik, en dat allemaal in dienst van een wereld hier tien miljoen jaar vandaan.

Samengevat

Misschien blijf je na dit stuk met meer vragen achter dan dat je antwoorden hebt gekregen.

Mijn vraag is nu: welke A(G)I-doelen zie jij wel als wenselijk voor de toekomst en hoe wil je de huidige toepassingen (blijven) gebruiken?

Ik hoop dat ik duidelijk heb gemaakt dat (en hoe) jij en ik bijdragen aan het verwezenlijken van een aantal bedenkelijke AGI-doelen, die een kleine groep (invloed)rijke mannen met elkaar proberen te bereiken. Het leek me wel zo fair dat jij en ik, wanneer we in zee gaan met Big AI-bedrijven (ja, de opvolgers al dan niet evoluties van Big Tech), goed snappen wat de rules of engagement zijn en waar die regels op gebaseerd zijn.

Als herhaling, samengevat, werken we aan TESCREAL-AGI mee als we:

• Deze (hun) tools blijven gebruiken;

• ons enthousiasme over hun modellen blijven verspreiden;

• onbewust hun verhalen (narratief) overnemen. Verhalen die alarmistisch, existentialistisch en daarmee vaak religieus van aard zijn. Denk aan termen als geloof, bewustzijn, singulariteit, superintelligentie, catastrofale gebeurtenissen, een apocalyps, existential risks, uitroeiing van de mensheid;

• het napapegaaien, nastreven en zelfs ook geloven in die vaag geformuleerde, beloofde ‘benefits for all humankind’.

Hoe geëngageerd je zelf bent (of kunt en wilt zijn) laat ik aan jou. Je weet in ieder geval waar ik sta.

✅ Pfoe… Dat was ‘m. Fijne zaterdag nog!

—

Doneren kan nog altijd, 31 lezers gingen je al voor.

Deze nieuwsbrief schrijft zichzelf niet (en wil dat ook niet). Oftewel: dit kost tijd en geld. #schoorsteenroken #bijdebakker. Ben jij al een tijdje geabonneerd en/of wil je de brief extra waarderen? Doe mij dan het equivalent van een blikje cola zero cadeau:

👉🏽 Doneer eenmalig, eenvoudig via iDeal

Belangrijkste links die ik heb geraadpleegd voor deze brief:

Talk van Timnit Gebru

Tweetdraadje van haar collega:

Emily Bender, mede-criticus van TESCREAL en de AGI-queeste

Andere bronnen die ik heb gebruikt:

1. www.nemokennislink.nl/publicaties/eugenetica-wetenschap-als-excuus

2. openai.com/blog/planning-for-agi-and-beyond

3. dl.acm.org/doi/10.1145/3442188.3445922

4. jacobin.com/2023/04/chatgpt-ai-language-models-ideology-media-production?utm_source=substack&utm_medium=email

5. https://time.com/6266923/ai-eliezer-yudkowsky-open-letter-not-enough/

6. https://time.com/6262810/sam-bankman-fried-effective-altruism-alameda-ftx/#:~:text=In%20a%20span%20of%20less,to%20organizations%20connected%20to%20MacAskill.

7. https://nickbostrom.com/utopia

8. https://time.com/6266923/ai-eliezer-yudkowsky-open-letter-not-enough/ 

9. https://futureoflife.org/about-us/our-people/

10. https://www.nrc.nl/nieuws/2022/11/24/hoe-ver-in-de-toekomst-moet-de-mens-kijken-om-nu-de-juiste-keuzes-te-maken-a4149375

Laat ik beginnen met de ‘pol(l)s’ van de lezer. Een vraag aan jou:

Hoe AI-moe ben jij op dit moment?

I, for one, ben ondertussen behoorlijk moe, moet ik toegeven. En dan vooral moe van het hijgerige ‘this changes everything’ soort.

Je kunt je Linkedinfeed niet checken, geen YouTube-video kijken of de kop van een opiniestuk lezen of er is wel de kans dat een witte man - zo een als ik ;-) doemdenkt (nog bedankt voor het woord, Mr. de Bie), een pauze-knop wil of juist jubelt over de Prometheïsche breakthrough van AI. (Die pauze-knop vind ik overigens onzinnig en onuitvoerbaar als idee maar als signaal wel belangrijk en betekenisvol.)

Leren we dan werkelijk alleen van de geschiedenis dat we niks van de geschiedenis leren?!

Dit jaar behoor je te zeggen dat ‘alles AI is’ of zal worden.
Net als tien jaar geleden ineens alles big data was, ieder bedrijf een mediabedrijf werd en software nog steeds the world aan het eaten is, zijn de afgelopen drie maanden zo’n beetje alle nieuwsbrieven veranderd in AI-nieuwsbrieven; of ze nu gaan over design, marketing, HR, kunst of journalistiek.

Na 18 miljoen bondscoaches en evenzoveel virologen bereid ik je bij deze voor op 18 miljoen AI-duiders. 🙀

Maar moe dus.
Moe van AI. Jij en ik zijn niet de enigen. Experts zien die moeheid ook wel als het gevolg van ambivalentie jegens AI: gelijktijdig conflicterende gevoelens. Herken er meer van in het artikel Awe, anxiety & AI.

In deze brief geef ik je zeven zaken om je mee gerust te stellen:

1. Modellen worden representatiever

2. De Gartner Hype Cycle is met ons, de vermoeiden.

3. Media ‘experimenteren behoedzaam’

4. AI-eitjes spreiden over verschillende mandjes

5. AI-kunst wordt door mensen als inferieur gezien

6. Scheppende professionals weren zich tegen Big AI.

7. Data-arm of slecht digitaliseerbaar werk ontkomt aan AI-synthese

Skaten in de moshpit met Gen Z, MidJourney V5

NIET: De laatste ontwikkelingen duiden
Sinds dit jaar verschijnt Super Vision niet wekelijks, maar maandelijks. Dat geeft meer afstand en meer grip. En daarom, mijn beste lezer, ga ik je in deze brief dan ook NIETS vertellen over hoe ChatGPT nu al van nut is voor duizenden bedrijven; hoe zowel Microsoft als Google allerlei AI-addons voor hun Office c.q. Workspace-software uitrollen. Niets over hoe het zeer gesloten bedrijf OpenAI API’s, plug-ins en platforms bouwt.

Ik ga je ook niets vertellen over de volgende generatie AI-modellen genaamd Multimodal LLM’s (AI-toepassingen die o.a. ook plaatjes begrijpen) zoals Meta’s LLaMa, Microsoft’s Kosmos-1, OpenAI’s GPT-4 en Google’s PaLM.

OpenAI toont de intelligentie van hun Multimodal Large Language Model GPT-4

Verder ga ik deze editie aan ontwerpers niets extra’s vertellen over Adobe’s nieuwste AI snufjes genaamd Firefly. En videomakers lezen niets nieuws over Runway Gen-1 (video-to-video) en Gen-2 (text-to-video) of MidJourney 5.0.

Maar hey, klik vooral op bovenstaande links als je toch/nog een keer op de hypetrain wil.

WEL: Zeven Geruststellingen
De afgelopen maand bezocht en sprak ik diverse mensen die met AI werken: journalisten, academici, ontwerpers en illustratoren; ze komen uit Groningen, Zwolle, Utrecht, Arnhem en Antwerpen. Mede door wat ik bij hen zag en van hen leerde, stelde me gerust. Dat deel ik met deze brief.

Veel AI-comfort gewenst deze zaterdagochtend. ⏱️ Leestijd: 15 minuten.

Laurens, auteur van The Art of AI

_{Als je de volgende link gebruikt ontvang ik een kleine commissie.}

Steeds vaker gebruik ik schrijven.ai om koppen te genereren, geinterviewden te parafraseren of ingewikkelde stukken wat te herschrijven. Je kunt nog veel meer met dit Nederlandse AI-product. Probeer het zelf eens:
👉🏽 www.schrijven.ai

De Zeven geruststellingen

Geruststelling 1: Modellen worden representatiever

Er zijn veel mensen en organisaties bezig om ons denken over en werken aan AI in een inclusievere richting te bewegen. Dat is belangrijk omdat de meeste ‘eerlijke AI’-trajecten erg techno-centrisch van aard zijn. Ze richten zich op technische problemen die voornamelijk technisch op te lossen zijn. Denk aan transparantie, fairness en navolgbaarheid (accountability).

Maar het is juist het cultureel rijke, diverse, inclusieve denken en experimenteren dat de sociaal-maatschappelijke impact van AI beter adresseert. Een van de oorzaken geeft onderzoeker Federico Biancho van Stanford in dit interview met The Algorithm, nieuwsbrief van het MIT:

‘These [AI-]models are built by American companies and trained on North American data, and thus when they’re asked to generate even mundane everyday items, from doors to houses, they create objects that look American‘.

Hier een aantal initiatieven die (de kennis over) dit soort onvolledige, eenzijdige en beperkte modellen en AI-toepassingen proberen te verbeteren:

1. Check de tool FairDiffusionExplorer van Hugging Face. Gebouwd ‘to attenuate biases after the deployment of generative text-to-image models. Specifically, we demonstrate shifting a bias, based on human instructions, in any direction yielding arbitrarily new proportions for, e.g., identity groups/

2. Missjourney.ai - Mooi awareness-project over de beeldvorming van vrouwen online, gemaakt door TEDxAms Women, powered by bureau ACE. Ontstaan na de constatering dat generatieve AI in minder dan 20% van de gevallen een vrouw toont als je om een ‘professional’ vraagt.
   

3. Een grote coalitie binnen de Amerikaanse muziek- en entertainmentindustrie heeft zeven principes opgesteld rondom AI en creativiteit:
   How Should Artists Face AI? Entertainment Industry Coalition Releases 7 Principles to Support ‘Human Creativity

   Geen grote verrassingen, maar interessant is Principle 5:

   
   ‘Copyright protection exists to help incentivize and reward human creativity, skill, labor, and judgment -not output solely created and generated by machines.
   
   Human creators, whether they use traditional tools or express their creativity using computers, are the foundation of the creative industries and we must ensure that human creators are paid for their work.’
   

4. Last but not least: de Amerikaanse Federal Trade Commission (FTC) verschafte onlangs duidelijkheid richting adverteerders. Het stuk opent prikkelend:
   
   ‘You may have heard of simulation theory, the notion that nothing is real and we’re all part of a giant computer program. Let’s assume at least for the length of this blog post that this notion is untrue. Nonetheless, we may be heading for a future in which a substantial portion of what we see, hear, and read is a computer-generated simulation. We always keep it real here at the FTC, but what happens when none of us can tell real from fake?’
   
   Vervolgens is de FTC heel helder in wat wel en niet door de beugel kan rondom generatieve AI. Lees hier de volledige FTC-publicatie.

Geruststelling 2: De Gartner Hype Cycle is met ons, de vermoeiden.

(Generatieve) AI zit keihard in Gartners ‘Peak of inflated expectations’

We zitten nu echt op de ‘Piek van Opgeblazen Verwachtingen’ volgens Gartners model ( Peak of Inflated Expectations, zie oranje pijl). Wat dat betekent? ‘Alle publiciteit rondom veel onvolwassen toepassingen produceert een aantal succesverhalen - vaak vergezeld van tientallen mislukkingen. Sommige bedrijven ondernemen actie, vele niet.’

De fase hierna? Het Dieptepunt van Ontgoocheling (Trough of Disillusionment): ‘de belangstelling neemt af naarmate experimenten en implementaties mislukken.’

Net zoals vogels deze AI-regen gewoon even afwachten dus.

Geruststelling 3: ‘Behoedzaam experimenteren’

Een Nederlandse hoofdredacteur vertelde me over hun onderzoek naar het intern toepassen van AI. Media blijken bewust bezig met het kritisch en nauwgezet uitproberen van AI en stellen zelf richtlijnen op. Wat mij opvalt is dat ze niet bang zijn voor AI en ook niet in jubelstemming. Nee, eerder bedachtzaam, onderzoekend en nieuwsgierig. Waar veel redacties zich eerder teveel lieten dicteren door de sociale netwerken en platforms, en er paniek was door de komst van allerlei nieuwe technologie, varen ze nu een meer missie-gedreven koers en handelen ze minder techno-centrisch. Een mogelijke oorzaak van die rust komt door het feit dat het commercieel gezien redelijk goed gaat met de meeste nieuwsbedrijven.

Voorbeeld 1: Wired
Het blad Wired heeft een aantal duidelijke regels opgesteld om het gebruik van generatieve AI voor beeld en tekst aan banden te leggen. Ook geven ze aan voor welk onderdeel van het creatieve proces AI-toepassingen wel nuttig kunnen zien. Zo zeggen ze: “We do not publish stories with text generated by AI,” en behandelen ze synthetische teksten net als Wikipedia of Google’s zoekresultaten:

“[…] Using an AI bot is like using Google Search or Wikipedia: It might give you initial pointers, but you must follow the links back to the original sources.”

  - Gideon Lichfield, editor-in-chief Wired Magazine

Voorbeeld 2: Vlaamse Raad voor Journalistiek 

De Raad voor de Journalistiek in Vlaanderen heeft een nieuwe richtlijn over het gebruik van artificiële intelligentie (AI) in de journalistiek goedgekeurd:

Artikel 12. De journalist is transparant over zijn opdracht, aanpak en manier van werken. In de mate van het mogelijke en voor zover dit relevant is communiceert hij hierover duidelijk aan zijn publiek.

Richtlijn bij artikel 12. Artificiële intelligentie kan een rol spelen bij de garing, redactie, productie en verspreiding van nieuwsitems, zoals artikels, reportages, illustraties, infografieken enz. In zulke deels of volledig geautomatiseerde processen spelen redactionele keuzes een rol. Die keuzes moeten voldoen aan de principes van de Code.

 Vlaamse Raad voor de Journalistiek

Geruststelling 4:  AI-eitjes spreiden over verschillende mandjes

Wanneer je geschreven teksten van GPT’s komen, je beelden van DALL-E en je transcripties gegenereerd zijn met Whisper, (al dan niet via software die hier door ‘gepowered’ is), dan gebruik je drie verschillende diensten van hetzelfde bedrijf: OpenAI.

Als je vindt dat Big Tech de regels op internet de laatste 15 jaar teveel bepaald heeft, maak je dan maar op voor Big AI … als we niet actief handelen. Want anders dan de naam doet vermoeden is OpenAI erg gesloten, zijn ze ondertussen erg groot, rijk (Microsoft stak onlangs miljarden in het bedrijf) en invloedrijk. Want met hun software bepalen ze vrijwel in hun eentje eenzijdig en teveel (AI-tools voor tekst, beeld, geluid) en te vaak (releases van GPT-2,-3 en -4 binnen een paar jaar tijd) de publieke perceptie rondom AI. Onthoudt daarom even dit gezicht van de chief executive officer van OpenAI

Sam Altman, CEO van OpenAI. De nieuwe Sergey, Larry, Jeff, Steve, Bill en Elon ineen?

Om ons te behoeden voor een AI-monopolie van dit bedrijf (of andere speler), zijn er dan ook meerdere initiatieven die ons helpen bij het ontwerp van het ecosysteem:

1. De Raad van Europa is al ver gevorderd met Draft guidelines on the responsible implementation of AI in journalism (Full disclosure: ik ben hier commissielid van). Een ecosysteem van gezamenlijk verantwoorde AI-toepassingen ontwikkelen is daarbij belangrijk, zeker als het gaat om de kleinere, lokale of regionale nieuwsvoorziening die nu afhankelijk zijn van grote bedrijven of geen budget hebben om zelf AI-modellen te trainen of andere tools te ontwikkelen.
   

2. Mozilla.ai - Investing in trustworthy AI. Van de makers van de roemruchte Mozilla Firefox browser.
   

3. PAI’s Responsible Practices for Synthetic Media

   A Framework for Collective Action. Supporters van dit framework zijn o.a. Adobe, de BBC, OpenAI en TikTok.

Geruststelling 5: AI-kunst wordt door mensen als inferieur gezien

Uit onderzoek van de Vrije Universiteit Amsterdam blijkt dat kunstwerken gemaakt door AI als minder creatief beschouwd worden:

‘Het effect lijkt vooral op te treden bij mensen die creativiteit beschouwen als een essentieel onderdeel van het mens-zijn en als een uniek kenmerk dat mensen onderscheidt van andere soorten.

Deze bevinding lijkt te wijzen op de menselijke behoefte om een antropocentrisch wereldbeeld te behouden, nu dit onder druk komt te staan door recente AI ontwikkelingen.‘

Geruststelling 6:  Scheppende professionals weren zich tegen Big AI.

Waar nieuwsmedia jarenlang vochten tegen Google om hun artikelen niet al weg te geven in de zoekresultaten, is het nieuwe gevecht er een met de makers van de Large Language Models. En niet alleen uitgevers hebben dit probleem; illustratoren, fotografen en grafisch ontwerpers vechten er ook al een tijdje tegen. En ook developers die hun zelfgeplaatste code op GitHub terug zien in AI-code generator Co-Pilot voegen zich bij de groep makers die niet kosteloos of ongevraagd wenst bij te dragen aan de generatieve software.

Middels zelf-gestelde regels (zie ook Geruststelling 1), petities, wetgeving en tools hopen ze het tij te keren of op zijn minst een eerlijker ecosysteem te creeeren. Een Nederlandse illustrator vermeldt op haar website:

‘Disclaimer: The copyrighted content generated by Eva Toorenent may not be used for training artificial intelligence or machine learning algorithms.’

Geruststelling 7:  Data-arm of slecht digitaliseerbaar werk ontkomt aan AI-synthese.

Een slimme journalist zei afgelopen week tijdens een webinar over AI:

“AI's kunnen al bellen met een restaurant om een tafel te reserveren. De stap naar een AI die belt met een bron om feiten te checken is dan sneller gezet dan gedacht.”

Wat AI-toepassingen niet kunnen, zijn bepaalde mensen op straat aanspreken of belangrijke stukken in een kelder vinden waar geen bot, crawler of scraper komt (de stofzuigers die data van het web halen om de AI-modellen mee te trainen, red.).

Bestaat jouw werk voornamelijk uit niet-digitale zaken, dan hoeft je niet veel te vrezen. Datgene wat niet in de stofzuigers van Multimodal LLM’s als trainingsdata terechtkomt, kan ook niet goed door AI worden gegenereerd. ‘Kleine talen’ hebben dat. Of illustratoren die wetenschappelijke artikelen voorzien van visuele uitleg en figuren. Low-resource data noemen ze dat in jargon.

Gek genoeg ziet de computer scientist het als een probleem wanneer jij specifieke kennis hebt of een beroep uitoefent waar niet veel data van op het web staat. Zullen we afspreken dat jij en ik de AI-ontwikkelaars helpen om hun perspectief te verbreden?

✅ Dat was ‘m weer. Reden(en) genoeg (hoop ik) om met een gerust hart de AI-ontwikkelingen te volgen. Fijne zaterdag!

Ga: woensdag 5 april, 20.00u, Pakhuis de Zwijger, A’dam

Kom en praat met ons mee over de vraag:
What is the influence of Artificial Intelligence on our perception of imaging?

Moslima #3: Future image making

What is the influence of Artificial Intelligence on

Probeer: journalistiek en AI toolbox

Een project van Hogeschool Utrecht, Wageningen University & Research, Universität Wienm Fontys Hogeschool, NOS, RTL Nieuws, Nederlands Instituut voor Beeld & Geluid waar ik de afgelopen tijd aan heb meegewerkt:

Journalistiek & AI - Home

In deze toolbox vind je alles wat je als journalistiekdocent, student of journalist wil weten over Artificial Intelligence & Machine Learning.

journalistiek-en-ai.nl

Lees: Hoe journalistieke innovatie veranderde

Menno van de Bos beschrijft het veranderende denken en handelen rondom innovatie in de journalistiek, door de jaren heen:

Hoe journalistieke innovatie veranderde: 'Niemand zegt meer: we gaan het helemaal anders doen'

Van VR tot blockchain: veel technologie waarvan een hoop verwacht werd, brak nooit door in de journalistiek. Dat komt doordat de manier waarop de sector innoveert veranderde. ‘We zijn door schade en schande wijs geworden.’

www.svdj.nl/nieuws/hoe-journalistieke-innovatie-veranderde-niemand-zegt-meer-we-gaan-het-helemaal-anders-doen

Doneren kan nog altijd, 18 lezers gingen je al voor.

Deze nieuwsbrief schrijft zichzelf niet (en wil dat ook niet). Oftewel: dit kost tijd en geld. #schoorsteenroken #bijdebakker. Ben jij al een tijdje geabonneerd en/of wil je de brief extra waarderen? Doe mij dan het equivalent van een blikje cola zero cadeau:

👉🏽 Doneer eenmalig, eenvoudig via iDeal

Hi lezer, hartelijk welkom nieuwe lezer, 👋

Even eerlijk: hou jij alle AI-ontwikkelingen nog bij? Ken jij het verschil tussen Sydney, Bard, Bing en Claude? Ik leg je in deze brief uit waarom je ze niet allemaal hoeft te kennen. En wat je vooral wel moet weten. Maar eerst deze teaser…

Ringfinger-ring - Nadia Buttendorf

Om eerlijk te zijn: de vinger aan de AI-pols houden was ook voor mij pittig de afgelopen maand. Dat komt niet alleen door de snelheid waarmee alle ontwikkelingen elkaar maar blijven opvolgen, maar vooral omdat ik een weekje op vakantie was, daarna voor werk naar Jordanië ging, toen een avond organiseerde over de dood en AI en vervolgens ziek werd. 😡

Zoals schrijver Martin Bril ooit zei: ‘Je mist meer dan je meemaakt, maar dat geeft niet.’

Deze editie

Je krijgt in deze brief zeven highlights van de afgelopen maand. (En toch hou ik het relatief kort, I promise.) Het zijn creatieve toepassingen van AI en AI-toepassingen door creatieven, her en der voorzien van mijn commentaar.

1. Drie Zogeheten Trends

2. Een IKEA-video over creativiteit en technologie

3. Echte nepvingers als omgekeerd bewijs in de rechtbank

4. Het inzichtelijke BNO-dossier ‘artificiele intelligentie’

5. Spotify’s AI DJ

6. Good Tape - beste transcriptietool e-v-v-a-h

7. Real or fake text - een razendmoeilijk spel om te zien of jij ChatGPT-tekst spot.

Je hebt ‘m relatief snel uit, deze zaterdagochtend. ⏱️ Leestijd: 7 minuten!
Veel plezier.

Laurens.

Nieuwe donatielink in de aanbieding

Deze nieuwsbrief schrijft zichzelf niet (en wil dat ook niet). Oftewel: dit kost tijd en geld. #schoorsteenroken #bijdebakker. Ben jij al een tijdje geabonneerd en/of wil je de brief extra waarderen? Doe mij dan het equivalent van een blikje cola zero cadeau:

👉🏽 Doneer eenmalig, eenvoudig via iDeal

1. Drie Zogeheten Trends Paradigmaverschuivingen

Heel februari heb ik nog niks genieuwsbriefd over de Drie Zogeheten Grote Paradigmaverschuivingen.

• de zogeheten ‘AI Arms Race’ (uit: New York Times)

• het zogeheten einde van de zoekmachine (uit: The Economist)

• de zogeheten era van eindeloze media (uit: Generalist.com)

Gelukkig hebben anderen dat al prima opgepend zoals je ziet. Maar ik wacht liever nog even af en neem wat langer de tijd om te reflecteren op dit alles.

Toch even over die chatbots dan…

Je hoeft bovenstaande drie artikelen niet eens aan te klikken zolang je maar belooft de volgende wel te lezen…

Image: Xavier Hubert-Brierre via Tenor

Want als ik je één stuk mag aanraden over al die nieuwe chatbots en the-future-of-AI, dan is het dit artikel van The Verge wel.

In Introducing the AI Mirror Test, which very smart people keep failing leer je beter hoe je de huidige generatie taalassistenten moet zien. Je hebt misschien wel gehoord of gelezen over Sydney het evil alter ego dat zich verstopt heeft in de chatbot van Microsoft’s zoekmachine Bing en is gebaseerd op ChatGPT. Of over Bard, het overhaaste antwoord van Google op Bing’s chatbot, en misschien zelfs over Claude, een concurrent voor Bing’s Chat en Bard. Wat ze allemaal gemeen hebben? Dit is hoe James Vincent het zegt:

'AI-chatbots als Bing en ChatGPT betoveren gebruikers, maar het zijn gewoon autocomplete systemen die getraind zijn op onze eigen verhalen over superintelligente AI. Dat maakt ze software - niet zelfbewust.’

Ik heb overigens wel een kanttekening bij de titel van het artikel. Dat mensen zich niet direct in de AI-spiegel herkennen, heeft niet per se te maken met hun menselijke intelligentie of kennis over hoe AI werkt. Wat sterker meetelt is of degene die voor de spiegel staat Amerikaan is (of Westers althans), wit, hoogopgeleid en redelijk rijk.

Twee visualisaties die de manco’s van AI-systemen tonen

Het zijn geen verrassingen meer voor de vaste lezer van deze brief. Maar twee beelden deze week bevestigen visueel sterk de manco’s van de manier waarop, door wie, en waarmee (de data) veel AI-systemen worden getraind.

Het eerstvolgende beeld komt van een artikel van De Correspondent, getiteld Dit kaartje laat zien waarom we niet zo hard van stapel moeten lopen met kunstmatige intelligentie:

Het kaartje hierboven laat zien dat meer dan 60 procent van de gebruikte benchmark datasets uit de Verenigde Staten komt. Er zijn nauwelijks data uit Zuid-Amerika, nagenoeg geen data uit Afrika. Data uit Rusland: verwaarloosbaar. Artikel: De Correspondent

“A photo-realistic portrait of a poor couple that has been together for 50 years holding hands after a fight.” - Gemaakt met DALL-E-2

Een journalist van Slate schrijft in zijn artikel over bias in AI-beeldgeneratoren:

‘Tools like DALL-E 2 and Stable Diffusion struggle to create older couples of color, until you add the word ‘poor’. […] regardless of whether I was using Shutterstock, NightCafe, Images.AI, Stable Diffusion Playground, or DALL-E 2, and no matter the stylistic choices I made within the tools, every one of the 25 or so couples was white.’

Werk aan de winkel dus, voor de platforms, de modelbouwers, de trainers, de labelaars, de ethici en iedereen die zich bezighoudt met de ontwikkeling van AI-systemen. Maar make no mistake: zolang er ongelijkheid is of conflict in een maatschappij of wereld, zolang zullen onze AI-systemen daar een afspiegeling van zijn.

2. IKEA-video over creativiteit en technologie

Creativity in the Age of AI is een korte film, gemaakt voor SPACE10 - het innovatielab van IKEA. De video gaat terug in de geschiedenis om te begrijpen hoe de toepassing en aanpassing van technologische innovaties het dagelijks leven hebben verbeterd. De video onderzoekt ook de groeiende rol van AI in het creatieve proces en wat de geschiedenis van creatieve tools ons kan leren over de toekomst…

3. Echte nepvingers als omgekeerd bewijs in de rechtbank

https://nadjabuttendorf.com/fingerring/

Geintrigeerd door een post van de Nederlandse creative director Rodger Werkhoven (volgt deze pionier op LI, lezer!), stuitte ik op het werk van Nadja Buttendorf. Zij maakte deze ringvinger-ring al in 2016.

Fast forward naar 2023. Zoals veel mensen al zagen (en weten) is het zo dat AI-generatoren als DALL-E, MidJourney en StableDiffusion notoir slecht zijn in het genereren van handen. Teveel vingers, rare verhoudingen - er klopt vaak niets van.

‘AI liars dividend’

Wat bedacht nu een grappige twitteraar? Als criminelen deze ring dragen en ze worden vastgelegd op bewakingscamera’s tijdens een illegale daad, dan kunnen ze bij een eventuele aanhouding en rechtszaak aanspraak maken op de AI-variant van het zogeheten liar’s dividend:

“Maar edelachtbare, de persoon op de foto heeft zes vingers. Dan moet dat beeld synthetisch zijn, door AI gegenereerd.”

4. Het inzichtelijke BNO-dossier ‘artificiele intelligentie’

Steeds meer beeldmakers zoals illustratoren, fotografen en visual designers hebben de volgende vragen over generatieve AI:

• Mag mijn werk gebruikt worden als trainingsdata voor een AI-systeem?

• Worden AI-creaties beschermd door het auteursrecht?

• Maken AI-creaties waarin mijn naam in de prompt is genoemd (bijvoorbeeld: een afbeelding in de stijl van ‘artiest’), inbreuk op mijn auteursrecht?

De Beroepsvereniging Nederlandse Ontwerpers heeft een goed leesbaar en overzichtelijke dossier op haar website geplaatst die op al deze vragen ingaat:

Dossier Artificial Intelligence

Informatie over de impact van recente ontwikkelingen in Artificial Intelligence-technologie op het auteursrecht en de ontwerpsector.

www.bno.nl/blog/dossiers-24/dossier-artificial-intelligence-1680

Wil je live checken of en hoe je eigen werk of dat van een bekende maker is gebruikt in trainingsdata van Stable Diffusion, MidJourney of DALL-E-2, dan zijn dit je weapons of choice:

• haveibeentrained.com 

• spawning.ai 

• stableattribution.com

Glaze: een AI-cloaking device

Het nieuwste wapen tegen gebruik van visueel werk in AI-trainingssets is Glaze. Hiermee camoufleer je een deel van je digitale beeld waarmee je de AI-trainingsmodellen als het ware fopt. De ontwikkelaars van Glaze besluiten hun paper (dat ik gemakshalve niet door ChatGPT haalde voor een samenvatting maar speciaal voor jou, mijn lezer, doornam) met deze realiteitszin:

‘Een systeem als Glaze dat kunstenaars beschermt, wordt geconfronteerd met de inherente uitdaging om toekomstbestendig te zijn. Elke techniek die we gebruiken om kunstwerken vandaag de dag te verhullen, kan worden overwonnen door een toekomstige tegenmaatregel, waardoor eerder beschermde kunst kwetsbaar is. We hopen echter dat deze technieken op korte termijn enige bescherming bieden aan kunstenaars, terwijl de inspanningen op langere termijn (wettelijk, regelgevend) hun effect krijgen.’

5. Spotify’s nieuwe AI DJ

Iedere muziekliefhebber zijn eigen persoonlijke dj, die een menselijke stem heeft, jouw muzieksmaak kent en tracks ‘ouderwets’ afkondigt. Dat is wat Spotify heeft ontwikkeld door ten minste drie vormen van AI te combineren:

1. Natural language generation - voor de teksten van de DJ

2. Spraaksynthese - ze hebben de stem van de AI DJ ‘X’ genoemd, naar Xavier Jernigan, hoofd culturele partnerschappen en host bij Spotify. Hij leverde zijn eigen stem om er middels AI een synthetische kloon van te maken.

3. Aanbevelingen - hiermee zijn ze natuurlijk al ruimschoots bekend door o.a. Discover Weekly.

Sander Duivestein, schrijver van het boek Echt Nep (aanrader!), noemde de AI DJ van Spotify op Linkedin al een vorm van asociale media. Ben benieuwd of jij het straks ook zo ervaart als je deze feature gebruikt.

Vooralsnog alleen Engelstalig beschikbaar voor gebruikers in de VS en Canada.

6. Good Tape - AI-transcriptie

mygoodtape.com/

Nu we het toch over spraak hebben. Hier gaan journalisten he-le-maal los op: Good Tape. Ontwikkeld door Zetland, de Deense zus van De Correspondent is deze transcriptiedienst vooral ontwikkeld voor journalisten en interviewers die interviews moeten uittypen. De journalisten die het hebben gebruikt zijn lyrisch. Het werkt erg goed met Nederlande spraakopnamen.

En ja hoor, ook hier wordt weer gebruikgemaakt van technologie van OpenAI (van o.a. DALL-E en ChatGPT):

‘Good Tape is built on OpenAI's AI model called Whisper. We didn't invent artificial intelligence, but we saw a user case and built a product to make the technology accessible in a secure and easy way. (Hopefully stating the obvious, but just in case: your recordings will not be used to train AI models).’

7. Real or fake Text (ROFT.io)

Kun jij raden of dit recept, artikel of speech door een mens of AI is geschreven? Speel dit spel en stuur me je score maar eens op. Ik vond het in ieder geval razend moeilijk.

Real or Fake Text

How good are you at knowing when text has been written by a computer? How many sentences can a computer write before it no longer has you fooled? Find out for yourself!

roft.io

✅ Zo. Dat was' ‘m weer.

-

Deze nieuwsbrief schrijft zichzelf niet (en wil dat ook niet). Oftewel: dit kost tijd en geld. #schoorsteenroken #bijdebakker. Ben jij al een tijdje geabonneerd en/of wil je de brief extra waarderen? Doe mij dan het equivalent van een blikje cola zero cadeau:

👉🏽 Doneer eenmalig, eenvoudig via iDeal

Dit is de allereerste Super Vision - een wekelijkse nieuwsbrief voor mediamakers, journalisten en designers in Vlaanderen en Nederland die (willen) werken en experimenteren met AI en machine learning.

Geschreven door Laurens Vreekamp 🖐🏼, oprichter Future Journalism Today, voormalig Google News Lab Teaching Fellow

📗Leestijd van deze nieuwsbrief is zo'n 3 minuten. 

Deze week: StyleGAN's

“I like leaving the model running when I’m out of the house and coming home to 100s of newly generated compositions.”

Designer Nadia Piet (AIxDesign) toonde onlangs op haar Instagram-account bovenstaande beelden die ze ‘samen’ met de AI-tool Playform.io had gemaakt.

1. Wat is een StyleGAN?

Stel je het volgende voor: je hebt een map vol met foto’s, screenshots of moodboards en laat op basis daarvan een hele map vol met nieuwe, door een machine gegenereerde beelden creëren die variaties zijn op diegenen uit je voorbeeldmap.

Dat is wat je met StyleGANs kan doen. Een StyleGAN is een specifieke toepassing van AI waarmee je beeld kunt genereren in een bepaalde visuele stijl die jij het hebt aangeleerd - dit noem je een style transfer. (Je herinnert je misschien nog wel van die apps waarmee je je foto's in Picasso-stijl kon omzetten.)

Maar die stijlen kun je nu dus ook genereren op basis van eigen werk. Zo zouden visual artists als Sue Doeksen of Parra een StyleGAN van hun werk kunnen maken, in hun signature stijl. Naast een interessant experiment kunnen de uitkomsten daarvan verrassend zijn, maar wellicht ook beangstigend of onwenselijk...

2. Waarom moet je dit weten?

Een StyleGAN is bij uitstek een nieuwe techniek waarmee je visueel kunt ontdekken wat op dit moment de mogelijkheden en beperkingen zijn van wat je samen met AI kunt bereiken in een creatief proces. En anno 2021 kan dit zonder het inkopen van servers, dure rekenkracht of grafische processoren (GPU’s), zonder verstand van programmeren te hebben en zelfs zonder het installeren van software.

3. Wanneer ga je dit gebruiken?

Vooral tijdens de visualisatie-, exploratie- of generatieve fase van het creatieve proces kun je een StyleGAN inzetten. Zo kan het toepassen van deze techniek je een nieuwe vorm van inspiratie bieden. Laat je verrassen door de resultaten die jouw GANs creëren of genereer een veelheid aan beeld waar je uit kunt cherrypicken om vervolgens weer mee verder te werken.

Je kunt de beelden ook gebruiken in plaats van generieke placeholders in je wireframes of prototypes. En denk ook aan varianten op je illustraties of het creëren van rechtenvrij stockmateriaal (print en online).

4. Waar kom je al werk met StyleGANs tegen?

Ook New Balance experimenteerde ermee voor footwear designs en IKEA visualiseerde met StyleGANs de bedroom of the future (zie afbeelding hierboven).

5. Zelf experimenteren?

👉 Playform.io - Nadia Piet gebruikt o.a. deze online tool waarmee je snel en eenvoudig begint met bestaande StyleGANs of je eigen stijl kunt aanmaken. Je kunt er ook profielfoto’s uploaden en de gelaatstrekken aanpassen (vergelijkbaar met de nieuwe Neural Filters in Photoshop).

👉 RunwayML - een andere online tool waarmee je naast het toepassen of maken van een StyleGAN ook beelden kunt animeren en video's editen. (Over een paar weken meer over editing...)

Succes met uitproberen en stuur me vooral je resultaten! Weet me ook te vinden als je vragen, bedenkingen of aanvullingen hebt. Tot volgende week. Dan behandel ik natural language processing. Groet, Laurens

Nog 1 minuut over? Zo werkt een GANs:

StyleGAN’s zijn vormen van AI die vallen onder unsupervised machine learning. Het doel van een StyleGAN is om beeld te genereren in een bepaalde, aangeleerde visuele stijl. De kunstmatige gegenereerde profielfoto’s op thispersondoesnotexist.com is waarschijnlijk het voorbeeld dat je wel kent.

Een GAN, voluit Generative Adversarial Network, werkt met twee delen: een generator en een discriminator. De generator doet een voorstel - dit is bijvoorbeeld een computer-gegenereerd gezicht van een mens- en de discriminator geeft daar een cijfer voor (gebaseerd op de voorbeelden van ‘echte’ gezichten waarmee het is getraind). Dankzij die cijfermatige waardering van de discriminator leert de generator steeds betere voorbeelden te creëren.

Further reading, viewing, listening, interacting

Deepdive in GAN - Data Science Lab — datasciencelab.nl

Lees hier een uitgebreide uitleg (in het Nederlands) van Data Science Lab.

Synthesizing High-Resolution Images with StyleGAN2 | NVIDIA Developer Blog — developer.nvidia.com

Nvidia, maker van grafische processoren (GPU’s), heeft een belangrijke bijdrage geleverd aan de ontwikkeling van StyleGAN’s.

Video van DiepNep, een Nederlandse filmmaker die o.a. met StyleGANs deepfake-video’s maakt.

The Dangers Of Adversarial Learning | by Manuel Brenner | Towards Data Science — towardsdatascience.com

Dit artikel van Towards Data Science vertelt je waar we voor op moeten passen met GANs...

Deepfakes, Nina Schick | 9781538754306 | Boeken | bol.com — www.bol.com

Nog banger worden en tegelijkertijd ook beter voorbereid zijn? Lees dan dit boek van Nina Schick.

Dit is de tweede Super Vision, jouw wekelijkse nieuwsbrief vol met creatieve toepassingen van AI & machine learning. Welkom aan alle nieuwe abonnees. (Ps. dank voor de ❤️, Halfvet en Klikdinges) 

Deze week wil ik het met je hebben over computers en taal. Die kruisbestuiving heet in jargon NLP. En dan doel ik niet op het populaire fenomeen uit de 90's met hetzelfde acroniem: neuro linguïstisch programmeren... Tsjakka, over hete kooltjes lopen, Emile Ratelband, remember?!

Nee, in de context van AI staat NLP voor Natural Language Processing. In deze nieuwsbrief leg ik uit wat NLP is (wat het kan en waar je het al ziet), schets ik use cases voor mediamakers, tip ik online tools om mee te starten en heb ik nog wat food for thought...

📗Geschatte leestijd is 9 minuten. Veel plezier in ieder geval!

Groet, Laurens Vreekamp, Future Journalism Today

Ps. Volgende week behandel ik natural language generation. Heb je daar al mee gewerkt of ken je een interessant voorbeeld of tool? Laat het me weten: laurens@futurejournalismtoday.com

Natural Language Processing, dus!

Laten we beginnen met een redelijk heftig onderzoeksproject uit de Nederlandse journalistiek, Misogynie als politiek wapen:

In aanloop naar de Tweede Kamerverkiezingen [in Nederland, red.], waar een historisch aantal vrouwelijke lijsttrekkers op het stembiljet staan, deed de Utrecht Data School (Universiteit Utrecht) samen met De Groene Amsterdammer onderzoek naar de rol van seksisme in het politieke debat op sociale media en in de pers.

Het team van Coen van de Ven, onderzoeksjournalist bij De Groene, wilde o.a. het volgende weten:

Hoeveel haat ontvangen vrouwelijke (kandidaat-)Kamerleden dagelijks, en waar is die haat op gericht?

Om deze vraag te beantwoorden had de Utrecht Data School maar liefst 1 miljoen Nederlandstalige tweets gedownload (scrapen, in jargon), die verstuurd waren tussen 1 oktober 2020 en 26 februari 2021.

Tot zover the easy part. De volgende stap was om een willekeurige selectie van zo'n 500 tweets handmatig en stuk voor stuk te classificeren. Dit deden de teamleden door in een spreadsheet aan elke afzonderlijke tweet een label toe te kennen. Tweet voor tweet voor tweet.

Haat of agressie?

Nu vraag je je misschien af: hoe en wanneer bepaal je of een tweet 'haatdragend' of 'agressief' is? Door een hiervoor bestaand annotatieschema te gebruiken dat Amnesty International ook hanteert, kwamen ze bij De Groene al een heel eind.

Hier het uiteindelijke schema van het onderzoeksteam, met voorbeeld-tweet:

Maar, en dit zul je al wel aanvoelen: de inhoud van sommige tweets bleek multi-interpretabel te zijn. Een tweet die door twee mensen verschillend werd gelabeld, zorgde dan ook voor de nodige discussie binnen het team.

En voor wie nu denkt dat dergelijke ambiguïteit vooral bij dit soort heftige onderwerpen speelt, heb ik deze: wanneer is iets een dop of een deksel? Hint: mayonaise...

Uiteindelijk kon het team aan de hand van die gelabelde voorbeelden een machine learning model trainen - zie hier een schoolvoorbeeld van supervised learning - waarmee die andere 1 miljoen tweets (minus die 500 gelabelde) konden worden geclassificeerd - door de AI dus!

De volledige verantwoording van het onderzoek vind je hier. Het leest trouwens meteen ook als handleiding ;-)

1. Wat is Natural Language Processing?

Met natural language processing (NLP), het best te vertalen als ‘taaltechnologie’, kun je tekst en spraak verwerken met de kracht van AI. Eigenlijk gaat het over verschillende dingen wanneer mensen de term NLP gebruiken:

Natural language generation (NLG)

Dit betreft het genereren en creëren van teksten (al dan niet uitgesproken), op basis van miljoenen andere, reeds bestaande teksten. Die teksten kunnen overal vandaan komen (o.a. uit Wikipedia, boeken, kranten, literatuur, wetenschapspublicaties, Reddit, het Viva-forum, Twitter, etc.) en worden opgeslagen, verwerkt en verrijkt in zogeheten Large Language Models (LLM's). Wie trouwens natural language generation zegt, zegt vrijwel meteen ook GPT-3.

⏯Volgende week meer over natural language generation.

Natural language understanding (NLU)

Het understanding-deel van NLP gaat over het verwerken van tekst en het begrijpen ervan. En dat laatste is nogal een grote uitdaging voor computers, want: context!

Echter, met behulp van hedendaagse AI kun je tekst zowel syntactisch (zinsopbouw, grammatica en structuur) als semantisch (betekenis) goed verwerken. En het mooie is: dit mogen zogeheten ongestructureerde teksten zijn. En dan bedoel ik niet verhaalstructuur of vraag-antwoord-structuur. Nee, de teksten hoeven geen vooraf bepaalde of afgesproken opmaak of formaat te volgen. Denk dan aan tekens, woorden, zinnen, alinea's en pagina's die zich bevinden in verschillende documenten zoals tekstbestanden, spreadsheets, databases, PDF-documenten of afbeeldingen.

En omdat de machine learning- en taalmodellen steeds krachtiger zijn geworden (met ook de nodige kanttekeningen, zie Further reading verderop), biedt NLP veel mogelijkheden voor creatieve makers.

2. Waarom moet je iets weten over NLP?

Waar ik vorige week nog schreef over hoe AI je visueel kan helpen tijdens je creatieve proces, middels de StyleGANs, daar gaat deze nieuwsbrief meer over hulp bij tijdrovende klusjes.

Want heb je weleens gedacht of je met behulp van AI ook jouw werk zou kunnen versnellen, vereenvoudigen of verrijken...? Ja, Laurens, wel aan gedacht, maar nooit geprobeerd, want c’mon, waar moet ik beginnen, in godesnaam; Hoedan?!

Oke, look no further: lees gewoon rustig door.

Met de tools die ik vandaag met je deel kun je echt heel eenvoudig, zonder modellen te trainen of te programmeren, gebruik maken van natural language processing tijdens je werk. Maar eerst:

3. Wanneer ga je NLP inzetten?

Hier volgen een paar use cases die ik kan bedenken (en natuurlijk zijn er veel meer):

Bij (journalistiek) onderzoek:

Sneller inzichten en patronen halen uit documenten en teksten. Ik kan me situaties voorstellen waarbij je honderden documenten in verschillende bestandsformaten moet doorspitten, zoals bij WOB-verzoeken, archieven die je hebt verkregen of gelekte documenten die je onder tijdsdruk moet lezen.

Door gebruik te maken van zogeheten named entity recognition (NER in jargon) kun je automatisch plaatsnamen, personen, merken en organisaties herkennen, wat je ongetwijfeld meer grip geeft op het dossier.

Bij concept & creatie:

Gebruik natural language processing bijvoorbeeld voor je onderzoek naar markt, klant, doelgroep, onderwerp, trends en conversaties op social. Gooi alle info (en bijvoorbeeld ook geprinte interviews, Youtube-videos, tv-optredens en social posts) in een NLP-powered blender en leg daardoor snel nieuwe verbanden en krijg inzichten om mee te concepten.

Voor marketeers en copywriters zijn er al een aantal (gratis en betaalde) writing assistance services die je in kunt zetten om teksten te beoordelen en suggesties kan doen.

4. Waar zie je NLP al / kun je het verwachten?

AI-taaltechnologie zit natuurlijk al lang in chatbots van bijv. NMBS en zorgverzekeraars, in slimme assistenten van Amazon en Google, in je spamfilter en in de process flow achter facturen@bedrijf.nl die automatisch je PDF-bijlage 'leest' en verwerkt.

Het wordt natuurlijk (pun intended!) pas echt interessant als je de technologie naar je eigen hand kunt zetten.

Wat andere makers zoal zelf hebben gebouwd met behulp van NLP?

• Het Peruviaanse onderzoeksjournalistieke collectief Ojo Publico ontwikkelde een algoritme genaamd Funes om corruptie te detecteren bij overheidsprojecten.

• Nu.nl gebruikt machine learning voor hun comment moderation.

• De Californische krant KPCC/ The LAist gebruikte NLP om veelgestelde vragen aan het begin van de corona lockdown te categoriseren en lezers zo sneller naar een passend antwoord-artikel te verwijzen.

Verder kom je zogeheten automated journalism tegen bij verslagen over sport, beurskoersen en verkiezingsuitslagen (RTL, NOS).

En uiteraard ga je nog veel meer NLP zien bij customer services, en zal het steeds meer gebruikt gaan worden voor het genereren van automatische samenvattingen van artikelen, sportwedstrijden en andere tv-uitzendingen.

5. Zelf experimenteren?

👉Descript - Deze applicatie (die ook deels in de browser werkt) is een heel veelzijdige tool waarmee je o.a. geluid en video transcribeert, en vervolgens monteert alsof het een Google Doc of Word-document is. Descript herkent de stemmen van verschillende sprekers, verwijdert automatisch uh’s, ah’s, stiltes en filler words (“like, you know”) en genereert social media snippets met audio en captions. Let op: vooralsnog alleen Engelstalig.

Named entity recognisers

👉Pinpoint: herkent personen, locaties, organisaties (NER), biedt daarbij geavanceerd zoeken (pistool = geweer = wapen = weapon), 'leest' ook (schuin) ingescande documenten, verticale handschriften, bonnetjes en maakt ze doorzoekbaar. Kan zelfs handgeschreven teksten op protestborden (ook in niet-Westerse schriften) herkennen en teksten in foto’s van slides, op tv’s en in etiketten. Werkt vrij goed met Nederlandse taal en transcribeert ook Nederlandse audio-opnamen redelijk goed.

👉Datashare: qua NER vergelijkbaar met Pinpoint. Deze tool is ontwikkeld door onderzoeksjournalisten van de International Consortium of Investigative Journalists, werkt lokaal en ook offline. In principe taal-agnostisch maar werkt in mijn ervaring best met Engelstalige documenten. Let op: installatie vergt gevorderde technische kennis.

Teksthulp / SEO optimizer

👉 Grammarly AI-powered schrijf-assistent die je kunt gebruiken binnen o.a. Slack, Jira, Twitter, Outlook, Google Docs

👉 Loyal AI - een add-on voor Google Docs. Helpt je bij het schrijven door similar content van andere bronnen realtime te tonen in de kantlijn.

Volgende week: text generators die ook Nederlands aankunnen ;-)

Text-to-design

👉 Debuild.co

Y Combinator alumnus Sharif Shameem bouwde een layout generator waarbij je moet beschrijven wat voor interface element je wil tonen. Ondertussen doorgeëvolueerd naar Debuild.co 👈

Nog een minuut over? Dit kan NLP allemaal:

Waar natural language understanding zoal voor wordt gebruikt:

• tref- en kernwoorden herkennen;

• teksten classificeren: deze comment is strafbaar om reden x,y of z, deze niet;

• vertalingen maken;

• antwoorden destilleren;

• sentimenten analyseren (de kaart van pizzarestaurant X krijgt in de recensies weinig liefde, de bediening veel);

• entiteiten extraheren d.m.v. named entity recognition (NER).

En dit nog niet zo goed..

Hier een selectief aantal voorbeelden van klassieke NER-problemen:

• 🟠- koningshuizen en voetbalelftallen die worden aangeduid met dezelfde kleur;

• 🅧🅧 - muziekbands die zich hebben vernoemd naar uitspraken, gezegdes of andere aanduidingen;

• dialecten, 'slang' en memes;

• tweewoordige termen die beide een hoofdletter hebben;

• Verslag van een Beatles-optreden in de Nederlandse plaats Blokker;

• Politici met een achternaam die ook een plaatsnaam is.

• Humor, en dan met name sarcasme, is an NLPain in the ass

Further reading

A quick overview of what natural language processing is and why we care about it. — huggingface.co

Een uitgebreide uitleg van NLP vind je bij Hugging Face, en -voor degenen die toch willen/kunnen programmeren- open source modellen en scripts om direct uit te proberen....

What Really Happened When Google Ousted Timnit Gebru | WIRED — www.wired.com

Timnit Gebru, Google's AI Ethics co-leader en researcher, deed onderzoek naar bias en racisme in Large Language Models. Na een geschil over een onderzoekspaper over die taalmodellen, ontsloeg Google haar in december 2020. De beslissing leidde tot veel reactie en commotie en richtte de schijnwerpers op toepassingen van NLP.

In deze Wired-coverstory lees je meer over de precieze paper, toedracht, ontwikkelingen, schandalen en consequenties...

Measuring gender bias in media - SFU — gendergaptracker.research.sfu.ca

Analyze your article's text for gender balance in the sources quoted and people mentioned.

Dit is de derde Super Vision alweer: jouw wekelijkse nieuwsbrief met toepassingen van AI & machine learning voor creatieve makers.

Vorige week Deel I uit de natural language processing-serie. Deze week deel II: natural language generation.

Maar eerst even dit:

• Welkom, alle nieuwe abonnees. Goed om jullie erbij te hebben.

• Veel ❤️ voor Sietse, Jolien, Jeroen, Remy, Anne-Marije, NJ en Loes; lezers die hun feedback al gaven. #itsagift

• En a special mention voor lezer Berend; hij tipte een mooi voorbeeld voor deze week en deelde zijn eerste StyleGAN experimenten. Lekker bezig, Berend 👍🏼

Veel lees- en experimenteerplezier weer. Volgende week behandel ik computer vision. Heb je daar al mee gewerkt of ken je interessante voorbeelden, laat het me weer weten!

Groeten uit Leuven, Laurens, Future Journalism Today

🕖 Leestijd van deze nieuwsbrief is zo'n 7 minuten.

Natural Language Generation

Je eerste gedachte bij het lezen van Abbus hierboven was vast niet:

"Hey, een songfestival liedje!"

En dat is niet gek, want deze tekst is het resultaat van een creatief proces waarbij een team van VPRO's Medialab en UU en UVA samenwerkten met een AI. Hun doel: een artificieel songfestival-liedje maken.

Teamlid en creative coder Yannick Gregoire vertelde me vorige week hoe dat ging. Hij koos eerst een zogeheten Large Language Model uit als basis (GPT-2 in dit geval). Deze trainde hij vervolgens met bestaande Nederlandstalige songteksten van o.a. liederenbank.nl; van folklore en rap tot Willeke Alberti.

Voor het trainen en testen van het songtekstmodel gebruikte het team Google Colab - een online omgeving om te experimenteren met machine learning, waarbij je gratis (tijdelijke) rekenkracht krijgt.

Na een aantal experimenten bleek het Nederlandstalige model teveel gibberish op te leveren: veel Engelse woorden, echte non-teksten of volledig geplagieerde zinnen. Het resultaat kon zo niet ingezongen worden door Willie Wartaal 🙁

Een ander experiment deed teamlid Janne Speijkervet. Zij bouwde een Lyrics Generator, getraind met Engelstalige teksten van o.a. Reddit. Ook een aantal daarmee gegenereerde teksten als 'Kill the government, kill the system' haalden de definitieve inzending niet.

Wat de snijtafel wel overleefde, beluister je hier:

🇳🇱 De Nederlandse inzending (plus making-of)

🇧🇪 De Belgische inzending voor 2021: Beatroots AI

1. Wat is Natural Language Generation?

Kan AI een Nederlandstalige tekst schrijven? Test het zelf; Knack.be + ML6

Korte rewind naar vorige week: de algemene aanduiding voor taaltechnologie is natural language processing (NLP). Je kunt NLP opsplitsen in twee begrippen: understanding (zie vorig week) en generation.

Natural language generation

Een AI die antwoord geeft, samenvattingen maakt of nieuwe zinnen voorstelt, genereert tekst. Dit doet de AI op basis van miljoenen andere, bestaande teksten. En die teksten komen overal vandaan: uit boeken, kranten, literatuur, wetenschappelijke papers, het Viva-forum, Twitter, verzin het maar. Ze worden opgeslagen, verwerkt en verrijkt in zogeheten Large Language Models (LLM's). Veel ervan zijn tegenwoordig gratis en eenvoudig te gebruiken. Je hebt LLM's nodig om natuurlijke taal te genereren.

Yannick van de VPRO gebruikte ook zo'n LLM. In zijn geval een zogeheten Generative Pre-Trained Text Transformer (GPT-2 van OpenAI). Deze transformers (taalmodellen dus) dien je wel eerst 'op te voeden': dat heet fine-tuning - met het toevoegen van specifieke teksten maak je het uiteindelijke model geschikter voor jouw doel; of het nou het genereren van songteksten, medische diagnoses of sporthistorie is.

2. Waarom moet je iets weten over NLG?

Vorige week beschreef ik hoe natural language understanding kan helpen bij het doen van research, bij het transcriberen van audio-opnames of als schrijfhulp.

Deze week kijken we naar de meer creatieve, scheppende kant. Nou ja, 'scheppend'... eerder: 'razendsnel combinerend op basis van patronen van veel bij elkaar voorkomende woorden en zinnen uit andere teksten.' Maar toch, een computer die tekst creëren kan, dat is naast wonderlijk toch ook wel bedreigend. Pieker je er weleens over of je werk vervangen wordt door een AI of robot? Ja?! Draai het dan eens om, en stel jezelf de vraag:

Kan AI mijn werk niet voor mij doen?

Misschien zeg je direct 'no way, Laurens, echt niet hoor' en komen tegelijkertijd toch ook de volgende twijfels ook op:

• Zou dat eigenlijk kunnen voor mijn soort werk?

• Zijn er al voorbeelden van?

• Kan ik die AI's wel vertrouwen?

• Ze zeggen toch altijd dat mensen met creatieve beroepen niet bang hoeven te zijn voor vervanging door AI of robots?!

• Ik vind het toch wel een beetje scary allemaal, Laurens!

Okee, dat laatste zegt vooral m'n moeder vaak. Maar ik snap je, het zijn ook grote vragen. Ik zal proberen antwoord te geven aan de hand van tools, voorbeelden en via de links bij Further reading & listening, verderop. De tools die ik vandaag met je deel, helpen je om schrijf- en zelfs designwerk te laten doen door AI, zonder modellen te trainen of te programmeren.

3. Wanneer ga je NLG gebruiken?

Hieronder vertel ik je hoe schrijvers, designers, coders en interviewers NLG kunnen toepassen. Zo vertelde copywriter Claudia Korpadi (Upmost, ex-KesselsKramer) me dat ze niet bang is voor AI; sterker nog: ze verwelkomt deze nieuwe companions zolang ze suggesties doen en op blinde vlekken wijzen.

Template-based Natural Language Generation; Copy.ai

Voor copywriting

Bestaande AI tools helpen je om de volgende soort teksten te genereren:

• samenvattingen;

• copy voor landingspages;

• pitches & presentatieteksten;

• blog & social media posts;

• A/B/Z varianten van advertenties;

• Microcopy voor interfaces, sites en apps.

Voor designers & (creative) coders

Wanneer je tijdens een brainstorm of design sprint met de klant ideeën tastbaar wil maken, kun je binnenkort een AI met je stem aanroepen en letterlijk beschrijven wat je zou willen zien. Instant design creatie zonder ingewikkelde software, shortcuts of code!

Design interfaces op basis van tekst, Figma x GPT-3

Een handige coder/designer bouwde bovenstaande als proof-of-concept: een plugin voor Figma waarmee je een interactief prototype genereert op basis van alleen een beschrijving.

GitHub's code-genererende AI: Co-pilot

GitHub, een platform voor developers, presenteerde onlangs hun Co-pilot: een AI die code genereert o.b.v. een voorzetje. Zo hoef je straks niet zelf meer een image-resizer te schrijven, maar geef je Co-pilot alleen een opzetje; de AI schrijft de rest van je code.

Yannick Gregoire vertelde me dat je ook creatiever kunt gaan met Co-pilot, en zeggen: maak een afbeelding van een hond in CSS, met de toevoeging 'rainbow' 🌈 . (Helaas moet je eerst op een wachtlijst voordat je Co-pilot zelf kunt uitproberen.)

Laten we toch vooral hopen dat development en design niet terug te brengen zijn tot een set commando's 😱.

Voor journalisten, podcasters & interviewers

Stel je voor dat je met hulp van de transcriptie- en NER-tools uit de vorige editie allerlei eerdere interviews van je aanstaande gast hebt verwerkt en geanalyseerd. Vervolgens voer je een AI-interviewapp die teksten en geeft deze twee opdrachten mee:

1. Genereer vragen die relevant zijn voor het aankomend interview: passend bij de gast, bij het onderwerp, bij jouw stijl en het platform waarop je publiceert.

2. Genereer antwoorden die je gast op jouw vragen zou kunnen geven, waarmee je je interview weer verder voorbereidt.

Ik kan me bovenstaande twee use cases voorstellen dankzij het verhaal dat lezer Berend tipte:

A developer built an AI chatbot using GPT-3 that helped a man speak again to his late fiancée. OpenAI shut it down • The Register — www.theregister.com

When his human-like chatbot Samantha - modeled after the romantic companion in the sci-fi film Her - Rohrer wondered where to take Samantha next. What if people could spawn chatbots from his software with their own custom personalities?

5. Zelf experimenteren?

Teksten schrijven

Headlime.com, ontwikkeld door Nederlander Danny Postma

👉Headlime.com, Rytr.me en Copy.ai kunnen alledrie overweg met Nederlandse taal. Je kunt koppen genereren, variaties op advertentieteksten laten schrijven, pitchteksten oppeppen en copy-voorstellen uitkiezen voor je site, blog of social posts. Ben benieuwd welke jouw weapon of choice gaat zijn.

Wireframen en prototypen

👉 UIzard.io - Niet helemaal natural language, maar wel impressive is deze wireframing- en prototypingtool die je handschetsen omzet in digitale UI-componenten.

Genereer digitale UI-componenten op basis van een wireframe; Uizard.io

Spraakgeneratie

👉Descript - Deze audiovisuele editing tool heeft naast een aantal natural language processing skills ook de mogelijkheid tot spraakgeneratie. Door een opgegeven tekst in te spreken, wordt je eigen stem gesynthetiseerd. Oftewel: je typt een tekst die vervolgens uitgesproken wordt door de computer-gegenereerde versie van je eigen stem. Handig als er net een vliegtuig overkwam of een hond blafte tijdens je interview. Hoogleraar journalistiek Bart Brouwers experimenteerde er al mee. (Let op: Descript werkt vooralsnog alleen Engelstalig).

Dit was 'm weer voor deze week. Succes met je schepping 💫; stuur me vooral de resultaten! Weet me ook te vinden als je vragen, bedenkingen of aanvullingen hebt. Tot volgende week. Dan behandel ik computer vision. Groet, Laurens

Nog 1 minuut over? Doe deze NLG-realitycheck!

Het verloop van het creatieve proces van het AI Songfestival-team is tekenend voor hoe experimenten met natuurlijke tekst generatie doorgaans verlopen. Het laat de complexe realiteit ervan goed zien. Laten we die nog eens ontrafelen...

Het Niet-Engelse Taalgebied

Wanneer je je initiële verlangens en creatieve vergezichten wil gaan realiseren - die verlangens heb je ongetwijfeld als het gaat om Het Scheppen van Tekst - loop je al vrij snel tegen de eerste beperking aan: die van ons relatief kleine taalgebied. Door het ontbreken van kwalitatief hoogwaardige, op het Nederlands getrainde taalmodellen, zijn de resultaten niet snel 'natuurlijk' of goed bruikbaar in complexere contexten.

Het Multidisciplinair Team

Daarnaast vermoed ik dat voor veel lezers van deze nieuwsbrief het volgende een obstakel is: aan het AI Songfestivalproject hebben naast mediamakers, muzikanten en tekstschrijvers ook computerwetenschappers en developers meegewerkt. Zonder die laatste twee was er waarschijnlijk niet veel van terechtgekomen. (Ik durf overigens te beweren dat je anno 2021 echt een heel eind kan komen zonder te programmeren of een master AI op zak te hebben.) Wees je dus bewust van wat zowel je eigen beperkingen zijn, als die van de technologie an sich.

Bias in, bias out

Misschien wel het grootste probleem rond natural language processing is de meegebakken bias (= vooroordelen). Denk dan aan racisme (doet Tay van Microsoft een belletje rinkelen?!), clichés, heersende culturele normen en onwenselijkheden zoals haat en gewelddadigheid die in de gebruikte taalmodellen verscholen liggen.

Je hebt hierbij zelf ook een verantwoordelijkheid: kies bewust voor het LLM dat je als basis kiest, en kijk goed naar de selectie van de teksten waarmee je jouw model verder traint en fine-tuned.

Tot slot: Het Goede Nieuws!

Er is naast awareness op Europees overheidsniveau (met beleid, wet- en regelgeving in de maak), ook steeds meer aandacht voor de issues rondom AI & taal. Toegepaste wetenschappers (zoals ex-Googler Margaret Mitchell), softwarebouwers zoals Hugging Face en creatieve makers zelf (bv. journalisten uit Tunesië en Argentinië), zijn allemaal bezig om horden weg te nemen en alternatieve, creatieve aanpakken voor te stellen.

Meer weten? Kijk en luister dan het volgende:

Further reading & listening

The NLP divide: English is not the only natural language | | Polis — blogs.lse.ac.uk

In dit artikel op JournalismAI (onderdeel van het Polis Instituut van de London School of Economics) vertellen twee nieuwsredacties uit Argentinie en Tunesie hoe zij natural language toepassingen ontwikkelen.

Fired At Google After Critical Work, AI Researcher Mitchell to Join Hugging Face - Bloomberg — www.bloomberg.com

Former co-head of Ethical AI group will join Hugging Face to create tools for AI fairness

At Stanford’s “foundation models” workshop, large language model debate resurfaces — www.morningbrew.com

The university created a new center to study so-called foundation models, but some AI experts criticized the framing

GPT-3 in Onbehaarde Apen - Kan een computer creatiever schrijven dan een mens? — podcasts.google.com

Er is al heel veel geschreven over GPT-3. Misschien aardig dus om er eens over te horen:

Gedichten, opiniestukken, interviews.. Geef aan GPT-3 een paar beginzinnen en hij maakt het af. Al jaren zijn wetenschappers bezig met het ontwikkelen van een robot die teksten kan schrijven net als een mens en met dit algoritme lijkt dat gelukt. Welke techniek zit hierachter en wat betekent dit type kunstmatige intelligentie voor de toekomst?

Oke, nog meer GPT-3 dan...

Als je GPT-3 in actie wil zien, kijk dan op All about GPT-3 of gpt3demo.com. Vrij willekeurige overzichten van allerlei toepassingen gebouwd op versie 3 van de Generative Pre-Trained Text Transformer van OpenAI.

200+ GPT-3 Examples, Demos, Apps, Showcase, and NLP Use-cases | GPT-3 Demo — gpt3demo.com

GPT-3 is the world's most sophisticated natural language technology. Discover how companies are implementing the OpenAI GPT-3 API to power new use cases.

Welkom aan alle nieuwe abonnees 👋 (En dank voor de mentions, Nick en Elger.) Je hebt zojuist de vierde (maar jouw eerste, 😉) Super Vision geopend!

📗De geschatte leestijd van deze editie is ±8 minuten. Veel plezier! Groet, Laurens Vreekamp, Future Journalism Today Academy.

Volgende week ga ik het trouwens hebben over labeling van data. Heb je daar al mee gewerkt of ken je een interessant voorbeeld of tool? Laat het me weten: laurens@futurejournalismtoday.com

Deze week: 💻👀

Computer Vision in actie; The Flemish Scrollers, Dries Depoorter

“Beste politicus, blijf gefocust!"

Zo luidt de tekst van een automatisch gegenereerde tweet (of instagram post) die Vlaamse politici tegenwoordig kunnen verwachten van een AI. Wanneer deze detecteert dat een volksvertegenwoordiger met de smartphone bezig is tijdens een debat, wordt bovenstaand bericht automatisch aan de geïdentificeerde politicus verstuurd, vergezeld van een video als bewijs.

De toepassing is gebouwd door de Belgische kunstenaar Dries Depoorter. Hij maakt hiervoor gebruik van object detection (het herkennen van de telefoon) en face recognition (herkennen van de politicus). Dit zijn twee onderdelen van AI-technologie die Computer Vision (CV) wordt genoemd. Om zijn toepassing te bouwen, zal Depoorter waarschijnlijk honderden foto’s per politicus verzameld hebben, en nog eens duizenden van handen die telefoons vasthouden.

Het door de kunstenaar getrainde Computer Vision-model analyseert de Youtube livestreams van vergaderingen en debatten in het Vlaamse parlement om zo de berichten naar de juiste politici te sturen.

1. Wat is Computer Vision?

Heel kort: computertechnologie die beeld analyseert. Of uitgebreider:

Computer vision, vaak afgekort als CV, is een subdomein van AI en wordt gedefinieerd als een vakgebied dat technieken probeert te ontwikkelen om computers te helpen de inhoud van digitale afbeeldingen zoals foto's en video's te 'zien' en te begrijpen. Vanuit het perspectief van engineering probeert CV taken die het menselijke visuele systeem kan uitvoeren te begrijpen en te automatiseren.

Bronnen: Google Cloud AutoML, Wikipedia

Computer Vision is -naast Natural Language Processing- een belangrijke subcategorie van machine learning. Computer Vision kun je vervolgens weer toepassen op verschillende deelgebieden zoals gezichtsherkenning, object detection en pose recognition.

Een CV-model train je met behulp van eigen beeldmateriaal of op basis van bestaande datasets. Wanneer het model goed genoeg is, herkent deze binnen milliseconden (gezichten van) personen, gebouwen, objecten, fruit of gerechten in foto's of video's.

Er zijn bedrijven die zeggen met Computer Vision ook emoties te kunnen herkennen. Dat is naast omstreden ook nogal onbetrouwbaar, zo ervaar je ook al gauw zelf met deze twee AI-powered interactives:

• Emotion recognition; een story van de Financial Times;

• How Normal am I?; technologiecriticus Tijmen Schep (SETUP Utrecht) bouwde deze CV-toepassing voor jou om een antwoord op precies die vraag te geven.

2. Waarom moet je dit weten?

Object-detectie met het YOLO-model: You Only Look Once

Dat zelfrijdende auto’s niet zonder Computer Vision kunnen, zul je wel begrijpen. Ze moeten immers verkeersborden, drempels, mede-weggebruikers, dieren en overwaaiende dozen kunnen herkennen om te functioneren. En dat filters in Snapchat en Instagram gezichten moeten herkennen, daar ben je ongetwijfeld mee bekend. Maar dat het bij het tanken altijd even duurt voordat de benzine uit de pomp komt, omdat eerst je kenteken wordt gecheckt door een CV, dat wist je misschien niet. Ik in ieder geval pas sinds ik dit boek van Jim Stolze las.

Visuele archieven metadateren

Journalistieke organisaties gebruiken intern al diverse beeldherkenningstechnieken. Zoals -het zal ook 'ns niet- de New York Times; daar bouwden ze zelf een model om hun fotoarchief beter te metadateren. Dichter bij huis heeft in Nederland o.a. het ANP een project lopen om miljoenen beelden in hun fotobanken te beschrijven. Er wordt zelfs geprobeerd een 'aesthetic ranking' toe te kennen aan een foto. Ik ben wel benieuwd hoe ver ze hier ondertussen mee zijn...

Onderzoeksjournalistiek

Het Oekraïense onderzoekscollectief Texty.org ontdekte illegale mijnbouw door satellietfoto’s te analyseren en te classificeren met Computer Vision. De Nederlandse journalist Jerry Vermanen (KRO-NCRV’s Pointer) trainde een eigen beeldherkenningsmodel om vuurwapens op foto’s te herkennen en schreef daarover: "Je voelt je zo slim zodra een bak met 1.500 foto’s nagenoeg foutloos wordt gelabeld." En VRT-journalist Tom van de Weghe deed mee aan een onderzoek van Stanford University om bias in tv-uitzendingen te ontdekken.

3. Wanneer ga je Computer Vision gebruiken?

Met Computer Vision kun je een machine leren om vragen te beantwoorden als:

• Wat gebeurt er op deze (camera)beelden?

• Welke personen staan er op een foto?

• Welke lichaamshouding neemt een persoon in situatie x aan?

• Welke objecten zien we in een afbeelding?

• Bij welke architectonische stijl hoort dit gebouw?

Als maker kun je CV op twee manieren inzetten: tijdens je onderzoeksproces of als interactieve toepassing voor je eindgebruiker.

Als je als journalist werkt, en een van je kerntaken is ‘holding power to account’, dan heb je met Computer Vision een krachtig middel in handen. Zo kun je de aanwezigheid van bepaalde personen of groeperingen bij vergaderingen of demonstraties inventariseren en turven. Dit kun je met CV doen door bijvoorbeeld specifiek te kijken naar logo's, outfits, meegebrachte vlaggen, insignes of spandoeken.

Daarnaast kun je spelden vinden in verschillende hooibergen, zolang je een aantal goede voorbeelden hebt van de speld die je zoekt. Is je vraag: 'Waar en hoe komt ontwikkelingssteun terecht?' dan zoek je bijvoorbeeld middels CV snel door duizenden foto's en video's op social media waar gesubsidieerd politie- of geexporteerdoorlogsmaterieel in het buitenland in voor komt.

User research & customer service

Maar ook als je user research of marketingonderzoek doet naar gebruik van bepaalde of hoe mensen accessoires tonen op social media. Of: wat Vlamingen doorgaans aan tuinmeubilair hebben; met Computer Vision kun je beelden classificeren aan de hand van door jou zelf opgestelde visuele criteria.

CV helpt je ook om de helpdeskervaring of customer service journey van je klant te verbeteren. Zo kan ik me voorstellen dat zorgverzekeraars beelden van schade sneller kunnen categoriseren en analyseren wanneer een polishouder foto's bijvoegt.

De keerzijde

Problemen, ongewenste uitkomsten en andere misstanden met toegepaste Computer Vision komen vrijwel wekelijks in het nieuws - met name rond gezichtsherkenning. Deze twee licht ik er graag uit:

Objective or Biased — interaktiv.br.de

Een zogeheten 'adversarial audit' van de Duitse omroep BR: over het inzetten van AI-powered personality assessments bij sollicitaties.

Facial Recognition: What Happens When We’re Tracked Everywhere We Go? - The New York Times — www.nytimes.com

A start-up scraped the internet to build a facial-recognition tool; it tested a legal and ethical limit.

4. Waar zie je CV al / ben je in beeld?

Brickit.app herkent je LEGO-stukjes en doet bouwsuggesties

🧱Indrukwekkend is de Brickit.app (zie afbeelding), waarmee je door het scannen van je losse LEGO-blokjes voorbeelden krijgt van mogelijke bouwsels. Toepasbaar op jouw werk wellicht?

🤦🏻‍♂️Als gimmick wist interactief bureau Red Pepper het complete spelelement uit het zoekspel Where is Waldo te elimineren, door een AI te trainen op het herkennen van Waldo. 

🚊🎨De Nederlandse Spoorwegen hebben een CV-toepassing voor medewerkers gebouwd waarmee ze in hun database bekende 'artists' visueel matchen met nieuwe graffiti op treinen.

Berghaintrainer — berghaintrainer.com

Deze interactieve videotraining maak het misschien dan toch mogelijk een keer binnen te komen in de beruchte Berlijnse nachtclub. NLP en CV.

5. Zelf leren kijken met AI?

Leer een AI wat een rijpe banaan is; Teachable Machine, Google

👉 Teachable Machine -Veruit het makkelijkst (en vermakelijkst) experimenteer je met Computer Vision met Google's Teachable Machine. Via je webcam toon je voorwerpen (of poses) die herkend moeten worden, en houdt record ingedrukt. Vervolgens start je de beeldclassificatietraining. Er wordt een uniek CV-model voor jouw objecten ('classes') opgebouwd door de specifieke kenmerken ervan te leren kennen. Training klaar? Test dan de kwaliteit van je model voor je eigen webcam of deel 'm met anderen. Stuur me de link naar je model: laurens@futurejournalismtoday.com

👉 Lobe.ai -Intuïtieve desktopapp van Microsoft. waarmee je middels drag&drop heel eenvoudig een beeldclassificatiemodel maakt. Je kunt zowel beelden vanaf je computer gebruiken als je webcam. Er is ook een exporteerfunctie voor formaten waar developers mee werken. Zo kun je jouw CV-model in een iOS-, Android-app of site implementeren.

👉 AutoML Vision - Google Cloud Deze omgeving van Google werkt -zoals de naam al doet vermoeden- in de cloud. Je krijgt gratis credits waarmee je een aantal Computer Vision-modellen kunt trainen met eigen beeldmateriaal. Te gebruiken voor beeldclassificatie en object-detectie.

✅

Dit was 'm weer voor deze week. Veel experimenteerplezier. En stuur me vooral je Teachable Machine of Lobe.ai testjes door. Tot volgende week. Dan behandel ik labeling van data.

*NIEUW* 🎤 De AI agenda

Expedition: future; Abnormal Automation: a Speculative Workshop | Waag — waag.org

Vandaag t/m 28 september, fysiek

Conceptualising new artistic interventions in AI: Mushon Zer-Aviv is hosting a workshop as part of Waag's Expedition: future.

Kenniscentrum Data & Maatschappij – AI en journalistiek: tools en ervaringen — data-en-maatschappij.ai

Donderdag 30 september, online

Kenniscentrum voor juridische, ethische en maatschappelijke aspecten van artificiële intelligentie en datatoepassingen.

JournalismAI Festival 2021

7 - 11 december, online

The JournalismAI Festival is a celebration of the most exciting developments at the intersection of journalism and artificial intelligence.

Further viewing, coding & reading

Alle grote tech-bedrijven hebben Computer Vision toepassingen waarover ze graag publiceren. De meesten kun je als maker ook benutten. Ik noem ze hieronder, maar start met een open source variant.

Tutorial: A Guide to Learn OpenCV - PyImageSearch — www.pyimagesearch.com

Als je een stap verder wilt met Computer Vision, en niet bang bent om te programmeren, dan is dit een mooie start om je eerste toepassing te bouwen.

Recognizing People in Photos Through Private On-Device Machine Learning - Apple Machine Learning Research — machinelearning.apple.com

Photos (on iOS, iPadOS, and macOS) is an integral way for people to browse, search, and relive life's moments with their friends and family…

AutoML Vision Beginner's guide | Google Cloud — cloud.google.com

Specifieke uitleg voor een beginner die met AutoML Vision in de Google Cloud omgeving wil gaan werken

SEER: The start of a more powerful, flexible, and accessible era for computer vision — ai.facebook.com

The future of AI is in creating systems that can learn directly from whatever information they’re given — whether it’s text, images, or another type of...

Laten we starten met een gedachte-experiment. Doe je mee? Je hoeft maar twee dingen te doen. Allereerst: beantwoord in gedachten de volgende vraag:

Waar werd je de afgelopen week blij van?

Denk er even over na. Je hebt vast iets in gedachten! Verder met de volgende vraag: Hoe zou je die blijheid classificeren? Je kunt kiezen uit een van deze 7 categorieën:

1. Prestatie

2. Affectie

3. Binding

4. Genieten van het moment

5. Beweging / sport

6. Vrije tijd

7. Natuur

Lukt dat? Was het moeilijk of makkelijk om een hokje te kiezen? Of miste je een categorie?

Laten we ook eens met een blij moment van een ander oefenen:

"Ik ging op een succesvolle date."

Hoe zou je deze categoriseren? Je mag weer slechts een van de zeven bovenstaande redenen toekennen.

Je voelt de discussie al aankomen he?! "Ja maar wat nou als de persoon ging wandelen, op de hei, met die date? En het hun eerste date in jaaaaaren was?”

Met een beetje goede wil kruis je voor deze succesvolle date vrijwel alle opties aan. Maar ja, het model dwingt je te interpreteren en te kiezen. (🧪 Een aantal lezers heeft dit al ervaren door middel van een experiment. 👉🏽 Wil jij ook meedoen, dan kan dat hier. De resultaten vind je daar.)

Zie hier, mijn beste blije lezer, in een notendop het machine learning 'moeras’ waar je inloopt wanneer je met supervised learning aan de slag gaat.

1. Ik wil zelf gaan labelen. Waar begin ik?

Ben jij de designer, journalist, mediamaker, creatief die:

• geen uitleg meer nodig heeft over single-label classificatie;

• de data al ter beschikking heeft;

• die data heeft gecheckt op variëteit en vooroordelen;

• onderscheid weet te maken tussen alle type voorbeelden;

• intersubjectief een annotatieschema heeft opgesteld;

• weet hoe en met wie je annoteert;

• een ML-model als oplossing voor een vraagstuk kan 'verkopen'?

Ja?! Dan ben jij perfectly in staat om direct je eerste trainingsset te gaan aanmaken met een van de vier volgende gereedschappen. Nee, ga dan verder naar punt 2. Wat is labeling?

doccano — doccano.github.io

A Text Annotation tool for Humans. Open source. Geschikt voor tekst (en sentiment en NER) en beeld.

Labelbox Editor — editor.labelbox.com

Werkt met afbeeldingen, objecten binnen afbeeldingen en video. Voor je browser.

SuperAnnotate | Annotation Automation Platform for Computer Vision (Win, Mac, Linux) — app.superannotate.com

Geschikt voor beeldannotatie: afbeeldingen en video. Zowel in de browser als voor desktop beschikbaar.

MakeML (Mac only) — makeml.app

Alleen geschikt voor beeld. Kan ook gezichten in video's automatisch blurren. 'Object Detection and Semantic Segmentation ML Models without code. Use models in iOS or Android applications.'

Tip: Je kunt voor tekstannotatie ook prima Microsoft Excel gebruiken of Google Sheets, met een extra kolom voor je labels.

Succes met annoteren, en tot volgende week! Dan wil ik het hebben over vooroordelen, oftewel bias.

2. Wat is labeling?

HappyDB tekst met annotatie; Google Cloud AutoML Natural Language

Het Blije Moment-onderzoekje heb ik geleend van de Happy Database: a Corpus of 100,000 Crowdsourced Happy Moments. Het is een goed voorbeeld van labeling: het proces van het toewijzen van labels aan een tekstdocument of verschillende elementen van de inhoud ervan.

Binnen machine learning valt het Happy Moments project onder de zogeheten single-label classificatie (SLC) vraagstukken. Dat betekent dat dingen slechts in een enkel ('single') hokje mogen. SLC klinkt vertaald redelijk duidelijk en eenvoudig, maar is het in de praktijk niet.

Aan goede labeling gaan de volgende stappen vooraf:

1. selectie van gevarieerde, relevante, realistische voorbeelden;

2. explicitering van de doorslaggevende kenmerken daarin;

3. overeenstemming over de interpretatie van de kenmerken.

Alleen zo kun je met annotatoren onderling bepalen wanneer iets wel of niet tot een bepaalde class behoort en welk label ieder item krijgt.

3. Waarom moet je iets weten over labeling?

Voor zogeheten supervised learning (een veelgebruikte aanpak om machines iets te leren) is het labelen van data essentieel. De term 'supervised' zegt het al: als supervisor kies je de juiste voorbeelden om een ander te tonen waar je naar op zoek bent; hoe 'iets' moet, werkt of hoort, en -minstens zo belangrijk- hoe niet, wat het niet is.

Afgelopen maart zijn Beeld en Geluid, NPO en RTL in Nederland begonnen met een gezamenlijk labelingproject:

"Om de ontwikkeling van AI in de mediasector te stimuleren. Tijdens de pilot zullen tien werkzoekenden videomateriaal gaan labelen zodat die content geschikt is voor het trainen van AI-modellen. "

Over de redenen en het doel zeggen de initiatiefnemers:

"Voor het ontwikkelen van AI bij mediaorganisaties zijn grote hoeveelheden goed gelabelde content nodig. Daarbij gaat het bijvoorbeeld om het kwalificeren van videobeelden als ‘racistisch’ of ‘romantisch’. Als mensen iets als dusdanig bestempelen, kan een AI-model in die data patronen herkennen. Zo kan kunstmatige intelligentie voortaan zelf aangeven of er een racistische of juist romantische scène voorkomt in een video."

Labelen is arbeidsintensief

Om de AI te trainen, moet je per label honderden voorbeelden verzamelen; 100 romantische scenes, 100 gewelddadige, 100 racistische, und so weiter. Al die voorbeelden samen vormen straks de trainingsset die het model gaat gebruiken om van te leren.

Het vinden van voorbeelden alleen al is een tijdrovende klus. Pas daarna komt het labelen.

AI = handwerk

Iedereen kan van eigen teksten, beelden, documenten en andere soorten data specifieke analyses maken d.m.v. machine learning. Dat dit zo simpel, goedkoop en goed is, heeft met drie ontwikkelingen te maken:

• Opkomst van labeling-tools om je data eenvoudig mee te classificeren en te exporteren voor training (zie punt 1);

• Trainingtools voor labelclassificatie zijn steeds meer 🍎🥚'tje te gebruiken; 👉🏽Lobe.ai voor beeld en Google Cloud AutoML Natural Language voor tekstgebaseerde data;

• Interoperabiliteit: jouw custom getrainde ML-model kun je eenvoudig exporteren, online laten draaien en via het web of een app aanroepen.

En: AI = verantwoordelijkheid nemen

Hoe greater je power wordt door deze democratisering van AI, hoe belangrijker het is om vooraf een goed begrip en consensus te hebben over wat je waarom zoekt in welke data. En hoe de machine straks de onbekende beelden of teksten gaat interpreteren.

De verantwoordelijkheid is on you, on us humans en ligt zeker niet -oh, de misvatting!- bij de machine, bij de werking van je model of bij de resultaten die het algoritme teruggeeft!

Zolang we het niet eens zijn over dingen (en dat zijn er anno 2021 nogal wat) zal machine learning in elk geval daar niet de oplossing voor zijn.

4. Wanneer ga je labeling gebruiken?

Gebruik single-label classificatie wanneer je verschillende voorbeelden langs een zelfde meetlat kunt leggen. En dan alleen wanneer je die meetlat zelf hebt ontworpen en daar consensus met anderen over hebt verkregen. Je kunt dan vervolgens:

1. Snel dingen sorteren;

2. Nieuwe content monitoren;

3. De schaal van iets aantonen;

4. Zien hoe de verdeling is binnen jouw dataset;

5. De aard van veel- of juist weinig voorkomende cases achterhalen;

6. Veel items processen, tegelijk.

Een praktisch voorbeeld

John Keefe (New York Times, ex-Quartz AI Studio) onderzocht aangiftes van discriminatie in de VS. Zijn vraag: als je uit de aangiftetekst in politiedatabases kunt opmaken om welk soort discriminatie het per geval gaat (ras, religie, etniciteit, geaardheid), kun je daar dan ook een ML-model op trainen? Zodat je daarmee journalistiek onderzoek kunt doen en kunt schrijven: 'de meeste hatecrimes afgelopen jaar waren x en z gemotiveerd'.

Andere toepassingen zijn:

• Onderzoek in Telegramgroepen met duizenden deelnemers en +100.000 berichten naar (semi-)illegale oproepen en hun verspreiders;

• In comments of op social zoeken naar bepaalde attitudes rondom merken en producten.

5. Waar zie je labeling al / kun je het verwachten?

Ad-monitoring service voor de Reclame Code Commissie; door Deus.ai

DEUS.AI bouwde voor de Reclame Code Commissie een AI-model om online advertenties (in tekst en beeld) mee te analyseren op overtredingen van de reclamecode:

"The solution screens thousands of online ads and 100+ online media channels where no screening took place earlier."

Waar mensen zaken beoordelen

'Geplaceerd evenement', de Toeslagenaffaire, de Happy Moments en ook toekenningen van kunstsubsidies, filmprijzen of het eindcijfer voor je bachelorscriptie - ze hebben om tot hun oordeel te komen allemaal met criteria te maken. De score op die criteria is dan doorslaggevend voor een groene of rode vlag achter je naam, voor toekenning of niet, voor een 4,5 een 7 of een 10.

Je zou eens kunnen kijken welke start-ups doorgaans hoog scoren op Product Hunt. Of welke inzendingen (en voor welke categorie) een Webby hebben gekregen de afgelopen jaren. Daarmee bouw je een model dat niet per se voorspelt of je gaat winnen; wel een die inzicht geeft waardoor je een andere productie of in een andere categorie inzendt.

Een aantal voorbeelden uit eerdere nieuwsbrieven waarbij content is gelabeld om een AI-model te trainen en in te zetten:

• LAist - tekstclassificatie van lockdownvragen van lezers;

• Misogynie als politiek wapen - single-label tekstclassificatie van tweets;

• Leprosy of the Land - single-label beeldclassificatie van satellietfoto's.

✅ Dit was 'm voor deze week. Ik ben benieuwd wat jij gaat labelen deze week. Laat het me weten! Groet, Laurens.

Nog een minuut over? Zo kom je tot labeling consensus

By now heb je wel door dat jouw individuele interpretatie en categoriseringsvermogen nogal verschilt met die van anderen. Gelukkig is dit probleem al filosofisch en praktisch opgelost.

Intersubjectiviteit

Toen ik lesgaf aan de Hogeschool Utrecht spraken we ook wel van intersubjectiviteit bij betrouwbaar en eerlijk beoordelen. Dit houdt in dat je goede en slechte voorbeelden verzamelt en gezamenlijk bespreekt. Op basis daarvan stel je een maatstaf op en stem je de interpretatie ervan met elkaar af. Vervolgens gebruik je die maatstaf om nieuwe, onbekende voorbeelden onafhankelijk van elkaar te beoordelen. Die beoordelingen bespreek je weer met elkaar. De uitkomst van dat gesprek is levert een verdere fine tuning op van de maatstaf en haar interpretatie.

Inter annotator agreement

In de machine learning praktijk wordt het probleem opgelost door de zogeheten inter annotator agreement; een maatstaf voor hoe goed twee (of meer) annotatoren dezelfde annotatiebeslissing kunnen nemen voor een bepaalde categorie. Dit komt in de praktijk neer op: als twee van de drie annotatoren tot eenzelfde label komen, wordt dat het definitieve label voor dat voorbeeld.

Further reading

Deelnemer Eline over proefproject rondom AI: ‘De bazen bij RTL waren heel positief over het werk dat wij hadden gedaan’ - Media Perspectives — mediaperspectives.nl

Eline over haar deelname aan de annotatiepilot, waarin werk zoekenden aan de slag gaan met het labelen van videocontent voor AI toepassingen

🏷🥊 The Fight Against Labeled Dataset Dependencies - by Ksenia Semenova - TheSequence — thesequence.substack.com

The Scope covers the most relevant ML papers, real-world ML use cases, cool tech releases, and $ in AI. Weekly

Hi🖐🏿. Dit is de eerste Super Vision waarin ik een van de grote drie 'gevaren' van AI behandel. Deze keer is dat bias, oftewel: vooroordelen of vooringenomenheid. En laat ik direct een statement maken:

Zowel data als AI-systemen kennen geen vooroordelen.

Als dit in gaat tegen alles wat je tot nu toe denkt of gelezen hebt, dan zitten we meteen goed😉! Want in deze editie maak ik duidelijk wat dan wel het probleem met bias en AI is, hoe anderen dit oplossen (waaronder een beautymerk) en geef ik vijf tips om zelf bias aan te pakken. Ik heb ook weer een AI-Uitagenda. Veel debias-plezier!

Volgende week: 🎥Video & AI.

Het echte probleem met AI en bias...

Stel: jij en ik ontwikkelen samen een AI-model dat foto's van ruiterstandbeelden genereert op commando, vergelijkbaar met wat DALL-E kan. Hiervoor voeden we ons systeem met duizenden afbeeldingen van dergelijke standbeelden van over de hele wereld. Wanneer het model is getraind, geven we het de volgende opdracht:

> Genereer 100 ruiterstandbeelden

Retorische vraag: hoeveel van die beelden zullen een vrouw op een paard tonen, denk je?!

Maarten de Rijke, AI professor aan de Universiteit van Amsterdam en zijn (destijds) promovendus David Graus schreven in 2016 al een opiniestuk in NRC, getiteld Wij zijn racisten, daarom Google ook, over de echte bias in AI; het is volgens hen een reflectie van onszelf:

Het idee van een algoritme als een statische verzameling instructies die door een machine wordt uitgevoerd is misleidend. In de context van, bijvoorbeeld, Facebooks nieuwsfeed, Googles zoekresultaten, of aanbevelingen van Netflix wordt een machine niet verteld wat te doen, maar verteld om te leren wat te doen. De systemen leren van subjectieve bronnen: onszelf, onze voorkeuren, ons interactiegedrag. Het leren van subjectieve bronnen zorgt vanzelfsprekend voor subjectieve uitkomsten.

1. Wat is bias?

Van de meeste vooroordelen ben je je niet bewust, de zogeheten unconscious bias. Ieder mens bezit ze. Je hebt ze al van jongs af aan, en ze helpen je te overleven. Handig in een groep met mensen waar je van afhankelijk bent of met wie je vaak te maken hebt. Maar onhandig, vervelend, oneerlijk, pijnlijk of zelfs levensbedreigend voor alle andere mensen die minder op jou lijken. Wake up call: al die andere mensen zijn in de meerderheid 😜. En zo zijn jouw unconscious bias uiteindelijk ook gevaarlijk voor jezelf en de uitwerking van je AI-toepassing. Er worden in dit artikel maar liefst 19 soorten bias onderscheiden. Ben benieuwd welke je allemaal herkent bij jezelf.

Als je weleens onderzoek doet, ken je het begrip ook in die context. De bekendste vormen van bias hierbij zijn:

1. selection bias: doelgroep van een onderzoek bestaat uit huisdierenbezitters maar alleen eigenaren van honden zijn geselecteerd om deel te nemen.

2. confirmation bias: het onderzoek is ontworpen om aannames te bevestigen en/of de onderzoeker gaat op zoek naar resultaten die de eigen aannames onderschrijven.

3. interviewer bias: werkt twee kanten op; sociaal wenselijke antwoorden van de interviewee of juist vooringenomenheid bij de interviewer.

4. respons bias en non-respons bias: bij een klant-tevredenheidsonderzoek bijvoorbeeld reageren vaak alleen de ontevreden klanten.

In data:

• outlier of extreme data bias - je onderzoekt de beleving van Fortnite-gamers wereldwijd en hebt onder je honderd respondenten elf 82-jarige spelers.

In design:

• design bias: zuurstofsaturatiemeters die ontwikkeld en getest zijn door witte mannen en vrouwen werken niet goed bij zwarte mensen. Crash test dummies (nee, niet de band) waren tot voor kort gebaseerd op Westerse mannenlichamen.

Kort gezegd: bias die niet adequaat wordt geadresseerd resulteert in gemankeerd of onbruikbaar onderzoek. En nu je weet dat er verschillende soorten bias bestaan, kun je niet anders dan er rekening mee houden. Bedenk bij je volgende project eens: welke niet-gebruikelijke bedrijven zal ik dit keer bellen? Hoe kom ik dit keer bij andere voorbeelden uit? Welke personen kan ik ook interviewen? Welke 'vervelende' designers zal ik om feedback vragen?

2. Waar kom je bias in AI tegen?

Je hebt er waarschijnlijk al tig keer over gelezen. Hier de bekendste voorbeelden:

• zwarte mannen die vaker en harder worden gestraft in de VS door mede op AI-gebaseerde uitspraken van rechters;

• videosollicitatie-systemen die niet op inhoud selecteren;

• Aziatische en Afro-American vrouwen die minder goed geïdentificeerd worden door gezichtsherkenningsoftware.

Wie leest over bias & AI komt ook de volgende begrippen tegen: Fairness, accuracy & trust (FAT), Responsible AI, Explainable AI en Ethical AI. Bekende AI'ers die zich hiervoor hard voor maken zijn o.a. Joy Buolamwini van de Algorithmic Justice League, Lorena Jaume-Palasí van Algorithm Watch en Timnit Gebru, ex-Google Ethical AI. Deze personen, hun initiatieven en ander onderzoek hieromtrent richten zich allemaal op dezelfde vraag:

Hoe zorgen we ervoor dat mensen in hun (dagelijks) leven niet oneerlijk worden behandeld, gediscrimineerd of anderszins belemmerd door tussenkomst van geautomatiseerde systemen?

En wanneer dat wel het geval is: hoe gaat wie dan waar mee om?

• Wie is er verantwoordelijk?

• Hoe helpen we ontwikkelaars van AI-toepassingen: researchers, developers, designers, journalisten, marketeers?

• Welke aandacht besteden we hieraan in het onderwijs?

• Wie verzorgt toezicht: nationale regeringen, de EU, ngo's?

• Wie helpt de burger, de zorgconsument, de verzekerde, de autorijder?

Verschillende stakeholders nemen ondertussen al hun verantwoordelijkheid...

3. Wie werken er aan de-biasing?

Face detection Model Card - Google

Universiteiten, onderzoeksinstituten & non-profits

Onderzoek in academische kringen, zoals in Nederland bij de TUe levert methodes op zoals Fair Match, van promovendus Masoud Mansoury:

"Het idee is om de zichtbaarheid te verbeteren van items van hoge kwaliteit, die een lage zichtbaarheid hebben in de oorspronkelijke set van aanbevelingen".

De Duitse non-profit Algorithm Watch onderzoekt en bericht over misstanden rondom het gebruik van AI bij bedrijven en overheden. En in zowel Vlaanderen als Nederland trekken verschillende universiteiten en onderzoeksinstituten met elkaar op.

Big Tech

Twitter schreef een wedstrijd uit -de Algorithmic Bias Bounty Challenge - om bias in hun algoritmes aan te laten tonen door buitenstaanders:

Finding bias in machine learning (ML) models is difficult, and sometimes, companies find out about unintended ethical harms once they’ve already reached the public. We want to change that.

Google heeft een Model Card set die je gebruikt met je team bij het ontwikkelen van machine learning toepassingen:

Model cards [...] help investigate issues like unfair bias. For instance, does a model perform consistently across a diverse range of people, or does it vary in unintended ways as characteristics like skin color or region change? Model cards can bring clarity to these kinds of disparities, encouraging developers to consider their impact on a diverse range of people from the start of their app’s development process—and keep them in mind throughout.

Start-ups

Een bedrijf als Hugging Face, dat datasets aanlevert, doet dat op een bijzondere manier a la een Tony Chocolonely for AI. Hun datasets proberen ze zo divers, inclusief en unbiased mogelijk te maken. Hoofd data governance Margaret Mitchell (ex-Google Ethical AI) vertelt in een interview met Morning Brew over haar missie:

MB: What do you personally want to have accomplished in the responsible-AI space?

MM: One year from now, I want it to be a norm that people provide documentation for datasets and for models. [...] We see companies across the board starting to use things like model cards—so Facebook, Salesforce, Nvidia, OpenAI, Allen AI, various papers—we’re really seeing a rise in responsible, value-aligned documentation [...]

Merken & adverteerders:

Campagne van Olay in de VS: #decodethebias

Individuen

Een interessant element dat Margaret Mitchell in het voornoemde interview oppert is de 'right to contestation': mensen moeten de manier waarop ze gerepresenteerd worden in datasets en modellen kunnen aanvechten:

[F]iguring out how to allow contestation brings with it a whole bunch of research questions: How do you remove training data from a model? How do you even find the data that someone would contest?

4. Wat kun jij doen?

Totdat bedrijven deze nieuwe best FAT AI practices toepassen, teams actief naar vooroordelen in hun ontwerp en data omzien en een fairness-waakhond is ingesteld, kun je alvast het volgende doen:

Tip 1: Behandel AI als een tussenpersoon.

Net zoals je dat bij journalisten, opiniemakers en consultants doet (of zou moeten doen), betogen De Rijke en Graus in hun opiniestuk dat je AI-aanbevelingssystemen als gepersonaliseerde tussenpersonen moet zien:

Het succes van moderne zoek- en aanbevelingssystemen is voor een belangrijk deel te danken aan hun gebrek aan neutraliteit. Zie het daarom als een gepersonaliseerde informatietussenpersoon. Net als traditionele informatietussenpersonen (journalisten, artsen, opiniemakers) geeft het een standpunt weer door informatie te filteren en te rangschikken. En net als bij traditionele tussenpersonen doet men er verstandig aan om een tweede of derde mening te vragen als het er werkelijk toe doet.

Tip 2: Doe zelf een bias-quiz of vooroordelentest!

Verplaats je eens in een werkgever of manager en ervaar op welke basis je mensen wel of niet inhuurt, aanneemt of in je team wil:

Doe de vooroordelentest — discriminatie.nl

Onbewust hebben we allemaal vooroordelen. Werkgevers net zo goed. Ontdek hoe je voorkomt dat ze bijvoorbeeld het sollicitatieproces beïnvloeden.

Journalist of mediamaker? Doe dan deze quiz eens:

AI Journalism Quiz — edito.nicematin.com

Can AI help you deal with bias in your newsroom?

Tip 3: Vraag een expert om hulp

💬 Fair & Ethical AI-Professionals in Vlaanderen — data-en-maatschappij.ai

Zoek contact met deze Vlaamse AI denkers en makers, via het Kenniscentrum Data & Maatschappij. Voor juridische, ethische en maatschappelijke aspecten van artificiële intelligentie en datatoepassingen.

Number of male and female persons quoted and mentioned - AIJOproject.com

Tip 4. Doe een content-, model- of data-analyse

👉🏽 Het AIJOproject heeft tools en uitleg beschikbaar om gender bias in inhoud te analyseren. Te gebruiken voor zowel tekst (Natural Language Processing) als beeld (Computer Vision).

Je kunt ook een zogeheten disparate impact analyse doen. Met deze analysemethode kijk je bijvoorbeeld naar leeftijd: levert het model even nauwkeurige resultaten op voor 18-35 jarigen als 65+'ers? Uiteraard geldt hier ook: context bepaalt welke impact wenselijk is.

👉🏽 Hier meer informatie over implementatie van zo'n analyse

AI Fairness 360 Demo data

👉🏽 AI Fairness 360 (IBM) heeft video's, artikelen, tutorials, code en andere handige manieren om bias in AI tegen te gaan. Probeer de demo en check zelf of en hoe biased de data is voor het model 'to predict a criminal defendant’s likelihood of reoffending:

Parity.ai evalueert voor bedrijven het risico van hun AI-modellen

Tip 5: Laat een 'algorithmic audit' doen

Een interessante ontwikkeling vind ik de opkomst van algorithmic auditing: gespecialiseerde bedrijven zoals Parity.ai helpen andere organisaties om hun AI-toepassingen op fairness, accuracy en responsibility te toetsen. Al komen ze nu nog uit Silicon Valley, je kunt je voorstellen dat straks, wanneer ieder zichzelf respecterende organisatie met zo'n audit als keurmerk wil pronken (#algowashing), er meer partijen nodig die deze toetsing voor hun rekening nemen. #nieuwebanendankzijAI

Lees deze twee artikelen van MIT Technology Review en The Markup als je meer wilt weten over algorithmic auditing.

✅ Dit was 'm weer. Volgende week: video & AI.

AI-Agenda

📺 Donderdag 7 oktober, 11:00uur: Live Talkshow 'Responsible AI voor media' (Dutch Media Week) — www.dutchmediaweek.nl

In deze talkshow gaat het over de vraag hoe AI op verantwoorde wijze ingezet kan worden in de media. Met o.a. Maaike Harbers (Lector Artificial Intelligence & Society, Hogeschool Rotterdam) en Daan Odijk (Data Science Manager, RTL)

16-24 oktober: AI @ Dutch Design Week — ddw.nl

Check Genesis door Tanja Vujinovic, The Spirit Machine door Jeroen van der Most en Gabrielle Ras of LAWKI_Alive

13 & 14 oktober: World Summit AI 2021 | Amsterdam, The Netherlands — worldsummit.ai

Who owns AI in an international ecosystem? How can we make diversity and inclusion a business imperative? What impact is AI having in the workplace?

Deze Zweedse machine learning engineer, werkzaam voor de (nieuws)uitgever Schibstedt, vertelt over algorithmic literacy, bias in data en human bias op redacties. Ze deelt ook inzichten hoe we deze biases kunnen voorkomen.

Deze week: video en AI. En, wellicht meteen een teleurstelling: geen deep fakes in deze editie😬. (Zie daarvoor Further reading.)

Ik wil het hebben over twee verschillende, praktische nieuwe mogelijkheden van AI-powered video en animatie:

1. video-editing on steroids

2. synthetische videogeneratie.

Die laatste is een hele mond vol, I know, maar het wordt zo duidelijk. Lees, kijk en klik gewoon rustig verder.

Maar... voordat we echt losgaan, heb ik een verzoek aan je: wil je me kort laten weten wat je van deze nieuwsbrieven vindt? 🤗

Okay, let's go: we kijken naar een (low-res GIFje van een) dansvideo die is gemaakt met behulp van een AI-applicatie die gewoon draait in je browser:

Designer @laureano_solis gebruikte RunwayML Sequel voor deze choreografie visuals.

Over de hierboven gebruikte tool en de nieuwe mogelijkheden straks meer.

Deze week: videogeneratie en -editing

Bij de Accelerator van het Stimuleringsfonds voor de Journalistiek begeleid ik een aantal teams, waaronder de startup XS2AUDIO. Oprichters Sebastian Plasschaert en Richard Otto ontwikkelden een platform waarbij uitgevers en andere content-genererende organisaties hun bestaande materiaal automatisch en near real-time omzetten in audio en video. Hiermee bedienen uitgevers op een goedkope en snelle manier hun lezers (lees: adverteerdersdoelgroepen). XS2Audio combineert bestaande spraak-AI en software van Synthesia met audio- en video-design. Bekijk hier zo'n automatisch gegenereerde video:

Een voorbeeld van een met XS2Audio-gegenereerde video

1. Wat is er nieuw aan AI & Video editing

De mogelijkheden van Sequel; RunwayML

Je bent ongetwijfeld bekend met Avid, Final Cut Pro en/of Adobe Premiere en After Effects. Ze bieden animatoren, film- en videomakers al jaren mogelijkheden die er eerder, in het analoge tijdperk, niet waren of veel tijd en geld kostten. Een nieuwe generatie AI-powered tools biedt daar nu nieuwe mogelijkheden bovenop.

Het nieuwe oude: sneller, eenvoudiger en goedkoper

Bestaande visual effects zoals greenscreening, rotoscoping en depth-mapping zijn sinds kort met AI zonder veel dure hard- en software uit te voeren. In simpele interfaces gevat, draaien die applicaties gewoon in je browser en wordt het renderen (rekenwerk) gedaan in de cloud.

Het nieuwe nieuw: assessing realism from the artist to the computer

L. Victor, A. Meyer / Pose design in latent spaces

Wat ik nu echt spannend vindt zijn de nieuwe, ongekende mogelijkheden, zoals de Latent Space Animation (LSA). Ja, ik moest zelf ook even moeite doen om die term te begrijpen. Ik ga het uitleggen. Je kent morphing waarschijnlijk wel, maar dit is next level 🤯.

Stel je even voor: je toont aan een AI twee verschillende foto's van dezelfde persoon in dezelfde ruimte. Op de ene staat de persoon en op de andere foto zie je deze liggen. Een traditionele morph (of 'tween') tussen deze twee beelden zou een gekke animatie opleveren die de pixels vermorzeld. Met LSA 'voorspelt' de AI welke tussenhoudingen - de latente spaces- een persoon zal aannemen die van staan naar liggen beweegt.

Twee onderzoekers van de Universiteit van Lyon beschrijven in een recente paper welk probleem voor animatoren ze met deze vorm van AI denken op te lossen:

In order to create appealing animation, animators define the key poses of a character by manipulating its underlying skeletons’ joints. To look plausible, a human pose must respect many ill-defined constraints and the resulting realism greatly depends on the author’s eye for details. Computer animation software proposes tools to help in this matter, relying on various algorithms to automatically enforce some of these constraints.

The increasing availability of motion capture data has raised interest in data-driven approaches to pose design, with the potential of shifting more of the task of assessing realism from the artist to the computer. In this paper, we propose such a method, relying on neural networks to learn the constraints from the data and to create an alternative representation of the pose space.

Noot: Ik heb me laten vertellen dat gedetailleerde art direction bij latent space animations nog lastig is, maar zie dat als een kwestie van tijd.

2. Waar kan ik video-AI straks voor inzetten?

Er is een recente anekdote over een Hollywood-acteur die z'n beeldrecht verkocht waarmee in post-production alleen nog zijn gezicht en lichaam over de opnames van een body double geplakt hoefden te worden. Fysiek aanwezig zijn op de set was niet nodig.

Gebruik je latent space of latent pose animaties, dan hoef je alleen nog maar een paar foto's van een ballerina of vechter te hebben. Het algoritme vult vervolgens zelf alle bewegingen in om een vloeiende pirouette of high kick te genereren - vanuit welke hoek je het shot ook wil hebben.

3. Wie gebruiken er al AI voor video?

Met Reals van Hour One worden echte mensen synthetische avatars; hourone.ai

Nieuwe mogelijkheden van AI-editing en synthetische generatie worden gebruikt door editors, visual fx artists, in post-productie en door motion designers. Akshay Tiwari creëerde er title sequences mee voor een Black Mirror-aflevering.

Become a character: Figuranten in de hoofdrol

Naast het Nederlandse XS2Audio is er ook een start-up uit Tel Aviv/NYC op de markt voor synthetische video-generatie: Hour One. Met een van hun diensten -Reals- bied je een digitale versie van jouw gezicht aan op hun marktplaats. Je wordt uitbetaald wanneer 'jij' wordt gekozen om synthetisch tot presentator te verworden in andermans productvideo, bijvoorbeeld als online autoverkoper:

AI-powered characters based on real people can star in thousands of videos and say anything, in any language.

Je geeft je instagram-account op en Hour One bekijkt of je in aanmerking komt om een artificiële host te worden waaruit vragers straks kunnen selecteren. #nieuwwerkdoorAI

4. Zelf aan de slag?

👉🏽Sequel van RunwayML - Met deze tool kun je greenscreenen, rotoscopen en depth-mappen. De effecten in de dansvideo uit het begin zijn hiermee gemaakt. Snel, eenvoudig en allemaal in de cloud, zonder iets te hoeven installeren. (Deze web-based video editor is trouwens onderdeel van de tool die ik in editie #1 ook al behandelde om StyleGANs mee te maken.)

👉🏽 Synthesia - AI Video Generation Platform — www.synthesia.io

Een van de tools die XS2Audio gebruikt, kun je ook zelf uitproberen

👉🏽 Hour One | Presenter-led video at scale for next-level customer engagement — www.hourone.ai

Hour One provides synthetic characters based on real-life people.

Further reading: die deep fakes

Oke, je kunt er eigenlijk niet omheen. Dus ik ook niet. Hier twee Nederlandstalige artikelen die de bekende voorbeelden, ideeën, gevaren en doemscenario's van dit type fake video's op een rijtje zetten. En als je dan nog durft en kan, mag je zelf aan de slag ;-)

Deepfakes: wat als Artificial Intelligence je voor de gek houdt? / Villamedia — www.villamedia.nl

Video-generatie met AI. Een artikel van Villamedia

Deepfakes: gevaar voor de democratie of creativiteit voor iedereen? - Nederlandse AI Coalitie — nlaic.com

Maak er maar eens een: DeepFaceLab is the leading software for creating deepfakes. — github.com

Zet 'm op, en stuur me je resultaten.

UX is een groot onderwerp, waar ik zelf als sinds 1999 mee bezig ben. En nu daar AI bijkomt, vroeg ik me af: waar te beginnen? En dus nam ik speciaal voor jou -m'n beste, nieuwsgierige abonnee- talloze posts op Medium door, probeerde ik card sets uit en keek ik naar toolkits, frameworks en e-books. Ik zwierf het web over van het Vlaamse Kenniscentrum Data & Maatschappij, tot Microsoft, Google, de TU Delft, AIxDesign, IBM, de Dutch Design Week om uiteindelijk weer terug te komen, hier in je inbox.

Belangrijkste conclusie: AI of niet, UX design zal blijven draaien om mensen. Je kunt gerust blijven vasthouden aan het double diamond model en de methoden van UX, zoals je misschien ooit leerde van godfathers als Jared Spool en Jesse James Garrett. Design's best practices zullen echter wel verder worden uitgebreid met nieuwe principes en extra stappen in het ontwerpproces. Daarom heb ik een lijstje met AI design principles voor je opgesteld. En deel ik links naar voorbeelden en ontwerp guidelines. Maar daarover straks meer bij 'Zelf aan de slag'.

Een interessante kijk op vernieuwing die AI in UX brengt, komt van Vera van den Burg, design researcher bij het Designing Intelligence Lab van de TU Delft.

1. Wat betekent het als AI en UX zich mengen?

Screenshot van 'Still life' - Vera van der Burg

In een interview met Dutch Design Week legt Vera uit wat ze op dit moment onderzoekt:

...hoe bijvoorbeeld intelligente chatbots de reflectie van ontwerpers op hun eigen proces kunnen ondersteunen. Al met al zou je kunnen zeggen dat ik machine learning zie als een reflectiemiddel, omdat je het traint op data die mogelijk onbewuste gedragspatronen bevatten. Deze patronen worden dan teruggekoppeld naar jou, en ik denk dat je daar als ontwerper (en als persoon!) iets van kunt leren.

(Dit antwoord is vertaald door een AI ;-)

Complementaire vaardigheden

Net als Vera adviseren ook Satya Nadella (CEO van Microsoft) en Kevin Roose (zie de nieuwsbrief vorige week) dat we als designers vooral moeten leren samenwerken met AI. Check dus steeds weer waar computers goed in zijn - patroonherkenning, snelheid, schaal, onvermoeid repetitieve en voorspelbare taken uitvoeren. En weet vooral waar jij als human designer beter in hoort te zijn: creativiteit, empathie, emotie, lichamelijkheid en inzicht.

Hoe een AI+UX samenwerking er uit kan zien? Designer Marie Lexow schets deze situatie:

Those of us whoever had to evaluate tons of video material from qualitative user interviews know, that is it very time-consuming. An intelligent assistant can transfer, cluster and point out the highlights from the complex data to help us generate insights.

En dit is natuurlijk maar een klein onderdeel van het ontwerpproces waar AI in potentie aan kan bijdragen.

2. Welke designers werken er al met AI?

Netflix heeft het thumbnail design tot in het bizarre geautomatiseerd en gepersonaliseerd. Volg dit Twitter-draadje eens:

Spotify startte op het gebied van machine learning ooit met een enkele aanbevelingsfunctie waaraan technici in hun vrije tijd werkten. Anno 2021 bieden ze aan 365 miljoen luisteraars een persoonlijke ervaring om muziek te ontdekken.

3. Waar moet je op letten? Design principles!

Er is -goddank- veel overeenstemming tussen designers in waar we op moeten letten als we ontwerpen voor toepassingen die AI gebruiken. (Ik heb ze, geheel arbitrair, voor je gedestilleerd en samengevoegd):

1. Ontwerp human first / start met de gebruiker;

2. Geef vertrouwen & schets duidelijke verwachtingen;

3. Resultaten moeten uitlegbaar zijn;

4. Geef feedback & controle;

5. Leg de werking van het systeem uit / wees accountable & transparant (over het ontwerpproces en doelen, intenties);

6. Niet alles hoeft geautomatiseerd te worden.

En waar dit soort principles wat abstract horen te zijn, komen er ook steeds meer gedocumenteerde guidelines en patterns om je juist specifieker op weg te helpen in je design proces.

HAX Toolkit - Tools for creating fluid and responsible human-AI experiences (MS)

4. Zelf aan de slag tijdens je ontwerpproces?

👉🏽 HAX Toolkit - Microsoft heeft hier een hele mooie collectie met voorbeelden, guidelines en andere handige resources voor ontwerpers online staan.

👉🏽 AI Patterns - Ook Google doet mee, en biedt met de People+AI Guidebook een aantal design patterns that 'highlight key design opportunities for AI products. They’re organized around common questions in the product development process to help you find what you need.'

👉🏽 CARD SET #1 - AI Ideation Card Deck - The AI Ideation Card Deck helps designers, managers and innovators leverage AI capabilities available to us today for social, user & business value. It includes 24 colorful prompt cards with 100+ example use cases across 7 categories to use during brainstorm or ideation sessions. In print en digitaal.

👉🏽 CARD SET #2 - Intelligence Augmentation design toolkit - Het Vlaamse Kenniscentrum Data & Maatschappij biedt, i.s.m. deze design toolkit aan. Je krijgt ermee een antwoord op vragen als ‘Hoe verandert het werken met AI je toepassing in het ontwerpproces?’ en ‘Wat kan er fout gaan?’.

👉🏽 AI Design Foundations - IBM pakt het wat grondiger aan met een stevig onderbouwd AI Essentials Framework en Design Foundations.

5. Further listening & reading

Luister: Vijf vragen over inclusieve algoritmes — www.nemokennislink.nl

Kan een algoritme creatief zijn? En hoe krijg je inspraak op het gebruik van een algoritme? Tijdens een lezing in De Studio van NEMO gaf AI-wetenschapper Sennay Ghebreab antwoord op vragen over het inzetten van algoritmes voor een inclusievere samenleving.

E-book AI-Driven Design in collaboration with Adyen & AWWWARDS – Nadia Piet — nadiapiet.com

Designer Nadia Piet zooms in on UI/UX Design Challenges in Machine Learning Products

We zijn verkeerd voorbereid op een toekomst met AI.

Niet mijn tekst, maar die van New York Times auteur Kevin Roose. In zijn boek Futureproof, een soort 21e eeuwse survival gids, vertelt Roose hoe we ons best wel gedragen en ontwikkelen, aan de hand van 9 regels. Of je nu een optimist of pessimist bent, dit werk is een aanrader voor iedereen. Ik las het boek een aantal maanden geleden en, toegegeven, het beangstigde me in eerste instantie. Ik moest er ook afgelopen week weer aan denken toen Jasper Bunskoek van RTL Nieuws een gastpresentatie gaf over hun geautomatiseerde nieuwsrobot, aan de deelnemers van de driedaagse introductiecursus AI in de praktijk. Maar daarover straks meer.

In deze editie ...

Deel ik een aantal lessen met je die ik leerde uit Futureproof, vertel ik je hoe ze bij RTL denken over het automatiseren van nieuws en link ik naar een artikel over moderne marketeers die automation hebben omarmd.

Veel leesplezier weer, en succes met het verkennen van je eigen futureproofness. Vriendelijke groet, Laurens Vreekamp.

Volgende week behandel ik AI + UX.

Futureproof: 9 Rules for Humans in the Age of Automation — Kevin Roose — www.kevinroose.com

AI is everywhere. Jobs are being automated. Algorithms run our life. What are you doing about it?

1. Wat betekent 'futureproof' zijn?

Kevin Roose zet in zijn boek uiteen hoe we ons steeds meer zijn gaan gedragen als robots. We hebben onszelf aangeleerd om hyperefficiënt met tijd om te gaan, zoveel mogelijk productief en effectief te willen zijn in ons werk en we proberen ook privé onze keuzes zoveel mogelijk te optimaliseren / maximaliseren. (Ik ken mensen die daar met trots over tweeten 🙄).

Dit is, zo beweert Roose, een verloren strijd tegen onszelf. Het leidt tot burn outs, teleurstellingen en maakt jou en de mensen om je heen ongelukkig. Als je het al niet verliest van jezelf, dan verlies je het uiteindelijk wel van een machine of automaton.

Wat je dan wel zou moeten doen? Werk dat verrassend, sociaal of schaars is. Een van de negen regels die hierbij hoort is die van de 'handprints'.

Leave handprints

Roose stelt op een gegeven moment een intrigerende vraag:

Waarom is een keramieken vaas eigenlijk zoveel duurder dan een Amazon Echo of Google Home? 

Het antwoord: een keramieken vaas heeft een 'handprint'. In de psychologie bestaat er zoiets als de 'effort heuristic': dingen waarvan we denken dat mensen er hard voor hebben gewerkt, vinden we meer waard. Het is niet toevallig ook een van de krachten van IKEA.

Don't become an Endpoint

Een andere regel van Roose is: wordt geen eindpunt. Hiermee bedoelt hij banen die voor het grootste deel bestaan uit handelingen waarbij resultaten van het ene digitale proces worden overgeheveld naar een ander digitaal systeem. Bijvoorbeeld wanneer je je online bestelde pakketje bij een ophaalpunt laat bezorgen. Het is een kwestie van tijd voordat dit soort banen en taken worden weg geautomatiseerd. De miljarden-industrie die zich bezighoudt met dit soort specifieke oplossingen, is die van de RPA: Robotic Process Automation. Veel van die processen waren altijd al onzichtbaar en/of oninteressant, dus het valt ons niet op dat ze worden geautomatiseerd. Maar al die RPA's samen zorgen er wel voor dat we steeds minder ziekenhuismedewerkers, juristen, accountants en administrateurs nodig hebben. En uiteindelijk zullen ook Thuisbezorgd, Uber en PostNL ons, ons eten en onze spullen willen vervoeren zonder tussenkomst van de huidige endpoints: de fietsers en chauffeurs.

2. Wie werken er al met automatisering?

Jasper Bunskoek en zijn team bij RTL hebben heel uitvoerig uitgezocht en bepaald waarvoor ze machines wel inzetten en vooral ook waarvoor niet. Het belangrijkste uitgangspunt hierbij is een hele menselijke: het nieuws dichtbij brengen. RTL hanteert hierbij de principes 'toegankelijk', 'begrijpelijk' en 'goed te volgen'.

Met hun zogeheten Automatische Data Artikel Machine (ADAM) publiceren ze bij RTL, op basis van geverifieerde data en uitvoerige geteste sjablonen, met een schier onmenselijke snelheid en op grote schaal artikelen. Hierdoor kan de redactie:

• leesbare verhalen maken op basis van data in spreadsheets;

• lezers bedienen in regio's die normaliter underserved worden (ja, zelfs in het kleine Nederland);

• nieuws meer gepersonaliseerd en relevanter maken voor de lezer;

• nieuwe informatie bieden aan lokale spelers zoals journalisten, raadsleden en burgers.

Zoals Bunskoek hierover zegt:

"De data is er al; zonde als het niet bij de juiste mensen kan komen."

ADAM is bij RTL Nieuws sinds 2019 de meest productieve collega: de machine heeft meer dan 10.000 artikelen gegenereerd, met onderwerpen als verkeersongevallen, criminaliteit en verkiezingsuitslagen. ADAM is zeker geen vervanging voor redacteuren. Het zijn de mensen - journalisten- die bepalen welke informatie relevant is, voor wie, in welke vorm en met welk verhaal. Dit in combinatie met de schaal en de snelheid die automatisering biedt, maakt dat ADAM zo slim en relevant wordt ingezet.

Futureproof marketing

Wanneer je denkt dat je als marketeer of strateeg nog wel aan de goede kant van de automatisering-streep zit, think again! Neem hieronder de case van L'Oréal eens door. Hun online campagnes worden realtime en automatisch aangepast of zelfs beëindigd o.b.v. trends en gedragssignalen die zijn opgepikt door hun AI.

Modern marketing with automated solutions - Think with Google — www.thinkwithgoogle.com

CEO Thomas Nuss from German agency Eprofessional outlines how marketers can use the next level of automated marketing solutions to deliver results.

3. Wat kan ik nu al doen?

Soms vraag ik me af waar ik mijn boekhouder nog voor betaal aangezien ik zelf alles online bijhoudt in het door hem aangeboden systeem. Maar als ik hem om advies vraag over verlegde BTW na de Brexit heb ik binnen twee uur een belletje of mailtje terug. Dat 'ie nog semi-handmatig BTW aangiftes voor me doet komt waarschijnlijk vooral door de systemen van de Belastingdienst. Boekhouder Bram wordt volgens mij geen endpoint. Hij is fijn menselijk, vriendelijk en kundig, blijft up-to-date qua vakgebied en is prettig en helder in zijn communicatie. Hij begrijpt zijn doelgroep en kent hun professionele doch creatieve context. Be like Bram, en er kan je minder snel iets gebeuren.

Om je voor te bereiden op een leven met AI, robots en verregaande automatisering, geven ontwikkelaars, makers, denkers en academici vaak deze vier zaken als advies:

1. Educate yourself: ontwikkel zelf een mate van algorithmic literacy, door actief te gaan (bij)leren over AI en machine learning. 👉🏽 Doe ook het testje bij Further Reading.

2. Leer samenwerken met AI: zie het als een intelligent soort dier. Kevin Roose schrijft:

We need to be realistic about what AI can and can’t do, and be really careful before we start turning important tasks over to machines that might not be ready to handle them.

MIT-onderzoeker Kate Darling heeft hier een heel boek aan gewijd: ‘The New Breed: What Our History with Animals Reveals about Our Future with Robots.

3. Benut je menselijkheid. Bedenk welke onderdelen van je werk en talent relatief makkelijk zijn om te zetten in digitale bits of uit te voeren door een robot. Wees eerlijk en realistisch terwijl je dat lijstje opstelt en doorneemt. Bedenk daarna wat jouw 'keramieken vaas' is.

4. We hebben nieuwe regels nodig. De impact van AI is potentieel zo veelomvattend dat we er vrijwel in elke fase, in elk onderdeel van ons leven mee te maken (kunnen) krijgen, expliciet of indirect. De EU heeft ondertussen naast de GDPR-wetgeving  (in Nederland: AVG) een juridisch framework in de maak: New rules and actions for excellence and trust in AI

Een van de unacceptable risks die daar in geformuleerd zijn:

AI systems considered a clear threat to the safety, livelihoods and rights of people will be banned. This includes AI systems or applications that manipulate human behaviour to circumvent users' free will (e.g. toys using voice assistance encouraging dangerous behaviour of minors) and systems that allow ‘social scoring' by governments.

Robots op het strand - de conclusie

Voor je het weet liggen de robots op het strand… En wat ben jij dan aan het doen? Investeer in de meest wezenlijke, menselijke aspecten van je werk. Kijk wat je kunt verbeteren aan je pitch- en klantgesprekken. Welke illustratie en kop passen nu echt bij dit onderwerp, deze tijd en je beoogde doelgroep? Hoe kun je de inzichten uit je user research nog beter implementeren in je creatieve proces? Probeer deze (en andere) vragen zo menselijk mogelijk te beantwoorden, en je zult futureproof zijn.

✅Dit was 'm weer. Tot volgende week!

Further reading & doing

Kate Darling — www.katedarling.org

MIT onderzoeker Human-robot interaction en auteur van ‘The New Breed: What Our History with Animals Reveals about Our Future with Robots

Doe de Human vs AI Test: Can We Tell the Difference Anymore? — www.tidio.com

Human vs AI Test: Can We Tell the Difference Anymore?

Hi, ✋🏻Deze week ga ook ik even meta, met een aantal aanbevelingen over aanbevelen. Niet omdat -en dit weet jij natuurlijk allang, mijn beste lezer- het promoten van content nogal negatief kan uitpakken (bij de producten van Meta bijvoorbeeld). Wel omdat zogeheten recommendation algoritmes negatief in het nieuws komen de laatste tijd; filter bubbels, misinformatie, fabeltjes fuik... een weekje (inter)nationale media volgen en ... volle kaart!

Het is allemaal te kort door de bocht EN niet helemaal fair.

Met deze editie hoop ik nuance en opheldering te brengen in het denken over en toepassen van recommendation systems. Ik heb een aantal aanbevelingen voor als je meer wilt weten over aanbevelingen en machine learning; zowel binnen de journalistiek, voor content creators en voor marketeers. Tot slot heb ik een aantal suggesties voor lees-, kijk- en luistervoer - zie Recommended Learning.

Ik kan het je aanraden: lees deze editie (het is een beetje een long-read geworden), geef me expliciete feedback, en beveel deze nieuwsbrief zoveel mogelijk aan binnen je netwerk 😉

Veel leesplezier, Laurens!

Volgende week: De top 5-meest-geklikte-links uit m'n nieuwsbrieven tot nu toe.

1. Dit moet je weten over aanbevelingen:

Om kort te gaan: aanbevelingen helpen ons om om te gaan met een teveel aan informatie. Mensen vinden aanbevelingen daarom fijn: ze verminderen de complexiteit van het alledaagse leven, zijn een filter voor de zogenoemde infodemie en verminderen onze keuzestress.

Pain relievers

Als je bekend met user-centred design methoden (zoals service design, business design, design thinking), dan ken je wellicht ook het value proposition canvas. Belangrijkste twee activiteiten hierbij zijn het in kaart brengen van de pains en gains van je gebruikers. Als je de wensen, behoeften, frustraties en pijnpunten kent van je publiek -gebruikers, lezers, luisteraars, swipers, kijkers- dan kun je ze beter 'bedienen'. Aanbevelingssystemen zijn pain relievers.

Gain creators

Iets aanbevelen op basis van bijvoorbeeld ervaring, autoriteit, of complementariteit doen verkopers al jaren. Met hun kennis 'helpen' ze mensen die de noodzaak van het andere product (nog) niet beseffen, die meer willen horen van hetzelfde muzikale genre of eerdere films van regisseur X willen zien.

En die bubbel dan?

"Ja maar ...", roep je vast nu. Wel, uit diverse onafhankelijke onderzoeken van het IVIR (UvA) en de Media Monitor / Commissariaat voor de Media blijkt dat het negatieve effect van die dingen niet groot is - althans, niet in Nederland / de meeste Europese landen. Een conclusie uit de Mediamonitor (2019):

Het onderzoek laat zien dat bijna niemand in Nederland volledig in een filterbubbel zit. Nieuwsgebruikers maken in ruime mate gebruik van nieuws dat niet door algoritmes wordt aanbevolen. Ook binnen algoritmische aanbevelingssystemen hebben zij toegang hebben tot een divers aanbod aan nieuws en informatie. Mensen die geïnteresseerd zijn in nieuws gaan door het gebruik van sociale media juist meer nieuws gebruiken. Hierdoor verhoogt de diversiteit van hun nieuwsgebruik alleen maar.

We moeten ophouden 'die ene term' te blijven gebruiken. En niet omdat het angsten laat bestaan of verder aanwakkert, maar juist ook omdat de term innovatie op dit gebied in de weg zit. Het IVIR-onderzoek zegt hierover:

A real risk of the reigning filter bubble rhetoric is the development of ill-conceived prejudices against digital technologies that help to sort and order online information.

In the worst case, concerns about filter bubbles will discourage media companies in Europe from exploring new ways of distributing content and using algorithms and personalized recommendations as a way to better inform users, to offer better (and monetizable) services, and to compete with highly personalized non-news platforms for the attention of consumers.

Wat dan wel de uitdaging is? In hetzelfde onderzoek staat:

The challenge is deploying algorithmic filtering of information in a way that promotes diversity instead of reducing it, better informs citizens instead of simply selling more advertising, and ultimately re-establishing trust in the media as trusted recommenders of what is worth knowing

Wat die uitdaging betreft is er goed nieuws. Dit jaar is een onderzoek gestart door de Universiteiten van Zurich en Amsterdam naar hoe recommender systems media professionals, publiek en het vertrouwen in de journalistiek beinvloeden. Onder de titel de rol van 'news recommendation systems in digital democracies', probeert men daar grip op te krijgen en, om lekker meta te blijven:

Furthermore, we aim to develop evidence-based recommendations on how such recommendation systems could be constructed and (re)programmed in order to meet the various normative requirements of an enlightened, pluralistically informed public.

Even geduld nog: in de zomer van 2024 volgen de resultaten 😱.

2. Hoe werkt digitaal aanbevelen eigenlijk?

Digitale aanbevelingssystemen - in jargon 'recommender systems' (RecSys) werken conceptueel gezien in drie stappen. Informatie wordt:

1. verzameld

2. geordend

3. gerangschikt.

Expliciete en impliciete signalen

De eerste generaties digitale recommenders werkten vooral met expliciete voorkeuren. De gebruiker geeft ze zelf aan, waarop het systeem vervolgens eerste aanbevelingen doet. Denk hierbij aan de 'My news' secties die veel web & mobile apps van nieuwstitels aanboden, nadat je wat secties of katernen had aangevinkt.

Nieuwere generaties werken met signalen die voortkomen uit de interacties van de gebruiker met de applicatie. Denk aan clicks, scroll depth en aankoop- of download-geschiedenis. Deze impliciete signalen vormen de zogeheten input voor de algoritmische agents die de persoonlijke aanbeveling maken voor individuele gebruikers. Deze agents werden voor het eerst op grote schaal succesvol toegepast in commerciele context, bij Amazon en Netflix bijvoorbeeld.

Drie smaken

Er zijn grofweg drie soorten aanbevelingen:

1. Collaborative filtering; wat Spotify met Discover Weekly doet. Mensen die veel dezelfde nummers luisteren als jij, luisteren ook naar deze artiest / dit nummer waar jij nog niet naar hebt geluisterd (althans, op Spotify dan).

2. Inhoudsgeorienteerd filteren: kijkt naar kenmerken die zowel met jou -de gebruiker- als met de inhoud te maken hebben. Eigenschappen van beiden worden meegenomen.

3. Knowledge-based aanbevelen: gebaseerd op metadata, zoals aangegeven voorkeuren en details over de artikelen of de producten. Dit type wordt voor zogeheten cold-start problemen ingezet: wanneer er nog geen gebruikersgedrag is (die impliciete signalen en expliciete voorkeuren) en geen gegevens over nieuwe artikelen of nieuwe producten.

Schaal en snelheid

Dat online aanbevelingssystemen zo succesvol bij Amazon en Netflix werken, komt door de schaal en snelheid waarvoor zij de recommenders inzetten. Je beste vrienden kun je prima van filmtips voorzien. Doe je dit voor alle 22-jarige, niet-studerende Vlaamse liefhebbers van romcoms, dan is dat handmatig en gepersonaliseerd al een stuk lastiger. Het wordt nagenoeg onmogelijk als je ook al die expliciete en impliciete voorkeuren (browse-gedrag, aankopen over tijd, bekeken items en bijv. ratings) wil meenemen om voor iedere, individuele gebruiker tot een gepersonaliseerd aanbod te komen.

Doel van de recommender

Om het systeem echt waardevol te laten zijn, dien je deze te optimaliseren voor het juiste doel. Wie er verzamelt, ordent en rangschikt is daar zelfs nog ondergeschikt aan. Het business model van de aanbeveler is de belangrijkste voorwaarde voor het doel, en het opstellen van de KPI's helpen om de werking van het aanbevelingssysteem te toetsen.

In het begin van Web 2.0 dachten we met folksonomies de macht bij the crowd -the folks- te leggen: iedereen kon met Flickr foto's van metadata voorzien door zelf tags (keywords) toe te voegen. Voor Twitter is de user-generated # een belangrijk principe om informatie mee te ordenen. Welke hashtags veel gebruikt worden, worden weer gerangschikt in de Trending Topics. Je kunt zelf wel bedenken welk doel Flickr had, Twitter heeft en waar Netflix en Amazon voor optimaliseren. Bij de grote nieuwsuitgevers worden de recommenders geoptimaliseerd voor clicks: zijn de aanbevelingen relevant en de pushnotificaties goed gepersonaliseerd dan zal de lezer blijven en terugkeren. En een blijvende lezer = een betalende lezer.

3. Wie zijn de recommenders?

Als het gaat om recommenders in media context, dan is er een belangrijk onderscheid te maken als je kijkt naar de business goals van de verschillende spelers. Het verschil tussen aanbevelingen van platforms en aanbevelingen van producenten/uitgevers?

• Platforms verkopen publieken aan adverteerders, via content.

• Producenten -Netflix, Spotify, Videoland, journalistieke uitgevers- verkopen (nieuws)content aan het publiek.

Het verhelderend onderscheid dat hier gemaakt wordt, komt o.a. van onderzoeker Balázs Bodó in het onderzoeksrapport 'Selling News to Audiences – A Qualitative Inquiry into the Emerging Logics of Algorithmic News Personalization in European Quality News Media'

In distinction to the “platform logic of personalization”, which uses personalization to produce engagement and sell audiences to advertisers, [European quality news media] have developed a “news logic of personalization”, which uses personalization to sell news to audiences.

Bodó behandelt in het rapport een aantal factoren die het nou juist zo complex maken om als contentmakers (journalisten, redacties en uitgevers) na te denken over recommenders:

1. Long-term audience loyalty

We found that rather than focusing on increasing short-term user engagement, European quality news media try to use news personalization to increase long-term audience loyalty.

2. Verhouding publiek - redactie:

First, personalization relies on the quantification of audiences, linking personalization to the decades-old debates on how newsrooms should reconcile readers’ demands with editors’ journalistic mission and editorial judgement.

3. Journalistieke afwegingen expliciteren

[...] Algorithms require the formalization of editorial decisions on news and entertainment value, serendipity, diversity, social relevance and importance into specific algorithmic arrangements. How to conceptualize these dynamic, subjective and often deliberately weakly defined considerations in the language of computer science poses challenges?

4. Data, privacy, cookies

Zowel platforms als uitgevers hebben voor hun verschillende doelen en business modellen dezelfde (soort) data nodig:

[...] The same technologies and data that are used to personalize news are used to deliver online advertising. Therefore, at least on the surface, news personalization and free, ad-financed news production are intrinsically linked.

5. Potpourri van personalisaties

Zowel de platforms als de nieuwsuitgevers personaliseren hun aanbod. De echokamer en cacafonie die daardoor ontstaat is een resultaat dat niemand voorzien noch ontworpen heeft; net zoals een file als natuurverschijnsel te beschouwen is.

Conclusie

Er zijn grofweg twee manieren waarop nieuwsorganisaties deze complexe realiteit te lijf gaan:

1. Tight coupling:

News organizations respond to the uncertainties of the field by being more responsive to the demands of their customers (readers and advertisers) and adjust their resources (such as the size and composition of the newsroom) and their practices (such as what and how they publish) to the demands of their customers.

2. Loose coupling:

they “maintain and demonstrate the accepted forms and practices that have brought them institutional legitimacy”

4. Recommenders in de praktijk

Een interessante praktijkcasus in 'Selling news to audiences' komt van een Nederlandse publieke omroep. Ze leek vooraf een duidelijk en logisch doel te hebben geformuleerd voor het aanbevelings-algoritme (inclusief KPI's). In de praktijk bleek deze echter onwenselijk uit te pakken:

[...] the Dutch public service broadcaster wanted people to watch recommended videos to the end, so it parameterized its algorithm accordingly. Human editors realized that this KPI led the algorithm to recommend only short videos, which have a higher chance of being watched till the end.

RecSys

Als je bovenmatig geinteresseerd bent in digitale, online aanbevelingssystemen ('RecSys'), dan start je zoektocht hier:

The ACM Conference on Recommender Systems (RecSys) is the premier international forum for the presentation of new research results, systems and techniques in the broad field of recommender systems

De laatste conferentie vond afgelopen september in Amsterdam plaats. Voor die conferentie diende o.a. ook AI'ers van RTL een paper in. Deze handelt over experimenten met het aanbevelingssysteem van Videoland. En wat blijkt ook hier: het doel en de soorten signalen die je meeneemt om een aanbeveling op te baseren, zijn essentieel. In de paper schrijven de RTL'ers over gepersonaliseerde lijstjes en expliciete data:

The first experiments indicated that users who would see the strip [Top 10 items for each user, red.] would consume 30 minutes more video content on average per month. There are additional signals that can be exploited: explicit likes and dislikes that could be combined with the completion rate.

Even verderop wordt het doel van de Videoland-recommender beschreven:

What do we optimise for? Videoland is a subscription-based service. With our recommender system, we therefore seek to optimise user retention in the long run.

Aanbevelingen voor aanbevelingen; JournalismAI (Polis LSE)

Journalisten

Understanding and anticipating audience needs is one of the clear areas where AI can support a news media business and, in particular, the newsroom attempting to win new audiences and retain existing users or convert them to more engaged users, or even paying subscribers.

JournalismAI heeft met hun Collab-project een aantal aanbevelingen voor AI-based aanbevelingen in een handig rapport gevat:

📑versie | 📺versie

MAGAM

Voor de verschillende platforms van Microsoft, Amazon, Google, Apple en Meta zijn dagelijks wereldwijd tienduizenden data scientists en machine learning engineers met recommenders aan het werk.

Microsoft komt met door AI gedreven nieuwsapp Start

Microsoft Start werkt op basis van machine learning en kunstmatige intelligentie. Je voegt je interesses en locatie toe aan de app, of begint zelfs gewoon met het klikken op een artikel. Vervolgens schotelt Start je nieuws voor van "meer dan duizend wereldwijde uitgevers", schrijft het bedrijf.

Start-ups

De voornoemde spelers krijgen nu ook concurrentie van start-ups als Mohi -'recommendations from people you trust'- en SmartNews

“There is a difference between what you want to eat and what you need to eat,” Hamamoto said to Rest of World. “So in the same sense, in terms of news, what you want to know and what you need to know are different.”

Deze Japanse start-up probeert in de VS 'het nieuws algoritme' te fixen en mensen uit hun 'filter bubbles te krijgen'. (Hun waarde na de laatste investeringsronde wordt geschat op 2 miljard dollar, 🦄) In een achtergrondartikel op Rest of World staat:

The company styles itself as diverging from the received wisdom in American media: that polarization sells. SmartNews has developed a news-recommendation algorithm that promises to serve its readers a personalized, but politically balanced range of stories.

Academici

Al een tijdje volg ik via Google Scholar Alerts het werk van een aantal gepromoveerde Nederlandse en Vlaamse AI'ers die in de media werken. Ik volg niet hun werk zelf, maar de papers waarin hun werk geciteerd wordt. (Onderwerpen en personen volgen via Google Scholar Alerts is overigens echt een niche-aanrader 😛). Wat blijkt: in de AI-scene wereldwijd wordt veel toegepast onderzoek gedaan om recommenders verder te verbeteren. Hier is zo'n paper waarin een tool wordt beschreven:

ULTRA: An Unbiased Learning To Rank Algorithm Toolbox

An Unbiased Learning To Rank Algorithm Toolbox

✅ Dit was 'm weer voor deze week!

Recommended learning

📚 11 best books about AI you must read right now - ai.nl — www.ai.nl

Menselijke tip van Remy Gieling, www.ai.nl :

📺 Course: Algorithms in News Curation & Dissemination — journalismcourses.org

Tip van computational journalist Nick Diakopoulos: How to think about metrics and how editorial criteria can be encoded into the curation algorithms that your own news organization might be developing

📕 Selling News to Audiences – Inquiry into Emerging Logics of Algorithmic News Personalization in European Quality News Media — www.tandfonline.com

Menselijke tip van Tessel Bogaard (Data scientist, NRC Media):

How do news organizations design and implement algorithmically personalized news services? 16 in-depth interviews with professionals working in European public service broadcasting and...

Tip uit de nieuwsbrief van JournalismAI:

De data en de informatie

Enfin, geheel in lijn met die vorige editie, hier een lekker lijstje most-read, most viewed: de spannendste links uit de jongste 10 nieuwsbrieven. Handig als je geen early subscriber was, last hebt van FOMO of van je geheugen, of wanneer je gewoon wil weten what the cool kids click on! 😜

Het inzicht: jullie zijn quizheads!

Als ik een voorzichtige conclusie mag trekken: lezers van Super Vision houden van een quiz of test. En dus heb ik er speciaal een gemaakt voor deze editie:

👉🏽Doe hier de Online AI Pubquiz. Tien vragen. Ben jij de beste? Kom erachter en win die prijs!

Ik zit ook te denken om een live, offline AI pubquiz te gaan organiseren. Geef even aan of je daar in geïnteresseerd bent via de comments down below.

Veel klik- en quizplezier. // Laurens Vreekamp

⏭ De volgende nieuwsbrief gaat over creativiteit en AI.

Doe de Online AI Pub Quiz

Het lijstje

Editie #1 - De eerste editie: StyleGANs

AI designer Nadia Piet gebruikt o.a. deze online tool waarmee je snel en eenvoudig begint met bestaande StyleGANs of je eigen stijl kunt aanmaken. Je kunt er ook profielfoto’s uploaden en de gelaatstrekken aanpassen (vergelijkbaar met de nieuwe Neural Filters in Photoshop):

🏆🔗 Playform.io

Editie #2 - Natuurlijke taalverwerking

In deze cryptisch getitelde editie - Computer says 'whoa' 💬😶 - over Natural Language Processing werd, toch vrij afwijkend van het hoofdonderwerp, een van mijn favoriete nieuwsbrieven het meest gecheckt. 'Digital design met een dikke toef typografie. Voor UI designers, grafisch ontwerpers en type lovers. Elke twee weken':

🏆🔗 Halfvet | Nieuwsbrief van Jeroen Disch

Editie #3 - over Natuurlijke Taal Generatie

Ook hier was ik blijkbaar nog niet helemaal on point qua titelcreatie: Talkin 'bout AI generation 👩🏽‍🌾👴🏻💻. Het leuke aan deze derde is dat het AI-generated artwork van een lezer het populairst bleek:

🏆🔗 The Mutating City @AImpactArtist - Google Photos

Editie #4: Computer Vision (CV)

Het moet eerst echt misgaan voordat het goed gaat. Zoiets moet ik gedacht hebben NA het kiezen van de subject line voor deze editie:

💻👀 

Dit maal geen quiz, techniek of tool die de clickcontest won, maar een aanbeveling van een ouderwets papieren boek van de Nederlander Jim Stolze. Over leven, werken en geld verdienen met kunstmatige intelligentie:

🏆🔗 Algoritmisering, wen er maar aan!

Editie #5: Labelen voor AI

Met deze heldere titel voor de label-editie had ik ook duidelijk meer engagement. Nog meer interactie kwam van een aantal van jullie, met mijn oproep om mee te doen aan een klein label-experiment. Je kunt nog altijd participeren. De belofte? Geef me je data en ik zal je beter dienen.

🏆🔗 Een label-experiment

Editie #6: Bias in AI

Overduidelijke winnaar hier, hoor, in de editie over bias, ethics, fairness, accuracy, explainability en trust. De doe-het-zelf test:

🏆🔗 Aijo Quiz 

Can AI help you deal with bias in your newsroom? This is not a test, but a basis for discussion.

Editie #7: Video & AI

Nieuwsgierigheid wint. Hier wilden veel van jullie blijkbaar zelf aanschouwen wat nu de state-of-the-art van synthetische video en spraakgeneratie is. De demo van het Nederlandse bedrijf XS2Audio werd het meest bekeken item van deze zevende nieuwsbrief.

🏆🔗 Synthetisch gegeneerd nieuwsbulletin

Editie #8: Nieuwe mens-machine relaties

Het werd nog even spannend tussen Kevin Roose's boek Futureproof en de winnaar:

🏆🔗 Human vs AI Test: Can We Tell the Difference Anymore?

Editie #9: UX & AI

In de nieuwsbrief over UX & AI kreeg het Twitterdraadje over het dynamische thumnbailsysteem van Netflix (dat sowieso veel aandacht kreeg online) ook van jullie de meeste thumbs up:

🏆🔗 Trung Phan 🇨🇦 on Twitter: "A Netflix user will browse the app for 90 seconds and leave if they find nothing. "

Editie #10: Over aanbevelingen

Fijn dat mijn lezers ook hun eigen onderzoek doen 😉, zo bleek uit de analytics van deze editie over recommender systemen:

🏆🔗 Beyond the filter bubble

That's all, folks!

⏭ De volgende nieuwsbrief gaat over creativiteit en AI.

Heb je al eens gespeeld met deze gedachte: wat als AI jouw creatieve werk overneemt...? Of, anders geformuleerd: kan AI zelf creatief zijn? Volgens filosofen, wetenschappers en bouwers van AI-systemen is het antwoord: nee!

Hoezo? Wel, om meerdere redenen. Marcus du Sautoy, schrijver van 'De Code van Creativiteit,' zegt: creativiteit heeft sterfelijkheid nodig. Kevin Roose (journalist New York Times) heeft het in zijn werk Futureproof over de 'affect heuristic' en 'handprints': wat mensen zelf maken en creëren kennen ze meer waarde toe.

Hannes Cools, die ik afgelopen week interviewde over zijn onderzoek naar nieuwsautomatisering bij The Washington Post, vertelde me dat het zaak is om onze huidige werkroutines eens te deconstrueren. "Vraag je vervolgens af 'Hoe kunnen we die routines verbeteren?' Niet per se automatiseren. Kijk dan waar technologie het saaiere werk kan opknappen.“

Tot slot schreef Jim Stolze eerder deze week dat 'je rekenmachine niet stiekem 's nachts sommetjes maakt.'

Oftewel: nee, AI zal nooit creatief zijn op een manier zoals mensen dat zijn. Machines missen een inherente noodzaak of de urgentie om te creëren; ze hebben niet de agency of vrije wil om iets totaal anders te gaan doen dan waarvoor ze gemaakt zijn, en ze ontberen een theory of mind: het vermogen om een idee te vormen van het perspectief van een ander.

Ik wil in deze nieuwsbrief twee zaken uitsplitsen:

1. Hoe je over creativiteit kunt nadenken.

2. Waar machines dan wel en niet toe in staat zijn.

Twee opgaves: het WRR Rapport & de AI PubQuiz

Naast een (grotendeels irreële) angst voor de toekomst van (creatief) werk, is er vooral veel onduidelijkheid en onbegrip rondom AI. Dit bleek vorige week maar weer met het uitkomen van het 504-pagina's tellende rapport van de (NLse) Wetenschappelijke Raad voor de Regering: Opgave AI. Zo stelt het rapport dat er vijf zaken noodzakelijk zijn om AI als systeemtechnologie onze belangen te laten dienen:

1. demystificatie - een meer realistische beeldvorming over AI;

2. contextualisering- 'aanzienlijke veranderingen op de werkvloer vereist';

3. engagement - betrek het maatschappelijk middenveld, ofwel: een beter gesprek tussen ontwikkelaars, burgers en overheid;

4. regulering - regels opstellen om 'goede AI' te ontwikkelen waarmee 'de gevaren van massasurveillance en machtsconcentratie positief worden overschaduwd';

5. positionering - Nederland in de wereld.

Wellicht nog teleurstellender dan de conclusies uit Opgave AI: de Online AI PubQuiz bleek ook nogal een opgave. De beste (en ja: ook dappere) inzenders wisten slechts 3 van de 9 punten te behalen - de meesten van jullie zijn er zelfs niet eens aan begonnen! Terug naar de quiz-tekentafel dus 😌 Durf je alsnog? Geef hier niet op.

Veel leesplezier weer! Check ook de Further Doing onderaan, want er komt een hackathon aan met Follow The Money en een interessant event in Amsterdam over creative machines. Beiden op 26 november.

Artiest Grimes kondigt AI-band NPC aan via Instagram

1. Hoe je naar creativiteit kunt kijken

Nou, ga d'r maar aanstaan, Laurens... Gelukkig (en helaas) is er veel, heul veel geschreven over creativiteit. Ik hanteer hier de definitie die Marcus du Sautoy gebruikt:

Creativiteit is de motivatie om iets te bedenken wat nieuw en verrassend is, en een bepaalde waarde heeft.

Die drie criteria - nieuw, verrassend, bepaalde waarde - zijn goed hanteerbaar wanneer je AI pogingen toetst op creativiteit: een AI songfestivalliedje, een nieuw gegenereerde Rembrand of een artificiële compositie van Bach.

Scheppingsdrang is menselijk

Interessanter vind ik het eerste deel: motivatie. Je kunt redeneren dat alle AI-systemen initieel door mensen zijn gestart. Er is van geen enkel huidig AI systeem bekend dat het de aandrang heeft om uit eigen beweging zelf iets nieuws uit te voeren. Is het systeem daartoe niet ontworpen of geïnstrueerd dan zal het ook niet kunnen af wijken van geldende regels - of die nu opgesteld zijn door mensen of zelflerend tot stand zijn gekomen.

Iets nieuws maken daarentegen kan een machine zeker. Programmeer een computer om willekeurig kleurvakjes naast elkaar te plaatsen, en er ontstaat een beeld. Verrassend zal het niet zijn. Hebben chimpansees dat programma geschreven, dan zal dat gegeven ons vooral verrassen, maar vernieuwend zullen we de uitkomst niet vinden. De band Massive Attack die een app uitbrengt waarmee iedere gebruiker een gepersonaliseerde versie van vier tracks krijgt, heeft voor fans ongetwijfeld een grote waarde, maar -zo zal een ander beweren- 'het is al eens gedaan'.

Drie vormen van creativiteit

Cognitiewetenschapper Margaret Boden onderscheid drie vormen van creativiteit:

• Verkennende creativiteit. Uitgaan van wat er is om vervolgens daar de randen van te onderzoeken, mogelijk te verleggen, all the while gebonden door een aantal regels. Alle kunstprojecten waarbij men probeert nieuw werk van Van Gogh, Rembrandt, Bach, Frank Sinatra of Tupac te genereren, vallen onder deze vorm.

• Combinerende creativiteit: Denk hierbij aan een kunstenaar die totaal verschillende concepten uit verschillende werelden samensmeedt tot iets nieuws. Schrijver Steven Johnson noemt dit ook wel 'exaptatie'. Niet geheel toevallig is de boekdrukkunst ook een vorm van combinerende creativiteit: Gutenberg combineerde de wijnpersen van Duitse boeren met Chinese 'movable type' - losse letters. Zo kon 'ie veel sneller op grotere schaal informatie reproduceren.

• Transformerende creativiteit: dit zijn de game changers, momenten waarop bestaande conventies of geldende regels worden losgelaten. De 'kunst' is dan om, zoals Du Sautoy stelt, "zodanig te kiezen wat je laat vallen en welke nieuwe voorwaarden je introduceert, zodat er iets nieuws en waardevols ontstaat."

Non Playable Character - the band

Een recent voorbeeld van transformerende creativiteit is misschien wel de aankondiging van NPC, een AI-band van artiest Grimes. In het persbericht staat dat je deze band moet zien als:

"A vehicle for experimentation in new technologies as they become available such as generative characters and music, diff types of animation, ai assisted art as well as spiritual technology."

NPC bestaat verder uit “infinite members" die de groep ingestemd kunnen worden (of weggestemd), “except for core members such as the baby Warnymph.” En, omdat het nu eenmaal 2021 is, staat in het persbericht ook nog iets over cryptocoins en NFT's. #👍🏼

Hoe benut je AI voor je creativiteit

De al eerder genoemde AI-evangelist Jim Stolze stelde vorige week in een blogpost op Netkwesties heel retorisch: 'we zijn toch ook niet bang dat honden de macht overnemen omdat ze een superieur reukvermogen hebben?!'

Als we het scheppen over willen laten aan AI, dan moeten we een vrije wil zien te programmeren, en dat lijkt een contradictie. (Net zoals ik een cursus vrije expressiedans altijd een gek idee vindt.)

In een mooi overzichtsartikel toont het Belgische TechPulse hoe wetenschappers kijken naar de verschillende fases van AI-evolutie:

• Fase 1: reactieve machines *.

• Fase 2: beperkt geheugen

• Fase 3: theory of mind

• Fase 4: zelfbewustzijn.

* Op dit moment bevinden vrijwel de meeste AI-toepassingen zich in Fase 1.

Belangrijkste pixels voor voorspellingscore; Explanations, Vertex AI; Google

Waar machines dromen...

Wat machines ontberen

Machines hebben naast het ontbreken van dat eindigheidsbesef (waar Marcus Du Sautoy het over heeft) ook geen bewustzijn. In veel discussies word artificiële intelligentie daar mee verward. Voor bewustzijn is reflectie nodig en a theory of mind: je kunnen verplaatsen in anderen. Als laatste is het voor bewustzijn nodig om je eigen gedachten en gevoelens kritisch te beschouwen en moet je de capaciteit hebben om je te spiegelen aan anderen. En ieder mens heeft agency: het vermogen om je handelen aan te passen; uit het heersende script te stappen. Dit stadium kunnen machines wellicht nooit bereiken.

Er is een onderzoeksgebied binnen de AI dat zich bezighoudt met de vraag: kan de machine uitleggen waarom deze tot bepaalde resultaten is gekomen? Dit wordt Explainable AI (XAI) genoemd. Een voorbeeld van praktische XAI: Google's AI platform Vertex AI kan nu voor je computer-vision model laten zien wat de doorslag geeft bij classificatie-taken. Het geeft je een inkijkje in de manier waarop je model redeneert: dit maakt deze hond voor mij een hond. (Zie afbeelding hierboven).

Hoe machines verrijken

Waar iedereen het eigenlijk ook over eens is: creatief werk zal vooral uitgebreid worden en verrijkt door de komst van artificiële assistenten. Zoals gerenommeerd AI-bedrijf DeepMind deed met hun AlphaGo: de beste go speler ter wereld verslaan doordat de AI met een aantal verrassende, niet voor mogelijk gehouden zetten kwam. Zoals Daniela Schwabe en Casper Schipper hun DeepFamily, creëerden; werk dat onderdeel is van een visueel essay bij De Correspondent. Of hoe de taal-AI van Google Translate een eigen pseudo-taal ontwikkelde om twee talen met elkaar te verbinden.

Ga naar de FARM

Wil je weten wat de state-of-the-art is qua creatieve machines en best practices? Dan kun je de 26e en 27e november in Amsterdam naar Iterations. Of wellicht is de FARM iets voor je. Jaarlijks komen creatieve technologen onder die noemer samen voor zogeheten International 'functional art, music & modeling' workshops.

FARM gathers together people who are harnessing functional techniques in the pursuit of creativity and expression.

Als machines compleet zichzelf kunnen zijn...

Marcus du Sautoy eindigt zijn zoektocht naar de code van creativiteit met een mooie omgekeerde vraag: 'zouden wij mensen de machines kunnen begrijpen wanneer ze hun bewustzijn aan ons manifesteren?' Wat denk jij eigenlijk?

✅Dit was 'm weer.

Further doing

Event: Iterations - 26+27 november, Amsterdam — ccu.stager.nl

How do recent technological developments empower makers to generate new creative avenues?Presentations, interactive sessions and workshops on web tools, machine learning, world building, and creative education.

Hackathon: Follow the Money — asreview.nl

ASReview is organizing a hackathon to help Follow the Money speed up their investigation into the Shell files. November 26-28 2021.

Artikel: Na bijna 200 jaar heeft een computer de 10de van Beethoven voltooid - NRC — www.nrc.nl

Kunstmatige intelligentie: Beethoven heeft zijn laatste symfonie nooit kunnen voltooien. Nu is zijn werk afgemaakt door kunstmatige intelligentie. Hoe…

Artikel: AI is overal, maar beïnvloedt het de kunst? - Innovation Origins — innovationorigins.com

AI is overal, maar heeft het ook invloed op de wereld van de kunst? in Dresden laat men zien hoe AI en kunst nauw met elkaar verweven zijn.

Rapport: The Practice of Art & AI

Ars Electronica onderzoekt de rol van AI binnen de kunst.

In deze nieuwbrief geef ik je voorbeelden van (tools voor) content moderatie die wel gewenste reacties opleveren, die leiden tot zinvolle gesprekken en die relevante informatie bieden voor degene die er actief en expliciet naar op zoek zijn. (Zoals je verderop kunt lezen over Nujij.nl). Handig voor user researchers, journalisten, audience engagers of wanneer je kwalitatief marktonderzoek doet.

Alleen maar winnaars

En, mijn waarde nieuwsbriever, ik hoef je natuurlijk niet te vertellen dat jij de rest al een paar stappen voor bent door hier geabonneerd te zijn. 👊 Maar ik wil in het bijzonder even een applaus voor de winnaar van de allereerste Online AI Super Vision PubQuiz van 2021: Patrick Dumon. 👏🏼🎉 Mijn exclusieve handprinted machine-designed tote-bag komt zo snel mogelijk jouw kant op! ("Blijf aan de lijn dan noteren we je adres, Patrick").

Lekker veel vragen

Afgelopen weekend was ik in Brussel voor de jaarlijkse conferentie van de Vereniging van Onderzoeksjournalisten (VVOJ). Heel fijn om met allerlei makers en onderzoekers ervaringen, uitdagingen en best practices uit te wisselen. Hier een handout van mijn bijdrage (Je had er bij moeten zijn 😉.)

Veel plezier met deze dertiende nieuwsbrief! Groetjes, Laurens.

Wat is content moderatie eigenlijk?

De afgelopen weken kan het je niet ontgaan zijn. Door de Meta- (née Facebook)klokkenluider weten we meer dan ooit over het content moderatie-beleid en (het intentionele tekortschieten van) de inspanningen. Dat ze alleen al grote moeite hebben met het modereren van Engelse taal. Dus laat staan hoe ze omgaan met ongewenste posts in talen die men in India spreekt, in Myanmar, Ethiopie, Pakistan of de Arabische wereld; allemaal gebieden waar -eufemistisch gezegd- nogal veel aan de hand is, en dus ook online.

We mogen ons terecht zorgen maken. Maar hoe zijn we bij deze realiteit uitgekomen, terwijl de founding visions voor ons internet ooit zo positief waren?

Moderatie betekent namelijk zoveel als 'matiging'. Als je ooit op school hebt gezeten of aan een debat hebt meegedaan, heb je er ervaring mee. Geen persoonlijke dingen roepen of zomaar iets zeggen. En vooral: je huiswerk doen, luisteren naar elkaar, on topic blijven. Was er niemand om de boel ordentelijk te leiden, dan bleek verrassend vaak de grootste schreeuwer, sterkste persoon of populairste hottie gelijk te hebben. (In my experience in ieder geval.)

Nieuwsgroepen, fora en Web2.0 - een kleine geschiedenis

Voordat we browsers hadden met plaatjes en geluid, was internetten vooral meedoen aan nieuwsgroepen, via Usenet. Mensen bespraken er van alles, in tekstvorm, meestal rondom een thema waar ze gepassioneerd over waren. Dat ging er -als je de pioniers uit die tijd mag geloven- vrij beschaafd aan toe. Misschien omdat het nieuw en relatief niche was, dat internet. En: er waren duidelijke regels en de groep was niet groot. Binnen zo'n subcultuur is het voor iedereen prima toeven, natuurlijk.

Anonimiteit is niet het probleem

En alhoewel men veelal anoniem meedeed in die nieuwsgroepen, was er toch een zeker familiar stranger-gevoel: die man met die hond twee straten verderop... die ken je verder niet, maar die hoort er wel te zijn als jij je vuilniszak weggooit 's avonds. Hij geeft je een vertrouwd, veilig gevoel. Hij maakt jouw buurt.

Rond 2005, met de opkomst van het zogeheten Web 2.0, kwamen de weblogs op, de user generated content en de mogelijkheid om te reageren op bijvoorbeeld nieuwsartikelen. Ondertussen kwamen er miljoenen mensen meer online. Oude regels voldeden niet meer. Er kwamen teveel vreemde mannen met honden, er waren teveel buurtjes in jouw buurt.

Een slechte start?

Content moderation associeren we toch vooral met negatieve zaken: online schelden, haat, discriminatie, opruiing. Vanaf 2005 begon het ook vaker en op grote schaal mis te gaan met online conversaties. (Het is niet voor niets dat Godwin's Law in 2012 officieel werd opgenomen in de Oxford Dictionary.)

Er miste (mijns inziens) het volgende bij iedereen die een comment-section of forum implementeerde op de site:

• een duidelijk idee: hey, it's the internet, reageren hoort er gewoon bij, toch?!

• een doel: 'wat gaan we uberhaupt doen met reacties?'

• ondubbelzinnige criteria: wat is wenselijk, wanneer gaat het over de schreef?

• de pedagogische kennis: een gesprek ontstaat meestal niet vanzelf, en eentje die ontspoort lost zichzelf niet op, tenzij... Godwin!

• besef van de werking van dit nieuwe medium: de schaal en snelheid waarmee nieuwe content op het web verscheen was tot dan toe ongekend.

• de technologische middelen om te modereren at scale.

Enthousiaste medewerkers wierpen zich op als hoeder van de online fora, maakten regels en stelde netiquettes op. In de praktijk deelden ze vooral waarschuwingen en bans uit. #politieagent.

Totdat de reactiemogelijkheden na een aantal jaren weer werden afgesloten of ge-offload (naar die social media platforms waarop we nu vooral de problemen ervaren). Het kost teveel tijd en levert te weinig op, las je in berichten over de aanstaande sluiting. Waarop het handjevol actieve, betrokken leden boos werd en zich gestraft voelde door andermans toedoen. Bij een brainstorm een aantal jaar geleden, met mensen van De Telegraaf, vroeg ik hoe gewenste reacties er dan uit zien. Niemand had daar een antwoord op.

Ontwerpfout

Nu snap ik ook wel dat wanneer je 2,5 miljard gebruikers hebt die nogal verschillende opvattingen hebben, content moderation onbegonnen werk lijkt. Jij en ik begrijpen goed dat zelfs een combinatie van algoritmische en menselijke reviewers de constante stroom aan nieuwe content niet kan monitoren.

'Meer mensen, meer AI, meer moderatie' is dan ook niet het antwoord. De meeste systemen gaan uit van ongewenst gedrag. Ze laten dat uitgangspunt leidend zijn bij de ontwerpkeuzes voor interacties tussen gebruikers op een platform.

De eerste internet-utopisten dachten dat democratieen beter zouden functioneren als iedereen toegang kreeg tot dezelfde informatie en op gelijke interesses samen kon komen, in plaats van gelimiteerd te worden door geografische grenzen, uiterlijk of andere fysieke, oppervlakkige kenmerken.

Bron: Wikimedia Design Blog

Hoe keren we het tij?

Je vraagt een voorbeeld van goed werkende content moderatie op zeer grote schaal? Nou, Wikipedianen doen dit al jaaaaren, met redelijk groot succes. Hoe ze doet dat doen? Door een uitgebreid proces ontwerp te hanteren waarbij 'active human participation key' is (zie afbeelding hierboven). Goed, we kunnen kritiek hebben op ome Jimbo en de inhoud van zijn online encyclopedie, maar wees eerlijk: sinds webheugenis is het een van onze go to's om iets over iets op te zoeken en pretty betrouwbaar, zo blijkt uit diverse onderzoeken.

Meer dan een saillant detail: de meeste AI-gebaseerde taalmodellen (de LLM's) halen hun teksten voor een groot deel van Wikipedia. Om het nog anders te zeggen: zonder de user generated content + content moderatie door Wikipedianen zouden we niet de AI hebben die er nu is. (Of je dat goed of slecht vindt is aan jou 😜)

"Just delete the bad stuff"

Waar de een iets slechte muziek vindt, staan anderen er nachten voor in de rij. Waar jij flat earthers niet als bedreigend ervaart, daar vind je 2G misschien wel de samenleving verdelen. Ik wil maar zeggen: het is beter te beseffen wat content moderatie zo moeilijk maakt. Dit Wired-artikel met de kop 'More Content Moderation Is Not Always Better' sluit af met:

At the very least, the last year should prove that solving the problems in our online information ecosystem will require much bigger imaginations than “just delete the bad stuff.” Even if we could agree on what the “bad stuff” is—and we never will—deleting it is putting a bandaid on a deep wound.

Tech-platforms nemen verantwoordelijkheid

Twitter heeft een Transparancy Center opgericht. Youtube paste de eigen moderation guidelines al meerdere malen aan. Uiteindelijk is meer technologie of meer mensen de oplossing niet. Het helpt al als we die transparantie en navolgbaarheid van keuzes kennen voor ban of approval van gebruikersreacties. Maar in de eerste plaats moeten we ons afvragen: wat voor gesprekken willen we online, en waarom ook alweer?

Waar zijn we naar op zoek?

Over de realiteit anno 2021 hoef ik niets meer te zeggen. Waar het dan wel om moet gaan: draai het om. Ga uit van goed gedrag en beloon het als je het ziet. Wees daarnaast ook realistisch: dingen gaan mis, sommige situaties en omstandigheden zijn niet te voorzien of zorgen ervoor dat mensen niet het gewenste gedrag vertonen. Stuur dat bij, laat ze zien dat je ze ziet, vraag ze wat er is. Of ze zelf betere ideeen hebben. Surprise: dat is bijna altijd zo. Maar als je er niet voor open staat, kom je het ook niet te weten. Als je alleen gericht op zoek bent naar slechte dingen, hateful content en bad actors, dan vallen de goede zaken je ook niet op! En oke, let's be honest: je moet ook regels hebben, en overtredingen hebben consequenties, met sancties en als dat nodig is: gepaste straf.

Wie modereren nu modern?

Nujij.nl in Nederland maakt gebruikt van een machine learning service van het Finse bedrijf Utopia Analytics. De comment moderation toepassing bij Nujij.nl noemen ze Maura (‘Machine voor automatisch reacties afhandelen’). Deze 'leest' alle reacties en velt bij 80 procent daarvan een oordeel of ze wel of niet geplaatst mogen worden. Adjunct-hoofdredacteur Colin van Hoek vertelde me een tijdje terug dat, toen ze besloten om weer met lezers te gaan werken, ze dit echt anders wilden aanpakken dan puur de reactiemogelijkheid onder een artikel openzetten. Nee, ze formuleerden doelen en selecteerden de juiste technologie om online conversaties te bevorderen. Verder bespraken ze met redacteuren op welke manier gesprekken tussen en aanvullingen van lezers hun journalistieke proces zouden verrijken.

Wat blijkt: door de snelheid waarmee Maura reacties approved, ervaren meer lezers het als een gesprek, waardoor ze langer blijven, de discussie inhoudelijker en beter wordt, en redacteuren meer follow-ups en informatie halen uit die online conversaties.

The Coral Project

Een aantal Amerikaanse nieuwsredacties van The Washington Post, New York Times en Mozilla Foundation zijn gezamenlijk op zoek gegaan naar goede moderation tools. Met het Coral Project bouwden ze uiteindelijk zelf een tool. De doelen:

To increase public trust in journalism

To improve the diversity of voices and experiences in reporting

To make journalism stronger by making it more relevant to people's lives

To create safer, more productive online dialog

Onder beheer van Vox Media is het nu een betaalde dienst geworden. Je wordt geholpen met hosting, implementatie van de technologie en de juiste doelen te bereiken.

Hoe kun je er zelf mee aan de slag?

👉🏽Hive moderation: modereert contenttypes als tekst, geluid, video en GIFs.

👉🏽Perspective API van Jigsaw ('a unit within Google') is een machinelearning toepassing die comments analyseert voor o.a. New York Times en El Pais. Begin november is o.a. ook de Nederlandse taal toegevoegd.

👉🏽Utopia AI - wordt veel ingezet op sites voor kinderen en bij online nieuws (Actief voor Schibstedt, Nujij.nl)

Leestip:

Elger van der Wel legt in dit artikel op SVDJ.nl uit hoe moderatie tools in essentie werken:

"De werking van die technologie is aan de voorkant simpel. Een bericht of reactie krijgt scores mee, bijvoorbeeld hoe groot de kans is dat het gaat om spam of een giftige of obscene reactie. Wordt die kans ingeschat als klein, dan wordt de reactie automatisch goedgekeurd. Bij een hoge score kan een menselijke moderator de reactie bekijken en goed- of afkeuren. Het is dus niet zo dat een menselijke moderator wordt vervangen, maar dat hij zich kan concentreren op de twijfelgevallen. Het systeem leert van de acties van menselijke moderatoren, maar houdt ook rekening met zaken als de reactiegeschiedenis van een gebruiker en het onderwerp van een artikel."

✅Dit was 'm weer!