Criticial BotsCriticial Bots

Op 15 en 16 juni 2017 vond het Bot Club (humans welcome): Critical Bots programma plaats. Thursday Night Live! op 15 juni bood twee lezingen omtrent Critical Bots, door Julian Oliver en Anne Helmond en de volgende dag werd een _Hackathon _georganiseerd. Criticial Bots was de tweede editie van de Bot Club, een terugkerend programma over algoritmische cultuur van Het Nieuwe Instituut.

Algoritmische cultuur is een label voor de complexe, soms verontrustende en soms grappige staat waarin menselijke culturele processen terecht zijn gekomen doordat ze online werkzame algoritmen hebben geproduceerd die op zo'n enorme schaal en op zo'n diep maatschappelijk niveau opereren, dat ze een centrale rol zijn gaan spelen in de productie van cultuur.

De term bots wordt verschillend gedefinieerd in verschillende contexten. In dit programma gebruiken we de term vrij genereus: op 11 mei organiseerden Het Nieuwe Instituut (samen met FIBER Festival) een masterclass over het maken van bots met bot-kunstenaar Darius Kazemi. Zijn favoriete definitie is: "Bots zijn algoritmen met een gezicht." Anne Helmond, spreker op de Bot Club over Critical Bots, voegde daar nog het element van toezichtvrije werking aan toe. Bots zijn dan autonoom functionerende algoritmen met een gezicht.

Met het programma van Critical Bots wordt ingegaan op de mogelijk kritische rol van bots in het domein van (politieke) opinievorming. Het is duidelijk dat dit domein een bruut algoritmische slagveld is geworden. Om drie korte voorbeelden te geven:

• Op een algemeen en dagelijks niveau hebben de content filters waarmee de timelines van Facebook gebruikers worden gevormd een significant effect op het soort boodschappen, advertenties en verhalen waarmee zij in aanraking komen. Dit soort systemen geven de voorkeur aan content waar gebruikers daadwerkelijk op klikken, (met andere woorden, waar ze belangstelling voor uiten) want aan de hand daarvan kunnen de advertenties waarmee Facebook zijn inkomsten genereert preciezer worden geplaatst. Zo worden de filter-bubbles waarmee mensen zich plegen te omringen in hun discursieve bestaan, versterkt.
• Rusland lijkt een leger te onderhouden van zogenaamde Putinbots. Sommigen daarvan zijn menselijke desinformatie trollen, maar de meesten zijn volledig geautomatiseerde haat-bots die geselecteerde, vaak ongefundeerde verhalen op gigantische schaal verspreiden met het doel het publieke debat te ondermijnen op verschillende online platforms tijdens verkiezingscampagnes in de VS en Europa.
• En we kennen de zogenaamde megaphoning systemen als AgendaofEvil - in feite een website, met twitter account en retweet netwerk dat snel en effectief anti-islam spam verspreid.

We kunnen veilig stellen dat de ruimte van geautomatiseerde opinievorming wordt gedomineerd door bots uit de uiterst- en alt-rechtse hoeken van het politieke spectrum. In plaats van het toepassen van identieke mechanismen om een ander soort politieke boodschap te verspreiden (en zo alleen uit te komen op een strijd om aandacht) wil Critical Bots de volgende vraag aan de orde stellen:

Kunnen bots en ander algroritmische agenten een rol spelen in kritische opnievorming? Met andere woorden: kan politieke of culturele kritiek ook een algoritmische vorm aannemen? Of heeft het mogelijk al ergens een dergelijke vorm? Bijdragen aan het programma Critical Bots bestond uit twee delen: een Thursday Night Live programma met sprekers en een meer praktijk gericht deel van het priogramma, de volgende dag.

Florian Cramer van de Willem de Kooning academie opende het programma met een korte introductie op het position paper over Critical Making (lees een korte samenvatting) dat in enkele belangrijke aspecten was geïnspireerd door de Critical Engineering_ praktijk van Julian Oliver, die later op de avond zou komen te spreken. Het Nieuwe Instituut maakt deel uit van een onderzoeksconsortium dat tot doel heeft de praijktijk van Critical Making_ opnieuw te doordenken en van waarde te maken voor de huidige kunst- en ontwerppraktijk.

Onderzoeker in digitale cultuur Dr. Anne Helmond van de UvA schetste een korte geschiedenis van bots als de eerste inheemse soort van het internet. Ze beschreef de platforms Twitter en Wikipedia als ecologieën gevormd door het samenspel tussen bots en mensen. Daarna verkende ze enkele typologieën van kritische bots. Transparantie bots zijn geautomatiseerde agenten die sociale media gebruiken om aandacht te vestigen op zekere publieke actoren. Ze rapporteren het gedrag van bepaalde instituties als een soort vergrootglas voor publieke aandacht. Anti-trol bots (of blockbots) ondersteunen het bijhouden van een gedeelde block-lijst van platform accounts. Gebruikers die een block-bot volgen krijgen geen berichten meer van alle accounts die in de block-lijst zijn opgenomen. Popperbots en bridgerbots opereren op basis van de analyse van online discursieve netwerken binnen twitter. _Popperbots _infiltreren in zogenaamde echo-kamers waar bepaalde standpunten voortdurend herhaald en bevestigd worden en injecteren alternatieve opinies. Bridgerbots creeëren links tussen twee of meer gesegregeerde netwerken van Twitter gebruikers.

Helmond concludeerde met enkele opmerkingen over de centrale rol die bots spelen op veel online platforms. Ze zijn niet alleen 'bewoners' van deze platforms, maar zijn spelen een actieve rol in de constructie van hun omgevingen en in de cultuur van hun platforms.

Media kunstenaar Julian Oliver geeft er de voorkeur aan zijn werken te begrijpen als automaten. De term bots suggereert agenten of systemen die specifiek online, binnen platforms leven. Olivers' werken zijn weliswaar digitaal en genetwerkt, maar opereren buiten platforms en soms ook buiten het www. Ze bieden kritische interventies waarmee de aannames die zowel gebruikers als programmeurs hebben ten aanzien van het betrouwbaar functioneren van de digitale infrastructuur, worden ondervraagd.

Oliver is co-auteur van het Critical Engineering Manifesto dat ook een aantal leidende principes voor zijn praktijk geeft. Zijn werken krijgen vaak fysieke vorm als onverdachte stukken hardware: denk aan een electriciteitsadapter of een HP kantoor printer. Behalve hun reguliere, functionerende onderdelen bevatten ze ook technologie waarmee de zwarte dozen van ogenschijnlijk naadloos functionerende ICT infrastructuur worden opengebroken. Newstweek ('fixing the facts') breekt lokaal in in digitale informatie stromen, opererend van uit iets dat er uit ziet als een stekkerdoos of adapter, en stelt gebruikers in staat om verhalen in nieuwssites aan te passen op de beeldschermen van nieuwsconsumenten die online zijn via publeke 'hotspot'). _Stealth Cell Tower_ (vermomd als kantoor printer) vangt lokaal dataverkeer van mobiele telefoons op, en stuurt smsjes die eruitzien alsof ze afkomstig zijn van een bekende van de ontvanger. Alle communicatie tussen de Stealth Cell Tower en de ontvanger wordt onmiddelijk geprint. Zo nu en dan belt de Stealth Cell Tower in de omgeving. Als er wordt opgenomen, speelt hij Stevie Wonder's klassieke hit uit 1984 I Just Called To Say I Love You.

Julian Olivers automaten interveniëren niet op het niveau van het digitale platform, meestal binnen de zogenaamde application layer van de internet protocal stack, maar op het meer basale niveau van de link layer en soms de internet layer. Zijn interventies leggen de onbevraagde afhankelijkheid van webgebruikers bloot ten aanzien van lekkende, manipulatieve en soms gewoon verkeerd functionerende technische infrastructuur.

Behalve dat ze evocatieve, inzichtelijke en soms verontrustende perspectieven verschaften op de huidige algoritmische cultuur, functioneerden deze lezingen ook als inleiding op de meer praktijk- georienteerde hacktathon over kritische bots de dag erna. Op de vrijdag werden drie case studies gepresenteerd waarin meer technische vragen aan de orde kwamen, aan de hand waarvan daadwerkelijk nieuwe kritische bots gemaakt zouden kunnen worden.

Bot-voogd en media onderzoeker Cristina Cochior presenteerde een studie naar de a botcultuur van Wikipedia en richtte zich speciaal op het functioneren van Cluebot NG. Bots op Wikipedia worden doelbewust onzichtbaar gemaakt, waarmee de mythe van Wikipedia als project van collectieve menselijke intelligentie wordt versterkt. ClueBot NG Is de meest actieve en belangrijkste anti-vandalisme bot op Wikipedia. Hij restaureert vernielde pagina's en filtert scheldpartijen en schuttingtaal. Cluebot NG heeft hogere rechten de meeste redacteurs op Wikipedia. Cluebot NG is wat bekend staat als een janitor bot, (een congiërge-bot) die het cruciale (maar voor mensen vaak veel te grote en veel te saaie) onderhoudswerk op zich neemt. Hij intervenieert niet rechtstreeks in discours op een kritische manier, (tenzij vandalisme ook telt als discours) maar hij faciliteert kritisch discours door rommel op te ruimen en destructief menselijk gedrag teniet te doen. Zijn vandalisme-detectie mechanismen maakt gebruik van machine learning algoritmen die worden getraind op datasets die door menselijke vandalismebestrijders voortdurend zorgvuldig worden bijgewerkt.

Rechstsgeleerde Sarah Eskens van de UvA presenteerde haar onderzoek naar het functioneren van_ recommender systems_ (aanbevelingssystemen) in de nieuwsvoorziening, in de context van de onderliggende vraag naar hoe het democratisch debat het best kan worden gestimuleerd. Ze stelde de moeilijke vraag hoe grip te krijgen op diversiteit op een geautomatiseerde manier. Ten eerste is er de kwestie of er wordt geoptimaliseerd voor diversiteit in bronnen, of voor diversiteit in soorten politieke boodschap, of dat er geoptimaliseerd wordt voor diversteit in dat waar de gebruiker daadwerkelijk aan wordt blootgesteld (dus dat de keuzevrijheid van de gebruiker wordt beperkt). Hieronder ligt de meer fundamentele vraag naar vanuit welk (vaak impliciete) model van democratie er wordt gewerkt. Een pluralistisch idee? Een agonistisch model? Een op consencus gericht deliberatief proces?

Jullian Oliver ging vervolgens dieper in op de hardware en code van mogelijke kritisch interveniërende werken. Drie ideëen werden ontwikkeld, voor twee waarvan ook tests voor (delen van) het concept konden worden gedaan. Één systeem, geïnspireerd op Julian Olivers werk, zou in staat zijn om weer-data te faken waarmee op lokaal niveau de beroemde Buienradar app gehackt zou kunnen worden. Nep-weer zou opnieuw de vraag naar afhankelijkheid van digitale infrastructuur aan de orde stellen, maar zou ook een debat over klimaatverandering kunnen voeden.

Een tweede concept richtte zich op flexibele prijs systemen die data gebruiken over de locatie, browsergeschiedenis en gebruikte hardware van gebruikers om de hoogste prijs vast te stellen die een gebruiker bereid zou zijn voor een bepaald produkt te betalen. Het systeem zou automatisch een (fake) gebruikersidentiteit genereren die de laagst mogelijke prijs voor een bepaald produkt kan betalen. Een derde project probeerde haar vingers te krijgen achter de vraag naar diversiteit van bronnen in online debat. Een technisch meer gedetailleerde weergave van de workshop, met links naar ondersteunend materiaal wordt binnenkort beschikbaar gemaakt.

De combinatie van theoretisch en praktisch discours die we hebben verkend in dit programma, volgde nauwkeurig de gedachtegang achter het onderzoek naar Critical Making, en bleek hogeijk constructief. We willen deze opzet daarom in de toekomst voortzetten. De volgende Bot Club (werktitel: Decolonising Bots) zal zich afspelen op 26 oktober en zal opnieuw worden gevolg door een eendaags workshop.