.. wacht dan maar tot we geconfronteerd worden met de golf van ‘botshit’ die generatieve kunstmatige intelligentie veroorzaakt.
Ik herinner me nog levendig de tijd dat de rekenliniaal werd vervangen door de rekenmachine, ergens in de jaren ’70 van de vorige eeuw. Onze wiskundedocent was furieus. Hij betoogde dat wij, de leerlingen, meteen geen idee meer zouden hebben of ons antwoord juist was, of dat we simpelweg onzin opschreven.
Uiteindelijk zou de rekenmachine wijdverspreid worden gebruikt in klaslokalen, ter ondersteuning van vele, zij het niet alle, aspecten van het wiskundeonderwijs voor studenten.
Chatbot-technologieën maken momenteel een soortgelijke ontwikkelings- en acceptatiereis door. Ze bieden vergelijkbare magische ondersteuning, maar dan voor het creëren en analyseren van inhoud, en worden steeds vaker ingezet voor werk- en onderwijstaken.
Wat hen onderscheidt van rekenmachines is het type kennis dat ze voortbrengen. Volgens Tim Hannigan, Ian McCarthy en Andre Spicer is een van de grote gevaren hiervan dat het de kosten van onzin naar nul brengt, een fenomeen dat zij omschrijven als ‘botshit’.
Terwijl bullshit verwijst naar menselijk gegenereerde inhoud die geen rekening houdt met de waarheid en vervolgens door een mens wordt toegepast voor communicatie- en besluitvormingstaken, is botshit chatbot gegenereerde inhoud die niet is geworteld in waarheid en vervolgens kritiekloos wordt gebruikt door een mens voor communicatie- en besluitvormingstaken.
De redenen waarom mensen bullshit en botshit produceren en verspreiden zijn waarschijnlijk enigszins vergelijkbaar.
Onderzoek suggereert dat mensen eerder bullshit verkondigen wanneer de sociale of professionele verwachtingen om een mening te hebben hoog zijn en wanneer de persoon die bullshit vertelt verwacht dat de waarheid van hun uitspraken zonder tegenspraak wordt geaccepteerd.
Met andere woorden, mensen kunnen het gevoel hebben dat iets verzinnen veiliger of lonender is dan zeggen: ‘Ik weet het niet’, vooral als hun leidinggevenden ook regelmatig bullshit produceren en verspreiden.
Op vergelijkbare wijze blijkt dat bullshit verkondigen op de werkvloer een sociale praktijk is. Het kan een vereist ’taalspel’ zijn om erbij te horen, zaken gedaan te krijgen en de eigen positie te versterken. Dit gedrag signaleert op zijn beurt aan anderen om bullshit te verspreiden om dergelijke beloningen te verkrijgen.
Bullshit en botshit zijn waarschijnlijk overtuigender en impactvoller als ze voldoen aan drie criteria:
1. Het moet nuttig, voordelig of stimulerend zijn voor het publiek.
2. Het moet overeenkomen met en de belangen, overtuigingen, ervaringen of houdingen van het publiek strelen.
3. Het moet als geloofwaardig worden beschouwd op basis van de formulering, het gebruik van indrukwekkend jargon en de waargenomen autoriteit van de persoon of chatbot die het genereert.
Voor bullshit staat dit laatste punt bekend als het ‘Einstein-effect’, omdat we eerder geneigd zijn een onzinverklaring te geloven als we denken dat deze afkomstig is van iemand met een prestigieuze status.
Percepties van legitimiteit rondom de bron van een verklaring beïnvloeden de toekenning van geloofwaardigheid aan de inhoud van die verklaring.
Op dezelfde manier worden reacties van een chatbot die is gebouwd en beheerd door een organisatie met een respectabele en betrouwbare reputatie waarschijnlijk eerder geloofd dan reacties van een onbekende nieuwe organisatie of een gevestigde organisatie met een geschiedenis van het verstrekken van misinformatie.
In dit artikel verkennen de auteurs hoe managers en andere professionals die gebruikmaken van chatbots de gevaren kunnen vermijden van het gebruik van onwaarheden door chatbots in hun werk.
Bron: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4678265