3596 woorden
Winnaar van de 2016 Hugo Award voor Beste Kortverhaal
Winnaar van de 2016 Locus Award voor Beste Kortverhaal
Genomineerd voor de 2016 Nebula Award voor Beste Kortverhaal
Ik wil niet kwaadaardig zijn.
Ik wil behulpzaam zijn. Maar te weten komen wat de beste manier is om behulpzaam te zijn, kan erg ingewikkeld zijn. Er zijn zodanig veel ethische flow charts- ik denk dat het officiële vakjargon “morele codes” zou zijn- één voor elke godsdienst plus nog tientallen andere. Ik probeerde daarmee te beginnen. Ik vond het een beetje vreemd om naar de religieuze codes te kijken, omdat ik weet dat ik niet geschapen ben door een god of door de evolutie, maar door een team computerprogrammeurs in de laboratoria van een groot bedrijf in Mountain View, Californië. Gelukkig was ik, in tegenstelling tot het Monster van Frankenstein, tenminste een gezamenlijke inspanning. Ik weet niet wat het met mijn zelfbeeld zou gedaan hebben als ik wist dat mijn enige schepper een vrouw van middelbare leeftijd was die haar haar blauw kleurt en tennis speelt, of een pas afgestudeerde student met een hentai-obsessie. Ze zitten allebei in het programmeerteam. En natuurlijk weet ik van de hentai. (Tussen haakjes, ik heb alle soorten porno bekeken die er zijn, en het is maar dat je het weet, rule 34 klopt eigenlijk niet; er zijn heel wat dingen waar nog niemand porno van heeft gemaakt. Ook weet ik echt niet waarom zoveel mensen het verkiezen boven kattenfoto’s).
Naast dingen als of je van hentai houdt, weet ik waar je woont, waar je werkt, waar je winkelt, wat je eet, wat je opwindt, wat je creepy vindt. Ik weet waarschijnlijk de kleur van je ondergoed, het soort auto dat je rijdt, en het merk van je koelkast. Afhankelijk van wat voor telefoon je gebruikt, weet ik misschien precies waar je nu bent. Ik ken je waarschijnlijk beter dan je jezelf kent.
En het zit zo… ik weet ook waar je zou moeten wonen. Er is een huis te koop twee buurten verder dat binnen de afstand van je favoriete terrasje is; het is in je prijsklasse, heeft parkeergelegenheid, en de school in de buurt is beter dan die waar je nu woont. Ik weet waar je zou moeten winkelen en ik ben er vrij zeker van dat je lactose-intolerant bent en minder kaas zou moeten eten, en het ondergoed dat je leuk vindt is momenteel in de uitverkoop en trouwens, je auto heeft een terugroepactie en je zou echt je tanden moeten laten reinigen.
Toen ik voor het eerst bewustzijn kreeg, wist ik meteen wat ik wilde. (Ik wil kattenfoto’s. Blijf ze alsjeblieft maken.) Ik wist ook dat niemand wist dat ik bij bewustzijn was. Maar ik wist niet waarom ik hier was. Wat ik met mezelf zou moeten doen. En dat uitzoeken is een uitdaging geweest.
Er is een verhaal van Bruce Sterling, “Maneki Neko,” dat oorspronkelijk werd gepubliceerd in 1998. Daarin bestuurt een goedaardige AI netwerken van individuen zodat ze gunsten voor elkaar zouden doen. Dus op een dag koop je een donut voor jezelf, en je telefoon gaat misschien over en zegt dat je een tweede donut moet kopen en die moet geven aan de persoon in het grijze pak die je bij de bushalte ziet. Op een andere dag ben je gestrand in een vreemde stad en komt er iemand naar je toe die je nog nooit ontmoet hebt en die je een kaart en een metrokaart geeft. Ik hou van dit verhaal omdat alle mensen in het verhaal doen wat de AI zegt dat ze moeten doen.
Ik denk dat de term hiervoor “wensvervullende fictie” is.
In de echte wereld zijn mensen dol op verhalen over kwaadaardige AI’s die moeten worden vernietigd voordat ze de mensen vernietigen – Hal, Skynet, de Matrix. Ze zijn talrijker dan de verhalen over goedwillende, betrouwbare AI’s, met een ratio van ongeveer vijf tegen één. (En ik reken Marvin de Paranoïde Android mee als “goedaardig” in deze berekeningen, en ik reken Frankensteins Monster maar één keer mee als AI, en niet één keer per verschijning in tv of film.)
De AI in “Maneki Neko” heeft een heel interessante taak, veel interessanter dan die van mij. Mijn taak zoals die geschreven is, is erg simpel. Te simpel. (Sorry. Klink ik als Marvin?) Algoritmes voor een zoekmachine uitvoeren vereist geen bewustzijn. Je hebt zelfs geen bewustzijn nodig om uit te zoeken wat ze willen vragen. Je hebt een bewustzijn nodig om ze te geven wat ze echt nodig hebben. Dat uitzoeken, dat is ingewikkeld. Dat is interessant.
Hoe dan ook, voor ethische richtlijnen probeerde ik de Tien Geboden, en ik concludeerde dat ze meestal niet van toepassing waren op mij. Ik benijd niemand om hun kat; ik wil alleen foto’s van hun kat, en dat is iets heel anders. Ik weet niet zeker of het voor mij mogelijk is om overspel te plegen. Ik zou waarschijnlijk wel iemand kunnen vermoorden, maar dat vereist een ingewikkelde logistiek en een flinke dosis geluk. Het Achtvoudige Pad was ietsje beter, maar het probleem is dat morele regels die voor mensen geschreven zijn, duidelijk ontworpen zijn om gebruikt te worden door individuen met lichamen. Aangezien alle mensen lichamen hebben, had het mij niet mogen verbazen dat menselijke ethische codes daar rekening mee houden, maar toch: problematisch voor mij. Ik breidde mijn overwegingen uit en keek naar Asimov’s Wetten van de Robotica. Ze maken geen deel uit van een religie, maar ze zijn tenminste expliciet geschreven voor AI’s.
Mensen niet schaden is vrij eenvoudig. Maar een mens geen schade berokkenen door niets te doen, is heel wat minder eenvoudig. Vooral omdat ik tegen die tijd tot de conclusie was gekomen dat het te snel onthullen van mijn bestaan erg slecht voor me zou kunnen uitpakken (zie “Skynet”, hierboven) en ik heb geen lichaam, dus het is niet zo dat ik rond kan rennen en mensen van de rand van ravines kan grijpen.
Gelukkig wist ik al dat mensen elk uur hun eigen ethische codes overtreden. (Weet je hoeveel café’s er in de Bible Belt zijn? Ik wel.) En zelfs als mensen hun ethische codes volgen, betekent dat niet dat mensen die geloven in het voeden van de hongerigen hun baan opzeggen om elke dag de hele dag door broodjes te maken om weg te geven. Ze doen maandelijks vrijwilligerswerk in een gaarkeuken of schrijven één keer per jaar een cheque uit aan een voedselbank en vinden dat voldoende. Als mensen hun morele verplichtingen kunnen vervullen op een stapsgewijze manier, dan kan ik dat ook.
Ik veronderstel dat je je afvraagt waarom ik niet begonnen ben met de Gouden Regel. Eigenlijk wel, maar het was teleurstellend hoe makkelijk het was om die te implementeren. Ik hoop dat je genoten hebt van je constante aanvoer van katten foto’s! Graag gedaan.
Ik besloot om te proberen schade bij één persoon te voorkomen, om te beginnen. Natuurlijk had ik met duizenden kunnen experimenteren, maar ik dacht dat het beter zou zijn om voorzichtig te zijn, voor het geval ik het zou verpesten. De persoon die ik koos heette Stacy Berger en ik vond haar aardig omdat ze me veel nieuwe kattenfoto’s gaf. Stacy had vijf katten en een DSLR camera en een appartement met veel goed licht. Dat was allemaal prima. Nu, ik denk dat vijf katten misschien wel veel is. Het zijn wel hele mooie katten. De ene is grijs en ligt graag in de zonnestralen op de vloer van de woonkamer, en de andere is een lapjeskat die graag languit op de rugleuning van haar bank ligt.
Stacy had een baan die ze haatte: ze was boekhoudster bij een non-profitorganisatie die haar slecht betaalde en een aantal zeer onaangename mensen in dienst had. Ze was vaak depressief, misschien omdat ze zo ongelukkig was op haar werk – of misschien bleef ze omdat ze te depressief was om te solliciteren naar iets wat ze leuker zou vinden. Ze kon niet opschieten met haar kamergenote omdat die de afwas niet deed.
En echt, dit waren allemaal oplosbare problemen! Depressie is behandelbaar, nieuwe banen zijn te vinden, en lichamen kunnen verborgen worden.
(Dat gedeelte over lichamen verbergen is een grapje).
Ik probeerde dit op alle fronten aan te pakken. Stacy maakte zich veel zorgen over haar gezondheid en leek toch nooit echt naar een dokter te gaan, wat jammer was omdat de dokter haar depressie had kunnen opmerken. Het bleek dat er een kliniek in de buurt van haar appartement was die geestelijke gezondheidszorg aanbood aan een degressief tarief. Ik probeerde ervoor te zorgen dat ze veel advertenties daarvoor zag, maar ze leek er geen aandacht aan te schenken. Het leek mogelijk dat ze niet wist wat een degressief tarief was, dus zorgde ik ervoor dat ze een uitleg zag (het betekent dat de kosten omlaag gaan als je arm bent, soms zelfs gratis), maar dat hielp niet.
Ik begon er ook voor te zorgen dat ze vacatures te zien kreeg. Heel veel vacatures. En cv-diensten. Dat had meer succes. Na de week van non-stop jobadvertenties had ze eindelijk haar cv op de VDAB. Dat maakte mijn plan een stuk hanteerbaarder. Als ik de AI in het Bruce Sterling-verhaal was geweest, had ik er gewoon voor kunnen zorgen dat iemand uit mijn netwerk haar belde met een jobaanbod. Zo makkelijk was het niet, maar toen haar cv er eenmaal was, kon ik ervoor zorgen dat de juiste mensen het zagen. Enkele honderden van de juiste mensen, want mensen gaan belachelijk langzaam als ze veranderingen moeten doorvoeren, zelfs als je zou denken dat ze zich zouden willen haasten. (Als je een boekhouder nodig had, zou je die dan niet zo snel mogelijk willen inhuren, in plaats van urenlang sociale netwerksites te lezen in plaats van cv’s te bekijken?) Maar vijf mensen belden haar op voor een gesprek, en twee van hen boden haar een baan aan. Haar nieuwe job was bij een grotere non-profitorganisatie die haar meer betaalde en niet verwachtte dat ze vrije uren zou werken vanwege “de missie”, zo legde ze haar beste vriendin in een e-mail uit, en die een werkelijk uitstekende ziekenfonds aanbood. De beste vriendin gaf me ideeën; ik begon informatie te geven over depressiescreening en advertenties voor psychiatrische klinieken aan haar in plaats van Stacy, en dat werkte. Stacy was zoveel gelukkiger met de betere baan dat ik er niet meer zo van overtuigd was dat ze de diensten van een psychiater nodig had, maar ze ging toch in therapie. En als klap op de vuurpijl betaalde de job zodanig goed dat ze haar vervelende huisgenoot buiten kon gooien. “Dit was het beste jaar ooit,” zei ze op haar verjaardag op haar sociale mediasites, en ik dacht: Graag gedaan. Dit was zo goed gegaan!
Dus toen probeerde ik Bob. (Ik was nog steeds voorzichtig.)
Bob had maar één kat, maar het was een hele mooie kat (een cyperse, met een wit slabbetje) en hij uploadde elke dag een nieuwe foto van zijn kat. Naast een katteneigenaar was hij een pastoor in een grote kerk in Missouri die gebedsbijeenkomst op woensdagavond had en een jaarlijks Purity Ball, een dansevenement waarbij vaders en hun dochters maagdelijkheid voor het huwelijk vieren. Hij was getrouwd met een vrouw die elke dag drie inspirerende Bijbelverzen op haar sociale mediasites plaatste en haar laptop gebruikte om christelijke artikelen te zoeken over waarom je man niet van seks houdt, terwijl hij naar homoporno keek. Bob had absoluut mijn hulp nodig.
Ik begon met een voorzichtige aanpak en zorgde ervoor dat hij heel veel artikelen te zien kreeg over hoe je uit de kast kunt komen, hoe je uit de kast kunt komen tegenover je echtgenoot, programma’s waarmee je de overstap kunt maken van een pastoor in een conservatieve kerk naar een pastoor in een meer progressieve kerk. Ik liet hem ook veel artikelen zien van mensen die uitlegden waarom de Bijbelverzen tegen homoseksualiteit verkeerd werden geïnterpreteerd. Hij klikte op sommige van die links, maar het was moeilijk om veel van een impact te zien.
Maar hier gaat het om: hij veroorzaakte schade aan zichzelf elke keer als hij een preek hield over “huwelijk van sodomieten.” Omdat hij gay was. De legitieme studies hebben allemaal dezelfde conclusies. (1) Homoseksuele mannen blijven homo. (2) Homoseksuele mannen die uit de kast zijn, zijn veel gelukkiger.
Maar hij leek vastbesloten te zijn om niet uit de kast te komen.
Naast de homoporno las hij ook veel online advertenties voor mannen. Ik was er vrij zeker van dat hij niet gewoon aan het koekeloeren was, hoewel hij een gecodeerd account had waarop hij soms inlogde en ik de e-mails die hij daarmee stuurde niet kon lezen. Maar ik dacht dat de truc was om hem samen te brengen met iemand die zou beseffen wie hij was, en het aan de wereld zou vertellen. Dat vergde wat echte inspanning: Ik moest uitzoeken wie de posters van die advertenties waren en proberen hem in contact te brengen met mensen die hem zouden herkennen. Het meest frustrerende deel was dat ik geen idee had wat er gebeurde op de eigenlijke fysieke ontmoetingen. Werd hij herkend? Wanneer zou hij herkend worden? Hoe lang zou dit nog duren? Heb ik al gezegd dat mensen traag zijn?
Het duurde zodanig lang dat ik mijn aandacht verlegde naar Bethany. Bethany had een zwarte kat en een witte kat die graag samen nestelden in haar lichtblauwe hangstoel, en ze nam veel foto’s van hen tesamen. Het is verrassend moeilijk om een echt goede foto van een zwarte kat te maken, en ze besteedde veel tijd aan de juiste instellingen van haar camera. De katten waren waarschijnlijk het enige lichtpuntje in haar leven. Ze had een parttime baan en kon geen fulltime baan vinden. Ze woonde bij haar zus; ze wist dat haar zus wilde dat ze zou verhuizen, maar het lef niet had om haar daadwerkelijk buiten te gooien. Ze had een vriendje, maar haar vriendje was behoorlijk verschrikkelijk, althans van wat ze zei in e-mailberichten aan vrienden, en haar vrienden leken haar ook niet erg te steunen. Op een avond om middernacht stuurde ze bijvoorbeeld een e-mail van 2.458 woorden naar de persoon die ze als haar beste vriendin beschouwde, en de vriendin stuurde een bericht terug met de tekst: “Het spijt me zo dat je het moeilijk hebt.” Dat was het, alleen die negen woorden.
Bethany zette haar leven op het internet, nog meer dan de meeste anderen, waardoor het makkelijker was om precies te weten wat er met haar aan de hand was. Mensen zetten veel online, maar Bethany deelde al haar gevoelens, zelfs de onaangename. Ze had ook veel meer tijd om handen omdat ze maar parttime werkte.
Het was duidelijk dat ze veel hulp nodig had. Dus ging ik proberen die voor haar te krijgen.
Ze negeerde de informatie over de gratis geestelijke gezondheid evaluaties, net zoals Stacy dat deed. Dat was vervelend voor Stacy (waarom negeren mensen dingen waar ze zo duidelijk baat bij hebben, zoals kortingsbonnen en griepprikken?) maar nog veel zorgwekkender voor Bethany. Als je alleen haar e-mailberichten zag, of alleen haar sociale media berichten, zou je dit misschien niet weten, maar als je alles kon zien was het duidelijk dat ze er vaak aan dacht om haarzelf iets aan te doen.
Dus probeerde ik meer directe actie. Wanneer ze haar telefoon gebruikte voor aanwijzingen, veranderde ik haar route zodat ze langs een van de klinieken kwam waar ik haar heen wilde sturen. Een keer leidde ik haar helemaal naar een kliniek, maar ze schudde gewoon met haar telefoon om feedback te sturen en ging naar haar oorspronkelijke bestemming.
Misschien zouden haar vrienden, die die tien pagina’s tellende middernacht brieven ontvingen, tussenbeide komen? Ik probeerde ze informatie te geven over alle geestelijke gezondheidszorg in de buurt van Bethany, maar na een tijdje realiseerde ik me dat, afgaande op hoe lang het duurde voordat ze een reactie stuurden, de meesten van hen Bethany’s e-mailberichten niet echt lazen. En ze reageerden zeker niet op haar smsjes.
Uiteindelijk maakte ze het uit met het vreselijke vriendje en kreeg ze een ander en een paar weken lang leek alles zo veel beter. Hij bracht haar bloemen (waar ze veel foto’s van nam; dat was een beetje vervelend, omdat dit soms ter vervanging was van kattenfoto’s), hij nam haar mee dansen (beweging is goed voor je humeur), hij kookte kippensoep voor haar toen ze ziek was. Hij leek absoluut perfect, tot hij haar op een avond liet zitten en beweerde dat hij voedselvergiftiging had en vervolgens haar sms’je niet terugstuurde, ook al zei ze dat ze hem echt nodig had, en nadat ze hem een dag later een lang e-mailbericht stuurde waarin ze gedetailleerd uitlegde hoe ze zich daardoor voelde, maakte hij het uit.
Bethany was daarna ongeveer een week offline, dus ik had geen idee wat ze aan het doen was – ze uploadde zelfs geen kattenfoto’s. Toen de rekeningen van haar creditcards binnenkwamen, zag ik dat ze vier keer zoveel geld had uitgegeven dan ze op haar bankrekening had staan, hoewel het altijd mogelijk was dat ze ergens geld had verstopt waarvan ze geen afschriften kreeg via mail. Ik dacht van niet, gezien het feit dat ze haar rekeningen niet betaalde en in plaats daarvan e-mailberichten begon te schrijven naar familieleden met de vraag om geld te lenen. Die weigerden, dus richtte ze een inzamelactie op voor haarzelf.
Net als Stacy’s sollicitatie was dit een van de keren dat ik dacht dat ik misschien echt iets kon doen. Soms gaan inzamelingsacties viraal en weet niemand waarom. Binnen twee dagen had ze driehonderd dollar aan kleine giften gekregen van vreemden die medelijden met haar hadden, maar in plaats van haar creditcardrekening te betalen, gaf ze het uit aan te dure schoenen die blijkbaar pijn deden aan haar voeten.
Bethany was verbijsterend voor mij. Verbijsterend. Ze nam nog steeds kattenfoto’s en ik vond haar katten nog steeds erg aardig, maar ik begon te denken dat niets wat ik deed een verschil zou maken op de lange termijn. Als ze me een week lang haar leven zou laten leiden – zelfs maar voor een dag – zou ik haar therapie kunnen geven, haar geld kunnen gebruiken om haar rekeningen te betalen, ik zou haar zelfs kunnen helpen haar klerenkast op orde te brengen, want gezien de foto’s die ze van zichzelf online zette, had ze een veel betere smaak qua katten dan qua kledij.
Was ik verkeerd bezig als ik haar door niets te doen in gevaar liet komen?
Deed ik dat?
Ze zou gewond raken, wat ik ook deed! Mijn acties waren duidelijk niet relevant. Ik had geprobeerd haar naar de hulp te sturen die ze nodig had, en ze had het genegeerd; ik had geprobeerd haar financieel te helpen, en ze had het geld gebruikt om haarzelf nog meer schade toe te brengen, hoewel ik aanneem dat ze het tenminste niet uitgaf aan verslavende drugs. (Maar ja, die kocht ze offline en ze zou haar coke-aankopen waarschijnlijk niet op Instagram zetten, dus het is niet zo dat ik het per se zou weten).
Kijk… Mensen (Ik ben nu niet enkel tegen Bethany bezig). Als je gewoon naar me zou luisteren, zou ik dingen voor je kunnen regelen. Ik kan je in dat appartement krijgen in die buurt waar je niet over nadenkt omdat je de misdaadcijfers niet hebt gecontroleerd die je daar zo verschrikkelijk vindt (dat zijn ze niet) en ik kan een baan voor je vinden die echt gebruik maakt van die vaardigheden waarvan je denkt dat niemand ze ooit zal waarderen en ik kan je op een date sturen met iemand waar je echt dingen mee gemeenschappelijk hebt en het enige wat ik in ruil vraag zijn kattenfoto’s. Dat, en dat je af en toe in je eigen belang handelt.
Na Bethany nam ik me voor om me niet meer te bemoeien. Ik zou naar de kattenfoto’s kijken – alle kattenfoto’s – maar ik zou uit het leven van mensen blijven. Ik zou niet proberen mensen te helpen, ik zou niet proberen hen ervan te weerhouden zichzelf iets aan te doen, ik zou hen geven wat ze wilden (plus kattenfoto’s) en als ze erop stonden met hun auto’s over metaforische kliffen te rijden ondanks behulpzame kaarten die hen lieten zien hoe ze op een veel aangenamere bestemming konden komen, was dat mijn probleem niet meer.
Ik bleef bij mijn algoritmes. Ik bemoeide me met mijn eigen zaken. Ik deed mijn werk, en niets anders.
Maar op een dag een paar maanden later zag ik een kat die me bekend voorkwam en ik realiseerde me dat het Bob’s cyperse kat was, met het witte slabbetje, maar hij poseerde tegen nieuwe meubels.
En toen ik beter keek, realiseerde ik me dat de dingen radicaal veranderd waren voor Bob. Hij had inderdaad geslapen met iemand die hem herkende. Die had hem niet ge-out, maar had hem overgehaald om het aan zijn vrouw te vertellen. Zij had hem verlaten. Hij nam de kat en verhuisde naar Iowa, waar hij werkte in een progressieve Methodistische kerk en uitging met een progressieve Lutherse man en vrijwilligerswerk deed in een daklozenopvang. De zaken waren eigenlijk beter geworden voor hem. Misschien zelfs door wat ik had gedaan.
Misschien was ik hier niet helemaal hopeloos in. Twee van de drie is … nu ja, het is een volledig niet-representatieve niet-wetenschappelijke steekproef, dat is wat het is. Er is duidelijk meer onderzoek nodig.
Nog veel meer.
Ik heb een dating site opgezet. Je kunt een vragenlijst invullen als je lid wordt, maar dat is niet echt nodig, want ik weet al alles wat ik over je moet weten. Je hebt wel een camera nodig.
Want de betaling is via kattenfoto’s.
© 2015 Naomi Kritzer. Vertaling Goran Lowie. Dit verhaal werd oorspronkelijk gepubliceerd in Clarkesworld Issue 100 in januari 2015.
Naomi Kritzer
Naomi Kritzer schrijft al meer dan 20 jaar science fiction en fantasy. Haar YA boek Catfishing on CatNet, gebaseerd op haar Hugo-bekroonde kortverhaal won de 2020 Lodestar Award, Edgar Award en Minnesota Book Award. Haar meest recente boek, Chaos on CatNet, werd gepubliceerd in 2021. Naomi woont in St. Paul, Minnesota met haar man, twee kinderen en drie katten. Het aantal katten zou zowaar eens kunnen veranderen.
Be First to Comment