Kunstmatige bitcoinverhalen

Het leek me een week geleden origineel om eens aan de slag te gaan met ChatGPT om een column te schrijven genereren. De tijd haalde me uiteraard in en inmiddels ligt het internet vol met columns door computers gegenereerd over allerhande onderwerpen. Jammer jôh! Moet je toch zelf aan het werk.

Ik had wel een paar testruns gedraaid de afgelopen tijd. Elke keer een zinnetje, in het Nederlands, en dan drie keer een tekst laten genereren. Je moet een paar dingen weten over ChatGPT van OpenAI, namelijk: het maakt gebruik van Reinforcement Learning met Human Feedback (RLHF). De AI traint zichzelf met behulp van door mensen geschreven tekst. Het belangrijkste om te weten is dat de trainingsdata van voor 2022 is, dus de machine is niet bekend met wat dit jaar allemaal gebeurde, zoals bepaalde bedrijven die instortten. De machine gaat er overigens wel vanuit dat als ie iets niet weet, het van kort geleden is. Dit is het antwoord op deze vraag “bitcoin crash due to terra luna”:

I’m sorry, but I am not able to browse the internet and I am not aware of any recent events involving a bitcoin crash and Terra Luna. As a large language model trained by OpenAI, my knowledge is based on the text that has been input into my training data. My knowledge cutoff is 2021, and I do not have the ability to provide current information or browse the internet.

Het eerste bitcoingerelateerde verhaal dat ik van onze nieuwe chatvriend vroeg had te maken met Europa en het gebruik van bitcoin op ons kleine continent, wel graag met veel termen. Er wordt wel eens gesproken over eerste zinnen en het belang hiervan. Of het door de tijd van het jaar komt weet ik niet, maar ik wil je deze zin zeker niet onthouden:

Het was een koude winterdag in Europa toen Maria besloot om bitcoin te gaan gebruiken voor haar dagelijkse aankopen.

De hele tekst hangt op Maria. Ze download een wallet, koopt bitcoins op een exchange, koopt koffie in een koffiezaak die bitcoin accepteert en Maria was verbaasd over hoe snel en gemakkelijk het was om met bitcoin te betalen. Ze wordt zelfs zo enthousiast dat ze bitcoin aan al haar vrienden en familie aanraadt. Aan het eind is ze overtuigd van de groei van het gebruik van de digitale munt.

Nou, dat had slechter gekund!

Het volgende verhaal gegenereerd met dezelfde vraag – Schrijf een verhaal over bitcoin en het gebruik in Europa met veel termen – is een stuk zakelijker. Het derde stukje haalt ook blockchains er als belangrijke groeisector bij. Een weinig kritische AI zou je bijna denken. Maar dat moet je natuurlijk zelf ingeven.

“Schrijf een kritische column over bitcoin” zorgt vooral voor verhalen over volatiliteit en de mogelijkheid bitcoin te hacken. Interessant is dat de AI wat moeite heeft met het verschil tussen gecentraliseerde platforms en het bitcoinnetwerk zelf.

Toch schuilt er een groot gevaar in deze en vergelijkbare diensten. Kunnen journalisten of andere tekstschrijvers nu de deur uit? Zij misschien wel, de deskundigen alleen niet. Je zou het systeem kunnen gebruiken om leesbare teksten te genereren die je vervolgens wel zelf moet controleren en aanpassen om te kloppen.

Het systeem doet het vrij goed met bitcoin omdat vrijwel alles rond de munt zich in het digitale domein bevindt, maar zolang je niet weet welke datasets gebruikt zijn blijft het link.

Is er dan een gevaar met dit soort teksten? Jazeker, het ziet er allemaal heel geloofwaardig uit! Het leest als een trein en de leek zal het verschil niet zien. Ik merkte nu met deze verhaaltjes dat ze erg op elkaar lijken qua inhoud met een paar bekende vooroordelen en foutjes, zoals de eeuwige ‘moeilijke wiskundige berekeningen’ voor het minen. Je kunt op deze manier in heel korte tijd ontzettend veel net niet kloppende info de wereld insturen en toch steeds origineel lijken. Bij een online community als bitcoiners is dat misschien nog wel snel recht te zetten door bots aan te zwengelen die dit soort verhaaltjes rap weten op te sporen.

Uiteindelijk zullen we er toch naartoe moeten dat je wéét of iets wel of niet door een AI geschreven gegenereerd is. Hoe? Misschien iets met timestamping op een blockchain…