Het taalmodel dat je elke dag gebruikt raadt het volgende woord, keer op keer. Zodra je dat ziet, stopt elk vreemd ding eraan, het zelfvertrouwen, de verzonnen feiten, het vergeten, een raadsel te zijn.
Dit is de eerste van drie korte blikken, één voor elk van de grote drie uit de kaart, en we beginnen bij het taalmodel omdat het degene is die je elke dag aanraakt. De bedoeling hier is niet om een expert van je te maken. Het is om dichtbij genoeg te komen dat het model stopt te voelen als een brein dat je niet kunt lezen, en dan weer een stap terug. Er is geen brein. Er is één simpele beweging die op snelheid wordt herhaald, en alles wat het model doet groeit daaruit.
Het raadt het volgende woord
Op de bodem doet het precies wat het eerste stuk zei, het raadt welk woord waarschijnlijk als volgende komt. Je geeft het je tekst, het kijkt naar het geheel, en het kiest het meest waarschijnlijke volgende stuk, dan voegt het dat toe en kiest opnieuw, woord na woord, sneller dan je kunt lezen. Er is geen plan voor het hele antwoord en geen betekenis erachter. Elke stap is alleen dit, gegeven alles tot nu toe, wat komt er meestal daarna. De reden dat het zo goed leest is dat het de vorm van goed schrijven leerde uit een berg ervan, dus de woorden die het aan elkaar rijgt landen in de vorm van een echt antwoord.
Het klinkt alsof het het weet, omdat het leerde hoe weten klinkt
Hier struikelt iedereen. Goed klinken en gelijk hebben zijn twee verschillende dingen, en het model is een meester in het eerste. Het leerde hoe een zelfverzekerd, correct antwoord eruitziet, dus het produceert tekst in precies die stijl of de inhoud eronder nu klopt of niet. Daarom lijkt het nooit te twijfelen. Het weegt niet de waarheid en landt zeker. Het doet de ene beweging, volgend waarschijnlijk woord, en een vloeiende zelfverzekerde zin is gewoon de meest waarschijnlijke vorm.
Zeker van zichzelf, en straal ernaast
Dus als het fout zit, zit het fout in dezelfde rustige stem die het gebruikt als het klopt. Het heeft geen betrouwbaar gevoel voor waar en onwaar, alleen voor wat past. En er is een reden dat het niet vaker twijfelt. Zijn hele training door leverde een zelfverzekerd antwoord meer op dan een eerlijk ik weet het niet, dus gokken is de gewoonte die het leerde. Als het passende toevallig strookt met de werkelijkheid, krijg je een correct antwoord. Als dat niet zo is, krijg je een even gladde zin die verzonnen is, een nepbron, een citaat dat niemand zei, een feit dat er geen is, met dezelfde kalmte gebracht. Mensen noemen dit hallucinatie, wat het laat klinken als een zeldzame storing. Dat is het niet. Het is de machine die precies werkt zoals hij altijd doet, alleen belandt hij deze keer op een geloofwaardige onwaarheid die hij niet van de waarheid kan onderscheiden.
Het vergeet, tot de app het voor hem onthoudt
Op zichzelf heeft het model geen geheugen. Elke nieuwe chat wordt het blanco wakker, geen idee wie je bent of wat je gisteren zei, zijn hele wereld de tekst in het venster van nu. Dat is het ruwe model. De apps zijn eroverheen. De grote chatbots houden nu een lopend setje aantekeningen over je bij en voeren die terug in elk gesprek, dus het onthoudt je tegenwoordig wel, je naam, je voorkeuren, waar je vorige keer aan werkte. Wat je moet onthouden is waar dat geheugen woont. Het zit in de app, niet in het model, een notitieboekje dat de app bijhoudt en elke keer overhandigt, niet het model dat je vasthoudt. Daarom kan het iets fout onthouden, of iets wat je liever kwijt was, en daarom kun je dat boekje openen en het corrigeren.
Zijn kennis is gedateerd, niet verzegeld
Het model leerde van een enorme momentopname van tekst tot een bepaald punt, en toen stopte dat leren, dus het model zelf heeft een afkappunt. Die afkappunten zijn recenter dan mensen aannemen, en zelfs dan kan het op zichzelf niet weten wat er sindsdien gebeurde. Ook hier zijn de tools eroverheen. De meeste zoeken nu live op het web, midden in een antwoord, en halen binnen wat er vandaag speelt, dus het is niet meer zo afgesloten van het heden als vroeger. Twee adders. Het kijkt alleen als iets besluit dat jouw vraag opzoeken nodig heeft, een afweging die je het nooit ziet maken en die het niet altijd goed krijgt, dus het kan je droog vertellen dat iets niet gebeurd is terwijl het wel gebeurde. En het live web bereiken geeft het geen oordeel. Het kan nog steeds een goede bron niet van een slechte onderscheiden, dus het kan je iets vers en vals serveren in dezelfde zekere stem. Het tijdsgat sluit meestal. Het waarheidsgat niet.
De kern
Dat zijn een hoop bewegende delen, en hier is het goede nieuws. Je mag het meeste vergeten. Het geheugen, de webtoegang, het afkappunt, dat zijn details die met elke update verschuiven, en deze hele blik van dichtbij is een momentopname, geen handleiding. De volle versie hiervan, hoe deze modellen tot op de bodem werken, is een project voor een andere dag. Eén ding overleeft elke update en draagt de rest. Het voorspelt, het weet niet. Onthoud die ene regel en je leest deze tool jarenlang goed, zeker van zichzelf of het gelijk heeft of niet, capabeler dan het horrorverhaal en nog steeds niet in staat in te staan voor een woord dat het zegt.
Dat is de tool die je elke dag gebruikt, helder gezien. Hierna blijven we dichtbij en kijken we naar de tool die al die woede van een paar stukken terug draagt, degene die je woorden in een plaatje verandert.
Volgende: Image generators van dichtbij →