Generative Transformer Technologie

Kennisbank •

De technologie Natural Language Processing is gericht op het begrijpen van de menselijke taal, op een manier waarop mensen communiceren en hoe zij daarbij op elkaar reageren.

Generative Transformer Technologie

OpenAI is een van de organisaties die veel onderzoek doet naar dit onderwerp en recent is een nieuwe technologie ontwikkeld: GPT-3 (Generative Pre trained Transformer 3). Deze techniek wordt steeds vaker toegepast en maakt gebruik van vooraf getrainde algoritmes om teksten te
genereren en heeft in de afgelopen maanden veel belangstelling gekregen. Wat kan je met GPT-3 en waarom is de belangstelling in GPT-3 toegenomen?


“GPT-3 is een taalgeneratiemodel. Dat betekent dat het zelf zinnen,
teksten of zelfs hele verhalen kan genereren. Je kunt het model
bijvoorbeeld een startzin of alinea geven en het zal dan zelf een
verhaal schrijven dat een vervolg van de gegeven input is. GTP-3 is de
derde generatie van de OpenAI modellen en is bijna akelig goed in deze
taak. De teksten zijn niet tot nauwelijks te onderscheiden van teksten
die door echte mensen zijn geschreven. Wat dit indrukwekkend maakt
is niet alleen dat dit model zo’n goed begrip heeft van de taal dat het
een vrijwel perfecte grammatica en een uitgebreide vocabulaire heeft,
maar vooral dat het een coherent en logisch verhaal weet te genereren.

Download