Was siehst du auf dem Bild?

Generative vortrainierte Transformatoren oder kurz GPTs [21] (Generative Pre-trained Transformers) sind eine Variante der Großsprachmodelle [22] (Large Language Models, LLM) und ein prominentes Framework für generative künstliche Intelligenz (GenAI). GPTs sind künstliche neuronale Netzwerke, die in Aufgaben der natürlichen Sprachverarbeitung verwendet werden. GPTs basieren auf der Transformer-Architektur [8], sind anhand großer Datensätze unmarkierten Textes vortrainiert und in der Lage, neuartige Inhalte zu generieren, die den von Menschen erzeugten Inhalten ähneln. Ab 2023 verfügen die meisten LLMs über diese Eigenschaften und werden manchmal allgemein als GPTs bezeichnet.

Das erste GPT wurde 2018 von OpenAI eingeführt [23]. OpenAI hat sehr einflussreiche GPT-Grundmodelle veröffentlicht, die fortlaufend nummeriert wurden und die „GPT-n“-Reihe bilden.