GPT-3

GPT-3
VývojářOpenAI
První vydání28. května 2020
Aktuální verze175B
Typ softwaruvelký jazykový model, autoregressive model, transformer, generativní model a Generative pre-trained transformer
Licenceproprietární licence
Webarxiv.org/abs/2005.14165
Některá data mohou pocházet z datové položky.

GPT-3, v angličtině též jako third generation Generative Pre-trained Transformer, je základní model Generative pre-trained transformeru v oblasti zpracování přirozeného jazyka, založený na strojovém učení neuronové sítě.[1] Jedná se o autoregresivní jazykový model, který je schopen hlubokého učení textu, trénovaný za pomocí internetových dat. Model, podobně jako lidský mozek, si zapamatovává data, ze kterých je následně schopen produkovat nejen nový text, ale také generovat kód, příběhy i básně.[2][3]

Produkt představila v květnu 2020 společnost OpenAI jakožto nástupce předchozího jazykového modelu s názvem GPT-2, který nebyl schopný obsáhnout takové množství dat a produkovat kvalitní texty.[1] Výzkumná laboratoř OpenAI se sídlem v americkém San Franciscu předvedla v červenci roku 2020 úspěšné beta testování modelu.[4] GPT-3 model na rozdíl od svého předchůdce produkuje texty, ze kterých je mnohem těžší rozpoznat, zda jej psal člověk či tato umělá inteligence.[2] V roce 2022 byl na této platformě spuštěn chatbot ChatGPT, který získal značnou mediální pozonost.

Přístup k základnímu modelu má pouze společnost Microsoft, na jejíž používání získala v září 2020 licenční smlouvu. Všichni ostatní uživatelé mohou používat alespoň veřejné rozhraní API.[5]

  1. a b BROWN, Tom B.; MANN, Benjamin; RYDER, Nick. Language Models are Few-Shot Learners. arXiv:2005.14165 [cs]. 2020-07-22. ArXiv: 2005.14165. Dostupné online [cit. 2022-12-11]. 
  2. a b OpenAI GPT-3: Everything You Need to Know. Springboard Blog [online]. 2021-11-01 [cit. 2022-12-11]. Dostupné online. (anglicky) 
  3. WEINBERG, Justin. Philosophers On GPT-3 (updated with replies by GPT-3). Daily Nous [online]. 2020-07-30 [cit. 2022-12-11]. Dostupné online. (anglicky) 
  4. SHEAD, Sam. Why everyone is talking about the A.I. text generator released by an Elon Musk-backed lab. CNBC [online]. [cit. 2022-12-11]. Dostupné online. (anglicky) 
  5. OpenAI is giving Microsoft exclusive access to its GPT-3 language model. MIT Technology Review [online]. [cit. 2022-12-11]. Dostupné online. (anglicky) 

© MMXXIII Rich X Search. We shall prevail. All rights reserved. Rich X Search