Duży model językowy
Duży model językowy (ang. large language model, LLM)[1] – model sztucznej inteligencji umożliwiający wszechstronne generowanie tekstu oraz realizację innych zadań związanych z przetwarzaniem języka naturalnego. Modele LLM są szkolone w ramach samonadzorowanego lub słabo nadzorowanego uczenia maszynowego z wykorzystaniem dużych ilości danych tekstowych. Proces ten jest bardzo intensywny obliczeniowo[2]. Duże modele językowe mogą być wykorzystywane do generowana tekstu poprzez wielokrotne przewidywanie następnego tokenu lub słowa, przez co zaliczane są do generatywnej sztucznej inteligencji[3].
Duże modele językowe są sieciami neuronowymi. Największe i najbardziej zdolne modele językowe oparte są na architekturze transformerów.
Przykładami dużych modeli językowych są modele z serii GPT zbudowane przez OpenAI (np. GPT-3.5 , GPT-4 ), używane w chatbotach ChataGPT i Microsoft Copilot, a także modele LLaMA zbudowane przez Meta Platforms.
Zobacz też
edytujPrzypisy
edytuj- ↑ A short history of AI. „The Economist”, s. 56, 20th July 2024.
- ↑ OpenAI: Better language models and their implications. [dostęp 2024-05-08]. [zarchiwizowane z tego adresu (2020-12-19)].
- ↑ Czym jest generatywna sztuczna inteligencja? | Deloitte [online], Deloitte Polska [dostęp 2024-05-08] (pol.).