Аббревиатура GPT в ChatGPT — что означают эти три буквы

С тех пор как ChatGPT резко стал популярным, фраза "генеративный искусственный интеллект" звучит почти везде. При этом даже многие активные пользователи не могут объяснить, что именно означают буквы "GPT" — хотя эта аббревиатура фактически описывает, как работает технология.

Об этом пишет SuperCarBlondie.

Что означают буквы "GPT" в ChatGPT

Первая буква — G, Generative. Это о способности системы генерировать новый контент, а не просто находить готовые ответы. В отличие от более старого программного подхода, который преимущественно ищет или извлекает информацию, генеративный ИИ формирует оригинальный текст в ответ на запрос. Поэтому, если попросить рецепт, стихотворение или объяснение сложной темы вроде черных дыр, модель каждый раз создает новый вариант, опираясь на закономерности, которые изучила.

Вторая буква — P, Pre-trained. Еще до публичного запуска в конце 2022 года модель обучали на огромных массивах текстов — в том числе на книгах, статьях и материалах с веб-сайтов, доступных публично. Во время такого предварительного обучения она усваивала грамматику, факты, типичные логические паттерны и то, как люди обычно строят речь. После этого модель дополнительно дообучали с учетом человеческой обратной связи, чтобы ответы были более полезными и менее вредными.

Третья буква — T, Transformer. Речь идет о типе архитектуры нейросетей, который появился в 2017 году. Если упростить, трансформер помогает модели определять, какие слова в предложении самые важные и как они связаны между собой. Текст разбивается на небольшие фрагменты — токены — после чего система оценивает их "вес" и прогнозирует, что должно быть дальше. Именно этот механизм предсказания и позволяет ChatGPT формировать связные абзацы, а не случайный набор слов.

Напомним, ситуация, когда после десятков откликов нет ни одного ответа или приглашения на собеседование, знакома многим кандидатам. Один из способов быстро обновить резюме под современные требования рекрутинга — проанализировать его с помощью четко сформулированных запросов к искусственному интеллекту, которые помогают выявить слабые места.

Также мы писали, что искусственный интеллект все чаще заменяет специализированные приложения для изучения языков, ведь способен одновременно объяснять грамматику, помогать с лексикой и воспроизводить реалистичные диалоги. Вместо шаблонных упражнений пользователь получает адаптивные подсказки, учитывающие уровень подготовки, тему и конкретные жизненные ситуации.