Большие языковые модели (LLM) — нейронные сети с миллиардами параметров, обученные на огромных текстовых корпусах. Архитектура трансформера (Vaswani et al., 2017) произвела революцию: механизм self-attention позволяет связывать любую часть текста с любой другой.
Принцип работы ChatGPT: RLHF (обучение с подкреплением из обратной связи человека) — тренеры выбирали лучшие ответы, а модель дообучалась на этих данных. Токенизация — текст разбивается на небольшие фрагменты. Проблема «галлюцинаций» — модель может уверенно давать неверную информацию. Поэтому важные решения всегда требуют проверки.
Наши курсы по этой теме