Переслано из ТЕХНО: Яндекс про технологии
Чтобы отвечать на сложные вопросы, нейросеть сначала учится самому простому — продолжать текст. Рассказываем, как это работает. В основе LLM — миллиарды числовых параметров, или весов. Они определяют, как нейросеть преобразует входные данные (ваш запрос) в результат. При обучении алгоритм сравнивает результат с ожидаемым и постепенно корректирует веса. Оно происходит в два этапа. Предобучение: освоить язык и набрать знания На предобучении модель учится предсказывать следующий токен — слово или его часть. Она видит «Столица России — …», угадывает продолжение, а обучающая среда сравнивает его с правильным. На триллионах таких примеров модель осваивает язык, получает знания и развивает более сложные навыки — в математике, программировании и агентных сценариях. Это самый долгий и дорогой этап, в результате которого получается базовая модель. Она уже может продолжать текст и иногда отвечать на вопросы, но не всегда понимает запрос как инструкцию. Этому её учат дальше. Постобучение: научиться выполнять инструкции Сначала модели показывают пары из запросов и хороших ответов. Затем она генерирует несколько вариантов, AI-тренеры или специальные модели сравнивают их, а алгоритм постепенно корректирует веса так, чтобы ответы становились ближе к эталонным. Так модель учится быть полезной: решать задачи, пересказывать тексты, извлекать данные, писать код и так далее. Зачем нужна промежуточная модель, которую ещё предстоит дообучать? Это универсальная основа: компании адаптируют её под свои задачи или выкладывают в опенсорс, чтобы это могли сделать и другие. Так Яндекс поступил с Alice AI Foundation LLM: полностью обучил её с нуля и опубликовал под свободной лицензией. Для Яндекса это экспериментальная основа будущей единой рассуждающей модели для Алисы AI, которая ляжет в основу агентных возможностей Алисы AI. Благодаря ей пользователи смогут поручать ей выполнение конкретных действий. Другие разработчики могут уже сейчас использовать модель в исследовательских и коммерческих проектах. Вместе с моделью Яндекс открыл тесты на фактические знания на русском: по ним можно воспроизводить сравнения разных моделей. Подробнее об обучении Alice AI Foundation LLM разработчики Яндекса рассказали на Хабре. Подписывайтесь 👉 @techno_yandex
Открыть в Telegram