Дообучение

Где вы встретите это слово

• В рекламе услуг: «обучим нейросеть на ваших данных». Чаще всего за этим стоит не дообучение, а загрузка документов в базу знаний. Это дешевле и честно называется иначе.
• В кабинетах разработчика некоторых компаний есть отдельный раздел для дообучения: туда загружают файл с парами «вопрос и правильный ответ».
• В обсуждениях, почему модель «не выучила» вашу правку. В обычном чате модель не учится: ваши исправления живут в переписке, а не в ней самой.
• В описаниях отраслевых моделей: «модель для юристов», «модель для медицины». Обычно это дообученные версии общих моделей, и сравнивать их стоит с общей моделью на своих задачах, а не по рекламе.
• В новостях о компаниях, которые «натренировали свою модель». Чаще всего это дообучение открытой модели, а не создание с нуля.

С чем путают

Дообучение путают с обучением в чате. Когда вы пишете «запомни, у нас на «вы»», модель ничего не выучивает, правило просто лежит в переписке или в памяти. Дообучение меняет саму модель, и для этого нужны сотни и тысячи примеров. Ещё его путают с базой знаний: там модель ищет ответ в ваших документах, а сама остаётся прежней.

Как это влияет на цену и качество

Дообучение требует денег трижды: на подготовку примеров (это часто самая дорогая часть, потому что делают её люди), на само обучение и на работу дообученной модели, которая стоит дороже обычной. Выигрыш в качестве бывает только на узких однотипных задачах. И каждый раз, когда выходит новая базовая модель, дообучение приходится повторять.

Что делать на практике

• Сначала проверьте, решает ли задачу проект с тремя-пятью хорошими примерами и правилами. В большинстве случаев решает.
• Если примеров меньше нескольких сотен, о дообучении думать рано.
• Если подрядчик обещает «обучить нейросеть», спросите прямо: меняется сама модель или ваши документы лежат в базе, где она ищет. Ответ многое скажет о цене.
• Прежде чем платить, соберите двадцать пар «задача и эталонный ответ» и прогоните их через обычную модель с хорошим запросом. Справляется с большинством? Дообучение не окупится.

Потренироваться руками: Урок 6. Настроить проекты и память под свои задачи. Настроить проект с примерами: то, что стоит сделать до мыслей о дообучении.