Обучение моделей GPT в Конструкторе ботов

Обучение моделей

После подключения ChatGPT к боту можно создавать новые модели для обучения. Это нужно, чтобы AI узнал о вашей компании и мог ответить на вопросы про нее.

Обучение модели происходит на основе быстрых ответов. Как их подготовить — читайте в статье «Типовые быстрые ответы». Также можно использовать файлы JSONL.

Создание файла JSONL для обучения модели

JSONL — формат, в котором каждая строка файла — JSON.

1. Создайте файл формата JSONL, например, в обычном текстовом редакторе.

2. В файле создайте не менее 10 строк – примеров с вопросами пользователя и ответами ассистента. Формат строки:

{“messages”: [{“role”: “user”, “content”: “вопрос”}, {“role”: “assistant”, “content”: “ответ”}]}

Роль (role) может быть двух видов: ассиcтент (assistant) или пользователь (user). Контент (content) — текст сообщения. Вопрос или ответ не должны превышать 5000 символов или быть пустыми.

Создание модели для обучения

1. Перейдите в бот, к которому подключен ChatGPT;

2. Выберите в Основных настройках «GPT API» и заполните основные параметры.

3. Включите опцию Отправлять сообщение «Сомнение», если в этом есть необходимость — бот будет отправлять введенное сообщение, когда не может найти точный ответ на запрос клиента.

4. Нажмите на поле с моделью OpenAI и выберите модель из доступных.

5. Выберите уже существующую модель либо нажмите на «+», чтобы создать новую.

6. В окне «Новая модель» заполните параметры:

• Название — добавьте название, чтобы новая модель отличалась от других;
• Версия GPT — выберите версию GPT;
• Язык — укажите язык модели. Если оставить поле пустым, то ответ будет генерироваться на том же языке, что и вопрос;
• Контекст — добавьте материал, на котором будет обучаться модель. Выберите папки с Быстрыми ответами по отмеченным темам, либо загрузите файл формата JSONL.

• «Настройки модели» — при нажатии откроется новое меню:

• Температура — чем ниже значение параметра, тем ближе к теме будет отвечать модель. Оптимально 0.4.
• Системный промпт — это условия или ограничения для генерации ответа. GPT будет стараться соответствовать этому условию.
  Например: Отвечай как сотрудник технической поддержки.
• TOP_P — регулировка степени разнообразия в тексте, насколько следующее предложение будет соотноситься с предыдущим.
• Stop sequences — последовательность символов, после которой модель перестает генерировать сообщение. Если ввести «123» — когда нейросеть сгенерирует в тексте «123», то она остановится.
• Frequency penalty — Число от -2.0 до 2.0. Чем выше значение, тем меньше вероятность повторения дословно одной и той же строки.
• Presence penalty — Число от -2.0 до 2.0. Чем выше значение, тем больше вероятность того, что модель будет говорить о новых темах.

Рекомендуем изменять либо температуру, либо TOP_P, а не оба параметра сразу. Иначе результат может стать непредсказуемым.

7. После заполнения параметров нажмите «Готово» и в меню модели — «Обучить».

Результат успешного обучения будет отображен в статусе модели:

Процесс обучения отображается над полем “Сохранить”.

После завершения процесса обучения можно будет использовать в Конструкторе ботов.

8. Нажмите «Сохранить» модель и сам чат-бот.

Как проверить статус обучения

1. Нажмите «Выбрать модель»;

2. Нажмите на нужную модель;

3. Появится оно с процессом обучения. Можно изменить имя, язык и добавить контекст, чтобы запустить «Переобучение» — дополнить обучение модели.