Prompting Techniques

# Техники промптинга

LLM настроены на выполнение инструкций и обучены на огромных массивах данных, что позволяет им понимать промпты и генерировать ответы. Но LLM не идеальны: чем четче текст вашего промпта, тем легче модели предсказать наиболее вероятное продолжение. Кроме того, специальные техники, использующие особенности обучения и работы LLM, помогут вам получать более релевантные результаты.

Теперь, когда мы понимаем, что такое промпт-инжиниринг и что для него требуется, давайте разберем примеры наиболее важных техник промптинга.

## Общие промпты / Zero-shot

*Zero-shot* [5] (от англ. «нулевой выстрел» или промптинг без примеров) — это самый простой тип промпта. Он содержит только описание задачи и некоторый текст, с которого LLM должна начать работу. Этим вводом может быть что угодно: вопрос, начало истории или инструкция. Название zero-shot означает «без примеров».

Воспользуемся Vertex AI Studio (раздел Language) в Vertex AI [6], где есть «песочница» для тестирования промптов. В Таблице 1 показан пример zero-shot промпта для классификации отзывов о фильмах.

Формат таблицы, использованный ниже — отличный способ документирования промптов. Ваши промпты, скорее всего, пройдут через множество итераций, прежде чем попадут в финальный код, поэтому важно отслеживать работу по промпт-инжинирингу дисциплинированным и структурированным образом. Подробнее об этом табличном формате, важности отслеживания работы и процессе разработки промптов рассказано ниже в разделе «Лучшие практики» («Документируйте различные попытки составления промптов»).

Температуру модели следует установить на низкое значение, так как креативность здесь не требуется. Мы используем стандартные значения top-K и top-P для gemini-pro, которые фактически отключают эти настройки (см. раздел «Конфигурация вывода LLM»). Обратите внимание на сгенерированный результат. Слова *disturbing* (тревожный) и *masterpiece* (шедевр) могут усложнить предсказание, так как оба слова использованы в одном предложении.

Название: 1\_1\_movie\_classification 

| Цель | Классифицировать отзывы о фильмах как положительные, нейтральные или отрицательные. | | |
| :---- | :---- | :---- | :---- |
| Модель | gemini-pro | | |
| Температура | 0.1 | Лимит токенов | 5 |
| Top-K | N/A | Top-P | 1 |
| Промпт | `Classify movie reviews as POSITIVE, NEUTRAL or NEGATIVE. Review: "Her" is a disturbing study revealing the direction humanity is headed if AI is allowed to keep evolving, unchecked. I wish there were more movies like this masterpiece. Sentiment:` | | |

Вывод: POSITIVE 

Таблица 1. Пример zero-shot промптинга.

Когда zero-shot не срабатывает, вы можете предоставить демонстрации или примеры в промпте, что приводит нас к техникам «one-shot» и «few-shot».

## One-shot и few-shot

При создании промптов для ИИ полезно приводить примеры. Они помогают модели понять, что именно вы от нее хотите. Примеры особенно полезны, если вы хотите направить модель к определенной структуре или шаблону вывода.

**One-shot промпт** (промптинг с одним примером) содержит *один* пример, отсюда и название. Идея в том, что у модели есть образец, которому она может подражать для наилучшего выполнения задачи.

**Few-shot промпт** [7] (промптинг с несколькими примерами) предоставляет модели *несколько* примеров. Этот подход показывает модели шаблон, которому необходимо следовать. Идея схожа с one-shot, но наличие нескольких примеров желаемого паттерна повышает шансы на то, что модель будет ему следовать.

Количество примеров, необходимых для few-shot промптинга, зависит от нескольких факторов, включая сложность задачи, качество примеров и возможности используемой модели генеративного ИИ. В качестве общего правила стоит использовать от трех до пяти примеров. Однако для сложных задач может потребоваться больше, а иногда меньше — из-за ограничений длины входных данных вашей модели.

В Таблице 2 показан пример few-shot промпта. Будем использовать те же настройки конфигурации gemini-pro, что и раньше, увеличив лишь лимит токенов для размещения более длинного ответа.

Цель: Разобрать заказы пиццы в формат JSON

| Модель | gemini-pro | | |
| :---- | :---- | :---- | :---- |
| Температура | 0.1 | Лимит токенов | 250 |
| Top-K | N/A | Top-P | 1 |

Промпт: `Parse a customer's pizza order into valid JSON:`

`EXAMPLE:`

`I want a small pizza with cheese, tomato sauce, and pepperoni. JSON Response:`