Повысьте производительность ChatGPT с помощью Prompt Engineering

ChatGPT генерирует ответы, используя метод, называемый авторегрессией, который включает в себя предсказание наиболее вероятного следующего слова в последовательности на основе предыдущих слов. Но, если вы попробуете ChatGPT, вы поймёте, что качество данного ответа напрямую будет зависеть от качества вопроса.

Секрет получения наилучшего возможного ответа заключается в том, чтобы понять, как ChatGPT будет его генерировать, и соответствующим образом сформулировать вопрос.

В этой статье мы обсудим несколько приёмов написания хороших подсказок для ChatGPT, чтобы вы могли использовать их для решения желаемой задачи.

Возможности модели зависят от контекста

При запуске ChatGPT одной из самых распространённых ошибок является убеждение, что его возможности фиксированы во всех контекстах.

Например, если ChatGPT способен успешно ответить на конкретный вопрос или выполнить определённую задачу, мы можем подумать, что он также способен ответить на вопрос в любой области или решить любые типы задач.

Но это ложное суждение…

ChatGPT был обучен на огромной, но всё же ограниченной базе данных и оптимизирован для определённых задач.

Тем не менее, использование правильных подсказок может помочь ChatGPT найти корректный ответ в конкретной области или справиться с новой задачей.

Возможности модели также зависят от времени

Также может произойти такое, что ChatGPT даёт неправильные ответы при решении сложных задач.

Как и у людей, если вы дадите человеку сумму из 4 цифр, ему потребуется некоторое время, чтобы подумать и ответить правильно. Если они сделают это в спешке, то легко могут просчитаться. Аналогично, если вы дадите ChatGPT задачу, которая слишком сложна для выполнения за время, необходимое для вычисления следующего токена, он может выдать неверное предположение.

Тем не менее, это не обязательно означает, что модель неспособна справиться с поставленной задачей. Имея некоторое время на то, чтобы всё обдумать, модель всё ещё может быть в состоянии дать надёжный ответ.

Есть способы помочь ChatGPT добиться успеха в решении ваших сложных задач.

И вот теперь пришло время! Давайте исследуем эти техники!

Zero-shot prompting

При использовании ChatGPT люди большую часть времени используют zero-shot prompting. Данный термин применим в тех случаях, когда человек задаёт вопрос сразу.

Если вопрос будет достаточно прост, модель сможет дать последовательный ответ. Но с помощью этого метода пользователь не может контролировать точность ответа или формат.

Вот несколько примеров запроса zero-shot prompting в ChatGPT:

В этих примерах подсказка состоит из простого вопроса или утверждения, а ChatGPT предоставляет правильный ответ даже без какой-либо предварительной подготовки по конкретной задаче или теме.

Это демонстрирует мощь подсказок и способность больших языковых моделей, таких как ChatGPT, генерировать ответы, похожие на человеческие, и в конечном итоге обобщать их для новых задач и областей.

Как улучшить данный способ?

Есть несколько приёмов для написания хороших подсказок при использовании zero-shot prompting, таких как предоставление более чётких инструкций или разделение сложных задач на более простые подзадачи. Тем не менее, эти трюки могут быть немного бессмысленными без конкретных примеров или знания теории, лежащей в их основе.

Существует хорошее стандартное выражение, которое можно включить в ваши подсказки, независимо от того, какую сложную задачу вы просите ChatGPT решить:

Let’s think step by step (Давайте продумаем всё шаг за шагом)

Трюк “Let’s Think”

Опубликованный Такеши Кодзимой в 2022 году, самый простой способ побудить модель продумать ответ – это просто дополнить вопрос словами Let’s think step by step (“давайте продумаем всё шаг за шагом”).

Это простое утверждение может помочь модели направить себя к правильному результату. Поскольку оно просит вести рассуждения шаг за шагом, это также способ предоставить модели необходимое время для генерации правильного ответа.

Трюк Let's think step by step хорошо работает в сложных задачах, таких как математические задачи или вопросы, требующие некоторого рассуждения, но также и в вопросах общего характера:

Как мы можем видеть, ChatGPT предоставляет самый обновлённый ответ только при использовании инструкции Let's think step by step.

Если вы применяете этот метод к своим собственным задачам, не бойтесь экспериментировать с настройкой инструкции!

Например, вы можете попробовать более структурированные варианты, такие как “Сначала подумайте шаг за шагом о том, почему X может быть правдой. Во-вторых, подумайте шаг за шагом о том, почему Y может быть правдой. В-третьих, подумайте шаг за шагом о том, имеет ли X или Y общий смысл”.

Этот метод заставляет модель обдумывать ответ постепенно!

One-shot prompting

В некоторых случаях проще показать модели, чего вы хотите, чем просто указать на это. Это особенно полезно, если вам нужен ответ в определённом формате или с определённой точностью.

В то время как zero-shot prompting в ChatGPT позволяет модели генерировать ответы на новые задачи без какого-либо явного обучения, one-shot prompting предполагает показ модели небольшого набора примеров, похожих на целевую задачу, что позволяет ей быстро адаптироваться и предоставлять точные ответы.

Этот метод позволяет генерировать текст на естественном языке с ограниченным объёмом входных данных, таких как один пример или шаблон, и позволяет создавать предсказуемые выходные данные.

Например, если компания хочет создать чат-бота для оказания помощи в поддержке клиентов, она может использовать one-shot prompting для точной настройки модели ChatGPT на основе небольшого набора запросов и ответов клиентов.

Как упоминалось выше, данный тип подсказок особенно полезен, если вам нужен определённый формат вывода:

Как мы можем видеть из приведённого выше примера, ChatGPT адаптирует свои выходные данные к желаемому формату.

Few-shot prompting

В то время как zero-shot prompting и one-shot prompting уже являются достаточно мощными инструментами, few-shot prompting продвигают концепцию на шаг вперёд, позволяя модели быстро осваивать новые задачи с большим объёмом данных.

Few-shot prompting была изучена Джейсоном Вэем, Денни Чжоу и др. из Google, и её можно рассматривать как демонстрацию модели того, как отвечать на нескольких примерах.

Few-shot обучение работает так же, как и one-shot prompting, но количество приводимых примеров больше (обычно около сотни). Производительность модели линейно возрастает с увеличением количества примеров.

Этот подход особенно полезен для задач, требующих более специализированных знаний или знаний, специфичных для конкретной предметной области, где модель может не обладать достаточными базовыми знаниями для выполнения задачи при использованием предыдущих типов подсказок.

Например, представьте, что компания хочет разработать чат-бота для помощи в постановке медицинских диагнозов. Хотя one-shot prompting может быть эффективной для обучения модели нескольким распространённым заболеваниям, её может оказаться недостаточно для более сложных диагнозов. В этом случае few-shot prompting можно было бы использовать для точной настройки модели на небольшом наборе медицинских случаев и диагнозов, что позволило бы чат-боту предоставлять точные и информированные медицинские рекомендации.

В этом случае вы могли бы включить в свою подсказку следующую информацию:

Prompt: Q: What are the symptoms of the flu?
        A: The flu is a respiratory illness caused by the influenza virus. Common symptoms include fever, cough, sore throat, runny or stuffy nose, body aches, headache, chills, and fatigue.
        
        Q: What are the symptoms of a heart attack?
        A: A heart attack occurs when blood flow to the heart muscle is blocked. Common symptoms include chest pain or discomfort, shortness of breath, lightheadedness, nausea, and pain or discomfort in the arms, back, neck, jaw or stomach.
        
        Q: What are the symptoms of a stroke?
        A: A stroke occurs when blood flow to the brain is disrupted. Common symptoms include sudden weakness or numbness in the face, arm, or leg (especially on one side of the body), confusion, trouble speaking or understanding speech, vision problems, dizziness, and severe headache.

С помощью этого запроса чат-бот может использовать предоставленные пары вопросов и ответов в качестве контекста, чтобы помочь диагностировать медицинские состояния. При появлении запроса с таким симптомом, как “У меня температура и кашель”, чат-бот может использовать своё понимание симптомов из предоставленных наборов данных, чтобы сгенерировать более информативный ответ.

Преимущества Few-shot prompting

Одно из преимуществ подхода, основанного на нескольких примерах, по сравнению с методом “Let’s think step by step” заключается в том, что вам легче указать формат, длину и стиль рассуждений, которые вы хотите, чтобы модель вывела в итоге.

Это может быть особенно полезно в тех случаях, когда модель изначально рассуждает неправильно или недостаточно глубоко.

И это всё! Методы разработки подсказок, такие как zero-shot, one-shot и few-shot prompting, могут предоставить вам больше гибкости и контроля при создании выходных данных, используя преимущества таких моделей, как ChatGPT.

Попробуйте методы, описанные в этой статье, для создания более надёжных и высокопроизводительных подсказок, теперь, когда вы знаете, как разработка подсказок может повлиять на ваши результаты!