Мы знаем, что модель GPT называется ChatGPT, которая является генеративной языковой моделью.
В области генеративного ИИ вопрос пользователя к модели также называется подсказкой. Почему здесь это называется «Подсказка», а не «Вопрос»?На самом деле, мы можем понять это так: подсказка означает, что когда кто-то что-то забывает, вы можете дать ему несколько подсказок, и он сможет это запомнить .
Например, если я скажу: «Во время Цинминского фестиваля идет сильный дождь», вы, естественно, подумаете о следующем предложении: «Пешеходы на дороге хотят умереть».
самоконтролируемое обучение
Почему подсказка является ключевым навыком использования ChatGPT, поэтому нам нужно понять некоторые концепции.
Большая часть машинного обучения, с которым мы сталкивались ранее, представляет собой метод обучения с учителем.Например, в традиционной области распознавания изображений, если мы хотим определить, носит ли человек на изображении маску, мы должны сообщить модели перед обучением , Например, если есть 100 изображений, контролируемое обучение должно заранее пометить эти модели и сообщить модели, какое изображение носит маску, а какое изображение не носит маску - это контролируемое обучение.
Модель GPT изучает задачи обработки естественного языка путем предварительного обучения крупномасштабных корпусов В процессе предварительного обучения используется большое количество неразмеченных корпусов, включая Википедию, новости, романы и т. д.
При предварительном обучении модель GPT будет использовать метод обучения с самоконтролем для прогнозирования входного текста и обучения модели с помощью механизма самоконтроля . В процессе прогнозирования модель попытается сгенерировать следующее слово или символ в соответствии с префиксом входного текста.Этот процесс называется прогнозированием языковой модели. Таким образом, модель GPT может изучать языковые правила, семантическую информацию и контекстуальные отношения в крупномасштабном корпусе, чтобы ее можно было применять к различным задачам обработки естественного языка.
Вот почему, когда мы используем ChatGPT, содержимое ответа модели выводится слово за словом, а не отображается сразу весь абзац, потому что модели необходимо постоянно предсказывать, на какой контент отвечать следующим . (Это можно понимать как завершение текста)
Быстрый
И какой прогноз основан на модели?Это прогноз, основанный на подсказке, которую мы дали.
ChatGPT от основ до ведения боя 
https://edu.csdn.net/course/detail/38557
Например, девочка в зеленом платье на картинке выше представляет Подсказку.Он сказал трем детям три разных подсказки.В это время трое детей могут ответить на соответствующие вопросы на основе подсказок.
Преимущество использования Prompt в ChatGPT заключается в том, что он может ограничить область генерации модели и сделать ее более сфокусированной на определенных темах или задачах . Поскольку модель GPT основана на крупномасштабном самоконтролируемом обучении, она очень всесторонне изучает контекстную информацию входного текста, но это также приводит к тому, что текст, сгенерированный моделью, не соответствует ожидаемой теме или задаче. Добавив на вход Prompt, можно заставить модель обращать внимание на конкретную информацию, тем самым повышая производительность модели на конкретных задачах .
Кроме того, Prompt может помочь модели лучше использовать знания памяти, полученные в процессе обучения с самоконтролем . При обучении с самоконтролем модель GPT изучила большой объем языковых знаний и языковых правил и может генерировать связные тексты на основе контекстной информации. Однако, столкнувшись с конкретной задачей, модель может быть не в состоянии напрямую применить свои знания из обучения с самоконтролем, потому что ей нужна конкретная информация для руководства, чтобы проинструктировать о создании соответствующего текста . Руководствуясь подсказкой, модель может лучше использовать свои запомненные знания в результате самостоятельного обучения и генерировать текст, который больше соответствует ожиданиям .
Это эквивалентно тому, что когда мы задаем вопросы, чем подробнее будет подсказка, тем выше будет качество модельного ответа.
Тип напоминания о задаче Подсказка
Давайте рассмотрим несколько примеров:
Когда я хочу, чтобы ChatGPT помог мне закончить предложение,
Если я наберу первую половину этого предложения напрямую, результат будет таким:
В это время, хотя ChatGPT завершит наши предложения, он расходится в мышлении.На самом деле мне нужен только абзац, но он дал мне весь абзац.
Затем, если мы добавим ограничения на вход
ChatGPT может точно завершить наши потребности и завершить это предложение.
Приведенное выше «Пожалуйста, завершите это предложение» — это то, что мы говорим модели, что называется подсказкой типа напоминания о задаче.
Напоминание о задаче Подсказка — это своего рода классификация подсказок, которая используется, чтобы напомнить модели, какую задачу нужно выполнить . Поскольку существует слишком много задач, которые можно выполнить, введя одно и то же предложение, сообщите модели, какую задачу нужно выполнить на этот раз, с помощью Prompt . Например, в ChatGPT мы вводим описание, а также подсказку «перевод» или «вопрос и ответ», после чего ChatGPT выдаст соответствующие результаты.
Вышеупомянутое является лишь простейшим примером подсказки, и есть много других методов подсказки в практических приложениях.
Подсказка ответа
Например, режим QA - его также можно назвать формой подсказки ответа Подсказка, В следующем примере мы дали положительный или отрицательный результат объяснения в первых трех предложениях, указывающий, является ли эмоция, отраженная в текущем предложении, положительной или отрицательной. . Не оценивается только последнее предложение, а это означает, что модель основана на трех предыдущих содержаниях и может сама судить об эмоциях последнего предложения.
Эквивалент формата использования вопросов и ответов для руководства моделью по выполнению задачи.
После ввода вопроса в ChatGPT модель оценит последнее предложение как отрицательное.
Этот режим QA эквивалентен предоставлению модели ситуационного обучения с помощью небольшого количества подсказок. Пусть модель рассудит, к какому ярлыку относится следующий контент.
Состав подсказки
В приведенных выше двух примерах соответственно представлены типы дизайна двух подсказок: подсказка задачи и подсказка ответа.
Хотя состав слов подсказки может быть очень сложным, в целом подсказка может содержать следующие элементы:
Инструкция : сообщите модели задачу, которую вы хотите, чтобы она выполнила, например: «Пожалуйста, переведите следующее предложение на английский язык:» — это инструкция.
Context Contenxt : контекст текущего разговора — это фон и контекст.Например, позвольте ChatGPT выполнять ролевые игры и направлять ИИ для получения более точного выходного контента, назначая роль ИИ.
Следующий пример — установить контекст для модели посредством ролевой игры, после чего модель заменит себя ролью интервьюера Microsoft, чтобы ответить на наши вопросы.
Входные данные Входные данные : то, что вы хотите запросить или найти ответ, например, фрагмент текста, вопрос.
Тем не менее приведенный выше пример «Как бы вы взяли у меня интервью» — это входные данные в слове подсказки подсказки.
Но обычно одних Входных данных недостаточно.Например, вышеуказанная проблема должна взаимодействовать с Контекстом, чтобы ограничить контекст проблемы.
Индикатор вывода Индикатор вывода : сообщите модели тип или формат вывода, который вы хотите.
Например, пусть модель дает вам список или пусть модель дает вам результат, разделенный точкой с запятой, все они относятся к выходному индикатору.
Следует отметить, что не все слова подсказки будут содержать все элементы, например, некоторые будут содержать только входные данные, а некоторые будут содержать входные данные и индикатор вывода, поэтому, какие элементы будут включены в конкретное слово подсказки, зависит от нас. требования задачи.
Подведем итог
Слова-подсказки важны не только в ChatGPT, это очень важная концепция во всех генеративных ИИ, даже специально для Подсказок Недавно в Интернете была распространена новая профессия - Подсказки-Инженерия. Это работа - разрабатывать и оптимизировать Подсказки, чтобы лучше использовать языковые модели для различных приложений и тем.
Сегодня мы просто познакомим вас с тем, что такое подсказка.Благодаря сегодняшнему контенту вы должны знать, что подсказка — это контент, который мы вводим, когда запрашиваем ChatGPT, и подсказка делится на тип подсказки задачи и тип подсказки ответа в соответствии с типом. может быть Содержит несколько компонентов, таких как входные данные входных данных, выходной индикатор выходного индикатора, контекст контекста и инструкции по эксплуатации.
ChatGPT от основ до ведения боя https://edu.csdn.net/course/detail/38557
