🧑‍🏫Instruct-Following이란?

Instruct-following이란?

일반적인 언어 모델은 "나는 밥을 ..."이라는 말을 들으면 "먹는다", "먹었다", "먹고싶다",...와 같이 다음에 이어질 말을 생성합니다.

즉, "나는 밥을"이라는 문장을 기반으로, 다음 단어의 확률을 계산하는 함수가 바로 언어 모델입니다.

OpenAI의 GPT-3(davinci)은 단순히 말을 잇습니다.

한편, ChatGPT나 InstructGPT(=GPT3.5)와 같이 아래와 같은 형태의 <명령어>를 넣어주면 해당 명령(Instruct)를 따르는 방식으로 학습할 경우, 새로운 명령에 대해서도 능동적으로 대응하는 것을 볼 수 있습니다.

OpenAI의 InstructGPT(GPT3.5, text-davinci-003)는 명령어에 기반한 답을 생성합니다.

위와 같이, 새로운 명령에 대한 제한된 응답이 생성가능해 여러 방면으로 사용이 가능합니다.