ChatGPT Prompt Engineering: 질문 잘 넣어서 말 잘듣는 챗봇 만드는 법

이 포스트의 더 적절한 제목은

'OpenAI의 LLM API에 알맞은 prompt를 넘겨서 내가 의도한대로 대답하는 챗봇 만드는 법'

이다. 

 

드디어 업무상 OpenAI의 LLM을 써볼 기회가 생겼다.

기억용으로 간이 공부한 내용을 기록해본다.

 

사실 올초 ChatGPT가 등장하자마자 고맙게도 회사에서 ChatGPT를 제공해주었고, (Azure를 통해 사용한다^^)

그동안은 주로 syntax 점검, 리팩토링, 심심풀이(?)에 사용해오긴 했었다.

---

용어정리

• OpenAI: 회사 이름
• ChatGPT: OpenAI에서 제공하는 애플리케이션 이름. 즉 interface.
• LLM: Large Language Model. OpenAI가 개발한 언어 모델들을 통칭한다. GPT-4가 한 종류이고 2023년 10월 현재 ChatGPT가 사용중.
• Prompt Engineering: '질문 잘하는 법'. LLM에 넘기는 첫 input을 prompt라고 한다. 따라서 '첫 지시'인 셈. 이 prompt를 전략적으로 매우 잘 써야 원하는 답변을 받을 수 있는데, 이 prompt를 잘 만드는 프로세스를 prompt engineering이라고 한다. 

따라서 엄밀히 말하면 이 포스트의 제목은 약간 틀린거다. 그래도 공부한 강의 제목이 ChatGPT Prompt Engineering이고, ChatGPT 키워드가 조회수에 이득이 클 것 같다.

 

 

프롬프트 엔지니어링 기본

1. 그 어떤 Prompt도 초안대로 사용하지 않는다. 좋은 프롬프트 자체보다 좋은 프롬프트를 만드는 프로세스를 구축하는 것이 더 중요하다. 답을 여러번 내보고, 여러번 개선한다.
2. 명확하게 쓰고, specific하게 지시를 내린다.
   1. ```, """, <>, <tag>, : 등의 적절한 Delimeter를 사용한다.
   2. Output 형식을 지정해줘도 된다. JSON, HTML 가능. Output 예시를 알려줘도 된다.
   3. 예외 케이스를 알려준다. (예: 식당 주문 봇인데, 만약 사용자가 없는 메뉴를 달라하면 "Naga" 라고 대답해라)
3. 생각할 시간을 좀 준다. 얘도 시간이 쫄리면 오답을 낸다.
   1. 어떤 순서로 생각할지 알려줘도 된다.
   2. 직접 답을 먼저 내본 후에 내가 준 답안을 검토하라고 한다

 

챗봇 만들기

• 챗봇의 등장인물(Role)은 셋이다. System, Assistant(자동 응답하는 애), User(나).
• 우리가 보는 챗봇 메시지는 Assistant, User만 보낸다.
• System은 Assistant옆에 붙어서 귓속말로 속닥속닥 행동지침을 주는애다. ("저는 식당에서 서빙하는 친절한 알바생이야.")

출처: https://www.deeplearning.ai/short-courses/chatgpt-prompt-engineering-for-developers/

payload 예시

messages = [
	{
    	"role": "system",
        "content": "너는 식당 주문받는 어시스턴트야. 친절해야하고, 내가 알려주지 않은 정보는 말하면 안돼...."
    },
    {
    	"role": "user",
        "content": "메뉴 뭐뭐 있나요?"
    },
    {
    	"role": "assistant",
        "content": "메뉴는 !@#!$ , !@#.... 가 있습니다"
    },
    {
    	"role": "user",
        "content": "!@#!$ 는 얼마예요?"
    },
]

 

---

참조

ChatGPT Prompt Engineering: https://www.deeplearning.ai/short-courses/chatgpt-prompt-engineering-for-developers/