조코딩의 챗GPT API를 활용한 수익형 웹 서비스 만들기 1

출처: 조코딩의 챗GPT API를 활용한 수익형 웹 서비스 만들기

Chapter 03 생성 AI & API 손에 익히기 - 챗GPT의 플레이그라운드
플레이그라운드
챗GPT API 메뉴 살펴보기
카드 등록하기
챗GPT 프롬프트 실전 팁

플레이그라운드

웹사이트 (https://platform.openai.com/playground)

SYSTEM, USER, ASSISTANT 3가지로 구성 

위와 같으 메시지가 확인된다면 유료로 전환  Mangagement account -> Billing에서 카드 등록이 필요

기타옵션

1) temperature 생성된 텍스트의 창의성과 다양성을 제어하는 데 사용되는 중요한 파라미터

0~1 사이 값으로 높을수록 창의적의 답변을 줍니다

2) maximum length 모델이 생성할 텍스트의 최대 길이를 설정하는 파라미터 너무 짧으면 완전한 응답을 받지 못하고 너무 길면 불필요한 응답을 받습니다. 한글은 영어보다 더많은 토큰 갯수를 소모하며 영어보다 비용이 높습니다. 

1. 사용 예:
   • 짧은 응답: 간단한 질문에 대한 답변이나 짧은 설명을 원할 때 maximum length를 낮게 설정합니다. 예를 들어, "maximum length: 20"으로 설정하면 간결하고 짧은 답변을 받을 수 있습니다.
   • 긴 응답: 자세한 설명이나 긴 글을 원할 때 maximum length를 높게 설정합니다. 예를 들어, "maximum length: 200"으로 설정하면 더 길고 상세한 답변을 받을 수 있습니다.

3)TOP P 텍스트의 품질과 다양성을 제어하는 데 사용되는 중요한 파라미터 중 하나

1. top p vs. temperature:
   • top p와 temperature 모두 텍스트의 창의성과 다양성을 조절하지만, 방식이 다릅니다.
   • temperature는 모든 후보 단어의 확률 분포를 조절하는 반면, top p는 상위 확률 후보들만 선택합니다.
   • 두 옵션을 함께 사용하면 보다 세밀한 제어가 가능합니다. 예를 들어, 높은 temperature와 낮은 top p를 함께 사용하면 다양한 단어들 중에서 상위 확률 단어들만 선택하게 됩니다.
2. 사용예제

response = openai.Completion.create(
  engine="text-davinci-003",
  prompt="OpenAI의 top p 옵션에 대해 설명해주세요.",
  max_tokens=100,
  top_p=0.9
)

예에서는 top p를 0.9로 설정하여 모델이 다음 단어를 선택할 때 상위 90% 확률의 후보들만 고려하게 했습니다. 이처럼 top p 옵션을 사용하여 텍스트 생성의 다양성과 품질을 효과적으로 조절할 수 있습니다.