[ChatGPT] OpenAI API reference :: Create chat completion의 패러미터 설명

 

https://platform.openai.com/docs/api-reference/chat/create

 

로 접속하면 패러미터들에 대한 설명을 확인할 수 있다. 

 

• messages, array, Required, 지금까지의 대화를 구성하는 메시지 목록입니다. 파이썬 코드 예시를 포함합니다.
• model, string, Required, 사용할 모델의 ID입니다. 어떤 모델이 Chat API와 호환되는지 상세히 알아보려면 모델 엔드포인트 호환성 표를 확인하세요.
• frequency_penalty, number or null, Optional, 기본값은 0입니다. -2.0에서 2.0 사이의 숫자입니다. 양수 값은 지금까지의 텍스트 내에서 존재하는 토큰의 빈도에 기반하여 새 토큰을 벌점하여, 모델이 동일한 줄을 그대로 반복할 가능성을 감소시킵니다. 반복적인 샘플을 어느 정도 줄이는 것이 목표인 경우 합리적인 페널티 계수의 값은 약 0.1~1입니다. 반복을 강력하게 억제하는 것이 목표라면 계수를 2까지 늘릴 수 있지만 이는 샘플의 품질을 눈에 띄게 저하시킬 수 있습니다. 반복 가능성을 높이기 위해 음수 값을 사용할 수 있습니다.
• logit_bias, map, Optional, 기본값은 null입니다. 완성에서 특정 토큰이 나타날 가능성을 수정합니다. 토크나이저에서 토큰 ID로 지정된 토큰들을 -100에서 100 사이의 연관된 편향 값으로 매핑하는 JSON 객체를 받습니다. 수학적으로, 편향은 샘플링 전에 모델에 의해 생성된 로짓에 추가됩니다.
• logprobs, boolean or null, Optional, 기본값은 false입니다. 출력 토큰의 로그 확률을 반환할지 여부입니다. 이 옵션을 사용하려면 참으로 설정해야 합니다. 현재 gpt-4-vision-preview 모델에서는 이 옵션을 사용할 수 없습니다.
• top_logprobs, integer or null, Optional, 0에서 5 사이의 정수로, 각 토큰 위치에서 가장 가능성이 높은 토큰들의 로그 확률과 함께 반환할 토큰의 수를 지정합니다. 이 매개변수를 사용하려면 logprobs가 참으로 설정되어야 합니다.
• max_tokens, integer or null, Optional, 챗 완성에서 생성할 수 있는 최대 토큰 수입니다. 입력 토큰과 생성된 토큰의 총 길이는 모델의 컨텍스트 길이에 의해 제한됩니다.
• n, integer or null, Optional, 기본값은 1입니다. 각 입력 메시지에 대해 생성할 챗 완성 선택지의 수입니다.
• presence_penalty, number or null, Optional, 기본값은 0입니다. -2.0에서 2.0 사이의 숫자입니다. 긍정적인 값은 지금까지의 텍스트에 나타나는 새 토큰을 벌점하여, 모델이 새로운 주제에 대해 이야기할 가능성을 증가시킵니다.
• response_format, object, Optional, 모델이 출력해야 하는 형식을 지정하는 객체입니다. {"type": "json_object"}로 설정하면 JSON 모드가 활성화되어, 모델이 생성하는 메시지가 유효한 JSON임을 보장합니다.
• seed, integer or null, Optional, 지정된 경우, 동일한 seed와 매개변수를 사용한 반복 요청이 동일한 결과를 반환하도록 시스템이 최선을 다해 결정적으로 샘플링합니다.
• stop, string / array / null, Optional, 기본값은 null입니다. API가 추가 토큰 생성을 멈출 최대 4개의 시퀀스입니다.
• stream, boolean or null, Optional, 기본값은 false입니다. 설정

된 경우, ChatGPT처럼 부분 메시지 델타가 전송됩니다. 토큰이 사용 가능해지면 데이터 전용 서버 전송 이벤트로 전송되며, 스트림은 data: [DONE] 메시지로 종료됩니다.

• temperature, number or null, Optional, 기본값은 1입니다. 사용할 샘플링 온도를 0에서 2 사이로 지정합니다.
• top_p, number or null, Optional, 기본값은 1입니다. 온도 샘플링의 대안으로, 모델이 top_p 확률 질량을 가진 결과를 고려하는 뉴클리어스 샘플링입니다.
• tools, array, Optional, 모델이 호출할 수 있는 도구 목록입니다. 현재 도구로는 함수만 지원됩니다.
• tool_choice, string or object, Optional, 모델이 함수를 호출할지 메시지를 생성할지를 제어합니다.
• user, string, Optional, 최종 사용자를 나타내는 고유 식별자입니다. OpenAI에서 남용을 모니터링하고 감지하는 데 도움이 될 수 있습니다.