GPT-4 API가 일반 사용자에게 공개되다!

오늘부터 모든 유료 API 고객들은 GPT-4에 접근할 수 있게 되었습니다. 이번 3월에는 ChatGPT API를 소개하였고, 이번 달 초에는 채팅 기반 모델에 대한 첫 업데이트를 발표하였습니다. 우리는 채팅 기반 모델이 어떠한 사용 사례도 지원할 수 있는 미래를 상상하고 있습니다. 오늘, 우리는 Completions API의 이전 모델에 대한 폐기 계획을 발표하며, 사용자들이 Chat Completions API를 채택하도록 권장합니다.

GPT-4 API 일반 사용 가능

 

 

GPT-4는 우리의 가장 능력 있는 모델입니다. 3월 이후로 수백만 개발자들이 GPT-4 API에 접근하려는 요청을 하였고, GPT-4를 활용하는 혁신적인 제품의 범위는 매일매일 성장하고 있습니다. 오늘부터는 모든 기존 API 개발자들이 성공적인 결제 이력이 있는 경우 GPT-4 API에 8K 컨텍스트로 접근할 수 있습니다. 이달 말까지 새로운 개발자들에게 접근을 열 예정이며, 그 후에는 컴퓨팅 가능성에 따라 제한을 높일 계획입니다.

이러한 모델들이 생산 규모 사용에 대한 안정성과 준비 상태에 기반하여, 우리는 또한 GPT-3.5 Turbo, DALL·E 그리고 Whisper API를 일반적으로 사용 가능하게 만들고 있습니다. 우리는 GPT-4와 GPT-3.5 Turbo에 대한 안전한 Fine-tuning을 가능하게 하는 작업을 진행 중이며, 이 기능이 올해 후반에 사용 가능해질 것으로 예상하고 있습니다.

 

텍스트 완성에서 채팅 완성으로의 이동

 

우리는 3월에 Chat Completions API를 소개하였고, 이제 API GPT 사용의 97%를 차지하고 있습니다.

초기 Completions API는 2020년 6월에 우리의 언어 모델과 상호작용하는 자유형 텍스트 프롬프트를 제공하기 위해 도입되었습니다. 이후에 우리는 더 구조화된 프롬프트 인터페이스로 종종 더 나은 결과를 제공할 수 있다는 것을 알게 되었습니다. 채팅 기반 패러다임은 강력하게 증명되었으며, 이전의 대부분의 사용 사례와 새로운 대화형 필요성을 처리하면서 더 높은 유연성과 특정성을 제공하였습니다. 특히, Chat Completions API의 구조화된 인터페이스(예: 시스템 메시지, 함수 호출)와 다중 턴 대화 기능은 개발자들이 대화형 경험과 광범위한 완성 작업을 구축할 수 있게 하였습니다. 또한 사용자가 제공한 콘텐츠를 지시사항에서 구조적으로 분리할 수 있으므로 프롬프트 주입 공격의 위험을 줄이는 데 도움이 되었습니다.

우리는 이 방향으로의 플랫폼 노력 대부분을 계속 투자할 계획이며, 이것이 개발자들에게 점점 더 능력 있는 쉽게 사용할 수 있는 경험을 제공할 것이라고 믿습니다. 우리는 Chat Completions API의 마지막 몇 가지 남은 간극을 빠르게 해결하는 작업을 진행 중이며, 완성 토큰에 대한 로그 확률과 "대화성" 응답의 감소를 위한 증가된 조종 가능성과 같은 것들입니다.

 

Completions API의 이전 모델 폐기

 

Chat Completions API에 대한 증가된 투자와 우리의 컴퓨팅 용량을 최적화하기 위한 노력의 일환으로, 6개월 후에 우리는 Completions API를 사용하는 몇몇 이전 모델을 퇴역시킬 것입니다. 이 API는 접근 가능할 것이지만, 오늘부터 우리는 개발자 문서에서 이를 "레거시"로 표시할 계획입니다. 우리는 미래의 모델과 제품 개선을 Chat Completions API에 초점을 맞추고, Completions API를 사용하여 새로운 모델을 공개적으로 출시할 계획은 없습니다.

2024년 1월 4일부터, 이전 완성 모델은 더 이상 사용할 수 없게 되며, 다음 모델로 대체될 것입니다: 이전 모델 새 모델

ada ada-002

babbage babbage-002

curie curie-002

davinci davinci-002

davinci-instruct-beta gpt-3.5-turbo-instruct curie-instruct-beta

text-ada-001

text-babbage-001

text-curie-001

text-davinci-001

text-davinci-002

text-davinci-003

 

기본 GPT-3 모델에 대한 안정적인 모델 이름을 사용하는 응용 프로그램(ada, babbage, curie, davinci)은 2024년 1월 4일에 위에 나열된 새로운 모델로 자동 업그레이드될 것입니다. 새로운 모델들은 또한 API 호출에서 다음 모델 이름을 지정함으로써 조기 테스트를 위해 몇 주 내에 접근 가능할 것입니다: ada-002, babbage-002, curie-002, davinci-002.

다른 이전 완성 모델(예: text-davinci-003)을 사용하는 개발자들은 2024년 1월 4일까지 수동으로 그들의 통합을 업그레이드해야 할 것이며, 이는 API 요청의 "model" 매개변수에서 gpt-3.5-turbo-instruct를 지정함으로써 이루어집니다. gpt-3.5-turbo-instruct는 InstructGPT 스타일의 모델로, text-davinci-003과 유사하게 훈련되었습니다. 이 새 모델은 Completions API에서의 대체 가능한 모델이며, 조기 테스트를 위해 몇 주 내에 사용 가능할 것입니다.

 

2024년 1월 4일 이후에도 그들의 Fine-tuned 모델을 계속 사용하려는 개발자들은 새로운 기본 GPT-3 모델(ada-002, babbage-002, curie-002, davinci-002) 또는 더 새로운 모델(gpt-3.5-turbo, gpt-4) 위에 대체품을 Fine-tuning해야 할 것입니다. 이 기능이 올해 후반에 사용 가능해지면, 우리는 이전에 더 이상의 모델을 Fine-tuning한 사용자들에게 GPT-3.5 Turbo와 GPT-4 Fine-tuning에 우선 접근 권한을 줄 것입니다. 우리는 자신의 데이터에 Fine-tuning된 모델에서 이동하는 것이 어려운 것임을 인정합니다. 우리는 이전에 모델을 Fine-tuning한 사용자들에게 이 전환을 가능한 한 원활하게 만들기 위한 지원을 제공할 것입니다.

다음 몇 주 동안, 우리는 이러한 이전 모델을 최근에 사용한 개발자들에게 연락을 취하고, 새로운 완성 모델이 조기 테스트를 위해 준비되면 더 많은 정보를 제공할 것입니다.

 

이전 임베딩 모델의 폐기

 

이전 임베딩 모델의 사용자들(예: text-search-davinci-doc-001)은 2024년 1월 4일까지 text-embedding-ada-002로 이동해야 합니다. 우리는 2022년 12월에 text-embedding-ada-002를 출시하였고, 이전 모델보다 더 능력 있고 비용 효율적이라는 것을 발견하였습니다. 오늘 text-embedding-ada-002는 모든 임베딩 API 사용의 99.9%를 차지하고 있습니다.

우리는 이것이 이전 모델을 사용하는 개발자들에게 중요한 변화임을 인식하고 있습니다. 이러한 모델들을 줄이는 것은 우리가 가볍게 결정하는 것이 아닙니다. 우리는 이러한 새로운 모델로 콘텐츠를 재임베딩하는 사용자들의 금융 비용을 부담할 것입니다. 우리는 앞으로 몇 일 동안 영향을 받는 사용자들에게 연락을 취할 것입니다.

 

이전 모델 새 모델

 

code-search-ada-code-001 text-embedding-ada-002 code-search-ada-text-001

code-search-babbage-code-001

code-search-babbage-text-001

text-search-ada-doc-001

text-search-ada-query-001

text-search-babbage-doc-001

text-search-babbage-query-001

text-search-curie-doc-001

text-search-curie-query-001

text-search-davinci-doc-001

text-search-davinci-query-001

text-similarity-ada-001

text-similarity-babbage-001

text-similarity-curie-001

text-similarity-davinci-001

 

Edits API의 폐기

 

Edits API와 그에 관련된 모델들의 사용자들(예: text-davinci-edit-001 또는 code-davinci-edit-001)은 2024년 1월 4일까지 GPT-3.5 Turbo로 이동해야 합니다. Edits API 베타는 초기 탐색적인 API였으며, 개발자들이 지시사항에 따라 프롬프트의 수정된 버전을 반환하도록 하기 위한 것이었습니다. 우리는 Edits API의 피드백을 gpt-3.5-turbo와 Chat Completions API 개발에 반영하였고, 이제 이들은 동일한 목적을 위해 사용될 수 있습니다:

 

시스템 사용자가 요청구한 변경 사항을 코드에 적용하십시오.

 

사용자 =>

def fibonacci(num):

if num <= 1:

return num

else:

return fibonacci(num-1) + fibonacci(num-2) print(fibonacci(10))

 사용자 어시스턴트 => 

def fib(num):

if num <= 1:

return num

else:

return fib(num-1) + fib(num-2)

print(fib(10))

 

이렇게 GPT-4 API가 일반 사용자에게 공개되었으며, 이전 모델들은 점차 폐기되고 새로운 모델로 대체될 예정입니다. 이러한 변화는 개발자들에게 중요한 변화이며, 이를 원활하게 진행하기 위해 필요한 지원을 제공할 것입니다. 이 모든 변화는 AI 기술의 발전과 사용자 경험 향상을 위한 것입니다.