OpenAI
GPT მოდელებზე წვდომა OpenAI Chat Completions API-ით, მშობლიური ფუნქციების გამოძახებით, ვიზუალური ანალიზითა და მსჯელობის მოდელების მხარდაჭერით.
წინაპირობები
- OpenAI API გასაღები platform.openai.com-დან
სწრაფი დაყენება
1. API გასაღების მიღება
- დარეგისტრირდით platform.openai.com-ზე
- გადახვიდეთ API Keys განყოფილებაში მარცხენა გვერდითა პანელზე
- დააჭირეთ Create new secret key-ს და დააკოპირეთ (იწყება
sk--ით)
2. კონფიგურაცია
[default]
provider = "openai"
model = "gpt-4o"
[providers.openai]
api_key = "${OPENAI_API_KEY}"ან დააყენეთ გარემოს ცვლადი:
export OPENAI_API_KEY="sk-..."3. შემოწმება
prx doctor modelsხელმისაწვდომი მოდელები
| მოდელი | კონტექსტი | ვიზუალი | ინსტრუმენტები | შენიშვნები |
|---|---|---|---|---|
gpt-4o | 128K | დიახ | დიახ | საუკეთესო ზოგადი დანიშნულების მოდელი |
gpt-4o-mini | 128K | დიახ | დიახ | უფრო პატარა, სწრაფი, იაფი |
gpt-4-turbo | 128K | დიახ | დიახ | წინა თაობის ფლაგმანი |
o3 | 128K | დიახ | დიახ | მსჯელობის მოდელი |
o4-mini | 128K | დიახ | დიახ | მცირე მსჯელობის მოდელი |
gpt-4 | 8K | არა | დიახ | ორიგინალი GPT-4 |
კონფიგურაციის მითითება
| ველი | ტიპი | ნაგულისხმევი | აღწერა |
|---|---|---|---|
api_key | string | სავალდებულო | OpenAI API გასაღები (sk-...) |
api_url | string | https://api.openai.com/v1 | მორგებული API საბაზისო URL |
model | string | gpt-4o | ნაგულისხმევი მოდელი |
ფუნქციები
მშობლიური ფუნქციების გამოძახება
PRX ინსტრუმენტებს OpenAI-ის მშობლიურ function ფორმატში აგზავნის. ინსტრუმენტების განსაზღვრებები მოიცავს name, description და parameters (JSON Schema). პროვაიდერი მხარს უჭერს tool_choice: "auto"-ს ინსტრუმენტების ავტომატური შერჩევისთვის.
ვიზუალი
ვიზუალის შესაძლებლობის მქონე მოდელებს (GPT-4o, GPT-4o-mini) შეუძლიათ საუბარში ჩართული სურათების ანალიზი. სურათები სტანდარტული შეტყობინების ფორმატით იგზავნება ჩაშენებულად.
მსჯელობის მოდელების მხარდაჭერა
მსჯელობის მოდელებისთვის (o1, o3, o4-mini), PRX ავტომატურად ამუშავებს reasoning_content სარეზერვო ვარიანტს. როცა მოდელი გამოსავალს reasoning_content-ში აბრუნებს content-ის ნაცვლად, PRX მსჯელობის ტექსტს გამჭვირვალედ ამოიღებს.
მრავალბიჯიანი საუბრები
საუბრის სრული ისტორია ინახება და API-ს ეგზავნება, სისტემური პრომპტების, მომხმარებლის შეტყობინებების, ასისტენტის პასუხების და ინსტრუმენტის გამოძახება/შედეგის წყვილების ჩათვლით OpenAI-ის მშობლიურ სტრუქტურირებულ ფორმატში.
მორგებული საბაზისო URL
პროქსის, Azure OpenAI-ის ან ნებისმიერი OpenAI-თავსებადი ენდფოინთის გამოსაყენებლად:
[providers.openai]
api_key = "${OPENAI_API_KEY}"
api_url = "https://my-proxy.example.com/v1"კავშირის გახურება
გაშვებისას PRX მსუბუქ GET /models მოთხოვნას აგზავნის TLS და HTTP/2 კავშირების პულის შესაქმნელად, რაც პირველი რეალური მოთხოვნის დაყოვნებას ამცირებს.
პრობლემების მოგვარება
"OpenAI API key not set"
დააყენეთ OPENAI_API_KEY გარემოს ცვლადი ან დაამატეთ api_key თქვენს config.toml-ში [providers.openai] სექციაში.
429 Rate Limit
OpenAI ზღუდავს ტოკენებისა და მოთხოვნების რაოდენობას წუთში. გადაწყვეტილებები:
- დაელოდეთ და ცადეთ ხელახლა (PRX ამას ავტომატურად ამუშავებს სანდო პროვაიდერის შემფუთველით)
- განაახლეთ თქვენი OpenAI გეგმა უფრო მაღალი ლიმიტებისთვის
- გამოიყენეთ
fallback_providersსხვა პროვაიდერზე გადასართავად შეზღუდვისას
ცარიელი პასუხი მსჯელობის მოდელებიდან
თუ o1/o3/o4-mini-ს იყენებთ და ცარიელ პასუხებს იღებთ, ეს მოსალოდნელი ქცევაა, როცა მოდელის გამოსავალი მთლიანად reasoning_content-შია. PRX ავტომატურად გადართავს reasoning_content-ზე, როცა content ცარიელია.