OpenAI wprowadza w Responses API opcję 30-minutowej lub 12-godzinnej retencji prompt cache - po udostępnieniu Decisions API za 0,10 USD za milion tokenów oferta API OpenAI rozszerza się o kolejne mechanizmy.
Tapnij etap, żeby rozsunąć skrót
Zmiana dotyczy mechanizmu prompt caching w Responses API od wersji GPT-5.6. Ustawienie prompt_cache_options.ttl pozwala wybrać minimum 30 minut (domyślnie) lub minimum 12 godzin retencji pamięci podręcznej. Zapis do cache kosztuje 1,25-krotność stawki wejściowej przy 30 minutach i 2,5-krotność przy 12 godzinach, natomiast odczyt (cache hit) to 0,1 stawki wejściowej, a w przypadku GPT-6.1 Sol jedyn…
Narzędzie zapowiedziano podczas dnia deweloperów 29 września, a w czwartek stało się dostępne dla wszystkich klientów. Decisions API należy do kategorii modeli decyzyjnych (System One) - szybko wybiera wariant z zestawu opcji i podaje ocenę pewności, dzięki czemu w wąskich zadaniach zastępuje duże modele językowe taniej i szybciej. Szef kierunku API w OpenAI, Nikunj Handa, poinformował, że zespół…