OpenAI heeft aangekondigd dat zijn ChatGPT- en Whisper-modellen nu beschikbaar zijn in zijn API, waardoor ontwikkelaars toegang krijgen tot een op AI gebaseerde taal en spraak-naar-tekst-mogelijkheden.
Door systeembrede optimalisaties is OpenAI erin geslaagd om de kosten van ChatGPT sinds december met 90% te verlagen en geeft deze besparingen nu door aan API-gebruikers.
OpenAI gelooft dat de beste manier om het volledige potentieel van AI te realiseren, is om iedereen ermee te laten creëren.
De vandaag aangekondigde wijzigingen kunnen leiden tot tal van toepassingen waar iedereen van kan profiteren.
Meer bedrijven kunnen profiteren van de spraak-naar-tekst-taal en mogelijkheden van OpenAI om toepassingen van de volgende generatie te ontwikkelen met ChatGPT en Whisper.
Bovendien heeft OpenAI rekening gehouden met feedback van ontwikkelaars en wijzigingen aangebracht in de API-servicevoorwaarden om beter aan hun behoeften te voldoen.
ChatGPT-API
OpenAI brengt een nieuwe familie van ChatGPT-modellen uit, genaamd gpt-3.5-turbo, geprijsd op $ 0,002 per 1k tokens, waardoor het tien keer goedkoper is dan bestaande GPT-3.5-modellen.
Dit model is ideaal voor veel niet-chat-use-cases en is hetzelfde in het ChatGPT-product.
Terwijl GPT-modellen traditioneel ongestructureerde tekst gebruiken die wordt weergegeven als een reeks tokens, gebruiken ChatGPT-modellen een reeks berichten met metadata.
De invoer wordt echter voor het model weergegeven als een reeks tokens die het model moet gebruiken.
Het gpt-3.5-turbomodel gebruikt een nieuw formaat genaamd Chat Markup Language (ChatML).
ChatGPT-updates
OpenAI verbetert voortdurend zijn ChatGPT-modellen en streeft ernaar deze updates aan ontwikkelaars te bieden.
Degenen die het gpt-3.5-turbomodel gebruiken, krijgen altijd het aanbevolen stabiele model, hoewel ze een specifieke versie kunnen kiezen.
OpenAI brengt een nieuwe versie uit genaamd gpt-3.5-turbo-0301, die ondersteuning zal krijgen tot ten minste 1 juni, en een nieuwe stabiele versie wordt verwacht in april.
Ontwikkelaars kunnen updates vinden op de modellenpagina om over te schakelen naar de nieuwste versie.
Toegewijde instanties
OpenAI biedt nu speciale instanties voor gebruikers die meer controle willen over hun modelversies en systeemprestaties.
Standaard worden verzoeken verwerkt op een gedeelde IT-infrastructuur en betalen gebruikers per verzoek.
Bij dedicated instances betalen ontwikkelaars echter een bepaalde tijd om computerinfrastructuur toe te wijzen die exclusief is gereserveerd voor hun applicaties.
Ontwikkelaars hebben volledige controle over het laden van instanties, de optie om langere contextlimieten in te schakelen en de mogelijkheid om de momentopname van het model vast te zetten.
Dedicated instances kunnen kosteneffectief zijn voor ontwikkelaars die meer dan ongeveer 450 miljoen tokens per dag verwerken.
Whisper-API
OpenAI introduceerde in september 2022 Whisper, een spraak-naar-tekst-model, als een open source API.
De Whisper API heeft veel lof gekregen van de ontwikkelaarsgemeenschap. Het kan echter moeilijk te bedienen zijn.
OpenAI maakt het grote v2-model beschikbaar via zijn API, waardoor ontwikkelaars gemakkelijk on-demand toegang krijgen, tegen een prijs van $ 0,006 per minuut.
Ook zorgt de servicestack van OpenAI voor snellere prestaties in vergelijking met andere services. De Whisper API is toegankelijk via transcriptie- of vertaaleindpunten, die de brontaal in het Engels kunnen transcriberen of vertalen.
Ontwikkelaarsbenadering
OpenAI heeft specifieke wijzigingen aangebracht na feedback van ontwikkelaars. Enkele voorbeelden van deze wijzigingen zijn de volgende:
Gebruik de gegevens die via de API worden verzonden niet om de service te verbeteren, inclusief modeltraining, tenzij de organisatie toestemming geeft. Stel een standaard bewaarbeleid voor gegevens in van 30 dagen, met de mogelijkheid om strenger te bewaren op basis van de behoeften van de gebruiker. Verbeterde documentatie voor ontwikkelaars. Vereenvoudiging van hun servicevoorwaarden en gebruiksbeleid.
OpenAI erkent dat het leveren van een betrouwbare service noodzakelijk is om ervoor te zorgen dat AI iedereen ten goede komt. Daartoe zet OpenAI zich in om de uptime de komende maanden te verbeteren.
Uitgelichte afbeelding: Shaheerrr/Shutterstock
bron: OpenAI
Hey, ik ben Brent, en ik speel al een lange tijd mee in de SEO scene. Ik ben vooral heel actief in de Amerikaanse markt, en hou dan ook wel van een uitdaging. Ik ben sinds kort aan het uitbreiden binnenin de Benelux, en besluit hier dan ook te oversharen!
Wil je meer leren, klik dan op lees meer!
