AWS: Amazon Bedrock integreert OpenAI Responses API

In dit artikel:

Amazon Bedrock ondersteunt nu de Responses API van OpenAI via nieuwe compatibele API-eindpunten, waarmee ontwikkelaars asynchrone inferentie en complexere agent-achtige workflows eenvoudiger kunnen uitvoeren. De integratie haalt veel van de last van stateful conversation management weg: de API reconstrueert automatisch context, zodat ontwikkelaars niet bij elk verzoek volledige gespreksgeschiedenis hoeven mee te sturen. De nieuwe eindpunten bieden zowel streaming- als niet-streamingopties en maken het makkelijker om toolgebruik binnen agentic workflows te integreren. Daarnaast is er ondersteuning voor zogeheten "reasoning effort" binnen de Chat Completions API voor modellen die op Project Mantle draaien — Amazons gedistribueerde, serverloze inferentie-engine met hoge prestaties en kwaliteitscontroles. De Responses API-ondersteuning is direct beschikbaar, te beginnen met OpenAI’s GPT OSS 20B/120B; andere modellen volgen binnenkort. Artikelinfo: Witold Kepinski, Bestuurder en Editor-in-Chief van Dutch IT Channel/Dutch IT Leaders.