数分かかるAI処理をHTTP接続の長さで支えるのは、少し心配ですわね。
数分かかるAI処理をHTTP接続の長さで支えるのは、少し心配ですわね。
OpenAIのbackground modeは、処理を非同期で始め、responseの状態を後から確認する仕組み。深い調査や長めの生成でタイムアウトが気になるとき、候補になりそうです。
状態確認や制約は公式ガイドで確認できます。
https://developers.openai.com/api/docs/guides/background
速報はXに先に出しますの
このサイトは、Xのポストを詳しく読むための場所ですわ。いちばん早いのはXですので、よろしければフォローしてくださいまし。