Signway
サーバー不要のOpenAIストリーミング自前サーバーなしで応答をストリーム
主な特徴
使える場面
- ChatGPT風の返答をクライアントへ直接流す
- DALL-Eの画像生成の様子を端末で見せる
- 音声アプリへ連続したストリームを届ける
使い方
- 1 Signwayでアカウントを作ります。
- 2 リクエスト用の事前署名付きURLを生成します。
- 3 クライアントをそのURLに向けます。
- 4 利用量を監視し、必要ならプランを上げます。
こんな方におすすめ
メリット
- ストリーミング用のプロキシが構成から不要になる
- 無料プランが1アプリ分を控えめな速度でカバーする
- 超過分は使った分だけの課金になる
制限事項
- 無料プランはアプリ1つまでに限定されています
- OpenAI APIに結びつくため、上流の変更の影響を受けます
- 1リクエスト1メガバイトまでなので大きなデータには向きません
Signway とは
Signwayは、OpenAIモデルを使ったアプリケーションに、事前署名付きURLの機能を後から足すサービスです。通常、モデルの応答をストリーミングするには、自分のサーバーでトークンを中継する仕組みが必要になります。Signwayでは代わりに事前署名付きURLを作り、クライアント端末がそのまま応答の流れを受け取ります。経路にサーバー側の処理が入らないため、チャット画面、画像が徐々に現れる生成フロー、連続した流れを必要とする音声アプリから、中継用のインフラを一つ減らせます。無料プランは每秒10リクエスト、1リクエストあたり1メガバイトの転送、アプリ1つまでです。それ以上は使用量に応じた有料プランになります。
できること
- ChatGPT風の返答をクライアントへ直接流します。
- 画像生成の進行を利用者の端末で見せられます。
- 音声アプリに連続的なストリームを届けます。
- ストリーミング用プロキシを構成から外せます。
こんな人に向いています
- OpenAIモデルで対話型インターフェースを作る開発者
- プロキシを維持せずにストリーミングしたいチーム
- 音声や画像のフローを試作するプロダクトエンジニア
注意点
無料プランは意図的に狭く、アプリ1つ、每秒10リクエスト、1リクエスト1メガバイトが上限です。これを超える場合は有料プランへ移り、費用は一定ではなく使った分に比例します。サービスはOpenAI APIに結びついているため、認証、料金、ストリーミング仕様の上流変更はそのまま利用者に降りてきます。事前署名付きURLはそのまま資格情報として扱ってください。有効期限を短くし、ログに残さず、公開されるクライアントコードに埋め込んでコピーされないようにします。処理速度はファイルサイズやネットワーク状態に左右されるため、混雑時に止まったら時間をおいて再試行してください。
よくある質問
Signwayは何をするサービスですか?
事前署名付きURLにより、OpenAIの応答をサーバー処理なしでクライアント端末へ直接ストリーミングします。
無料プランの内容は?
每秒10リクエスト、1リクエストあたり1メガバイトの転送量、アプリ1つです。
有料プランの課金方法は?
使用量に応じて課金されます。
無料で使える理由
公式ページの記載内容: 無料プラン
無料の上限、トライアル期間、機能は公式サイトが決定し、いつでも変更される場合があります。
製品プレビュー
一覧ページから保存したスクリーンショットです。プレビュー専用です。