OpenAI的API

名稱H@F)⛊8mePy9☝fj!A+ULB☙3id]6'~pREu4☷z⛓1$cwV#-M⛆(Z*[/5⚍Cg>tx2WD<JO& K	34346
Email
主題
回覆
檔案
嵌入
Options	Spoiler 圖片
密碼	（用來刪除檔案。）
Allowed file types:jpg, jpeg, png, gif, mp4, webm Max filesize is 10 MB. Max image dimensions are 10000 x 10000. You may upload 1 per post.

File: 1704705124062.png (645.46 KB, 1366x768, What is it with this seaso….png)

OpenAI的API 無ゴミ 24/01/08 (Mon) 09:12:04 3e94b6a9 No.128

不知道有沒有島民跟我一樣在串接chatgpt的API來開發APP？

需求是單一時間內必須定時、平行地大量向openai的chat endpoint發出請求，但這東西既有TPM的上限（每分鐘字元組），又有RPM的上限（每分鐘請求）。其中以TPM這個讓同一組織（Org）每分鐘內能發出的token總數有限制，除非我能註冊單位時間內同時要做的檔案數量的組織，否則怎樣都會被鎖Rate limit。

想請教島民，一般開發這種的APP，除了請客戶端自行放上key外，都是怎麼避免這種爆量人使用但又不會被鎖的情況？真的就是那麼多的組織申請來的Key在後面待命嗎？

無ゴミ 24/01/08 (Mon) 18:31:25 f0abe4cd No.129

File: 1704738685350.png (342.83 KB, 512x618, 1704428612901.png)

如果你想使用他們的服務和運算資源，向他們付費是最終的解決方案。

我沒有錢。因此，我使用GPT4ALL、openchatkit來學習聊天程式。

無ゴミ 24/01/09 (Tue) 17:15:24 10b06190 No.130

>>定時、平行地大量向openai的chat endpoint發出請求
這行為不就DDOS??