workerman/http-client 流式請求內(nèi) 可以主動關(guān)閉請求連接嗎
這里寫搜到的方案及不適用原因
我這邊的業(yè)務(wù)場景是請求付費接口,客戶端發(fā)起中止請求后,需要在流式回調(diào)內(nèi)主動關(guān)閉連接,不然token會一直消耗下去,我看了 workerman/http-client 用的是 AsyncTcpConnection,文檔內(nèi)說AsyncTcpConnection是TcpConnection的子類,擁有與TcpConnection一樣的屬性與接口,那么 http-client 可以在流式內(nèi)使用 TcpConnection 的 destroy 或 close 嗎?
請求發(fā)過去了關(guān)閉連接沒有意義,openai已經(jīng)收到請求,tokens已經(jīng)消耗了
不是的,webman服務(wù)是 agent , 去請求python 服務(wù),python不僅僅會調(diào)用openai,還會調(diào)用google文獻(xiàn)等等之類的第三方,如果不終止,其他的資源也是會消耗掉的