日韩成人免费在线_国产成人一二_精品国产免费人成电影在线观..._日本一区二区三区久久久久久久久不

當前位置:首頁 > 科技  > 軟件

一個SSE(流式)接口引發的問題

來源: 責編: 時間:2024-02-29 14:41:37 172觀看
導讀前言最近我們公司也是在做認知助手,大模型相關的功能,正在做提示詞,機器人對話相關功能。想要提高用戶體驗,使用SSE請求模式,在不等數據完全拿到的情況下邊拿邊返回。之前做過一版,但不是流式返回,是等待全部結果再返回,不得

前言

最近我們公司也是在做認知助手,大模型相關的功能,正在做提示詞,機器人對話相關功能。想要提高用戶體驗,使用SSE請求模式,在不等數據完全拿到的情況下邊拿邊返回。7qu28資訊網——每日最新資訊28at.com

之前做過一版,但不是流式返回,是等待全部結果再返回,不得不說確實等待過程挺長,然后就有了現在的優化。想著功能都寫好了,只是改一下接口,應該是個簡單的需求。7qu28資訊網——每日最新資訊28at.com

后端使用的post接口,經過一番搜索,最后使用的fetch。經過短短幾個小時,配置寫好,準備聯調,以為需求就順利完工了。奈何就這流式聯調,還耗了兩天。只因為后端在postman上測試時正常的,然后前端在本地連調就是無法獲取分段式數據,拿到的總是一整塊數據。表現成這樣,我們就開始糾結前端配置是否有誤,網關轉發是否有誤。7qu28資訊網——每日最新資訊28at.com

就這樣前端也試了好幾種方式去發請求,奈何結果都一樣。想著先測其他部分,這個接口最后測試。意外的是部署在線上的環境竟然能正常接收流式接口!!!那問題可能就是本地與部署線上的區別了,今天主要記錄一下使用的配置。7qu28資訊網——每日最新資訊28at.com

EventSource

創建EventSource對象:首先,使用new EventSource()構造函數創建一個EventSource對象。該對象將用于與服務器建立連接并接收服務器發送的事件流。7qu28資訊網——每日最新資訊28at.com

var eventSource = new EventSource('sse_url');

在上面的代碼中,將'sse_url'替換為實際的SSE請求URL。2. 監聽事件:使用EventSource對象的onmessage事件監聽器來接收服務器發送的事件數據。當接收到數據時,事件處理函數將被調用,并可以通過事件對象的data屬性訪問數據。7qu28資訊網——每日最新資訊28at.com

eventSource.onmessage = function(event) {    console.log('Received data:', event.data);  };

錯誤處理:為了處理可能發生的錯誤,可以使用EventSource對象的onerror事件監聽器。當發生錯誤時,可以在事件處理函數中進行處理。7qu28資訊網——每日最新資訊28at.com

eventSource.onerror = function(error) {    console.error('SSE error:', error);  };

關閉連接:當不再需要接收事件流時,可以使用EventSource對象的close方法關閉連接。7qu28資訊網——每日最新資訊28at.com

eventSource.close();

完整的示例代碼如下所示:7qu28資訊網——每日最新資訊28at.com

var eventSource = new EventSource('sse_url');    eventSource.onmessage = function(event) {    console.log('Received data:', event.data);  };    eventSource.onerror = function(error) {    console.error('SSE error:', error);  };

但是EventSource只支持get請求,配置請求頭也不太友好。7qu28資訊網——每日最新資訊28at.com

fetch

async function getStream() {  try {    let response = await fetch('url');    if (!response.ok) {      throw new Error('Network response was not ok');    }       const reader = response.body.getReader();    const textDecoder = new TextDecoder();    let result = true;    let output = ''    while (result) {        const { done, value } = await reader.read();      if (done) {        console.log('Stream ended');       result = false;       break;      }      const chunkText = textDecoder.decode(value);      output += chunkText;      console.log('Received chunk:', chunkText);    }  } catch (e) {    console.log(e); }}

插件

@microsoft/fetch-event-source 使用方法我就 不放了,看了一下源碼也是基于fetch實現的,網上例子很多,可以看看。7qu28資訊網——每日最新資訊28at.com

問題

本地運行的環境也是用的代理訪問的部署好的環境的接口。插件是 Node.js 的 HTTP 代理中間件http-proxy-middleware。所以為何同樣的配置,本地運行不行,而部署到環境上就正常了?有大佬遇到過嗎7qu28資訊網——每日最新資訊28at.com

本文鏈接:http://www.www897cc.com/showinfo-26-75325-0.html一個SSE(流式)接口引發的問題

聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com

上一篇: 一次性學會Java中的日志

下一篇: 系統設計面試問題:如何設計 Spotify,一個音樂流媒體系統

標簽:
  • 熱門焦點
Top 主站蜘蛛池模板: 车致| 紫金县| 南溪县| 吉水县| 昌都县| 遂溪县| 甘洛县| 涟源市| 长海县| 陕西省| 阳春市| 丹巴县| 广东省| 平昌县| 肇东市| 攀枝花市| 堆龙德庆县| 开化县| 清原| 寻乌县| 武山县| 苏州市| 霍邱县| 凤山县| 福州市| 枣强县| 临颍县| 淅川县| 闵行区| 北安市| 玛曲县| 射阳县| 南溪县| 南平市| 延安市| 滕州市| 辽宁省| 云林县| 汉寿县| 南开区| 田东县|