域名預(yù)訂/競(jìng)價(jià),好“米”不錯(cuò)過(guò)
近年,不論是正在快速增長(zhǎng)的直播,遠(yuǎn)程教育以及IM聊天場(chǎng)景,還是在常規(guī)企業(yè)級(jí)系統(tǒng)中用到的系統(tǒng)提醒,對(duì)websocket的需求越來(lái)越大,對(duì)websocket的要求也越來(lái)越高。從早期對(duì)websocket的應(yīng)用僅限于少部分功能和IM等特殊場(chǎng)景,逐步發(fā)展為追求支持高并發(fā),百萬(wàn)、千萬(wàn)級(jí)每秒通訊的高可用websocket服務(wù)。
面對(duì)各種新場(chǎng)景對(duì)websocket功能和性能越來(lái)越高的需求,不同的團(tuán)隊(duì)有不同的選擇,有的直接使用由專業(yè)團(tuán)隊(duì)開(kāi)發(fā)的成熟穩(wěn)定的第三方websocket服務(wù),有些則選擇自建websocket服務(wù)。
作為一個(gè)具有多年websocket開(kāi)發(fā)經(jīng)驗(yàn)的老程序猿,經(jīng)歷了GoEasy企業(yè)級(jí)websocket服務(wù)從無(wú)到有,從小到大的過(guò)程,此文是根據(jù)過(guò)去幾年在GoEasy開(kāi)發(fā)過(guò)程中踩過(guò)的坑,以及為眾多開(kāi)發(fā)團(tuán)隊(duì)提供websocket服務(wù)、與眾多開(kāi)發(fā)者交流中的總結(jié)的一些經(jīng)驗(yàn)和體會(huì)。
這次主要從搭建websocket服務(wù)的基本功能和特性方面做一些分享,下次有機(jī)會(huì)再?gòu)臉?gòu)建一個(gè)高可用websocket時(shí)要面對(duì)的高并發(fā),海量消息,集群容災(zāi),橫向擴(kuò)展,以及自動(dòng)化運(yùn)維等方面進(jìn)更多的分享。
以下幾點(diǎn)是個(gè)人認(rèn)為在構(gòu)建websocket服務(wù)時(shí)必須要考慮的一些技術(shù)特性以及能顯著提高用戶體驗(yàn)的功能,供各位同學(xué)參考:
1.建立心跳機(jī)制
心跳機(jī)制幾乎是所有網(wǎng)絡(luò)編程的第一步,經(jīng)常容易被新手忽略。因?yàn)樵趙ebsocket長(zhǎng)連接中,客戶端和服務(wù)端并不會(huì)一直通信,如果雙方長(zhǎng)期沒(méi)有溝通則都不清楚彼此當(dāng)前狀態(tài),所以需要發(fā)送一段很小的報(bào)文告訴對(duì)方“我還活著”。另外還有兩個(gè)目的:
服務(wù)端檢測(cè)到某個(gè)客戶端遲遲沒(méi)有心跳過(guò)來(lái)可以主動(dòng)關(guān)閉通道,讓它下線;
客戶端檢測(cè)到某個(gè)服務(wù)端遲遲沒(méi)有響應(yīng)心跳也能重連獲取一個(gè)新的連接。
2.建立具有良好兼容性的客戶端SDK
雖說(shuō)現(xiàn)在主流瀏覽器都支持websocket,但在編碼中還是會(huì)遇到瀏覽器兼容性問(wèn)題,而且通過(guò)websocket通信的客戶端早已不僅限于各種web瀏覽器,還包括越來(lái)越多的APP,小程序。因此就要求構(gòu)建的websocket服務(wù)必須能夠很友好的支持各種客戶端。最好的方式就是構(gòu)建一個(gè)能夠兼容所有主流瀏覽器、小程序和APP,以及uni-app、vue、react-native等目前常見(jiàn)的各種前端框架的客戶端SDK,這樣不論公司的各個(gè)項(xiàng)目使用什么樣的前端技術(shù),都能夠快速的集成websocket服務(wù)。
3.斷網(wǎng)自動(dòng)重連和消息補(bǔ)發(fā)機(jī)制
移動(dòng)互聯(lián)網(wǎng)時(shí)代,終端用戶所處的網(wǎng)絡(luò)環(huán)境多樣且復(fù)雜,如用戶進(jìn)出電梯,出入地下室或地鐵等網(wǎng)絡(luò)不穩(wěn)定的場(chǎng)所,或其他原因?qū)е碌木W(wǎng)絡(luò)不穩(wěn)定都是很常見(jiàn)的場(chǎng)景。因此,一個(gè)可靠的websocket服務(wù)必須具備完善的斷網(wǎng)自動(dòng)重連機(jī)制。確保斷網(wǎng)后,網(wǎng)絡(luò)一旦恢復(fù),能第一時(shí)間自動(dòng)重新建立長(zhǎng)連接,并且能夠立即補(bǔ)發(fā)在網(wǎng)絡(luò)不穩(wěn)定期間發(fā)送的消息。
4.離線消息
基礎(chǔ)的Websocket通訊從技術(shù)上來(lái)說(shuō),消息送達(dá)的前提條件就是建立起一個(gè)長(zhǎng)連接,沒(méi)有建立網(wǎng)絡(luò)連接就來(lái)討論通訊那是耍流氓。但是從使用者的角度上來(lái)說(shuō),隨手關(guān)閉瀏覽器,或者將小程序、APP進(jìn)程直接殺掉而導(dǎo)致網(wǎng)絡(luò)連接斷開(kāi)的情況是隨時(shí)都在發(fā)生的。然后我們下意識(shí)的期待,就是我下次打開(kāi)瀏覽器訪問(wèn)網(wǎng)頁(yè),或者打開(kāi)APP時(shí),能夠收到用戶離開(kāi)系統(tǒng)期間的所有信息。從技術(shù)上這是一個(gè)跟websocket沒(méi)有多大關(guān)系的需求,但實(shí)際上卻是websocket服務(wù)不可或缺的基本特性,也是一個(gè)能夠極大提升用戶體驗(yàn)的功能。
5.上下線提醒,客戶端在線列表
掌握當(dāng)前系統(tǒng)有哪些用戶在線,捕捉用戶上下線事件,是搭建一個(gè)企業(yè)級(jí)websocket服務(wù),必不可少的特性,尤其是開(kāi)發(fā)IM和游戲類產(chǎn)品。
6.支持歷史消息查詢
websocket服務(wù),某種意義也是屬于一個(gè)消息系統(tǒng),對(duì)于歷史消息的查詢需求,是無(wú)法繞開(kāi)的話題。比如IM系統(tǒng)中常見(jiàn)的歷史消息,因此在websocket服務(wù)內(nèi)部實(shí)現(xiàn)一個(gè)高速,可靠的消息隊(duì)列機(jī)制來(lái)支持websocket服務(wù)實(shí)現(xiàn)歷史消息的查詢就是一個(gè)必須的工作。
7.消息的壓縮機(jī)制
不論是為了保證消息通訊的速度和實(shí)時(shí)性,還是為了節(jié)約流量和帶寬費(fèi)用,或者是出于提高網(wǎng)卡的使用效率和增加系統(tǒng)的吞吐量,在通訊過(guò)程中對(duì)消息進(jìn)行必要的壓縮都是必不可少的。
除了需要考慮以上七點(diǎn)以外,筆者認(rèn)為,還有幾個(gè)問(wèn)題也是很值得初學(xué)者積極關(guān)注的:
1.緩存和持久化
選擇合適的消息緩存機(jī)制,是企業(yè)級(jí)websocket服務(wù)保證性能必須要考慮的問(wèn)題。
2.異步調(diào)用
要支持大量消息通訊的高性能系統(tǒng),必然推薦異步調(diào)用。若設(shè)計(jì)為同步調(diào)用,調(diào)用方就需要一直等待被調(diào)用方完成。如果一層一層的同步調(diào)用下去,所有的調(diào)用方需要相同的等待時(shí)間,調(diào)用方的資源會(huì)被大量的浪費(fèi)。更糟糕的是一旦被調(diào)用方出問(wèn)題,其他調(diào)用就會(huì)出現(xiàn)多米諾骨牌效應(yīng)跟著出問(wèn)題,導(dǎo)致故障蔓延。收到請(qǐng)求立即返回結(jié)果,然后再異步執(zhí)行,不僅可以增加系統(tǒng)的吞吐量,最大的好處是讓服務(wù)之間的解耦更為徹底。
3.獨(dú)立于業(yè)務(wù)和標(biāo)準(zhǔn)化
盡管在一個(gè)web項(xiàng)目中可以同時(shí)存在常規(guī)http服務(wù)和websocket服務(wù),尤其對(duì)性能要求不高的單應(yīng)用web系統(tǒng),這種方式更簡(jiǎn)單,更便于維護(hù)。但對(duì)于性能和可用性高的企業(yè)級(jí)系統(tǒng)或者互聯(lián)網(wǎng)平臺(tái),更好的方式,是將websocket服務(wù)作為一個(gè)單獨(dú)的微服務(wù)來(lái)進(jìn)行設(shè)計(jì),避免和常規(guī)的http服務(wù)搶占資源,導(dǎo)致系統(tǒng)性能不可控,同時(shí)也更便于橫向擴(kuò)展。
一個(gè)設(shè)計(jì)良好的企業(yè)級(jí)websocket服務(wù)應(yīng)該是一個(gè)獨(dú)立于業(yè)務(wù)系統(tǒng)、標(biāo)準(zhǔn)化的單獨(dú)存在的技術(shù)性微服務(wù),能夠作為公司基礎(chǔ)架構(gòu)的一部分為公司的所有項(xiàng)目提供通訊服務(wù)。
4.冪等性和重復(fù)消息的過(guò)濾
所謂冪等性,就是一次和多次請(qǐng)求一個(gè)接口都應(yīng)該具有同樣的后果。為什么需要?對(duì)每個(gè)接口的調(diào)用都會(huì)有三種可能的結(jié)果:成功,失敗和超時(shí)。對(duì)最后一種的原因很多可能是網(wǎng)絡(luò)丟包,可能請(qǐng)求沒(méi)有到達(dá),也有可能返回沒(méi)有收到。于是在對(duì)接口的調(diào)用時(shí)往往都會(huì)有重試機(jī)制,但重試機(jī)制很容易導(dǎo)致消息的重復(fù)發(fā)送,從用戶層面這往往是不可接受的,因此在接口的設(shè)計(jì)時(shí),我們就需要考慮接口的冪等性,確保同一條消息發(fā)送一次和十次都不回導(dǎo)致消息的重復(fù)到達(dá)。
5.支持QoS 服務(wù)質(zhì)量分級(jí)
其實(shí)對(duì)于上一點(diǎn)消息重復(fù)的問(wèn)題,行業(yè)已經(jīng)有了解決方案和標(biāo)準(zhǔn)規(guī)范,對(duì)于消息到達(dá)率和重復(fù),常用的手段就是通過(guò)消息確認(rèn)的方式來(lái)確保消息到達(dá),要求越高,意味著確認(rèn)機(jī)制越復(fù)雜,成本越高。為了在成本和到達(dá)率之間有很好的平衡,通常對(duì)消息系統(tǒng)的服務(wù)質(zhì)量(QoS)分為以下三個(gè)級(jí)別 :
QoS 0(At most once):“最多發(fā)一次”,意味著發(fā)送就可以了,不需要確認(rèn)機(jī)制,發(fā)送了即可,適用于要求不高的場(chǎng)景,可以接受一定的不到達(dá)率,成本最低。
QoS 1(At least once):“至少發(fā)一次”,意味著發(fā)送方必須明確收到接收方的確認(rèn)信號(hào),否則就會(huì)反復(fù)發(fā),每條消息至少需要兩次通信來(lái)確認(rèn)到達(dá),可以接受一些消息被重發(fā),但成本不高 。
QoS 2(Exactly once):“確保只發(fā)一次”,意味著每條消息只能到達(dá)一次,且不允許重復(fù)到達(dá),為了達(dá)到這個(gè)目標(biāo)就需要雙方至少通訊三次,成本最高。
一個(gè)完善的websocket服務(wù)面對(duì)不同的應(yīng)用場(chǎng)景,應(yīng)該能夠支持選擇不同等級(jí)的QoS,在成本和服務(wù)質(zhì)量之間取得平衡。
最后
雖然websocket已經(jīng)廣泛的應(yīng)用于各種系統(tǒng)和平臺(tái),但如果要搭建一個(gè)滿足企業(yè)級(jí)或者大型互聯(lián)網(wǎng)平臺(tái)的可靠、安全穩(wěn)定的websocket服務(wù),對(duì)于沒(méi)有經(jīng)驗(yàn)的同學(xué),在具體的技術(shù)實(shí)踐過(guò)程依然是有不少的坑要踩。
對(duì)websocket服務(wù)有較高要求,選擇成熟可靠的第三方websocket服務(wù)其實(shí)也是一個(gè)成本更低和高效的選擇。GoEasy作為國(guó)內(nèi)領(lǐng)先的第三方websocket消息平臺(tái),已經(jīng)穩(wěn)定運(yùn)行了5年時(shí)間,支持千萬(wàn)級(jí)消息并發(fā),除了兼容所有常見(jiàn)的瀏覽器以外,同時(shí)也兼容uni-app,各種小程序,以及vue、react-native等常見(jiàn)的前端框架。
希望本文能為初次搭建websocket服務(wù)的同學(xué)在思路上有所幫助和參考,也歡迎各位前輩多多批評(píng)指正,同時(shí)也希望未來(lái)有機(jī)會(huì)就更多的技術(shù)與大家進(jìn)行交流。
GoEasy官網(wǎng):https://www.goeasy.io/
申請(qǐng)創(chuàng)業(yè)報(bào)道,分享創(chuàng)業(yè)好點(diǎn)子。點(diǎn)擊此處,共同探討創(chuàng)業(yè)新機(jī)遇!