系統(tǒng)介紹 ???????????????????????????????????????????????
xStream多通道流式數(shù)據(jù)處理系統(tǒng)是一個(gè)適用于復(fù)雜應(yīng)用場(chǎng)景的高性能、高并發(fā)、高可靠性、高可伸縮性的分布式實(shí)時(shí)數(shù)據(jù)處理系統(tǒng)??梢酝瑫r(shí)為應(yīng)用于不同業(yè)務(wù)場(chǎng)景的邊緣計(jì)算設(shè)備提供點(diǎn)狀及流式數(shù)據(jù)的采集、存儲(chǔ)、分析、計(jì)算等服務(wù)。只需普通的、由廉價(jià)PC組成的計(jì)算集群,無(wú)需單獨(dú)購(gòu)買價(jià)格昂貴、性能優(yōu)越的服務(wù)器,xStream針對(duì)邊緣計(jì)算設(shè)備的并發(fā)接入數(shù)量(集群)即可輕松達(dá)到十萬(wàn)以上級(jí),實(shí)時(shí)數(shù)據(jù)的處理能力(集群)達(dá)百萬(wàn)級(jí)每秒。
系統(tǒng)特色 ????????????????????????????????????????????????
xStream中的“x”指代任意的應(yīng)用場(chǎng)景(無(wú)限),從環(huán)境在線監(jiān)測(cè)到環(huán)境移動(dòng)執(zhí)法、環(huán)保用電監(jiān)管,再到實(shí)時(shí)視頻監(jiān)控、甚或其它非環(huán)境類的更為復(fù)雜的場(chǎng)景均能任意擴(kuò)展,任意配置——各業(yè)務(wù)場(chǎng)景間既可高度耦合,亦可松散耦合及至實(shí)現(xiàn)更為嚴(yán)格的業(yè)務(wù)、數(shù)據(jù)隔離。Stream指代從邊緣計(jì)算設(shè)備到用戶端流動(dòng)的實(shí)時(shí)數(shù)據(jù)流:按時(shí)間序列采集的點(diǎn)狀數(shù)據(jù)以及音、視頻、圖片等流式數(shù)據(jù)。無(wú)論是點(diǎn)數(shù)據(jù)還是流式數(shù)據(jù),xStream系統(tǒng)均根據(jù)事先制定的業(yè)務(wù)規(guī)則實(shí)時(shí)處理,處理結(jié)果存入分布式NoSQL數(shù)據(jù)庫(kù)。
xStream部署環(huán)境簡(jiǎn)單,OS為L(zhǎng)inux CentOS 7及以上版本,至少三臺(tái)普通PC,每臺(tái)PC安裝Cassandra數(shù)據(jù)庫(kù)及MySQL數(shù)據(jù)庫(kù),建立數(shù)據(jù)庫(kù)集群。
系統(tǒng)優(yōu)勢(shì) ????????????????????????????????????????????????
1)低成本,高性能。無(wú)需購(gòu)買昂貴的服務(wù)器,只需三臺(tái)以上的普通PC,使用開(kāi)源、免費(fèi)的linux服務(wù)器系統(tǒng)centOS組建計(jì)算集群即可獲得極佳的處理性能。
?2)可伸縮性。系統(tǒng)建設(shè)初期接入設(shè)備較少時(shí),集群節(jié)點(diǎn)三臺(tái)即可,當(dāng)接入設(shè)備逐漸增多,數(shù)據(jù)量極速增長(zhǎng)時(shí),只需繼續(xù)采購(gòu)PC,橫向增加集群節(jié)點(diǎn)即可大幅提升系統(tǒng)處理性能,增加節(jié)點(diǎn)數(shù)量無(wú)上限。
?3)高可靠性。當(dāng)數(shù)據(jù)庫(kù)集群出現(xiàn)單個(gè)甚至多個(gè)節(jié)點(diǎn)宕機(jī)或者因磁盤故障出現(xiàn)數(shù)據(jù)損壞時(shí),其它正常節(jié)點(diǎn)仍能提供可靠的數(shù)據(jù)存儲(chǔ)及訪問(wèn)服務(wù),故障節(jié)點(diǎn)一旦被修復(fù)重新加入集群,數(shù)據(jù)自動(dòng)同步,無(wú)需人工干預(yù)。
?4)完全自主知識(shí)產(chǎn)權(quán)的虛擬網(wǎng)絡(luò)容災(zāi)系統(tǒng)。集群內(nèi)所有網(wǎng)絡(luò)節(jié)點(diǎn)綁定同一個(gè)虛擬地址,當(dāng)單個(gè)或多個(gè)網(wǎng)絡(luò)節(jié)點(diǎn)宕機(jī)時(shí),系統(tǒng)自動(dòng)切換網(wǎng)絡(luò)服務(wù)到正常節(jié)點(diǎn),確保數(shù)據(jù)接入、WEB、APP等關(guān)鍵服務(wù)不受影響,實(shí)現(xiàn)7x24小時(shí)無(wú)人值守。
?5)完全自主知識(shí)產(chǎn)權(quán)的高性能實(shí)時(shí)庫(kù)。采用高效的哈希存儲(chǔ)算法,有效降低碰撞率,百億條以上數(shù)據(jù)記錄的檢索時(shí)間穩(wěn)定在微秒級(jí)。
?6)高并發(fā)、多通道數(shù)據(jù)采集服務(wù)。系統(tǒng)采用異步通訊架構(gòu),能夠充分發(fā)揮CPU多核處理器的能力,TCP并發(fā)鏈接數(shù)達(dá)到十萬(wàn)以上級(jí)。
?7)多場(chǎng)景并發(fā)數(shù)據(jù)采集能力。系統(tǒng)可以提供任意多個(gè)、采用不同通訊協(xié)議的通訊通道為不同應(yīng)用場(chǎng)景下的邊緣計(jì)算設(shè)備提供數(shù)據(jù)接入服務(wù)。
?8)分布式日志系統(tǒng)。登錄到任意一個(gè)集群節(jié)點(diǎn)均可實(shí)時(shí)查看xStream在整個(gè)集群內(nèi)的整體運(yùn)行狀態(tài),系統(tǒng)管理員可據(jù)此監(jiān)控并排查系統(tǒng)故障隱患,確保系統(tǒng)運(yùn)行處于最佳狀態(tài)。