時間:2022-03-21 16:08:42 次數:2748
産品介紹
大數據服務總線是雲計算平台内平台服務層的核心支撐組件,承載着可提供的數據服務資源,并對服務提供者和使用者搭建一個可交互共享的服務中介平台,兼容适配異構多雲,解決分布式數據訪問和不同應用間訪問調用的差異問題,将跨地域、跨層級、跨部門的應用系統及數據有機地聯系與整合在一起,實現了全網分布式信息共享和資源綜合利用。
技術淺析
傳輸可觀察
提供可觀察性,實現傳輸過程的可見、透明、白盒化
●日志采集+解析:指标度量、分布式鍊路、結構化日志、傳輸賬單
●标準數據格式和上報API
●開放數據格式和采集API
高可靠傳輸
網絡可靠:檢測-重傳機制
●差錯檢測:數據摘要/指紋→錯誤重傳
●丢包檢測
●發送方檢測:定時檢查等待的确認→超時重傳
●接收方檢測:協商連續編号/數據清單→選擇重傳
●重複檢測:唯一性數據标識/摘要指紋→冗餘過濾
●順序檢測:時間戳/有序編号→重新排序
節點可靠性
●本地持久化緩沖,支持斷電保護、異常恢複
●滾動WAL和異步落盤,降低持久化影響
●節點HA集群
對賬支持
●輸出邊界賬單,供外部對賬
可靠與性能的平衡
高性能傳輸
并發模型
●非阻塞異步IO:epoll多路複用、Reactor線程模型
協議效率
●七層HTTP 四層TCP
●減少報文冗餘,支持二進制格式(壓縮透傳)
大報文:超過發送緩沖區大小
●分塊并發:切分參數支持靜态配置、動态統計更新
●流水線并發、多鍊路并行、多核心并行
●内部編号,确保接收端的可靠拼裝
●斷點續傳
文件系統
●零拷貝
●小文件合并:拼包,對齊MTU;減少新建連接數
适應性傳輸
根據功能、部門及業務等因素動态構建差異化、隔離的專用虛拟通道
●綁定資源池( CPU、線程、内存、網絡、磁盤)、傳輸策略(優先級、可靠性等)
适應不同優先級、可靠性、安全要求、傳輸策略的精準、平衡需要
●高可靠 vs. 高吞吐
●大報文&大文件傳輸 vs. 普通請求服務
應用場景
邏輯上把請求過程和響應過程分成異步的兩部分,但在具體的物理協議适配上:
●對于HTTP這種同步請求響應的協議,在節點側同步阻塞響應,保持物理的同步調用
●對于PCI這種異步請求響應的協議,就原生支持了;當然目前提供的PCI Client API的封裝版本rbsp api,有實現應用側的異步仿真同步。