編者按：本幣交易系統(tǒng)與外匯交易系統(tǒng)是中國(guó)外匯交易中心核心系統(tǒng)，系統(tǒng)處理能力需超過(guò)每秒10萬(wàn)筆，延遲要控制在毫秒以內(nèi)。作為承擔(dān)系統(tǒng)建設(shè)和研發(fā)的中匯信息技術(shù)（上海）有限公司，為了突破系統(tǒng)性能瓶頸，與微軟亞洲研究院合作共同研究系統(tǒng)優(yōu)化方案，實(shí)驗(yàn)顯示，“流水線并行”方案可將系統(tǒng)整體吞吐量提升20%，如果對(duì)撮合引擎進(jìn)行更深入的優(yōu)化，整體性能還將有進(jìn)一步提升。

中國(guó)外匯交易中心以建設(shè)“全球人民幣及相關(guān)產(chǎn)品交易主平臺(tái)和定價(jià)中心”為目標(biāo)，為****間外匯市場(chǎng)、貨幣市場(chǎng)、債券市場(chǎng)等現(xiàn)貨及衍生產(chǎn)品提供交易、交易后處理、發(fā)行、基準(zhǔn)、數(shù)據(jù)和投資者教育服務(wù)。2020年，中國(guó)外匯交易中心交易量達(dá)1637萬(wàn)億元人民幣，約占上海各類金融要素市場(chǎng)交易總量的3/4。目前，交易中心向全球50多個(gè)國(guó)家和地區(qū)的3萬(wàn)余家機(jī)構(gòu)投資者提供服務(wù)，日均交易規(guī)模超過(guò)6萬(wàn)億元人民幣。中匯信息技術(shù)（上海）有限公司（以下簡(jiǎn)稱“中匯公司”）是中國(guó)外匯交易中心的全資子公司，承擔(dān)交易系統(tǒng)的建設(shè)工作。隨著中國(guó)的****間市場(chǎng)蓬勃發(fā)展，金融市場(chǎng)交易量飛速增長(zhǎng)，參與的機(jī)構(gòu)數(shù)量越來(lái)越多，****間交易模式不斷創(chuàng)新發(fā)展，各種因素都對(duì)交易系統(tǒng)的性能提出了更高的要求。

與此同時(shí)，市場(chǎng)機(jī)構(gòu)之間的交易已從人工協(xié)商向高頻化、程序化發(fā)展，交易機(jī)制也隨著全球金融業(yè)務(wù)創(chuàng)新而隨時(shí)發(fā)生變化。為了滿足業(yè)務(wù)的快速、可持續(xù)發(fā)展，中匯公司必須未雨綢繆，在系統(tǒng)性能方面，為未來(lái)的業(yè)務(wù)增長(zhǎng)提供新動(dòng)力。

因此，中匯公司與微軟亞洲研究院展開(kāi)合作研究，針對(duì)交易系統(tǒng)的性能優(yōu)化問(wèn)題進(jìn)行了可行性研究與實(shí)驗(yàn)。作為微軟亞洲研究院創(chuàng)新匯成員，中匯公司此前曾與研究院就個(gè)性化推薦系統(tǒng)等問(wèn)題展開(kāi)過(guò)合作研究，并聯(lián)合發(fā)表了論文，雙方的再次合作創(chuàng)新可以說(shuō)是水到渠成。

交易撮合引擎由“串行”轉(zhuǎn)“并行”，

性能提升20%

隨著市場(chǎng)參與機(jī)構(gòu)和交易量的增長(zhǎng)，交易平臺(tái)必須具備可靠性、可擴(kuò)展性和安全穩(wěn)定性，底層系統(tǒng)架構(gòu)必須能夠滿足上層交易需求。這類平臺(tái)的最大特點(diǎn)是高吞吐、低延時(shí)，對(duì)于性能要求極高。此次雙方通力合作，成功將交易系統(tǒng)的核心組件——撮合引擎并行化，使系統(tǒng)整體性能得以大幅提升。

中匯公司的撮合引擎是基于傳統(tǒng)串行計(jì)算模式，這是為了確保金融交易正確性的核心原則——“價(jià)格優(yōu)先、時(shí)間優(yōu)先”，即價(jià)高買單或價(jià)低賣單優(yōu)先處理，相同價(jià)格的交易訂單按照其到達(dá)時(shí)間的先后處理。隨著業(yè)務(wù)的發(fā)展，該串行架構(gòu)在性能上體現(xiàn)出一定的局限性。對(duì)撮合引擎進(jìn)行并行化無(wú)疑可以給系統(tǒng)性能帶來(lái)最大的提升空間，但同時(shí)確保“價(jià)格優(yōu)先、時(shí)間優(yōu)先”的原則并不容易，稍有差池就會(huì)影響交易的公平。

為此，微軟亞洲研究院項(xiàng)目團(tuán)隊(duì)首先對(duì)行業(yè)知識(shí)和業(yè)務(wù)邏輯進(jìn)行快速學(xué)習(xí)，并對(duì)現(xiàn)有系統(tǒng)進(jìn)行深入的分析和測(cè)試，針對(duì)系統(tǒng)性能提升問(wèn)題提出了三種并行架構(gòu)思路：數(shù)據(jù)并行、任務(wù)并行、流水線并行，最終結(jié)合外匯交易中心的實(shí)際業(yè)務(wù)，選擇了流水線并行方案。

微軟亞洲研究院系統(tǒng)研究組高級(jí)研究員林昊翔表示，相較于其它并行方案，流水線并行擁有四個(gè)明顯優(yōu)勢(shì)。首先，它可以確保多個(gè)訂單的不同階段雖然在同時(shí)執(zhí)行，但是訂單整體是按照規(guī)定順序進(jìn)行撮合，而其它并行方案沒(méi)有內(nèi)建的執(zhí)行順序保障機(jī)制；其次，流水線清晰定義了可以并發(fā)執(zhí)行的代碼塊，方便理解、細(xì)化需要同步原語(yǔ)保護(hù)的臨界區(qū)；第三，流水線并行的擴(kuò)展性更好，階段內(nèi)部的執(zhí)行相對(duì)獨(dú)立，擴(kuò)展只需增加更多的流水線階段即可；最后，該方式對(duì)原有撮合引擎的改造是非入侵式、可控的，并行化的實(shí)現(xiàn)、測(cè)試和后期維護(hù)的代價(jià)相對(duì)較小。

“交易撮合的串行執(zhí)行更容易保證正確性，流水線并行的計(jì)算模式可以在不打破兩個(gè)優(yōu)先原則的前提下達(dá)到更高的系統(tǒng)性能“。初步的實(shí)驗(yàn)結(jié)果表明，該方案可將系統(tǒng)整體性能提升20%左右，系統(tǒng)吞吐率 TPS 在實(shí)驗(yàn)室環(huán)境達(dá)到了14萬(wàn)/秒?！敝袇R信息技術(shù)（上海）有限公司副總經(jīng)理李正介紹道，“之前我們做過(guò)應(yīng)用代碼級(jí)別的系統(tǒng)性能優(yōu)化工作，像這次能深入到 CPU 指令、系統(tǒng)和處理架構(gòu)級(jí)別的探索，對(duì)我們來(lái)說(shuō)是全新的嘗試。如果未來(lái)對(duì)撮合引擎進(jìn)行更深入的優(yōu)化，相信系統(tǒng)整體性能將會(huì)有進(jìn)一步的提升。我們會(huì)將此次的研究成果應(yīng)用于不同的業(yè)務(wù)系統(tǒng)中去?！?/p>

最大收獲：

用系統(tǒng)性思維去解決優(yōu)化難題

系統(tǒng)、全面地去看待和解決系統(tǒng)優(yōu)化問(wèn)題，在中匯信息技術(shù)（上海）有限公司高級(jí)經(jīng)理包曉晶看來(lái)，是中匯團(tuán)隊(duì)在項(xiàng)目合作研究過(guò)程中的最大收獲。通過(guò)前期調(diào)研，團(tuán)隊(duì)確定了 CPU 指令、系統(tǒng)、處理架構(gòu)三個(gè)優(yōu)化方向。在指令層面，研究員們會(huì)根據(jù)翻譯后援緩沖器（TLB）和緩存的命中率去優(yōu)化訪存、分支等指令，以及嘗試先進(jìn)的編譯技術(shù)用于生成更高效的硬件指令；在系統(tǒng)層面，會(huì)使用高性能同步原語(yǔ)、批處理 I/O、大內(nèi)存頁(yè)等技術(shù)；在架構(gòu)層面，他們會(huì)試圖突破串行的傳統(tǒng)思維束縛，探討并行架構(gòu)的可能。

在中匯公司看來(lái)，微軟亞洲研究院最具有吸引力的地方在于其與企業(yè)的合作方式更具創(chuàng)新性，研究院擁有非常多的科學(xué)家和資深工程師，可以真正幫助企業(yè)解決具有挑戰(zhàn)性的問(wèn)題。這也正是微軟亞洲研究院“跨界共創(chuàng)”的核心。

應(yīng)用工程師看待系統(tǒng)優(yōu)化時(shí)，容易局限在應(yīng)用設(shè)計(jì)和代碼本身，很難有系統(tǒng)性的優(yōu)化體系，包曉晶表示，“我們發(fā)現(xiàn)，微軟亞洲研究院的研究員做系統(tǒng)優(yōu)化時(shí)首先是基于一套完整的優(yōu)化方法論，然后在充分了解實(shí)際問(wèn)題的基礎(chǔ)上實(shí)施論證，并且非常善于利用各種先進(jìn)工具。在與研究員們近距離、手把手的合作中，我們也學(xué)到了很多?！?/p>

微軟亞洲研究院（上海）創(chuàng)新工程組主管研發(fā)經(jīng)理?xiàng)钣駪c表示，“中匯公司的技術(shù)團(tuán)隊(duì)本身就是一個(gè)具有成長(zhǎng)性思維（Growth Mindset）和開(kāi)放心態(tài)的團(tuán)隊(duì)，與微軟的創(chuàng)新文化非常貼近，所以雙方的溝通非常順暢?！?/p>

不過(guò)，不同類型的業(yè)務(wù)系統(tǒng)所受到的約束各不相同。為了確保串行改并行不出錯(cuò)，研究員們大量閱讀源代碼，一步步熟悉中匯公司的交易系統(tǒng)；并在 Azure 云平臺(tái)上部署了接近真實(shí)系統(tǒng)的模擬環(huán)境，精細(xì)地執(zhí)行每一步業(yè)務(wù)流程；利用各類工具進(jìn)行測(cè)試和驗(yàn)證，找到影響系統(tǒng)性能的各個(gè)瓶頸；同時(shí)還要思考如何將對(duì)系統(tǒng)的影響最小化……

“微軟亞洲研究院系統(tǒng)組多年來(lái)在構(gòu)建高吞吐、低延遲、安全可靠、可擴(kuò)展的并發(fā)系統(tǒng)和分布式系統(tǒng)方面擁有深厚的技術(shù)積累，并形成了一整套方法論。金融系統(tǒng)有很多獨(dú)特的約束，對(duì)于我們而言，這也是一個(gè)全新的應(yīng)用場(chǎng)景。與中匯公司的合作拓寬了我們的研究方向，加深了我們對(duì)技術(shù)的理解，對(duì)我們未來(lái)的研究工作有著寶貴的啟發(fā)和指導(dǎo)意義，”林昊翔表示。分析、優(yōu)化和擴(kuò)展一個(gè)已經(jīng)部署多年的系統(tǒng)非常困難，對(duì)此林昊翔建議道，“對(duì)于大規(guī)模并發(fā)系統(tǒng)和分布式系統(tǒng)，一定要在設(shè)計(jì)之初就全面考慮系統(tǒng)演化的問(wèn)題?？梢钥紤]采用微內(nèi)核、可插拔、工具化的系統(tǒng)構(gòu)建架構(gòu)來(lái)建立應(yīng)用系統(tǒng)，這樣才能更加靈活地支撐后續(xù)的系統(tǒng)擴(kuò)展和業(yè)務(wù)發(fā)展?！?/p>

*博客內(nèi)容為網(wǎng)友個(gè)人發(fā)布，僅代表博主個(gè)人觀點(diǎn)，如有侵權(quán)請(qǐng)聯(lián)系工作人員刪除。