《神經網絡的IaaS云資源需求預測》由會員分享,可在線閱讀,更多相關《神經網絡的IaaS云資源需求預測(3頁珍藏版)》請在裝配圖網上搜索。
1、神經網絡的IaaS云資源需求預測
神經網絡的IaaS云資源需求預測
2016/02/02
摘要
為保證基礎設施即服務(IaaS)模式云環(huán)境中資源的有效分配與高效調度,提出了一種基于集成模型-優(yōu)化神經網絡的資源需求預測方法(EMONN).分析了用戶偏好以及資源配置需求,根據需求變化采用閾值法確定波動期與平緩期,通過基本預測器集成模型實現(xiàn)不同時期、不同需求的預處理.預處理結果經過加權,與歷史數(shù)據共同作為神經網絡(NN)的訓練數(shù)據,保證預測結果精度.為改善神經網絡的學習率
2、與穩(wěn)定性,采用自適應學習率以及動量方法對神經網絡進行優(yōu)化.采用統(tǒng)計指標對系統(tǒng)有效性進行驗證,結果表明所提方法可以精確有效實現(xiàn)用戶需求預測.
關鍵詞
基礎設施即服務(IaaS);資源需求預測;集成模型;神經網絡;自適應學習率;統(tǒng)計驗證
在IaaS模式云計算[1]中,高效精確地為用戶分配資源是效益最大化的重要保證.云中心根據請求以虛擬機(VM)形式為其分配資源,為保證服務質量,有必要根據虛擬機運行狀態(tài)實現(xiàn)資源動態(tài)調整.然而,準備和初始化實例需要一定時間,使得資源無法根據用戶需求動態(tài)調度,導致無法有效地為用戶提供彈性的資源管理[2],降低了云計算的服務質量,因而需求預測為資源動態(tài)管
3、理與供給提供了重要參考[3].對資源需求和工作負載的預測已有許多研究工作,為了優(yōu)化資源管理和任務調度,部分學者采用常規(guī)預測方法,例如基于移動平均線的長期趨勢預測算法[4]、基于FUSD的指數(shù)加權移動平均算法[5]等實現(xiàn)云計算環(huán)境下的負載預測,有學者將模糊系統(tǒng)引入虛擬機負載和資源預測中[6-7],提升了系統(tǒng)魯棒性,但是預測精度不夠高.針對云環(huán)境工作負載的非線性特性,有學者引入神經網絡并結合典型預測方法[8-10].上述預測方法難以對不斷變化的情況進行自適應預測,其精確性和實時性有待提升.本研究提出一種基于集成模型-優(yōu)化神經網絡的預測方法,采用基本預測器集成模型對需求情況進行預處理,并分別從以下三
4、個方面對神經網絡進行了優(yōu)化:利用集成模型的輸出數(shù)據優(yōu)化訓練數(shù)據結構;通過優(yōu)化神經網絡傳遞函數(shù)改善網絡權重更新過程;通過自適應學習率優(yōu)化學習過程.
1預測系統(tǒng)結構與資源需求情況
1.1預測系統(tǒng)云計算資源預測系統(tǒng)結構如圖1所示,圖中VM為虛擬機.資源需求預測之前,首先分析歷史數(shù)據庫中的用戶請求,包括數(shù)據結構、內容和數(shù)量,得到用戶偏好性選擇、需求描述等.為了實現(xiàn)精確有效的預測,對不同的資源需求情況進行分析,包括長期需求、短期需求和需求抖動情況,并給出了區(qū)分不同情況的方法準則.對資源需求采用基本預測器集成模型進行預處理,對集成模型預測結果進行加權后,輸入至神經網絡預測器中.神經網絡同時采用
5、歷史數(shù)據序列和集成模型預測結果作為訓練數(shù)據,以提升結果的精確性.引入自適應學習率以及動量法改善神經網絡的收斂速度和穩(wěn)定性.預測輸出值用來指導IaaS云計算數(shù)據中心的資源分配.采用不同統(tǒng)計指標對預測效果進行評估,并將結果反饋至歷史數(shù)據庫中,為后續(xù)資源預測調度提供參考.
1.2需求平緩期基于平緩期的特點,采用二次移動平均法(SMA)[11]進行資源需求的預測,提高預測精度.圖2所示為長度為L的滑動窗模型。
1.3需求波動期指數(shù)移動平均法(EMA)[12]是一種短期預測的有效方法,由于其響應的快速性,因此適用于非周期性的快速變化時間序列預測.EMA對當前測量值給予較大權重,而對于較早時刻
6、的測量值給予較小權重,可以對短期資源需求以及需求抖動作出快速反應.
1.4波動期和平緩期確定進行需求預測時,須明確當前需求所處時期,定義波動閾值(hu)和平緩閾值(ha)界定平緩期與波動期.
2集成模型-優(yōu)化神經網絡資源需求預測
2.1總體結構通過集成預測模型可以對不同的需求情況進行預處理,而神經網絡良好的非線性逼近能力和自組織特性可以提升預測結果的精度.將集成模型結果輸入至神經網絡,實現(xiàn)二者有效結合,是提升系統(tǒng)預測性能的有效方法.集成模型-優(yōu)化神經網絡資源需求預測方法核心是采用兩層結構,如圖3所示.第一層為基本預測器集成模型,第一層的輸出值與歷史數(shù)據共同作為第二層神經網絡訓
7、練值,以優(yōu)化預測結果.
2.2基本預測器集成模型在預測器基礎上,集成模型引入自動回歸模型(AR)和移動平均法(MA).設在時刻t預測器i的預測值為x(i)t,其對應權重為w(i)t,通過對上述預測結果進行加權,則集成模型輸出值。
3實驗與結果分析
3.1統(tǒng)計指標為了評估預測系統(tǒng)的性能,采用系列指標[13]包括平均絕對誤差(MAE)和均方誤差(MSE),誤差區(qū)間數(shù)量統(tǒng)計值(PRED(x))對系統(tǒng)進行分析.MAE是測量預測值和真實值之間誤差均值的指標。
3.2預測效果對比與分析基于集成模型-優(yōu)化神經網絡的資源需求預測方法EMONN的預測結果如圖4所示,圖中Q為訪問流量.由圖
8、可見預測值與實際值符合較好,誤差較小.根據指標(11)~(13),對多種預測方法進行對比實驗,結果如表1所示.可知:對于平均歸一化誤差值和最大誤差,EMONN均達到最小,EMA和SMA的預測結果與EMONN較接近,而僅采用神經網絡時,預測效果較差;EMONN在誤差能量方面低于其他方法,約為AR模型的1/4;EMONN方法處于5%的誤差點數(shù)最多,預測誤差較小,預測性能優(yōu)于其他預測方法.
3.3預測方法學習過程優(yōu)化僅采用神經網絡時預測性能不理想,原因主要是學習率不夠優(yōu)化,本節(jié)討論自適應學習率對神經網絡的影響.圖5為不同學習策略下的神經網絡性能對比,m為迭代次數(shù).不采用自適應學習率的神經網絡經
9、過2000個學習周期,均方誤差(Pa)接近8.6610-3,采用自適應學習率后,經過相同訓練周期后,誤差為3.110-3,二者比率達到2.8.因此,采用自適應學習率后,神經網絡的收斂速度有大幅提升,預測結果更加精確.
3.4集成模型對預測效果的影響圖6所示為將集成模型預處理結果引入訓練數(shù)據進行優(yōu)化后的學習過程曲線.與圖5相比,學習速度得到進一步提升,經過1600個訓練周期即達到訓練目標值0.001,遠小于僅采用歷史數(shù)據作為訓練數(shù)據的預測方法,網絡收斂速度得到有效提升,而且其訓練誤差值達到了0.001,性能得到進一步提升.采用不同訓練數(shù)據結構的性能對比如表2所示.引入集成模型后,預測性能得
10、到有效提升,盡管絕對誤差僅僅降低了0.0031,但是提升了13.9%;優(yōu)化前后的eMSE值分別為0.0012和0.0010,PPRED(5)值分別為302∶320,預測誤差較表1有進一步降低.
4結論
為了提升云計算資源供給效率和精確性,提出了一種基于集成模型-優(yōu)化神經網絡的資源需求預測方法(EMONN).在分析了用戶資源需求特點的基礎上引入基本預測器集成模型對上述不同情況進行處理,并將預測結果發(fā)送至神經網絡作為訓練數(shù)據.采用自適應學習率和帶有動量的權重對學習過程進行優(yōu)化.通過統(tǒng)計指標對預測方法進行有效性驗證.結果表明EMONN可以有效精確地實現(xiàn)用戶資源需求的預測,對于云中心資源調度提供了有效的參考,但是對于多人次多種資源預測,若采用順序處理,則會降低預測的實時性,下一步工作重點在于采用多線程實現(xiàn)多人次多資源同時的預測.