1.針對(duì)智能工廠毫米波網(wǎng)絡(luò)平均信息年齡的優(yōu)化調(diào)度方法,其特征在于,包括:
2.根據(jù)權(quán)利要求1所述的針對(duì)智能工廠毫米波網(wǎng)絡(luò)平均信息年齡的優(yōu)化調(diào)度方法,其特征在于,所述智能工廠毫米波網(wǎng)絡(luò)模型包括基站及若干接收節(jié)點(diǎn),所述基站用于向信號(hào)范圍內(nèi)的接收節(jié)點(diǎn)傳輸數(shù)據(jù)文件,所述基站側(cè)面裝配有定向天線,所述定向天線用于將數(shù)據(jù)文件傳輸給信號(hào)范圍內(nèi)的接收節(jié)點(diǎn);所述傳輸模型為扇形天線模型,所述扇形天線模型的發(fā)射天線采用單個(gè)射頻鏈的模擬波束成形技術(shù),以集中發(fā)射信號(hào)的強(qiáng)度,在任意方向上調(diào)整波束寬度和波束長(zhǎng)度,用于將波束覆蓋一個(gè)節(jié)點(diǎn)子集。
3.根據(jù)權(quán)利要求1所述的針對(duì)智能工廠毫米波網(wǎng)絡(luò)平均信息年齡的優(yōu)化調(diào)度方法,其特征在于,定義最小化所述系統(tǒng)的長(zhǎng)期加權(quán)平均信息年齡波束調(diào)度優(yōu)化問(wèn)題,包括:
4.根據(jù)權(quán)利要求3所述的針對(duì)智能工廠毫米波網(wǎng)絡(luò)平均信息年齡的優(yōu)化調(diào)度方法,其特征在于,所述優(yōu)化問(wèn)題表示為:
5.根據(jù)權(quán)利要求1所述的針對(duì)智能工廠毫米波網(wǎng)絡(luò)平均信息年齡的優(yōu)化調(diào)度方法,其特征在于,將系統(tǒng)模型建模為馬爾可夫決策過(guò)程,確定系統(tǒng)所處馬爾可夫過(guò)程的狀態(tài)空間、動(dòng)作空間以及獎(jiǎng)勵(lì)函數(shù),包括:
6.根據(jù)權(quán)利要求5所述的針對(duì)智能工廠毫米波網(wǎng)絡(luò)平均信息年齡的優(yōu)化調(diào)度方法,其特征在于,所述狀態(tài)空間為:
7.根據(jù)權(quán)利要求1所述的針對(duì)智能工廠毫米波網(wǎng)絡(luò)平均信息年齡的優(yōu)化調(diào)度方法,其特征在于,所述智能調(diào)度網(wǎng)絡(luò)包括actor子網(wǎng)絡(luò)和critic子網(wǎng)絡(luò),所述actor子網(wǎng)絡(luò)和critic子網(wǎng)絡(luò)采用相同的狀態(tài)輸入層,若干全連接層作為隱藏層,并使用relu函數(shù)作為激活函數(shù);其中,所述actor子網(wǎng)絡(luò)輸出表示策略的概率值向量,記為,actor子網(wǎng)絡(luò)用于擬合狀態(tài)到動(dòng)作的映射,即策略,對(duì)應(yīng)actor子網(wǎng)絡(luò)根據(jù)不同系統(tǒng)狀態(tài)做出策略的過(guò)程,其維度與動(dòng)作空間的大小相等;所述critic子網(wǎng)絡(luò)輸出為當(dāng)前狀態(tài)值函數(shù)的估計(jì)值,用于評(píng)估從當(dāng)前狀態(tài)執(zhí)行動(dòng)作得到的預(yù)期回報(bào);
8.根據(jù)權(quán)利要求7所述的針對(duì)智能工廠毫米波網(wǎng)絡(luò)平均信息年齡的優(yōu)化調(diào)度方法,其特征在于,調(diào)整所述智能調(diào)度網(wǎng)絡(luò)的網(wǎng)絡(luò)參數(shù),包括:
9.根據(jù)權(quán)利要求8所述的針對(duì)智能工廠毫米波網(wǎng)絡(luò)平均信息年齡的優(yōu)化調(diào)度方法,其特征在于,通過(guò)反向傳播方法分別計(jì)算所述actor子網(wǎng)絡(luò)和critic子網(wǎng)絡(luò)的梯度,更新所述網(wǎng)絡(luò)參數(shù),具體為:
10.根據(jù)權(quán)利要求1所述的針對(duì)智能工廠毫米波網(wǎng)絡(luò)平均信息年齡的優(yōu)化調(diào)度方法,其特征在于,選擇所述最優(yōu)策略進(jìn)行調(diào)度的方法為: