本公開涉及回歸分析方法、回歸分析系統(tǒng)以及回歸分析程序。
背景技術:
1、以往,在通過最小二乘法推定回歸模型的參數(shù)時,存在以下問題:例如,當數(shù)據(jù)的樣本數(shù)少時,不能求出適當?shù)淖钚《送贫?。因此,提出了賦予被稱為l1范數(shù)的約束條件的方法(例如,非專利文獻1)。根據(jù)作為將l1范數(shù)設為約束條件的參數(shù)推定方法的lasso(least?absolute?shrinkage?and?selection?operator:最小絕對收縮和選擇算法),一并進行適用于對目標變量進行說明的說明變量的選擇和系數(shù)的確定。
2、此外,還提出了一種回歸分析裝置,其具備:數(shù)據(jù)獲取部,從存儲裝置讀出訓練數(shù)據(jù)和約束條件,該存儲裝置儲存用作回歸模型的目標變量和說明變量的訓練數(shù)據(jù)、和預先定義為了使目標變量向正或負的方向變動而應使說明變量向正和負中的哪一方變動的約束條件;和系數(shù)更新部,以使包括正則化項的成本函數(shù)最小化(符號約束正則化)的方式,使用訓練數(shù)據(jù),反復更新回歸模型中的說明變量的系數(shù),該正則化項在違反約束條件的情況下增大成本(例如,專利文獻1)。
3、現(xiàn)有技術文獻
4、專利文獻
5、專利文獻1:國際公開第2021/157670號
6、非專利文獻
7、非專利文獻1:robert?tibshirani,“regression?shrinkage?and?selection?viathe?lasso”,journal?of?the?royal?statistical?society.series?b(methodological)vol.58,no.1(1996),pp.267-288
技術實現(xiàn)思路
1、發(fā)明所要解決的問題
2、以往,提出了如下回歸分析裝置:為了使目標變量向正或負方向變動而提前確定預先定義應使說明變量向正和負中的哪一方變動的約束條件,由此即使在訓練數(shù)據(jù)比較少的情況下也能高精度地進行機器學習。然而,為了根據(jù)進行回歸分析的對象來準備適當?shù)募s束條件要花費工夫。因此,本技術的目的在于提供用于構建在說明變量的變動與目標變量的變動上具有對應關系的回歸模型的更通用的技術。
3、用于解決問題的方案
4、(方案1)
5、回歸分析方法由計算機進行以下動作:從儲存用作回歸模型的目標變量和說明變量的訓練數(shù)據(jù)的存儲裝置中讀出訓練數(shù)據(jù);以及以使包括正則化項的成本函數(shù)最小化的方式,使用訓練數(shù)據(jù)來進行基于回歸模型的機器學習。正則化項包括:第一項,在說明變量的系數(shù)為正的區(qū)間中與系數(shù)為負的區(qū)間相比增大成本;和第二項,在系數(shù)為負的區(qū)間中與系數(shù)為正的區(qū)間相比增大成本。
6、(方案2)
7、在上述方案1中,也可以設為,第一項和第二項包括用于使第一項和第二項中的任一項成為零或近似零的參數(shù),在機器學習中,反復更新回歸模型中的回歸系數(shù)和參數(shù)。
8、(方案3)
9、在上述方案2中,也可以設為,參數(shù)是二值變量,并且該參數(shù)在取一個值的情況下構成在第一項中成為零的因子,在取另一個值的情況下構成在第二項中成為零的因子。
10、(方案4)
11、在上述方案3中,也可以設為,二值變量設為近似生長曲線的值,回歸系數(shù)和參數(shù)以使成本函數(shù)最小化的方式被計算。
12、(方案5)
13、在上述方案3或4中,也可以設為,二值變量設為基于使用回歸系數(shù)表示的規(guī)定值與隨機變量的大小關系而確定的值,回歸系數(shù)和參數(shù)以使成本函數(shù)最小化的方式被計算。
14、應用回歸分析方法的對象也可以是制造業(yè)或非制造業(yè)中的設備。說明變量也可以是生產(chǎn)設備所輸出的感測數(shù)據(jù)。此外,目標變量也可以是設備的運轉(zhuǎn)條件、或者規(guī)定的特性值或異常度。需要說明的是,用于解決問題的方案中記載的內(nèi)容可以在不脫離本公開的問題、技術思想的范圍盡可能地進行組合。此外,上述方案1至方案5可以作為包括計算機等裝置或多個裝置的系統(tǒng)、計算機或系統(tǒng)所執(zhí)行的方法、或者用于使計算機或系統(tǒng)執(zhí)行的程序而提供。需要說明的是,也可以設為提供保持程序的記錄介質(zhì)。
15、發(fā)明效果
16、根據(jù)公開的技術,能提供用于構建在說明變量的變動與目標變量的變動上具有對應關系的回歸模型的更通用的技術。
1.一種回歸分析方法,所述回歸分析方法由計算機進行以下動作:
2.根據(jù)權利要求1所述的回歸分析方法,其中,
3.根據(jù)權利要求2所述的回歸分析方法,其中,
4.根據(jù)權利要求3所述的回歸分析方法,其中,
5.根據(jù)權利要求3或4所述的回歸分析方法,其中,
6.一種回歸分析系統(tǒng),所述回歸分析系統(tǒng)包括執(zhí)行如權利要求1至5中任一項所述的回歸分析方法的一個以上的計算機。
7.一種回歸分析程序,所述回歸分析程序用于使一個以上的計算機執(zhí)行如權利要求1至5中任一項所述的回歸分析方法。