text: 在統計學中， 多項式迴歸是迴歸分析的一種形式，其中自變數 x 和因變數 y 之間的關係被建模為關於 x 的 n 次多項式。多項式迴歸擬合x的值與 y 的相應條件均值之間的非線性關係，表示為 E(y|x)，並且已被用於描述非線性現象，例如組織的生長速率、湖中碳同位素的分佈以及沉積物和流行病的發展。雖然多項式迴歸是擬合數據的非線性模型，但作為統計估計問題，它是線性的。在某種意義上，迴歸函式 E(y|x) 在從資料估計到的未知引數中是線性的。因此，多項式迴歸被認為是多元線性迴歸的特例。由“基線”變數的多項式展開得到的解釋性變數稱為高次項，這些變數也用於分類場景。歷史.多項式迴歸模型通常使用最小二乘法來擬合。在高斯-馬爾可夫定理的條件下，最小二乘法最小化係數的無偏估計的方差。最小二乘法由勒讓德於1805年發表，1809年由高斯發表。多項式迴歸實驗的第一個設計出現在1815年的 Gergonne 的論文中。 在二十世紀，多項式迴歸在迴歸分析的發展中起著重要作用，更加強調設計和推理的問題。定義和例項.迴歸分析的目標是根據自變數x 的值來模擬因變數 y 的期望值。在簡單的線性迴歸中，使用模型formula_1其中ε是未觀察到的隨機誤差，其以標量 x 為條件，均值為零。在該模型中，對於 x 值的每個單位增加，y 的條件期望增加 formula_2個單位。在許多情況下，這種線性關係可能不成立。例如，如果我們根據合成發生的溫度對化學合成的產率進行建模，我們可以發現透過增加每單位溫度增加的量來提高產率。在這種情況下，我們可能會提出如下所示的二次模型：formula_3。在該模型中，當溫度從x增加到x+1單位時，預期產量會變化formula_4。當 x 的變化趨近無窮小時，對 y 的影響由關於 x 的導數給出：formula_5, 即使模型在待估計的引數中是線性的，但是產量的變化取決於 x 的事實使得 x 和 y 之間的關係為非線性關係。通常，我們可以將 y 的期望值建模為 n 次多項式，得到一般多項式迴歸模型：formula_6為了方便，這些模型從估計的角度來看都是線性的，因為迴歸函式就未知引數β0、β1等而言是線性的。因此，對於最小二乘分析，多項式迴歸的計算和推理問題可以使用多元迴歸技術完全解決，這是透過將 x、x2 等視為多元迴歸模型中的獨特自變數來完成的。矩陣形式和估計計算.多項式迴歸模型formula_7可以由設計矩陣 formula_8、響應向量 formula_9、向量引數 formula_10和隨機誤差向量 formula_11來表示。在第 i 行的 formula_8和 formula_9為第 i 個數據樣本的 x 和 y 值。然後該模型可以寫成線性方程組：formula_14當使用純矩陣表示法時，將其寫為formula_15估計多項式迴歸係數的向量為formula_16假設 m&lt;n 是矩陣可逆的必要條件，那麼由於 formula_8是 範德蒙矩陣，如果所有 formula_18值都不同，則保證可逆性條件成立，這是唯一的最小二乘法的解。解釋.雖然多項式迴歸在技術上是多元線性迴歸的一個特例，但擬合多項式迴歸模型的解釋需要一個不同的視角。通常難以在多項式迴歸擬閤中解釋各個係數，因為基礎單項式可以高度相關。例如，當 x 具有在區間 (0,1) 上的均勻分佈時，x 和 x2 具有大約0.97的相關性。儘管可以透過使用正交多項式來減少相關性，但是通常將擬合的迴歸函式視為整體來提供更多資訊，然後可以使用逐點或同時置信區間來提供迴歸函式估計的不確定性。替代方法.多項式迴歸是使用基函式來模擬兩個變數之間的函式關係的迴歸分析的一個例項。更具體地說，它用多項式基 formula_19替換線性迴歸中的 formula_20，如 formula_21。多項式基的一個缺點在於基函式是“非區域性的”，這意味在給定值x = x0 處 y 的擬合值很大程度依賴於 x 遠離 x0的資料值。在現代統計中，多項式基函式與新的基函式一起使用，如樣條函式、徑向基函式和小波。這些基函式族為許多型別的資料提供了更簡約的擬合。多項式迴歸的目標是模擬獨立變數和因變數之間的非線性關係。另外一種方法是使用核方法模型，如支援向量迴歸和多項式核。
metadata: erhwenkuo/wikipedia-zhtw
metadata: 多項式迴歸
metadata: https://zh.wikipedia.org/wiki?curid=6515996