如何理解在簡單線性回歸中,計算OSL估計量( 1和 0)的方差時, 將SSTx和di等均視為非隨機的?

時間 2021-06-03 03:32:00

1樓:羅城

一般的OLS回歸裡X被認為沒有隨機性,所以書本的介紹是對的。那個除掉的X的方差指的是樣本方差,而不是population的方差。

當然現實生活裡,X基本都帶誤差。所以比較好的另外乙個解釋是X Y服從聯合正態分佈,線性回歸可以被當成E(Y∣X), 在取這個條件期望的時候,X也是被當成固定變數的。

如果你對這種普通回歸不滿意,可以去看看measurement error model, 那裡會有數學上嚴格的對X加隨機性方法。

2樓:沃科子咯

經典統計回歸模型一般都有幾個假設,其中有乙個說的就是自變數是非隨機量,一般研究的是給定X的時候Y是的取值,所以對於固定的X來說SST和di的確是常數.

對於這個模型,隨機性主要是由於 導致的,所以會導致對於固定的X,Y的取值會有隨機性.

通過最小二乘得到

其中只有 是隨機的,換言之,在基本假設下

3樓:Phenomenon

我理解這只是個技術問題。翻了一下書,所謂「以 為條件」,再往前翻一點就可以找到,零條件均值假設那裡寫道:

"..., the zero conditional mean assumption ... allows for a convenient technical simplification.

In particular, we can derive the statistical properties of the OLS estimators as conditional on the values of the in our sample. Technically, in statistical derivations, conditioning on the sample values of the independent variable is the same as treating the as fixed in repeated samples, which we think of as follows. We first choose sample values for , , …, .

(These can be repeated.) Given these values, we then obtain a sample on (effectively by obtaining a random sample of the ). Next, another sample of is obtained, using the same values for , , …, .

Then another sample of is obtained, again using the same , , …, . And so on."(手上只有英文版)

重點就是「以 為條件」等同於把 視作fixed in repeated samples(在重複樣本中固定不變),這樣處理可以簡化推導。這樣在推導過程中的 和 有確定的取值,也就是非隨機的了。

4樓:Dk583

首先,對於多元回歸 中的自變數X是否是隨機變數的問題。

其次,如果自變數和因變數都是隨機的,那麼在處理時,研究的都是給定X的情況下,y的條件分布情況。比如,給定X時y的條件期望可以理解為, 。也就是說它是X的函式,它當然是隨機的,但是當我們得到X的具體資料時,即得到樣本的一組實現值時,它就可以直接算出來了。

同樣,當X是樣本的具體實現值時,SST和di就是數了。而當我們將其看作隨機變數時,它就是隨機的。

大部分統計學的教材完全不會提將X視為隨機的情況,但是這是計量經濟學教材的出發點。有些計量經濟學的書也會明確說下X既可以視為隨機的,也可以在計算時看成非隨機的。題主可以找些計量的書再看看,比如陳強老師的高階計量經濟學。

5樓:第二階護法

這個問題,我個人認為是這樣的,隨機性如何假設是沒有乙個絕對正確的答案的

不同的假設當然會匯出不同的處理方式。但是為什麼這裡要假設SSTx和di是非隨機的呢?原因是

SSTx和di的非隨機假設是非常好的統計入門模型。換句話說,它們在現實中是對的,但是如果你不能處理這種基本問題,那稍微更加複雜的情況就無從談起。就像你要成為天文學家,就必須從牛頓三定律學起。

天文裡從來都不存在什麼勻加速直線運動,但是要是沒有這個基本工具,那搞清楚天文肯定是天方夜譚!

搞清楚了這個非隨機的SSTx和di,就可以進一步去搞清楚隨機設定下的情況以及其他更複雜的模型。你如果感興趣的話,可以去學學多元統計分析,裡面可以找到你想要的隨機情況下的答案。

簡單線性回歸中最小二乘推導怎麼證明駐點是最小值?

jacobian 對於目標函式 我們可以研究海塞矩陣的正定性,問題中已經給出了不同的二階偏導的情況即,如果我們能判斷海塞矩陣的正定性就能知道很多有用的資訊,如何判斷乙個矩陣的正定性呢,只要乙個矩陣的每階子式正定即可,1階子式毫無疑問大於0,二階子式是 構建兩個向量 利用柯西施瓦茨公式知道 leq a...

如何理解數學期望的線性性質?

wuranra 隨機變數 是我們關注的目標事件可能發生的結果,即X代表了事件所能取到的值。比如 扔骰子這個事件,X能取到1 6。隨機變數函式 是我們在關注一些事件後,想在其基礎繼續挖掘一些有用資訊所採用的手段,人們常常可以通過構造乙個函式g X 的辦法來實現這個目的,而這個手段的結果就是在基本事件X...

如何通俗簡單地理解 Inbound Marketing 和 Outbound Marketing

吳嘉陽 簡單一句話,以客戶需求的強烈程度分 主動營銷 inbound marketing 使用者需求相對較高,使用者主動索取產品相關資訊 和被動營銷 outbound marketing 使用者需求相對較低,被動被強推來索取產品資訊 劉延飛 Inbound marketing會慢慢成為marketi...