おはようございます！連日の筋トレ・ランニング・サッカーで身体に疲労が溜まっていました...今日は無理せず過ごします。 ＜今日やること＞ ☑️ #Tableau ☑️ Notion ☑️ #統計, #ロジカルシンキング ☑️ #Webマーケティング ☑️ 息子と散歩したり GW やりきっていきます！ #朝活

日本政府の統計ダッシュボード。暇な時に見ると面白いですよ dashboard.e-stat.go.jp #統計

球対称ﾎﾟﾃﾝｼｬﾙ V(r) が存在する3次元ｼｭﾚﾃﾞｨﾝｶﾞｰ方程式を解く際, 極座標表示することで, r と(θ, φ) に分けて表示する事ができるので, 予め ψ(r,θ,φ) = R(r)Y(θ,φ) と変数分離して解く.  #数学 #解析 #算数 #金融 #数式 #学校 #データ分析 #機械学習 #統計 #量子力学 #大学数学

#統計 数学強者は、通常の線形回帰と回帰係数とlog σ²に関する平坦事前分布でのベイズ版線形回帰の同等性を、さらっと証明して、数値実験をする気が失せてしまいがちかもしれませんが、個人的な意見では証明をした後であっても数値実験もした方が良いと思います。百聞は一見に如かず。

#統計 通常の線形回帰と同じ結果を得たければ、回帰係数とσ²について平坦な事前分布ではなく、回帰係数とlog σ²について平坦な事前分布を採用する必要があります。 そのことに気付かずに数値実験をすると微妙にずれた結果が得られ、悩むことになるので注意してください。

#統計 手を動かしたい人のための注意 Stanでのベイズ版線形回帰のモデルの記述で、事前分布の設定をサボると、コードの書き方によりますが、事前分布が回帰係数とσ²に関する平坦事前分布に自動設定される可能性が高いです。 続く

#統計 最尤法であろうが、ベイズであろうが、未知の定数である現実世界における母平均μ₀と、数学的フィクションであるモデル内におけるパラメータμは全然違うものです。 数学的フィクション(モデル)内でのパラメータの扱い方が最尤法とベイズ法では違うだけです。

#統計 最尤法では、未知の定数である母平均μ₀の推定のために、母平均のモデル化であるモデルのパラメータμの値を尤度が最大化されるように求めます。 ベイズ法では、モデルがμに関する事前分布を含むように拡張されているので、数学的フィクションであるモデル内でμは確率変数扱いされます。続く

#統計 補足 【日本の小学6年生男子全体の平均体重μ₀を推定したいとします。主義によらずμ₀は未知だが確定している定数です。】 日本の小6男子全体の平均体重μ₀は未知だが確定した定数です。頻度論とかベイズ主義とかと無関係にμ₀は未知だが確定している定数です。続く

#統計 通常の線形回帰の回帰係数の最小二乗推定量に関する正規分布の仮定からの逸脱に関する一般化された中心極限定理による頑健性は、それと同等な平坦事前分布のベイズ版線形回帰での回帰係数の区間推定の頑健性も与えることになります。

#統計 残差の分布を正規分布でモデル化した場合の最尤法と最小二乗法はぴったり一致します。その場合も、最尤法と平坦事前分布のベイズ統計はぴったり一致します(一般には漸近的に一致するに過ぎない)。 通常の線形回帰 と 回帰係数とlog σ²の平坦事前分布のベイズ版線形回帰 は同等だとみなせる。

#統計 おまけ 正規分布モデルの最尤法とそれに付随する信頼区間 と μとlog σ²について平坦なimproper事前分布に関する正規分布モデルのベイズ統計での点推定と区間推定(信用区間) は数学的にぴったり一致します。正規分布モデルでの最尤法とベイズの違いは事前分布の取り方の分の違いになります。

#統計 余談続き 尤度p(x₁|θ)⋯p(xₙ|θ)の対数もxの座標の取り方に依存する。 しかし、2つのモデルの対数尤度の差を考えると、xの座標の取り方への依存性がキャンセルして消える。特に対数尤度の大小関係はxの座標の取り方によらない。 こういうことの確認も基本的。

#統計 余談 パラメータθ付きのxの確率密度函数p(x|θ)はxの座標の取り方で変わるので、データの数値x₁,…,xₙの尤度p(x₁|θ)⋯p(xₙ|θ)もxの座標の取り方で変わる。しかし、その変わり方はパラメータθに依存しないので、尤度を最大化するθの値はxの座標の取り方によらない。 余談続く

#統計 渡辺澄夫著『ベイズ統計の理論と方法』は、本のタイトルからは想像できないかもしれませんが、最尤法の漸近論も第3章でしっかり扱っています。個人的な意見では、この本は最尤法の教科書としても良いと思います。

#統計 個人的な意見では、入門的な最尤法の解説においても、渡辺澄夫著『ベイズ統計の理論と方法』が採用している設定で説明するべき。 その本では、データの数値を生成する未知の分布q(x)と数学的フィクションであるモデルの分布p(x|θ)を完全に別物とする設定を採用している。

#統計 相互リンク

#統計 「尤度」「最尤法」関連

#統計 関連 Greenlandさんの講演スライド biostatistics.ucdavis.edu/sites/g/files/… は個人的に必読だと思う。 pic.twitter.com/6sxjVOiiFT

#統計 不良設定問題の取り扱いの方が数学的力は余計に必要ではあるのですが、問題を数学的に解けるようにするために過剰に単純化された場合の結果が不適切になったり無用になったりすることが多いので、その分だけ既存の結果のフォローをサボって良いことになって楽をできることにもなります。

#統計 実践的な統計学では、設定を過剰に単純化して解ける問題にして扱うだけではなく(それも必要)、設定を現実に近付けて与えられた条件だけでは解くことができない不良設定問題も考える必要があります。 追加でどのような条件があれば良いかについて考えるためには数学的力が余計に必要になります。

#統計 現実には、標本は未知の母集団分布から取得されており、人間が勝手に設定したモデルに従ってランダムに生成されていると考えることは誤りになります。 そして、母集団分布の記述としては間違っているモデルであっても役に立つこともあることにも注意が必要です。

#統計 よくある最尤法の解説は、 パラメータθ,η,…を持つ統計モデルを、パラメータθ,η,…の値をどれかに設定した統計モデルの確率分布に従って標本がランダムに生成されている場合に適用する という非現実的な設定になっていることが多いので注意が必要です。続く

#統計 正規分布モデルにはμの他にσ²というパラメータがあるので、正規分布モデルに付随してσ²の信頼区間(母分散の信頼区間)も構成できます。 しかし、μの場合と違って、σ²の信頼区間は非正規母集団については標本サイズを大きくしても誤差が小さくならないので使用が妥当でない可能性は高くなります。

#統計 その問題の答え 非正規母集団の標本の確率変数とみなされた標本平均が従う分布が中心極限定理によって正規分布で近似されていれば、正規分布モデルを使って計算されたμの信頼区間の使用は概ね妥当になる です。こういう非自明な議論が必要になります。

#統計 以上をまとめると、 * 正規分布モデルの最尤法に付随したμの信頼区間も計算できる。 * 非正規母集団に正規分布モデルの最尤法を適用した。 非正規母集団の標本について、正規分布モデルを使って計算したμの信頼区間の使用は妥当かどうかが問題になります。

#統計 正規分布モデルの最尤法による母平均の推定の場合にも、それに付随する信頼区間の構成法があります(複数ある)。 それによって、母平均の最尤推定値μ̂(=標本平均)だけではなく、パラメータμの信頼区間(=データの数値と相性が良いμの値の範囲)も得られます。続く

#統計 尤度が「もっともらしさ」ではなく「データの数値とモデルの相性の良さの指標の1つ」に過ぎなかったのと同様に、信頼区間も「もっともらしいパラメータの値の範囲」ではなく「データの数値と相性が良いモデルのパラメータの値の範囲」だと解釈する必要があります。続く

#統計 点推定値だけではなく、区間推定の結果も報告することが常識になっています。 区間推定は95%のような人為的な閾値を使うので、そうせずに済むP値関数の全体の情報を報告するべきだという良さそうな意見もあります。続く

#統計 さらにさらに、統計学の基本中の基本の1つは 　点推定値だけを報告しない ことです。最尤推定値も点推定値の一種なので、最尤推定値だけを報告することが統計学の常識に反します。続く

#統計 だから、以上のストーリー中での正規分布モデルの最尤法の適用は、非正規母集団への正規分布モデルの適用になっています。 つまり、正規分布モデルは未知の母集団分布の近似としては間違っていると考える必要があります。続く

#統計 さらに、最尤法でも、現実の母集団と目的について、モデルが妥当であるかについて考える必要があります。 体重の分布は正規分布であまり近似されないことが知られています。日本の小6男子全体の体重の分布(それは未知だという設定)も正規分布で近似されていないと考える必要があります。続く

#統計 再度強調。 最尤法は、未知の母集団分布ではなく、データの数値に最も適合するモデルのパラメータの値を求める手続きに過ぎません。 尤度は「もっともらしさ」ではありません！ 尤度は、データの数値とモデル+パラメータ値の設定の相性の良さ(もしくは適合度)の指標の1つに過ぎない！続く

#統計 最尤法は、未知の母集団分布(今の場合には日本の小6男子全体の体重の分布)ではなく、データの数値と最も相性が良いモデルのパラメータの値を求める方法に過ぎない。 データの数値と最も相性が良いモデルのパラメータの値と未知の母集団分布の関係については別の議論が必要。

#統計 上のμ̂が データの数値x₁,…,xₙと正規分布モデルから得られる母平均μ₀の最尤推定値 です。最尤推定値μ̂はデータの数値の標本平均になりました。 標本平均μ̂は、日本の小6男子全体の体重の平均値μ₀とは違って、データの数値x₁,…,xₙだけで決まる数値であることに注意！

#統計 ℓ(μ, σ²)を最小化するμ,σ²の値をμ̂,σ̂²と書くと、 μ̂ = (x₁+⋯+xₙ)/n, σ̂²=((x₁-μ̂)²+⋯+(xₙ-μ̂)²)/n となることが、高校数学の議論で容易に示せます(証明は略す)。 ℓ(μ, σ²)を最小化するμ=μ̂, σ²=σ̂²は尤度関数を最大化する。続く

#統計 そのデータの数値に関する正規分布モデルの対数尤度関数の-2倍は ℓ(μ, σ²) = ((x₁-μ)²+⋯+(xₙ-μ)²)/σ² + log σ² + log(2π) です。モデルのパラメータμは未知の確定した数値の母平均μ₀とは違うのでμは自由に動かせます。 「頻度論」のような有害なジャーゴンの存在は忘れてよい。続く

#統計 日本の小学6年生男子全体の平均体重μ₀の推定のために、期待値パラメータμと分散パラメータσ²を持つ正規分布モデルの最尤法を使うことにします。 日本の小学6年生男子の中からn=100人を無作為抽出して、100人分の体重の数値x₁,…,xₙを得たとします。xᵢ達は確定した数値です。続く

#統計 以下のスレッドを読んで、やはり、主義に基く悪しき統計学のジャーゴンである「頻度論」に関する言説は統計学教育上有害なのだなと思いました。 以下で色々解説。 日本の小学6年生男子全体の平均体重μ₀を推定したいとします。主義によらずμ₀は未知だが確定している定数です。続く