「MCMC」を含む日記 RSS

はてなキーワード: MCMCとは

2025-10-21

数学の分類はこんな感じか

フェミニズムの分類が多すぎると聞いて

anond:20251020210124

0. 基礎・横断

集合論

公理集合論(ZFC, ZF, GCH, 大きな基数)

記述集合論(Borel階層, Projective階層, 汎加法族)

強制法フォーシング), 相対的一致・独立

理論理学

述語論理(完全性定理, コンパクト性)

モデル理論(型空間, o-極小, NIP, ステーブル理論

証明論(序数解析, カット除去, 直観主義論理

再帰理論/計算可能性(チューリング度, 0′, 相対計算可能性)

圏論

関手自然変換, 極限/余極限

加群圏, アーベル圏, 三角圏, 派生

トポス論, モナド, アジュンクション

数学基礎論哲学

構成主義, 直観主義, ユニバース問題, ホモトピー型理論(HoTT)

1. 代数学

群論

組み合わせ群論(表示, 小石定理, 自由群)

代数群/リー群表現, Cartan分解, ルート系)

幾何群論ハイパーリック群, Cayleyグラフ

環論

可換環論(イデアル, 局所化, 次元理論, 完備化)

可換環アルティン環, ヘルシュタイン環, 環上加群

体論・ガロア理論

体拡大, 分解体, 代数独立, 有限体

表現

群・リー代数表現(最高ウェイト, カズダン–ルスティグ)

既約表現, 調和解析との関連, 指標

ホモロジー代数

射影/入射解像度, Ext・Tor, 派生関手

K-理論

アルバースカルーア理論, トポロジカルK, 高次K

線形代数

ジョルダン標準形, 特異値分解, クリフォード代数

計算代数

Gröbner基底, 多項式時間アルゴリズム, 計算群論

2. 数論

初等数論(合同, 既約性判定, 二次剰余)

代数的数論(代数体, 整環, イデアル類群, 局所体)

解析数論(ゼータ/ L-関数, 素数定理, サークル法, 篩法)

p進数論(p進解析, Iwasawa理論, Hodge–Tate)

算術幾何楕円曲線, モジュラー形式, 代数多様体の高さ)

超越論(リンマンヴァイエルシュトラス, ベーカー理論

計算数論(楕円曲線法, AKS素数判定, 格子法)

3. 解析

実解析

測度論・ルベーグ積分, 凸解析, 幾何的測度論

複素解析

変数リーマン面, 留数, 近似定理

変数(Hartogs現象, 凸性, several complex variables)

関数解析

バナッハ/ヒルベルト空間, スペクトル理論, C*代数, von Neumann代数

調和解析

フーリエ解析, Littlewood–Paley理論, 擬微分作用素

確率解析

マルチンゲール, 伊藤積分, SDE, ギルサノフ, 反射原理

実関数論/特殊関数

ベッセル, 超幾何, 直交多項式, Rieszポテンシャル

4. 微分方程式力学系

常微分方程式(ODE)

安定性, 分岐, 正準系, 可積分系

偏微分方程式(PDE)

楕円型(正則性, 変分法, 最小曲面)

放物型(熱方程式, 最大原理, Harnack)

双曲型(波動, 伝播, 散乱理論

非線形PDE(Navier–Stokes, NLS, KdV, Allen–Cahn)

幾何解析

リッチ流, 平均曲率流, ヤンミルズ, モノポールインスタント

力学系

エルゴード理論(Birkhoff, Pesin), カオス, シンボリック力学

ハミルトン力学, KAM理論, トーラス崩壊

5. 幾何学・トポロジー

位相幾何

点集合位相, ホモトピーホモロジー, 基本群, スペクトル系列

幾何トポロジー

3次元多様体幾何化, 結び目理論, 写像類群)

4次元トポロジー(Donaldson/Seiberg–Witten理論

微分幾何

リーマン幾何(曲率, 比較幾何, 有界幾何

シンプレクティック幾何(モーメント写像, Floer理論

複素/ケーラー幾何(Calabi–Yau, Hodge理論

代数幾何

スキーム, 層・層係数コホモロジー, 変形理論, モジュライ空間

有理幾何(MMP, Fano/一般型, 代数曲線/曲面)

離散幾何・凸幾何

多面体, Helly/Carathéodory, 幾何極値問題

6. 組合せ論

極値組合せ論(Turán型, 正則性補題

ランダムグラフ/確率方法(Erdős–Rényi, nibble法)

加法組合せ論(Freiman, サムセット, Gowersノルム)

グラフ理論

彩色, マッチング, マイナー理論(Robertson–Seymour)

スペクトルグラフ理論, 拡張グラフ

組合設計ブロック設計, フィッシャーの不等式)

列・順序・格子(部分順序集合, モビウス反転)

7. 確率統計

確率論(純粋

測度確率, 極限定理, Lévy過程, Markov過程, 大偏差

統計

数理統計推定, 検定, 漸近理論, EM/MD/ベイズ

ベイズ統計MCMC, 変分推論, 事前分布理論

多変量解析(主成分, 因子, 判別, 正則化

ノンパラメトリックカーネル法, スプライン, ブーストラップ

実験計画/サーベイ, 因果推論(IV, PS, DiD, SCM

時系列(ARIMA, 状態空間, Kalman/粒子フィルタ

確率最適化/学習理論

PAC/VC理論, 一般境界, 統計学習

バンディット, オンライン学習, サンプル複雑度

8. 最適化オペレーションリサーチ(OR)

凸最適化

二次計画, 円錐計画(SOCP, SDP), 双対性, KKT

凸最適化

多峰性, 一階/二階法, 低ランク, 幾何的解析

離散最適化

整数計画, ネットワークフロー, マトロイド, 近似アルゴリズム

確率的/ロバスト最適化

チャンス制約, 分布ロバスト, サンプル平均近似

スケジューリング/在庫/待ち行列

Little法則, 重み付き遅延, M/M/1, Jackson網

ゲーム理論

ナッシュ均衡, 進化ゲーム, メカニズムデザイン

9. 数値解析・計算数学科学計算

数値線形代数(反復法, 直交化, プリコンディショニング)

常微分方程式の数値解法(Runge–Kutta, 構造保存)

PDE数値(有限要素/差分/体積, マルチグリッド

誤差解析・条件数, 区間演算, 随伴

高性能計算HPC)(並列アルゴリズム, スパー行列

シンボリック計算(CAS, 代数的簡約, 決定手続き

10. 情報計算暗号(数理情報

情報理論

エントロピー, 符号化(誤り訂正, LDPC, Polar), レート歪み

暗号理論

公開鍵RSA, 楕円曲線, LWE/格子), 証明可能安全性, MPC/ゼロ知識

計算複雑性

P vs NP, ランダム化・通信・回路複雑性, PCP

アルゴリズム理論

近似・オンライン確率的, 幾何アルゴリズム

機械学習の数理

カーネル法, 低次元構造, 最適輸送, 生成モデル理論

11. 数理物理

古典/量子力学の厳密理論

C*代数量子論, 散乱, 量子確率

量子場の数理

くりこみ群, 構成的QFT, 共形場理論CFT

統計力学の数理

相転移, くりこみ, Ising/Potts, 大偏差

可積分系

逆散乱法, ソリトン, 量子可積分モデル

理論幾何

鏡映対称性, Gromov–Witten, トポロジカル弦

12. 生命科学医学社会科学への応用数学

数理生物学

集団動態, 進化ゲーム, 反応拡散, 系統樹推定

数理神経科学

スパイキングモデル, ネットワーク同期, 神経場方程式

疫学感染症数理

SIR系, 推定制御, 非均質ネットワーク

計量経済金融工学

裁定, 確率ボラ, リスク測度, 最適ヘッジ, 高頻度データ

社会ネットワーク科学

拡散, 影響最大化, コミュニティ検出

13. シグナル・画像データ科学

信号処理

時間周波数解析, スパー表現, 圧縮センシング

画像処理/幾何処理

変動正則化, PDE法, 最適輸送, 形状解析

データ解析

多様体学習, 次元削減, トポロジカルデータ解析(TDA

統計機械学習回帰/分類/生成, 正則化, 汎化境界

14. 教育歴史方法

数学教育学(カリキュラム設計, 誤概念研究, 証明教育

数学史(分野別史, 人物研究, 原典講読)

計算支援定理証明

形式数学(Lean, Coq, Isabelle), SMT, 自動定理証明

科学哲学数学実在論/構成主義, 証明発見心理

2025-01-24

思索にとらわれた。考えごとをはじめてしまった。

さいきん、コパイロットがあるので

いったん始めると何時間でも考えてる。

きのう、一日がほぼそれで終わった

5年前(そのころはコパイロットをしらなかった)くらいに

MCMCについてかなりマニアック理解しようとした。

心理ベイズ統計の本まで読破したくらいだ

さいきんそれを職務いかすことができつつある。

いま、コパイロットとやってる考えごとも

論文化に役立つときがくるだろ

2024-11-14

[]

やっとこさMCMCメトロポリスベース)に着手できた。

メトロポリス法で問題点を洗い出しておけば、Stan導入したあとが スンナリいくだろう

2乗誤差を確率化するとき分散の設定が職人芸だな・・・

ノイズレベル程度とするとダメ

あと事後確率がある程度まで向上したらループ抜けるみたいなのを実装したい

MCMC哲学的にはタブーだろうけど、べつに母数の最適値さえ求められれば分散とか興味ないので)

2024-10-29

多重積分MCMCでできるようになれば、かなり道がひらける?

2024-10-25

ガウス過程・・をこの問題適用する方法というかどこで使うのか

迷う

そもそも解探索であればMCMCだけでもいいんだよね

それかあれか?

初期サンプリングということで乱数で何点か情報を得た後で

E=0と決め打ちして、そのときのnをカーネルから予想させるのか?

2021-05-30

どちらが本質的かといえば…

あらかじめ日本語理解してる人でないと理解できない日本語文法と、

日本語勉強している外国人に使われている日本語文法なら、

後者の方が本質的構造を捉えてるんだと思う。


理系に実感が湧くように言うと、

回帰母集団分布推定するときに、

回帰関数を2次、3次、4次…と複雑化して《過学習オーバーフィット》したのが前者で


※ あらかじめ理解してる日本語=標本データに n次関数をむりやり当てはめてる状態

※ n次関数西洋で発達した文法解析のメタファーだと思って欲しい


階層ベイジアンモデルパラメータMCMC でシミレーションして推定したのが後者というか…


前者でも、正則化項つけてリッジ回帰的な方向に持ってくことは可能かもしれないけど…


あっ、「あらかじめ日本語理解してる人でないと理解できない日本語文法」っていうのは

日本語義務教育で習う文法のことです。

2020-04-01

正しいIT用語の読み方

最近の若者は物を知らない。

IT企業就職したのに、IT用語の読み方を間違える恥ずかしいやつが多くて困る。

新入社員でもこれぐらいは抑えておいてほしい。

2018-08-25

統計学の本

永野裕之『ふたたびの微分積分

高校レベル

小島寛之ゼロから学ぶ微分積分

ラング『解析入門』

高校レベル+α

マンガでわかる統計学

『推計学のすすめ―決定と計画科学 (ブルーバックス)』

・良書らしい。

◎『完全独習統計学入門』

『それ根拠あるの?と言わせないデータ統計分析ができる本』

・筆者は日産自動車に勤務。

・紹介されている分析手法も「回帰分析までで十分」という筆者の経験に基づいて絞りこまれている。

明日からかえるシンプル統計学 身近な事例でするする身につく最低限の知識とコツ』

位置けがよく分からんが易しい中に深い洞察があるとのこと。

統計学がわかる』

・同上。続編がある。

・ちらっと見てみたが理屈がなくて「これはこうなる」ってポンポン進めていく印象。

『はじめての統計学

◎『よくわかる心理統計

・↓への橋渡しに。

◎『心理統計学の基礎―統合理解のために』

・難しいという噂あり。続編がある。

・「続」は結構高度らしい。

『多変量データ解析法―心理教育社会系のための入門』

・↑の「続」が無理そうならこれみたいな位置づけみたい。めちゃくちゃ分かりやすいとか。

◎『基本統計学

・結局これと↓への橋渡しの本が問題ということ。

統計学入門』

通称赤本」。3部作らしい。

・どうもこれで理解するというよりかは到達点を知るために使うものらしい。

◎『Rによるやさしい統計学

・どっかでやらんとあかんらしい。

データ解析のための統計モデリング入門――一般線形モデル階層ベイズモデルMCMC

・「緑本」。結局ふつう統計学もここに行きつくのか。

現代数理統計学の基礎』

位置けがよく分からん。これ完璧にすると統計検定1級レベルに行くんだとか。

2018-07-19

涌井貞美『図解・ベイズ統計「超」入門 (サイエンス・アイ新書)』

 評判よし。

一石賢『まずはこの一冊から 意味がわかるベイズ統計学』

涌井良幸『道具としてのベイズ統計学』

 手動かして学ぼうみたいな本らしい。

松原望『入門ベイズ統計意思決定理論と発展』

宮川公男著「基本統計学」でベイズに関する記述(数ページ)を頭にいれてから本書を読むと良い。

・最低でも、大学積分知識必要になり、ベータ分布正規分布積分表現計算くらいは当たり前のようにできないと読むのが難しい

ttps://www.udemy.com/pythonstan/

 よさそう

奥村晴彦『Rで楽しむベイズ統計入門』

 つなぎに。

豊田秀樹『基礎からベイズ統計学: ハミルトニアンモンテカルロ法による実践的入門』

 StanとRが何となく分かってる必要があるらしい。

松浦健太郎StanとRでベイズ統計モデリング

 Stanまったく知らなくてもいけるらしい。

久保拓弥『データ解析のための統計モデリング入門――一般線形モデル階層ベイズモデルMCMC

 直感理解を大切にしてるらしい。通称緑本」。たけぇよ。行列積分知識が要るみたい。

C.M. ビショップ『入門ベイズ統計意思決定理論と発展』

 これがひとつのゴールみたいね

2017-11-06

ではどうやって"AI人材"を選考すればよいのか

AI人材採用局所的に話題になっている。

http://aiweeklynews.com/archives/49678692.html

Excelはがっつり使える

Pythonのnumpyやpandasでデータの処理ができる

SVMや重回帰分析普通に使える(数式も少しは分かる)

Chainerを触っている (pipでインストールのみでもOK

これくらいできると、AI人材の平均レベル(と相手に思って貰える)なので採用見込みはかなりあると思います

例えばですが、python自分パソコン環境構築して、「Hello,world!」と表示できるようになったら、面接に申し込んで、「少しはpythonできます」と言ってみるのも一つの方法かもしれません。

実際に見分け方がわからなくてこれに引っかかって採用してしま場合もあるんだろうな、とも思う。

自分がこの手の人材エンジニア)を採用する場合にどうやって質問をすれば見極められるのかエンジニア採用にも関わっている身としてを考えてみた。

AI人材という呼称自体がぞわぞわするけど、一旦そこは我慢する。

取りたいロールをはっきり認識/確認する

まず採用を行う前に、AI人材を取って何をしてもらいたいのかをチームないし採用意思決定者としっかり確認する。

エンジニア系のAI仕事と大雑把に言っても

1.画像/映像認識技術活用したい

2.大量のデータ対象として分析予測を行いたい

3.上記大量のデータを貯めたり一括処理したりするための基盤システムを作りたい

など、あとは案件ベースなのか自社開発なのかそれぞれ必要となる能力オーバーラップしつつも異なっているため。

(以下、今回の目的が1や2だったと仮定する。)

バックグラウンド確認

あなた機械学習の関わりを教えてください

機械学習経験のある分野 / 得意な分野 / やってきたことを教えてください(実務でなくてもok

バックグラウンド確認する。実務や研究経験の話が出てくるのがメジャーだと思うが、エンジニアとしてのバックグラウンドがあれば独学勢でも野良kagglerなどレベルの高い人はいるので実務経験に絞らなくても良いと思う

全般知識確認

機械学習全般基本的なところから確認していく。質問としてはこんな感じだと思う

教師あり学習教師なし学習の違いを説明してください

・分類問題回帰問題の違いについて説明してください

過学習ってなんでしょうか

イメージとしては非エンジニア職でも必要になる「この辺りの言葉が通じないと絶対困ったことになる」一般常識確認する感じ。

ディープラーニングについて

画像映像認識などディープラーニング系の業務が多い想定の場合

普段使うディープラーニングライブラリは何ですか

から始まって

あなたの組んだモデルについて教えてください

・どうやって訓練したのですか?

・どうしてそのような構成にしたのですか?

と突っ込んでいく。

きちんと自分で考えて組めているか確認するのがメイン。

ディープラーニング以外の機械学習について

・フィッシャー情報量から何が分かるか

・共役事前分布についてどのように用いるもの

MCMC法で事後確率の近似を取る時に気をつけることを教えてください

確認したいことはディープラーニングしか」できない人かではないかという点。

ある程度統計ベイズ法周りの知識が無いと詰むため。逆にディープラーニング不要業務ならこっち一本でも可。

手法の詳細・原理説明

・この問題最尤推定をしてみてください(簡単文章題

・勾配降下法について説明してください

・畳み込みニューラルネットワークについて仕組みを説明してください

盲目的にライブラリを使ってるだけでないかという点を確認したい。

SVM入力適用するだけならsklearnで5行書くだけで誰でも出来る。手法の背景や対象データ特性をきちんと考えて使っているかを見たい。

・kaggleのコンペに参加したことはあるか

・あればその時の課題手法をできるだけ詳しく

メダルの取得状況

kaggleに参加した経験があればnoteからその人の手付きを直接評価できるし、メダルという他メンバから客観的評価できる定量指標もある。

その他

学習意欲とか普段姿勢確認したい。もしかするとここが一番重要かも。

・分からない項目をはっきり分からないと言えるか

普段何を参考に勉強しているか / 論文を読む習慣があるか(最近読んだ論文があれば教えてください)

・今興味のあること

こういう観点必要、とか○○なんてもう古いよ、みたいなツッコミどころ満載だと思うのでコメント/トラバで突っ込んで欲しい

2015-07-05

http://anond.hatelabo.jp/20150705102837

俺があげたサイトの「次元呪い」のセクションには「計算はとっても時間がかかってしまます。」とあるんだがな。関数値を計算するのは簡単、というのは不正確な言い方で、真の関数値を計算するのが困難だからこそ、簡単に計算可能な関数代用して、近似的に真の関数値を計算するための仕組みがMCMCだろう。そりゃ、代用で使う関数の値を計算するのは簡単だよ、そのために導入したんだから

まぁ、計算量の話はどうでもいい。他に知ってる「次元呪い」の普通用法は、クラスタリングの際に、高次元空間だとほとんどのデータ点間の類似度が同じ値になってしまって、クラスタリングが失敗しやすくなるという話だな。この現象を「関数が望む性質を持たなくなる」と表現したのが伝わらなかったのかな。クラスタリングの際に使う類似度も関数の一種で、それが望む性質を持たなくなるのだから、間違ってないと思うのだけどな。

http://ibisforest.org/index.php?%E6%AC%A1%E5%85%83%E3%81%AE%E5%91%AA%E3%81%84

で、クラスリングでも計算量でもいいから、それが、遺伝多様性が確保できない問題と何の関係があるんだ?教えろよ。

俺があげたサイトは「次元呪い」と「遺伝多様性」について何も述べていない。少なくとも、「次元呪い」が、分野によって遺伝多様性とは関係ない文脈で使われる言葉であることは確かなわけだ。

そこ、ちゃんと説明してもらわないと、「遺伝多様性が確保できる」ことと「次元呪い」がどう関係しているかはわからないし、何の反証にもなってないぞ。

http://anond.hatelabo.jp/20150705094950

普通は、次元呪いは、何か計算したい関数があるとき入力が高次元空間だと関数値が計算困難にになったり、関数目的性質を持たなくなる事を表す。

全然違うぞ。別に関数値を計算すんのは簡単だろ。

じゃなかったらMCMCなんてできねーよ。

 
ログイン ユーザー登録
ようこそ ゲスト さん