ドナルドソン理論は、反自己双対ヤン=ミルズ方程式(ASDYM方程式)のモジュライ空間を用いて、4次元多様体を扱う理論。方程式には、4次元多様体上のコンパクトなゲージ群 G を持つ主束が必要。
手法はドナルドソンにちなんで名付けられたもので、最初に1983年(単連結な G を仮定)および1987年(その仮定なし)に用いられ、ドナルドソンの定理の証明に使われた。
その後、ドナルドソン理論はセイバーグ=ウィッテン理論によって発展的に置き換えられた。ドナルドソン不変量はセイバーグ=ウィッテン不変量と比べてしばしば弱い結果しか与えず、モジュライ空間に対して追加のコンパクト化を必要とすることも多いため。それでも、ウィッテン予想やアティヤ=フルーア予想を含む、ドナルドソン理論における未解決問題は存在している。
ドナルドソン理論の位相的FQFT(有限次元量子場理論)形式は、シンプレクティック多様体とそれらの間のラグランジアン対応からなる適切なシンプレクティック圏からの関手として定式化されると考えられている。この関手は、シンプレクティック多様体をそのフカヤ圏へと対応させる。