最適化問題（さいてきかもんだい、）とは、特定の集合上で定義された実数値関数または整数値関数についてその値が最小（もしくは最大）となる状態を解析する問題である。数理計画問題（すうりけいかくもんだい、）、数理計画とも呼ばれる。実世界の現象の数理的な解析に関わる問題や抽象的な理論の多くをこの最適化問題という一般的なくくりに入れることができる。物理学やコンピュータビジョンにおける最適化問題は、考えている関数をモデル化された系のエネルギーを表すものと見なすことによって、エネルギー最小化問題と呼ばれることもある。最適化問題を数学的に記述するならばという問題になる。最大化の問題の場合には formula_4 なるformula_3 を探すことになる。通常は目的関数の符号を反転させれば、最小化用のアルゴリズムが使える。このときの関数 f を目的関数 () と呼び、fに代入されるべきものが集合 A に含まれているという条件のことを制約条件と呼ぶ。制約条件の集合 A の元は可能解 () と呼ばれる。目的関数を最小（あるいは最大）にするような可能解は最適解と呼ばれる。最適化問題（数理計画問題）は目的関数や制約条件の種類によっていくつかの問題のクラスに分けることができる。連続最適化問題（）とは、制約条件の集合 A がユークリッド空間 formula_6 の部分集合の物。解析的に解く場合は、偏微分を取って 0 になる場合に極値を取るので、その中に最小解がある。束縛条件がある場合はラグランジュの未定乗数法が使える。導関数が必要なアルゴリズムを勾配法という。以下は、勾配法のアルゴリズム。MathematicaのFindMinimumのデフォルトの設定は、制約条件付きは内点法、目的関数が平方和の場合はレーベンバーグ・マーカート法を使い、そうで無い場合はBFGS法を使い、250次元以上の場合L-BFGS法を使う。以下は、導関数が不要（）なアルゴリズム。MathematicaのNMinimumのデフォルトの設定は、線形計画問題ならば単体法を使い、整数パラメータがある場合などは差分進化を使い、それ以外はNelder-Mead法を使う。2次元以上に対応している連続最適化問題のアルゴリズムでも内部で1次元用のアルゴリズムを使用している場合も多い。以下は、1次元用のアルゴリズム。以下は線形計画問題用のアルゴリズム。離散最適化問題（）とは、制約条件の集合 A が formula_7 の部分集合の物。詳細は組合せ最適化を参照。最適化問題的な手法の最も古いあらわれはカール・フリードリッヒ・ガウスまでさかのぼることができる最急降下法 (steepest descent) である。歴史的に始めに導入された用語は1940年代にジョージ・ダンツィクによって作られた「線型計画法」(linear programming) である。この"programming"は現在のコンピュータプログラミングとは別のものであり、アメリカ軍における訓練・補給の予定をさす言葉としての"program"からきている。最適化問題の発展に貢献した数学者としてらがあげられる。

出典:wikipedia