（無約束優化問題）最優化方法理論總結2

---------------------------------------

本文中的目標函數都是求：

無約束情況下的 min f(x),其中x是一個向量。

------------------------ ------------------

主要核心如下：

演算法思想

演算法和其他演算法的比較

演算法優缺點

演算法的收斂性判斷

-------------------- ----------

1.牛頓法

------------------------------

2.阻牛頓法

-----------------------------

3.共軛梯度法

-----------------------------

4.擬牛頓法

-----------------------------

5.改進的Powell法

直接法，

1)優點：簡單有效的共軛方法法，它共軛方向的構造，只利用函數值提供的信息。只計算和比較目標函數值得大小，不需要計算梯度。

2)核心思想