روش بی‌اف‌جی‌اس

ایده ی عملکرد

جهت جستجو p_k در لحظه ی k ام توسط پاسخ معادله ی نیوتون داده می شود.

B_{k} 𝐩_{k} = - \nabla f (𝐱_{k})

که در آن $B_{k}$ تقریبی به ماتریس هسین است که در هر مرحله بروز رسانی می‌شود و $\nabla f (𝐱_{k})$ گرادیان تابع به ازای هر x_k است.

با شروع از مقدار اولیه $𝐱_{0}$ و مقدار تقریبی اولیه $B_{0}$ مراحل زیر تکرار می شوند تا اینکه به تقریب مورد نظر $x$ برسیم.

انتخاب جهت $𝐩_{k}$ با حل : $B_{k} 𝐩_{k} = - \nabla f (𝐱_{k}) .$ .
انجام جستجوی خطی برای یافتن بهترین سایز قدم $α_{k}$ برای بروزرسانی $𝐱_{k + 1} = 𝐱_{k} + α_{k} 𝐩_{k} .$ .
مقدار دهی $𝐬_{k} = α_{k} 𝐩_{k} .$ .
$𝐲_{k} = \nabla f (𝐱_{k + 1}) - \nabla f (𝐱_{k}) .$
$B_{k + 1} = B_{k} + \frac{𝐲_{k} 𝐲_{k}^{T}}{𝐲_{k}^{T} 𝐬_{k}} - \frac{B_{k} 𝐬_{k} 𝐬_{k}^{T} B_{k}}{𝐬_{k}^{T} B_{k} 𝐬_{k}} .$

SOURCE CODE OF HIGH-PRECISION BFGS A C++ source code of BFGS with high-precision arithmetic