מתוך ויקיספר, אוסף הספרים והמדריכים החופשי
כפי שנראה בהמשך, קיימות שיטות איטרטיביות שונות. ניתן למיין אותן לפי מספר הנקודות בהן הן משתמשות על-מנת לייצר את הקירוב הבא. התאוריה לכשעצמה היא מסובכת, לכן אנו נעסוק בתאוריה של שיטות איטרטיביות חד-נקודתיות בלבד.
להלן מודל כללי של שיטה איטרטיבית חד-נקודתית כלשהי:
בעזרת השיטה האיטרטיבית נוכל לייצר סדרת מספרים אשר מהווים קירוב לשורש. נסמן את השורש של הפונקציה
f
(
x
)
{\displaystyle f(x)}
בתור
α
{\displaystyle \alpha }
, כך שמתקיים:
f
(
α
)
≡
0
{\displaystyle f(\alpha )\equiv 0}
. אם נבצע מספיק איטרציות, כך ש:
lim
n
→
∞
x
n
→
α
{\displaystyle \lim _{n\to \infty }x_{n}\to \alpha }
אז השיטה האיטרטיבית מתכנסת. בכל מקרה אחר היא מתבדרת.
נניח כי אנו בודקים סדרת מספרים
x
n
{\displaystyle x_{n}}
וערכי הפונקציה
f
(
x
n
)
{\displaystyle f(x_{n})}
סביב תחום שידוע שיש בו שורש. נגדיר את קריטריוני ההתכנסות הבאים, כאשר
ϵ
{\displaystyle \epsilon }
הוא קריטריון ההתכנסות:
|
x
n
+
1
−
x
n
|
<
ϵ
{\displaystyle {\Big |}x_{n+1}-x_{n}{\Big |}<\epsilon }
|
f
(
x
n
)
|
<
ϵ
{\displaystyle {\Big |}f(x_{n}){\Big |}<\epsilon }
- בדיקה מוחלטת (השגיאה בעלת ממד).
|
1
−
x
n
x
n
+
1
|
<
ϵ
{\displaystyle \left|1-{\frac {x_{n}}{x_{n+1}}}\right|<\epsilon }
- בדיקה יחסית (השגיאה חסרת ממד - ניתנת באחוזים).
|
f
(
x
n
+
1
)
−
f
(
x
n
)
|
<
ϵ
{\displaystyle {\Big |}f(x_{n+1})-f(x_{n}){\Big |}<\epsilon }
|
1
−
f
(
x
n
)
f
(
x
n
+
1
)
|
<
ϵ
{\displaystyle \left|1-{\frac {f(x_{n})}{f(x_{n+1})}}\right|<\epsilon }
תיאור מתמטי של שיטה איטרטיבית כלשהי[ עריכה ]
נסמן את השיטה ב-
Φ
{\displaystyle \Phi }
. על פי המודל של השיטה האיטרטיבית נובע:
x
n
+
1
=
Φ
(
x
n
)
{\displaystyle x_{n+1}=\Phi (x_{n})}
. ננסה להעריך את מידת ההתכנסות של השיטה (order of convergence). נסמן את השגיאה באיטרציה ה-
n
{\displaystyle n}
-ית על-ידי ההפרש:
ϵ
n
=
x
n
−
α
{\displaystyle \epsilon _{n}=x_{n}-\alpha }
. זהו המרחק בין השורש לבין המקום בו אנו נמצאים, באיטרציה ה-
n
{\displaystyle n}
-ית. על-ידי הצבה במודל האיטרטיבי: אם
x
n
=
ϵ
n
+
α
{\displaystyle x_{n}=\epsilon _{n}+\alpha }
אז
x
n
+
1
=
ϵ
n
+
1
+
α
{\displaystyle x_{n+1}=\epsilon _{n+1}+\alpha }
ואז נקבל:
ϵ
n
+
1
+
α
=
Φ
(
α
+
ϵ
n
)
{\displaystyle \epsilon _{n+1}+\alpha =\Phi (\alpha +\epsilon _{n})}
. כעת נפתח את
Φ
(
ϵ
n
+
α
)
{\displaystyle \Phi (\epsilon _{n}+\alpha )}
לטור טיילור סביב
α
{\displaystyle \alpha }
:
ϵ
n
+
1
+
α
=
Φ
(
α
)
+
ϵ
n
Φ
′
(
α
)
+
ϵ
n
2
2
!
Φ
″
(
α
)
+
ϵ
n
3
3
!
Φ
‴
(
α
)
+
⋅
{\displaystyle \epsilon _{n+1}+\alpha =\Phi (\alpha )+\epsilon _{n}\Phi '(\alpha )+{\frac {\epsilon _{n}^{2}}{2!}}\Phi ''(\alpha )+{\frac {\epsilon _{n}^{3}}{3!}}\Phi '''(\alpha )+\cdot }
נשתמש בעובדה שהשיטה האיטרטיבית צריכה להחזיר את השורש של הפונקציה, במידה והיא מקבלת אותו:
α
=
lim
n
→
∞
x
n
=
lim
n
→
∞
Φ
(
x
n
−
1
)
=
Φ
(
lim
n
→
∞
x
n
−
1
)
=
Φ
(
α
)
{\displaystyle \alpha =\lim _{n\to \infty }x_{n}=\lim _{n\to \infty }\Phi (x_{n-1})=\Phi (\lim _{n\to \infty }x_{n-1})=\Phi (\alpha )}
, כלומר:
Φ
(
α
)
=
α
{\displaystyle \Phi (\alpha )=\alpha }
. במילים אחרות:
α
{\displaystyle \alpha }
הוא פתרון המשוואה
x
=
Φ
(
x
)
{\displaystyle x=\Phi (x)}
(ראו גם: שיטת החיתוך עם y=x ). נציב קשר זה בטור ונקבל:
ϵ
n
+
1
=
ϵ
n
Φ
′
(
α
)
+
ϵ
n
2
2
!
Φ
″
(
α
)
+
ϵ
n
3
3
!
Φ
‴
(
α
)
+
⋯
{\displaystyle \epsilon _{n+1}=\epsilon _{n}\Phi '(\alpha )+{\frac {\epsilon _{n}^{2}}{2!}}\Phi ''(\alpha )+{\frac {\epsilon _{n}^{3}}{3!}}\Phi '''(\alpha )+\cdots }
על-פי הגדרה, סדר האיטרציה נקבע לפי סדר הנגזרת הראשונה שאינה מתאפסת. לדוגמה:
אם
Φ
′
(
α
)
≠
0
{\displaystyle \Phi '(\alpha )\neq 0}
אז בקירוב:
ϵ
n
+
1
≈
ϵ
n
Φ
′
(
α
)
{\displaystyle \epsilon _{n+1}\approx \epsilon _{n}\Phi '(\alpha )}
, כלומר מקבלים קשר לינארי בין שתי שגיאות (איטרציות) עוקבות.
אם
Φ
′
(
α
)
=
0
{\displaystyle \Phi '(\alpha )=0}
אבל
Φ
″
(
α
)
≠
0
{\displaystyle \Phi ''(\alpha )\neq 0}
אז בקירוב:
ϵ
n
+
1
≈
ϵ
n
2
2
!
Φ
″
(
α
)
{\displaystyle \epsilon _{n+1}\approx {\frac {\epsilon _{n}^{2}}{2!}}\Phi ''(\alpha )}
, כלומר מקבלים קשר ריבועי בין שתי שגיאות (איטרציות) עוקבות.
כללית, אם:
Φ
(
k
)
(
α
)
=
0
,
∀
0
≤
k
<
m
{\displaystyle \Phi ^{(k)}(\alpha )=0\ ,\ \forall \ 0\leq k<m}
, אבל
Φ
(
m
)
(
α
)
≠
0
{\displaystyle \Phi ^{(m)}(\alpha )\neq 0}
, אז בקירוב:
ϵ
n
+
1
≈
ϵ
n
m
m
!
Φ
(
m
)
(
α
)
{\displaystyle \epsilon _{n+1}\approx {\frac {\epsilon _{n}^{m}}{m!}}\Phi ^{(m)}(\alpha )}
.
ככל שסדר האיטרציה גדול יותר, הקשר בין כל שתי שגיאות (איטרציות) עוקבות הוא "חזק" יותר, כלומר קצב ההתכנסות מהיר יותר.
סדר התכנסות: הגדרה פורמלית[ עריכה ]
אם קיימים מספרים
m
,
c
{\displaystyle m,c}
כך ש-
lim
n
→
∞
|
ϵ
n
+
1
ϵ
n
m
|
=
c
{\displaystyle \lim _{n\to \infty }\left|{\frac {\epsilon _{n+1}}{\epsilon _{n}^{m}}}\right|=c}
אז
m
{\displaystyle m}
הוא סדר ההתכנסות (האיטרציה) ו-
c
=
|
Φ
(
m
)
(
α
)
|
m
!
{\displaystyle c={\frac {{\Big |}\Phi ^{(m)}(\alpha ){\Big |}}{m!}}}
הוא קבוע השגיאה האסימפטוטי (
c
≠
0
{\displaystyle c\neq 0}
). ניתן להוכיח זאת על-ידי פיתוח לטור טיילור ושימוש במשפט לגראנז'.
אם
Φ
(
x
)
{\displaystyle \Phi (x)}
רציפה בתחום
[
a
,
b
]
{\displaystyle [a,b]}
וגם
a
≤
Φ
(
x
)
≤
b
,
∀
x
∈
[
a
,
b
]
{\displaystyle a\leq \Phi (x)\leq b\ ,\ \forall x\in [a,b]}
(כלומר: התחום והטווח שניהם באותו מרווח [אינטרוול] והפונקציה היא על), אז למשוואה
x
=
Φ
(
x
)
{\displaystyle x=\Phi (x)}
קיים פתרון בתחום זה.
אם בנוסף
|
Φ
′
(
x
)
|
<
1
,
∀
x
∈
[
a
,
b
]
{\displaystyle {\Big |}\Phi '(x){\Big |}<1\ ,\ \forall x\in [a,b]}
אז
α
{\displaystyle \alpha }
הוא שורש יחיד בתחום זה.
אם מתקיימים שני התנאים הנ"ל, אז הפוקנציה האיטרטיבית
Φ
(
x
)
{\displaystyle \Phi (x)}
מתכנסת ל-
α
{\displaystyle \alpha }
לכל
x
0
{\displaystyle x_{0}}
בתחום הנ"ל.