книги / Регулярные методы решения некорректно поставленных задач
..pdfЗ а м е ч а н и е . Рассмотренный здесь метод численного решения задач (8) и (14) близок к методу, предложенному в [95] для опре деления обобщенных (регуляризованных) сплайнов, однако не тре бует знания базиса подпространства, натянутого на элементы {gy}.
Если такой базис известен, то нетрудно модифицировать изло женную схему решения. Именно, пусть { у к } ( к = 1, ..., р ), р < п,' — базис упомянутого подпространства. Тогда, очевидно, имеет место представление
и
*к = 2 bjkgj, * = 1 ,...,р . (23) / = 1
Обозначим |
через В прямоугольную матрицу |
с элементами b j k |
(/ = 1 , . . . , |
п, к = 1, . . . ,р). Легко видеть, что |
в рассматриваемом |
случае элемент ЬиГ9 глеи, —решение задачи (19), однозначно пред ставим в виде линейной комбинации
р |
|
|
|
|
|
|
Lur = 2 |
sk ipk . |
|
|
|
(24) |
|
к = 1 |
|
|
|
|
|
|
Умножая обе части (24) |
скалярно на </>,*, получаем |
|
||||
р |
|
*PI)G |
LUT)G , |
|
|
|
2 |
|
/=1, . .. ,р. |
(25) |
|||
к = 1 |
|
|
|
|
|
|
В силу (23) |
|
|
|
|
|
|
|
|
п |
|
п |
|
(26) |
(<#, Lur)o |
= |
2 bji(gj, Lur)c = |
2 |
bjiVj. |
||
|
|
/ = i |
|
/ = i |
|
|
Обозначим C = |
{ ( ^ л , ^ / ) с ) * 5 = ( 5i , |
$л) т . Очевидно, С поло |
||||
жительно определена как матрица Грама линейно независимой
системы векторов. Из (25) |
и (26) получаем систему уравнений |
||
для s |
в матричной форме: |
|
|
Cs |
= В тг. |
|
|
Обозначая, как и выше, |
г а = (1\(Аи%), |
1„(AUQ ) ) г , для |
|
решения UQ задачи (14) получаем
ga = Lu% = 2 sk <pk , к = 1
181
где вектор s01= (s“ , ..., sр )г связан с г а соотношением
Csa = В тга . |
(27) |
Как легко проверить, |
|
||'L4 llа = (Csa, s“)p= (ВС~'В V,га)п, |
|
где индекс р или п показывает, что берутся евклидовы |
нормы |
в пространствах Ер или Еп соответственно. |
|
Используя приведенные |
соотношения и утверждение о связи ре |
||
шений |
задач (14) и (19), |
для определения вектора г 01 получаем |
|
задачу |
|
_ |
_ |
г01= arg min ( II г - 7 || \ + а( ВС~ХВ тг, г),Д
решение которой удовлетворяет следующей системе линейных уравнений:
(а ВС~1В т + к ) г а = к г |
(28) |
|
Отсюда и из (27) получаем систему для вектора sa: |
|
|
( а В тк~1В + C)sa = В т7. |
(29) |
|
Так как уравнение |
(28) содержит С "1 (С на практике часто бы |
|
вает ленточной, а к |
- диагональной), то предпочтительней опреде |
|
лить вектор sa из |
системы (29), а затем определить вектор |
г а , |
исходя из соотношения
г01 ~ 7 - OL к _1Bsa .
Уравнение для определения параметра ае из условия (15) можно записать в одной из следующих форм:
Р?,(«) |
= |
II Га - 'г |
II к |
= |
0 \ |
(30) |
р п(г а ) |
= |
a 2 ||Bs° |
||?, |
= |
б 2. |
( 3 1 ) |
Последнее |
уравнение для определения параметра осе |
особенно |
||||
предпочтительно, если нас интересует лишь приближенное значение оператора L на решении и уравнения А и-- /.
Заметим, что функция рп(д) является монотонно возрастаю щей функцией. Для применения ускоренных способов типа метода Ньютона для решения уравнения (31) (или (30)) полезно перейти к новой переменной X = 1 /а , так как функция р„( X ) = р„(1/Х ) является выпуклой по X Е [0, ©о). Более подробно этот вопрос рассматривается в § 26.
182
Отметим, что изложенная методика применима,очевидно,всегда,
когда |
функционалы |
1,(Ли) |
представимы в виде 1,(Аи) = |
|
= (gj, |
L U)g , где gi |
(/ |
= 1, |
п) - некоторые элементы из G. |
В частности, это справедливо, если |
||||
|
т |
|
|
|
li(Au) = Е dijtj(u), |
т |
> пу |
||
i = 1
где tj (и) - линейные (необязательно линейно независимые) функционалы на НЛ1 .
7.Связь с теорией сплайнов. Нетрудно видеть, что при А = И,
Н= F мьг приходим к задаче построения сплайнов и изучению их поведения, когда заданы точные или приближенные значения функ ционалов от восстанавливаемого элемента.
Важно отметить, что все результаты общей теории, изложенной
в данном |
параграфе, сохраняют силу, если |
вместо |
функциона- |
|||
лов |
, (п) |
.. |
, |
(п) , . |
, |
v |
|
рассматривать линейные операторы |
/, |
(/ |
= 1, |
и), |
|
действующие из В в гильбертовы (или нормированные) простран
ства F ^n\ Значения операторов / " ( / ) О = I. и) можно рас-
сматривать как следы элемента / в пространствах 1 1 Если к тому же А = Е у Н - / ’, то получаем теорию так назы
ваемых операторных сплайнов, введенных в [105]. Заметим, что в этой работе рассматриваются лишь вопросы существования и единственности интерполяционных и сглаживающих (обобщен ных) операторных сплайнов без рассмотрения их аппроксимацион ных свойств.
ГЛАВА 5
РЕГУЛЯРНЫЕ МЕТОДЫ ДЛЯ СПЕЦИАЛЬНЫХ СЛУЧАЕВ ОСНОВНОЙ ЗАДАЧИ.
АЛГОРИТМЫ ВЫБОРА ПАРАМЕТРА РЕГУЛЯРИЗАЦИИ
§ 24. Псевдорешения
1. Рассмотрим специальный случай основной задачи, когда мно жество D совпадает с Я. оператор L является тождественным,
элемент g = 0 . Для простоты изложения |
оператор А |
естест |
венно считать ограниченным. Тогда решение |
и основной |
задачи, |
очевидно, является элементом с минимальной нормой, доставляю щим минимальное значение невязке \\Аи - f \\ р , м б Я . В случае,
если |
\\Аи - f ||р' = 0 . |
элемент й называется нормальным реше |
нием |
[89] уравнения |
|
An |
= f |
(1) |
В общем случае элемент u f, решение основной задачи при рассмат риваемых условиях, назовем (нормальным) псевдорешением. Очевидно, если / принадлежит QA - области значений оператора А , то псевдорешение Uf существует и определено однозначно (теоре ма 1). Следовательно, на некотором непустом множестве Q Э QA
определен псевдообратный оператор А +: A *f = t/y. Заметим, что
если оператор |
А имеет обратный Я " 1, то Д , С DA+ и A *f - |
= А~хf V / G |
DA _,, т.е. оператор А+является расширением опера |
тора А~1. Однако существование оператора А +не является доста точным условием существования оператора А~х. Действительно, как показывают примеры систем линейных алгебраических уравне ний, существует и определен на всем F, даже если оператор А необратим, т.е. система уравнений ( 1) несовместна или имеет неединственное решение.
2. Далее нас будут интересовать вопросы, связанные с существо ванием и устойчивостью нормальных псевдорешений уравнения ( 1).
Легко видеть, что в случае, когда Я и F - |
конечномерные прост |
|
ранства, задача отыскания |
псевдорешений |
разрешима при любом |
/ 6 F. Обобщением этого |
факта на более широкий класс задач |
|
является |
|
|
Т е о р е м а 88. Для того чтобы при любом / Е F существова ло псевдорешение Uf9 т.е. DA+ = F , необходимо и достаточно, чтобы оператор А был нормально разрешим.
184
Напомним, что оператор А называется нормально разрешимым, если область его значений QA является (замкнутым) подпростран
ством: QA =QA -
Д о к а з а т е л ь с т в о . Д о с т а т о ч н о с т ь . Пусть А —нор мально разрешимый оператор. Положим NA = {и: А и = 0). Оче видно, NA - замкнутое подпространство. Если НА - ортогональ ное дополнение к NA , то задача отыскания псевдорешений эквива лента задаче
WAuf-fWp = |
min \\Au~f\\p. |
(2) |
Обозначим через |
и<ЕНА |
|
Р оператор проецирования F на QA . Тогда зада |
||
ча (2) эквивалентна задаче А и = Pf, |
MG На , которая, очевидно, |
|
|
Л |
А |
имеет решение м/ = A ” P f при любом / Е F, где А - |
оператор, |
|
отображающий На на QA и совпадающий на НА с оператором А. |
||
Итак, |
|
|
u ^ A ^ P f - A + f V / E F , |
|
(3) |
т.е. Da+= F ; достаточность условия теоремы доказана. |
|
|
Н е о б х о д и м о с т ь . Пусть |
= F. Тогда оператор Р = ЛМ* |
|
задан на всем F. Покажем, что Р - оператор проецирования. Как хорошо известно, для этого достаточно доказать выполнение сле дующих условий:
а) Р*= Р (самосопряженность); б) Р 2 = Р (идемпотентность).
Для любых / и g из F имеем
( f - P f , Pg)F = ( f - А А У, AA*g)p = = { A \ f - A A * f ) , A+g)H = 0,
так как, очевидно, A * ( f - Auf) = 0. Следовательно, (Pg, f ) F =
= (Pg, |
P f ) F . Отсюда следует, что ( / , |
Pg)F = (Pf, g)F , т.е. вы |
полнено |
а), а также ( /, P f ) F - , ( P f , |
P f ) F = (f, P 2f ) V /, |
откуда следует б ) .
Итак, Р —оператор проецирования. Пусть G —подпространство, на которое Р проецирует F. Покажем, что QA = G. Пусть g G G . Тогда g = Pg = AA*g Е QA , т.е. G С QA . Далее заметим, что спра ведливо операторное равенство А А*А = А , из которого следует
/М м = А А*А и = Аи € |
G при любом мЕ Я . Отсюда следует, что |
QA Е Gy а поэтому |
= G является подпространством. Утвержде |
ние, а вместе с ним и теорема, доказаны.
185
Полученный результат можно также сформулировать следую щим образом: задача отыскания псевдорешений тогда и только тогда поставлена корректно по Адамару, если оператор А нормаль но разрешим. В этом случае из (3) следует
М + || = 1М -‘Л1 < м - 1 ||. |
(4) |
П р и м е р . Пусть Н = F и уравнение (1) имеет вид
А и — и — \ А о и =
где X - числовой параметр, А 0 - линейный вполне непрерывный оператор, действующий из Я в Я. Тогда необходимое и достаточ ное условие разрешимости этого уравнения при данном / прини мает вид
(/, иЧ)н = 0, |
/ = 1, , sy |
где со/ G Я: со,- - |
X Ао со/ = 0 суть линейно независимые собствен |
ные элементы оператора Л(*, соответствующие характеристическо му значению X. Так как оператор Ао также вполне непрерывен, то их может быть только конечное число s. Очевидно, множество
всех /: |
( /, |
co/)w = 0 (/ = 1,..., s) образует подпространство в Я |
||||||
и, следовательно, оператор |
А - Е —X А 0 нормально разрешим при |
|||||||
любом |
X. Если уравнение |
со —ХЛосо = 0 имеет лишь тривиаль |
||||||
ное |
решение |
со = 0, то в силу теорем Фредгольма уравнение |
||||||
и - ХЛ0м = / |
имеет единственное решение при любом f G Н. |
|||||||
Рассмотренная задача относится к так называемому классу |
||||||||
задач на спектре. |
|
|
|
|
|
|||
3. |
|
Вычисление псевдорешений на основе данного выше определе |
||||||
ния затруднительно. Весьма эффективный способ получения псевдо |
||||||||
решений доставляет метод |
регуляризации. Пусть |
иа — решение |
||||||
вариационной задачи |
|
|
|
|
||||
иа = |
arg min Фа [ и ], |
Фа [ и ] = |
|
|
||||
|
|
и Е : Н |
|
|
|
|
|
|
= |
ФЛ и - A J ] |
= \\Au-f \\r + « || ыII?/, |
(5) |
|||||
где а > 0 —параметр. Тогда |
|
|
|
|||||
иа |
= Eafy |
|
= (а Е + А*А )~{А*. |
|
||||
Л е м м а |
43. |
Если оператор А |
нормально разрешим, то |
|||||
а) |
II Л* II |
< |
1М+11, |
а |
> 0; |
|
|
|
б) |
\\Ra -A*\\ < а ||А~х ||3 - |
0, а -* 0. |
|
|||||
186
Д о к а з а т е л ь с т в о . Для любого и G Н имеем
Ф«[И«] < |
*« [ « ] • |
|
|
|
|
Полагая здесь |
и - Uf и используя основное свойство псевдореше |
||||
ния, получаем |
|
|
|
|
|
I\Аиа - f \ \ F2 + а II Ас Ня |
< |
|
|
||
< \ \ A u f - f \ \ 2F +a\\uf |
\\2H |
< |
\\Аиа - f \\F + а \\ Uf \\н, |
||
т.е. |
|
|
|
|
|
Н м а Н я - Н ^ / Н / / < |
IIм/Н/-/ = М 7 Н я |
v / e Я, |
|||
откуда следует утверждение а) |
леммы. |
|
|||
Далее заметим, что (5) эквивалентна задаче отыскания |
|||||
иа = argmin ( \\Аи-Р/\\% |
+ а ||и |1я ), |
|
|||
и<внА |
|
|
|
|
|
и, следовательно, |
|
|
|
|
|
= ( aE+A*A)~lA*Pf |
= Ra f. |
|
|||
Используя (3), имеем |
|
|
|
|
|
IIЛ«- А*\\ |
< «I \ ( а Е + А * А У 1А ~ 1 || < |
а ц ] ' 1 II3, |
|||
исоотношение б) доказано.
Ле м м а 44. Если оператор А нормально разрешим, то при
любом но £ Иа |
уравнения |
|
А */о = Но, |
Л*Ли0 = но |
(6) |
разрешимы (быть может, неоднозначно) .
Действительно, если непрерывный оператор Л нормально разре шим, то область значений сопряженного оператора (?4* совпадает
с НЛ. Отсюда следует разрешимость обоих уравнений (6) .
Т е о р е м а 89. Пусть А - нормально разрешимый оператор,
/ - заданный элемент из F такой, что II/ |
- / II/г < 5, |
и иа = Ra f |
|
есть решение задачи (5), |
когда f - /. |
|
|
Тогда при любом а > |
0 для уклонения |
|| иа - Uf || // |
справедли |
вы следующие оценки: |
|
|
|
а) |
II иа - и/ || я |
б) |
Н«а - ыН1// |
< |
a l i i -3 Ц Ш / г + S II >4 * II; |
|
< |
Vc HI / o l l f + & М +||: |
(7) |
в) II на - Uf II я < а||и0 IIя + 5 |М*||,
187
где /о |
£ |
F и |
и о € Н - |
нормальные решения соответственно пер |
|
||||||||||||
вого и второго уравнений (6) при правой части и0 = Uf. |
|
|
|
||||||||||||||
Д о к а з а т е л ь с т в о . Имеем, используя оценку б) леммы 43, |
|
||||||||||||||||
I I “ |
в |
- |
|
“< / IИI wм а |
- |
« |
/ |
И я |
+ |
|
I I м |
/ |
- |
М / И |
|||
< all А - 1 II3 |
II / || р. |
+ |
5 |
НА* II. |
|
|
|
|
|
|
|
|
|||||
Это доказывает |
справедливость |
оценки |
(7), |
а). Далее |
можно |
|
|||||||||||
записать |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
\\и<х-щ\\н |
^ |
l l ^ a ( / “ / ) |
IIЯ |
+ \\иа ~ Uf\\n |
^ |
|
|
|
|||||||||
< $ М |
+ II |
+ |
II Wa |
- |
Uf ||// |
|
|
|
|
|
|
|
|
|
|||
(в силу неравенства а) леммы 43). Оценки |
|
|
|
|
|
|
|||||||||||
II uOi ~ |
Uf ||// |
^ |
лЛГ II/о II F , |
II Ua - |
U f |
II// < |
а |
|| v0 II н |
|
|
|||||||
получаются совершенно |
так |
же, |
как |
и аналогичные |
им |
оценки |
|
||||||||||
в § 3. Теорема доказана. |
|
|
|
|
|
|
|
|
|
|
|||||||
Из оценок |
(7) |
следует, что при определенном |
(а = 5) |
выборе |
|
||||||||||||
значения параметра регуляризации уклонение полученного при |
|
||||||||||||||||
ближения от искомого псевдорешения будет такого же порядка, |
|
||||||||||||||||
что и погрешность в задании элемента / . |
|
|
|
|
|
|
|
||||||||||
Представляет интерес |
|
|
|
|
|
|
|
|
|
|
|||||||
Т е о р е м а |
|
90. |
Пусть выполнены условия предыдущей теоре |
|
|||||||||||||
мы м, кроме того, пусть Uf - |
нормальное решение уравнения ( 1). |
|
|||||||||||||||
Тогда, если параметр |
а определен как решение уравнения |
|
|
||||||||||||||
I\Аиа |
- f \ \ F |
= |
8 , |
|
|
|
|
|
|
|
|
|
(8) |
|
|||
то имеет место оценка
II UQ - U f \ \ H < 2 S I M - ' ||.
Существование решения уравнения (8) следует из общих свойств невязки на регуляризованных решениях, установленных ранее. Далее имеем
II иа —Uf || // < \\А~1 \\\\Аиа - Auf\\F <
< | | i - ' \\(\\Aua - P f \ \ F + \\Pf - Pf\\F) <
< 2 \\A-' || в,.
188
так как || Р || |
< |
1 и |
I\ A u a - P f |
HF |
= ( \\Аиа - f \\2F - || P j HF )1/2 < |
< I\ А и а - |
f |
\\F = 6. |
Приведенные рассуждения доказывают справедливость теоремы.
4.Переходим к изучению влияния погрешностей в задании опе
ратора Л на приближения, получаемые методом регуляризации. Именно, пусть вместо А имеется непрерывный оператор А /,, опре
деленный на Я, со значениями в F и такой, |
что |
\\А - A h || < h. |
|||
Пусть и &- |
решение вариационной задачи |
|
|
||
М* = arg min Фа ( и; А И, 7 ]• |
|
(9) |
|||
и е я |
|
|
|
|
|
Тогда имеем |
|
|
|
|
|
(аЕ + A*hA h)( Ua |
- |
иа) = |
|
|
|
—(Aft —А |
)(/*■“ |
A U(x) + Aft(A —Aft^Uot , |
|
||
а поэтому |
|
|
|
|
|
II п £ - « а |
| | я < Л С , |
II 7 ~ Л и а \\F + hC2 || |
иа ||я |
, |
|
где
Cl = ll(a£ + A U h r 1 II, С2 = || (а £ + А ^ А „ у 1А*, ||. Используя неравенство Коши—Буняковского, получаем
Н « £ - « а 11я<й(с? + ^ - ) фЦ2[ и а- А , 7 ] <
/г 2\ 1/2
< ь \ с \ + Т - ) |
< 2 [ « / м , 7 ] . |
|
|
|
|||
Вместе с оценками С, < |
1/а, |
С2 < 1 / |
( |
2 ) |
это дает |
||
^ h |
-s- |
r?v |
^ |
1/2 |
/ |
^ |
(10) |
II w а ~ |
|| я < |
-------- Ф<* [ W/*, Л, |
]. |
||||
|
|
2а |
|
|
|
|
|
Из оценок (7) и (10) следует, что справедлива |
|||||||
Т е о р е м а 91. |
Если оператор А нормально разрешим, го |
||||||
Ит |
»« - |
м /||я = 0, |
|
|
|
||
h /а , 6 , h , a -*■ 0 |
|
|
|
|
|
|
|
189
т.е. для получения устойчивых приближений |
методом регуляриза |
||
ции (9) достаточно согласовать параметр регуляризации а |
только |
||
с погрешностью h в задании оператора. |
|
|
|
З а м е ч а н и е . |
Если элемент Uf является |
нормальным |
реше |
нием уравнения ( 1), то, очевидно, |
|
|
|
Фа [ Uf \ А, / ] < |
б2 + а || Uf || н , |
|
|
и оценка ( 10) существенно улучшается: |
|
|
|
~ |
h s f S |
|
|
II Ua - u a ||щ < |
—----- (5 + \ f a ||«/Нн)- |
|
|
|
2а |
|
|
Далее установим возможный порядок точности получаемых ме тодом регуляризации приближений к нормальному решению зада
чи (1). С этой целью оценим уклонение II и « - иа \[н . Имеем
(otE + A^ Ah)( и'а - |
иа ) = |
|||
= A*h( f - f ) + ( A l - A h) ( f - A u a)+A;i( A - A h)ua. |
||||
Следовательно, |
|
|
||
II |
иа - |
|| н ^ 5 С2 II / |
|| F + hC\ I I / - Аиа II/.' + ЙС2 II иа Ия ^ |
|
< |
5 |
h y f T |
]/2 |
[Ua\ A. f ] . |
— ~ |
+ -------- Фd |
|||
|
2 \ / а |
2а |
|
|
Замечая, что
Фа [иа ;А, / ] < a l hi / Н я
в случае, если Uf —нормальное решение уравнения ( 1), имеем
и а - |
ua II н |
< |
Ь |
hy/ 5 |
uf II // |
|
2 \ f a |
I |
|
||||
|
|
|
2 \J~a |
|
|
|
и, следовательно, |
|
|
|
|
|
|
~ h |
|
|
|
Ь |
~ |
hy/ 5 |
u a - |
U f || я ^ |
II |
- U y |
||/у + “ ~ |
II ) II F |
+ ^ ------- II U / \ \ H . |
|
|
|
|
2yfa |
|
2 \ f a |
( 11)
Из полученной оценки и оценок (7) вытекает, что справедлива
190