книги / Моделирование систем управления

Число степеней свободы п - 2 \

Рис. 4.1

Математическое ожидание квадрата отклонения (дисперсии):

MSa =SSa,

wn SSб

J® . А .

вл -1

Методика проверки была разработана Фишером. Это тест, позволяю­ щий отличать эффекты, которые могут быть объяснены случайными факто­ рами, от эффектов, вызванных изменением переменных управления в ходе эксперимента.

Методика Фишера содержит правило сопоставления данной гипотезы с выборкой экспериментальных данных, что позволяет отвергнуть гипотезу (в случае ее малой вероятности) либо принять.

Введем обозначение: Fy>5a - квантиль распределения Фишера с у и с Ô степенями свободы при определенной вероятности a. F находим в статисти­ ческих таблицах.

В данном случае у = 1 ,а 0 = л - А:-1, где п - число точек эксперимен­ тальных данных, количество переменных уравнения (к = 1 для одного ко­ эффициента Л |), (1 - а ) - доверительный уровень (уровень значимости).

Применяя методику Фишера, проверим гипотезу о том, что коэффици­ ент регрессии А\ = 0. При этом с помощью таблиц проверяем условие

R > F {i ( п - к - 1), 1 - а ,

MS,

где

MS.

Если указанное соотношение удовлетворяется, то гипотезу о том, что Ai = 0, можно отвергнуть на доверительном уровне, равном ( 1 - а ) , т.е. сде­ лать вывод, что наилучшая прямая существует.

4.2. Модели множественной линейной регрессии

Модель множественной линейной регрессии представлена уравнением

Y t ' A o + Z A j X j .

Необходимо получить значения коэффициентов А 0,Ах,...,Ак, при ко­ торых сумма квадратов ошибок (модель и выборка) является минимальной.

F = (Л о + А\Хл + А 2Х 2 1 + — + AkYkj - Fj ) 2 +

+ (Л0 + АхХ \2 + А2Х 22 + —+ AkYk2 - Y2Ÿ +

+(À0+А,Х1П+A2x 2n+...+4Л. - r„)2.

Из полученной системы уравнений определить параметры Л?, Л/, ...Л**

Преобразование модели множественной линейной регрессии путем привязки к средней точке координат

Этот метод снижает вероятность разрушения плохо обусловленной матрицы в ходе ее обращения при вычислениях на ЭВМ. Приводит к исклю­ чению первой строки и первого столбца матрицы. В результате п исключает­ ся из главной диагонали, что обычно улучшает обусловленность матрицы.

Привязка идет по формулам:

А0 = ? - ( А 1Х \ + А 2 Х 2 +... + АкХк).

4.3. Модели множественной регрессии более высокого порядка

Выбор типа регрессионных моделей для практического применения должен производиться с учетом физических законов, определяющих течение процесса.

Если анализ физических законов показывает, что соответствующие пе­ ременные связаны линейной зависимостью, то применение полиномов более высокого порядка приведет лишь к искажению модели, особенно вблизи гра­ ниц диапазонов экспериментальных данных и за границами. Если же физиче­ ские законы указывают, например, на кубическую зависимость, то модели регрессии третьего порядка являются более подходящими, чем линейные. Вообще необходимо воздерживаться от использования полиномов высоких степеней в качестве регрессионных моделей (особенно четвертой и более вы­

Обратимая модель

Для к переменных управления обратимая модель имеет вид

г = (ро+ 1 р л ) .

^= P o + Z P J X J .

4.4.Гармонический анализ

Решение некоторых типов дифференциальных уравнений и аппрокси­ мация большинства периодических откликов могут быть описаны эмпириче­ ской моделью, которая линейна по коэффициентам, но нелинейна по незави­ симым переменным:

у = а0 +a, cos х + Ъхsin JC+ а2 cos 2х + b2 sin 2 х +... + амcos тх + bmsin т х .

\jaj + bjj инвариантна относительно сдвига по оси.

Член, соответствующийу-й гармонике, можно записать в виде

В гармоническом анализе обычно получают оценки и (или) проверяют гипотезы относительно амплитуд различных гармоник.

Допустим, что рассматривается специальный тип гармонического ана­ лиза, когда проводятся п наблюдений при значениях х, равномерно распреде­ ленных по одному периоду периодической функции. В этом важном случае расчеты особенно просты вследствие ортогональности данных для всех па­ раметров.

Выберем значения независимой переменной, при которых получаются

2л

наборы данных,равныеx(=tr, где t = 0 , 1 , 2 , 1 , а г - — (беремг,т.к.

п

в подавляющем числе измерений независимой переменной является время). Итак, для каждого наблюдения

Уcos jtr + bj sin jtr)+ e ,.

Считаем, что е, распределена по нормальному закону, / = 0 ,1 ,...,я -1 . Для полной определенности число наблюдений п = 2т + 1 (столько коэффи­ циентов-параметров). Используя метод наименьших квадратов, составим функцию квадрата ошибки и возьмем производные по каждому параметру.

так как суммирование производится за один оборот, каждому положитель­ ному члену будет соответствовать такой же отрицательный член.

Следовательно, уравнения принимают вид:

При обычных предположениях об ошибке е, дисперсии оценок опреде­ ляются выражениями:

,. щ

где а * - дисперсия е,. Считается, что Е/ распределена по нормальному

закону.

Несмещенная оценка ст^ дается величиной S*, которая может быть

вычислена следующим образом:

При предположении, что ошибка г, распределена по нормальному за­

кону, в табл. 4.1 представлены результаты дисперсионного анализа, позво­ ляющего проверить, что амплитуда дайной гармоники отлична от нуля.

Проверка этой гипотезы может быть проведена с использованием F-критерия, использующего отношение

где Sf'=S*.

Например, если отношение дисперсий является значимым лишь для первой гармоники, то эмпирические данные описываются одной синусои­ дальной волной.

Задача нелинейного оценивания, выраженная в форме условия мини­ мума функции ошибок, является просто задачей оптимизации.

Согласно общепринятой классификации методы оптимизации делятся на два класса:

-методы без производных;

-методы с производными.

Основные методы классифицируются так:

-без производных:

1)метод прямого поиска;

2)симплексный метод.

-с производными:

1)метод Гаусса-Зайделя;

2)градиентные методы.

Все эффе1сгивные методы нелинейного оценивания являются итераци­ онными.

4.5.2. Метод прямого поиска

Преимущество: метод не требует вычисления производных; процедура хорошо укладывается в логическую схему.

Недостаток: не так быстро приводит к результату, особенно когда чис­ ло параметров велико.

Алгоритм прямого поиска. Нужно выбрать для всех параметров на­

подвергается величина Ь*р - à b f *. Если для каждого из значений Ь*р ± Дbf*

никакого улучшения не наблюдается, то Ь ^ = Ь^ . Этот процесс повторяется

для всех параметров bj.

Новые оценки параметров образуют некий вектор в пространстве пара­ метров, который задает направление, ведущее к уменьшению F. Вдоль этого направления осуществляется ряд рабочих шагов до тех пор, пока значение F не перестает уменьшаться.

Если пробные шаги не уменьшают F (не выявляют новое направление), приращения Abj постепенно уменьшаются до тех пор, пока не будет найдено новое направление или пока каждое из приращений не станет меньше неко­ торого предварительно выбранного допустимого отклонения. Невозможность улучшить значение F при очень малых Abj указывает на то, что достигнуто локальное оптимальное значение.

Валгоритм вводятся две основные проверки:

-размер шага АЬ/,

-изменение значения F сравнивается с заданным.

Вычисления прекращают, когда на заданном числе циклов обе провер­ ки дают положительный результат.

4.5.3. Симплексный метод

Симплексный метод эффективен при большом числе параметров. Для случая двух параметров правильным симплексом является равносторонний треугольник (рис. 4.2, а), для трех параметров - правильный тетраэдр (4 вер­ шины) (рис. 4.2, б).

При поиске мини­ мума суммы квадратов отклонений (целевой

функции) F = 2 W -Л ,)2 (У, - экспериментальные значения, ц, - модельные значения) в качестве пробных значений пара­ метров модели можно выбрать точки в про­

странстве параметров, расположенные в вершинах симплекса.

В каждой вершине симплекса подсчитывается значение функции F и строится прямая, проходящая через центр тяжести симплекса и вершину с наибольшим значением функции F (пусть точка А, рис. 4.2, а). Затем точ­ ка Л отбрасывается и образуется новый симплекс, называемый отражением, который составляют оставшиеся точки и новая точка В,

Повторение этой процедуры, в которой всегда отбрасывается вершина, соответствующая наибольшему значению функции F, и составляет суть сим­ плексного метода.

Итак, требуется минимизировать величину целевой функции F. Функ­ ция F зависит от параметров, которые необходимо определить:

F =F(b), b=[bub2, .. . , b j .

Обозначим через Ь{=[би,б2/,...,бш]г вектор, определяемый в простран­ стве параметров т координатами Ь\, Ьь ..., Ьтвершины с номером /. Сим­ плекс имеет (т+ 1) вершины, каждой из которых соответствует некоторый вектор б/. F/ - значение целевой функции в вершине с номером i.

Исходный симплекс - правильный симплекс (не обязательно), верши­ на 1 которого принята за начало координат. Предлагается координаты других вершин определять в соответствии с табл. 4.3.