книги / Организация и математическое планирование эксперимента.-1

в уравнение регрессии, то такую систему в математической статистике называют системой нормальных уравнений.

Функция Ф ≥ 0 при любых b0, b1, b2, …, bk, следовательно, у нее должен существовать хотя бы один минимум (парабола). Ввиду этого если система нормальных уравнений имеет единственное решение, то оно и является минимумом функции Ф.

4.1. Линейная регрессия от одного параметра

Требуется определить по одному параметру методом наименьших квадратов коэффициенты линейного уравнения регрессии

y b0 b1x

по выборке объема n. Система нормальных уравнений имеет вид

n yi n b0 b1x1 .

i 1 i 1

Коэффициенты b0 и b1 легко найти, решая систему уравнений, или с помощью определителей.

Для оценки силы линейной связи вычисляют выборочный коэффициент корреляции r*:

где sx и sy – выборочные среднеквадратичные отклонения. Статистический анализ результатов заключается в проверке

значимости всех коэффициентов регрессии в сравнении с ошибками воспроизводимости и в адекватности уравнения. Это исследование и называют регрессионным анализом. При проведении регрессионного анализа принимают следующие допущения:

1. Входной параметр х изменяется с пренебрежительно малой ошибкой по сравнению с ошибкой в определении у. Большая

61

ошибка у объясняется наличием в каждом процессе не выявленных переменных, не вошедших в уравнение регрессии.

2.Результаты наблюдений у1, у2, …, уn над выходной величиной y представляют собой независимые, нормально распределенные случайные величины.

3.В эксперименте с объемом выборки n и повторении каждого опыта m раз выборочные дисперсии s12, s22, …, sn2 должны

быть однородны.

Однородность дисперсий при одинаковом числе степеней свободы можно проверить по критерию Кохрена. Определенная по параллельным опытам дисперсия воспроизводимости sвоспр2

необходима для оценки значимости коэффициентов уравнения регрессии и проверки адекватности уравнения эксперименту.

Оценку значимости коэффициентов производят по критерию Стьюдента

t j bj ,

sbj

где bj – j-й коэффициент уравнения регрессии; sbj – среднее квадратичное отклонение j-го коэффициента.

Затем сравнивают tj и tр (f). Если tj больше tр (f) для выбранного уровня значимости р и числа степеней свободы f = fвоспр, то коэффициент bj значимо отличается от нуля; sbj определяют по закону накопления ошибок

62

Незначимые коэффициенты исключают из уравнения регрессии. Оставшиеся коэффициенты пересчитывают заново. Адекватность уравнения проверяют по критерию Фишера

s2

F s2ад ,

воспр

где sад2 – дисперсия адекватности;sвоспр2 – дисперсия воспроизводимости.

SSад SSост SSвоспр ,

где SSвоспр – сумма квадратов, связанная с дисперсией воспроизводимости sвоспр2 , если каждый опыт повторен m раз;

n m

SSвоспр i yiu yi ср 2 . i 1 u 1

fад – число степеней свободы дисперсии адекватности:

fад fост fвоспр n l ,

где l – число коэффициентов в уравнении регрессии; n – число опытов; fост – число степеней свободы остаточной дисперсии; fвоспр – число степеней свободы дисперсии воспроизводимости.

Среднее для каждого i опыта, повторенного m раз,

yi ср 1 mi yiu ;mi u 1

sвоспр2 SSf воспр , воспр

где fвоспр– число степеней свободы дисперсии воспроизводимости;

fвоспр n mi 1 ; i 1

63

F1–р (f1, f2) для уровня значимости р и числа степеней свободы f1 = fад и f2 = fвоспр, уравнение адекватно эксперименту.

Для одинакового числа опытов m1 = m2 = … = mi = mn = m вычисления упрощаются:

При отсутствии параллельных опытов и дисперсии воспроизводимости можно оценить качество аппроксимации принятым уравнением, сравнив sост2 и дисперсию относительно среднего sу2:

64

по критерию Фишера

s2 f

sy2 f2 .

Вэтом случае критерий Фишера показывает, во сколько раз уменьшается рассеяние относительно полученного уравнения регрессии по сравнению с рассеянием относительно средне-

го. Чем больше значение F превышает табличное F1–p (f1, f2) для выбранного уровня значимости р и числа степеней свободы f1 = n – 1, f2 = n – l, тем эффективнее уравнение регрессии.

4.2.Параболическая регрессияF y 1

Уравнение регрессии – это обычно полином некоторой степени. Коэффициенты этого уравнения находят решением системы линейных уравнений. Простейший пример квадратичной функции – параболы второго порядка

y b0 b1x b2x2.

Коэффициенты b0, b1 и b2 вычисляют из уравнений

df x 1; db0

df x x; db1

df x x2. db2

65

Система нормальных уравнений имеет вид

Аналогичные по структуре уравнения позволяют определить коэффициенты параболы любого порядка.

Адекватности уравнений добиваются за счет повышения (понижения) степени полинома. Критерием адекватности выступает остаточная дисперсия

увеличение степени полинома следует прекратить. Значимость различий проверяют по критерию Фишера

Если расчетное значение критерия Фишера меньше табличного F1–р (f1, f2) для выбранного уровня значимости и чисел степеней свободы f1 и f2, увеличение степени k следует прекратить.

66

Глава 5. ПЛАНИРОВАНИЕ ЭКСПЕРИМЕНТА

Рассмотрим общую схему дисперсионного и регрессионного анализа планирования эксперимента, когда каждый опыт

вматрице планирования повторяется m раз.

Вкаждой строчке матрицы планирования определяют среднее значение измеряемой величины по m параллельным опытам и дисперсию

Однородность выборочных дисперсий проверяют по критерию Кохрена. Для этого определяют отношение максимальной дисперсии к сумме всех дисперсий:

G smax2 .

n si2 i 1

Вычисленное значение G сравнивают с табличным G1–р2 (f1, f2), где р – уровень значимости (обычно где р = 0,05), f1 = m – 1; f2 = N. Если G < G1–р2 (f1, f2), дисперсии однородны. В этом случае для оценки дисперсии воспроизводимости берут среднюю дисперсию:

с числом степеней свободы fвоспр = n (m – 1). Вычисляют коэффициенты уравнения регрессии

67

Дисперсия yср по выборке объема m в m раз меньше дисперсии единичного измерения

s2

sbj2 nmвоспр .

Значимость коэффициентов проверяют по критерию Стьюдента. Для всех коэффициентов уравнения регрессии составляют t-отношение:

t j bj ,

sbj

которое сравнивают с табличным для заданного уровня значимости (обычно р = 0,05) и числа степеней свободы f = n (m – 1). Если вычисленное значение tj окажется меньше табличного, то соответствующий выборочный коэффициент bj отсеивают из уравнения регрессии как незначимый. При ортогональной матрице остальные коэффициенты не пересчитывают, в других случаях – пересчитывают.

Адекватность уравнения регрессии эксперименту проверяют по критерию Фишера по соотношению

s2

F s2ад ,

воспр

дисперсию адекватности определяют по формуле

где l – число значимых коэффициентов в уравнении регрессии.

68

Еcли полученное дисперсионное отношение F = sад2 /sвоспр2

меньше табличного при f1 = N – l (число степеней свободы дисперсии адекватности), f2 = n (m – 1) (число степеней свободы дисперсии воспроизводимости), то уравнение адекватно эксперименту, а если больше, то не адекватно. Для адекватного описания эксперимента чаще всего требуется увеличить порядок аппроксимирующего полинома.

5.1. Оптимизация методом крутого восхождения по поверхности отклика

Задача оптимизации сводится к экспериментальному определению координат экстремальной точки (х1опт, х2опт, …, хkопт) функции y = f (х1опт, х2опт, …, хkопт). Контурные сечения функции отклика для k = 2 при у = const представлены на рис. 5.1.

Рис. 5.1. Движение по поверхности отклика к экстремуму (а) в однофакторном эксперименте и методе крутого восхождения (б)

Традиционно в эксперименте фиксируют один из факторов, в данном примере х1, и двигаются из точки L в направлении оси х2. Координаты точки L известны из предварительных опытов. Движение по х2 продолжается до тех пор, пока не прекращается прирост у (см. рис. 5.1, б). В точке M с лучшим выходом

69

(т.е., например, с более высокими значениями у) фиксируют фактор х2 и начинают движение в направлении оси х1. В точке N снова фиксируют фактор х2 и начинают движение по переменной х2 и т.д. Путь к экстремуму по ломаной LMNR не самый короткий. Движение по кратчайшему, наиболее крутому пути – это движение по градиенту перпендикулярно линиям у = const (на рис. 5.1, б представлено пунктиром). Если поверхность описывает функция у = f (х1, х2, …, хk), то градиент этой функции

где i , j, ... k – орты координатных осей.

Полагаем, что функция f непрерывна, дифференцируема, однозначна и не имеет особых точек. Бокс и Уилсон предложили шаговый метод движения по поверхности отклика. В окрестности точки L ставится эксперимент для локального описания поверхности отклика линейным уравнением регрессии

y b0 b1x1 b2x2 bk xk .

Далее двигаются по поверхности отклика в направлении градиента линейного приближения:

dy b1; dx1

dy b2; dx2

…

dy bk . dxk

Если одного линейного приближения недостаточно, то ставится новая серия опытов с центром в точке, соответствую-

70