2.1. ДВА ВВОДНЫХ ПРИМЕРА

Пусть имеются четыре переменные, отдельные значения которых получены в результате наблюдения за рядом индивидуумов. Вычислим все парные коэффициенты корреляции, в итоге получим следующую корреляционную матрицу:

Корреляционная матрица является симметрической, т. е. наддиагональные элементы представляют собой зеркальное отражение поддиагональных относительно главной диагонали. При рассмотрении матрицы бросается в глаза тот факт, что все коэффициенты корреляции положительны. Кроме того, между первой и второй переменными имеется относительно тесная корреляционная связь, третья переменная с первыми двумя связана слабее, а четвертая практически не зависит от всех предыдущих. Следуя обычной процедуре корреляционного анализа можно было бы проверить значимость каждого коэффициента корреляции.

Целью факторного анализа является извлечение на поверхность величины, так называемого фактора, который бы по возможности точнее позволил воспроизвести наблюдаемые корреляции с использованием соответствующей процедуры вычислений. Этот фактор и связанная с ним процедура вычислений вначале являются гипотетическими. Здесь обсуждается подход к выявлению фактора и к процедуре вычислений. Наблюдавшиеся коэффициенты корреляции можно в каждом случае воспроизвести с помощью следующего уравнения:

Вектор представляет собой фактор. Матрица является матрицей воспроизведенных коэффициентов корреляции. Используя правило умножения матриц, выполним действие в результате чего получим матрицу отличающуюся от R диагональными элементами. В этом состоит наша гипотеза. Диагональные элементы матрицы далее называются общностями и ставятся в скобки, чтобы их как-то выделить. Например, элементы первого столбца корреляционной матрицы получаем следующим образом: Так как элементы первой строки и первого столбца матрицы соответствуют друг другу, их вычисляют только один раз. Для второго столбца и второй строки матрицы начинают вычисление лишь со второго элемента: и . В силу симметричности матрицы эти элементы записываются также и во вторую строку. Естественно, получим те же самые значения элементов матрицы, если полностью перемножим векторы. Но в этом случае процесс вычисления увеличится вдвое, так как при перемене мест перемножаемых элементов результат остается тот же, а именно:

Таким образом, по приведенному правилу вычисления из чисел получаем наблюдаемую корреляционную матрицу.

В табл. 2.1 еще раз подробно воспроизводится описанная выше процедура вычисления без использования векторной символики. Вычисления, естественно, производятся только для диагональных и поддиагональных элементов матрицы по уравнениям, которые соответствуют формуле (2.2). В клетках таблицы записаны произведения элементов вектор-столбца с соответствующими элементами вектор-строки.

Таблица 2.1. Связь между коэффициентами корреляции и факторными нагрузками для первого примера

Система равенств (2.2) формулирует гипотезу, которая состоит из правила вычисления и элементов вектора Эта гипотеза позволяет нам воспроизвести корреляционную матрицу, и мы можем в определенном смысле привлечь ее к «объяснению» этой матрицы. Слово «объяснение» в данном случае употребляется в формальном смысле, который касается лишь воспроизводимости коэффициентов корреляции. Этим подразумевается не причинное объяснение, а только формально математическое. Как получаются численные значения элементов вектора нас пока не интересует. Их называют факторными нагрузками. Численные значения элементов вектора в (2.2) позволяют произвести численно-формальное объяснение наблюдаемых коэффициентов корреляции. Это дает основание предполагать, что за наблюдаемыми корреляциями стоит фактор, который мог бы причинно обусловливать эти корреляции. По меньшей мере это предположение можно высказать, так как наш фактор формально точно воспроизводит корреляционную матрицу, за исключением диагональных элементов.

Таким образом, мы на примере познакомились с основным уравнением факторного анализа. Наблюдаемые корреляции рассматриваются как проявление скрытой величины, фактора, исходя из которой весьма просто могут быть вычислены эти корреляции. Фактор всегда стоит за наблюдаемыми величинами, но непосредственно для измерения недоступен. Он гипотетичен, но должен иметь такую конструкцию и такую математическую величину, чтобы исходя из него можно было получить наблюдаемые корреляции. Факторный анализ устанавливает такие гипотетические факторы и из-за этого способ образования гипотез имеет всегда локальный характер. Таким образом, выявление факторов производится не обычными статистическими методами, но статистический материал используется для формирования гипотетического фактора.

Если приводить корреляционную матрицу (2.1) к форме, указанной в (2.2), то сразу возникают две проблемы. Диагональные элементы матрицы меньше единицы, как это видно из равенства (2.2). Прежде чем пытаться численно определить искомую правую часть этого равенства, должны быть установлены заключенные в скобки диагональные элементы в левой части. Эти диагональные элементы называются общностями, а их определение, или оценка, составляет первую проблему, проблему общности. Второй проблемой является определение фактора Это так называемая проблема факторов. Обе проблемы будут показаны еще глубже, однако здесь уже подчеркивается необходимость разделить подходы к этим проблемам.

Давайте обратимся еще раз к примеру, иллюстрирующему равенство (2.2). Десять различных значений элементов (диагональных и поддиагональных) корреляционной матрицы приведены к четырем элементам вектора . Эти четыре значения содержат ту же самую информацию, что и вся корреляционная матрица. Таким образом достигается упрощение, причем объем информации сохраняется. Факторные нагрузки соответствуют коэффициентам корреляции, т. е. переменная 1 имеет много общего с фактором переменная 2 — немного меньше переменная 3 — еще меньше

Переменная 4 почти не связана с фактором Все эти выводы находятся в соответствии с наблюдаемой корреляционной матрицей. Фактор, связанный с переменными в указанных количественных соотношениях, в достаточной мере объясняет наблюдаемые корреляции. Геометрически упрощение заключается в том, что единственная мера, а именно фактор достаточна для отражения связей между переменными. Если каждую переменную представить в виде вектора, т. е., попросту говоря, в виде стрелки в пространстве, то в этом примере все стрелки примут одно направление, а именно направление фактора который рассматривается как координатная ось одномерной системы координат. Длина стрелок зависит от величины факторных нагрузок (см. рис. 2.1).

Обратимся теперь ко второму примеру. Допустим, что по результатам наблюдений за четырьмя переменными нами составлена следующая корреляционная матрица.

Рис. 2.1. Геометрическая интерпретация фактора а. Все векторы-переменные лежат в одном направлении вдоль фактора Длины векторов соответствуют величинам факторных нагрузок

При этом диагональные элементы заменяем общностями, которые предполагаются известными. Чтобы Их как-то выделить, заключаем их в скобки, и корреляционная матрица с общностями на главной диагонали обозначается

При просмотре корреляционной матрицы бросается в глаза, что первая и вторая переменные сильно коррелируют друг с другом. Можно говорить также о наличии корреляции между третьей и четвертой переменными. Между остальными переменными корреляция не проявилась. В таком случае, когда в корреляционной матрице существуют как бы обособленно два центра тяжести, не связанных друг с другом, для объяснения корреляции используют два фактора. Пусть первый фактор будет . Если мы, как в первом примере, вычислим произведение то получим матрицу которую мы назвал и матрицей воспроизведенных коэффициентов корреляции:

воспроизводит первоначальную корреляционную матрицу не так хорошо, как в первом примере. Если сравнить элементы обеих матриц , то прежде всего обращает на себя внимание значительная разница в коэффициенте корреляции между третьей и четвертой переменными. Разницу называют остаточной матрицей. Она содержит остаточные корреляции, которые не были объяснены первым фактором и остаются после выделения первого фактора.

В первом примере на с. 56 все элементы остаточной матрицы равны нулю. В этом легко убедиться, так как матрицы R и имеют одни и те же элементы, за исключением диагональных элементов, которые в первом примере не учитывались, поскольку не отличалась от R. Во втором примере в матрице элементы, соответствующие третьей и четвертой переменным, значительно отличаются от нуля. Остаточную матрицу можно теперь воспроизвести с помощью второго фактора причем

Точно так же, как мы воспроизводили корреляционную матрицу с помощью первого фактора, попытаемся объяснить остаточную матрицу с помощью второго фактора.

Итак, в целом вся корреляционная матрица составляется с помощью двух факторов, и всю модель можно представить в виде равенства

В равенстве (2.6) легко убедиться путем соответствующих вычислений. Первый элемент корреляционной матрицы равен: по тому же самому правилу умножения матриц получаем другие элементы. Наша гипотеза о структуре корреляционной матрицы в этом примере сложнее, чем в первом. Мы используем два фактора, и эти оба фактора содержатся в столбцах матрицы А:

В этом заключается упрощение матрицы R. От четырех переменных мы пришли к двум факторам. В общем случае надо процедуру строить так, чтобы на фактор приходилось более двух переменных. Этот же пример был выбран ради наглядности. Первый фактор в основном связан с первой и второй переменными, что можно увидеть по нагрузкам. Второй фактор связан с третьей и четвертой переменными. Оба фактора в этом примере линейно независимы.

При геометрической интерпретации векторы, соответствующие переменным, не будут лежать вдоль одной и той же оси, как в первом примере, а расположатся на плоскости. Можно геометрически изобразить матрицу А, поставив в соответствие каждой строке этой матрицы вектор в двумерной координатной системе. Координатные оси соответствуют факторам, векторы—переменным. Например, конец вектора 1 на рис. 2.2 имеет координаты 0,90 (нагрузка первого фактора) и 0,05 (нагрузка второго фактора), которые берутся из матрицы А. Для графического изображения здесь необходима двумерная система координат. Одномерная как на рис. 2.1 - недостаточна, так как имеются два фактора. Координатные оси являются факторами, на которые натянуто пространство, содержащее переменные.

В этих двух примерах мы познакомились поверхностно, в первом приближении с рядом понятий и процедур, которые далее будут определены и описаны более подробно. Факторный анализ исходит из корреляционной матрицы.

Ее диагональные элементы заменяются новыми, так называемыми общностями. Из корреляционной матрицы затем выделяются факторы, которые позволяют наиболее точно воспроизвести ее. Факторы не сразу определяются однозначно, это касается так называемой проблемы вращения системы координат.

Следующий вопрос, который мы также еще не затрагивали, заключается в том, как факторы связаны с данными измерений каждого объекта и как для каждого объекта получить оценку значений факторов.

Теперь мы немного подробнее остановимся на формальных соотношениях и определениях, которые подразумевались в обоих примерах.

Рис. 2.2. Геометрическая интерпретация матрицы А. Векторы-переменные лежат на плоскости. Координаты концов векторов соответствуют факторным нагрузкам