в чем смысл коэффициента детерминации

Коэффициент детерминации

Материал из MachineLearning.

Содержание

Определение и формула

Истинный коэффициент детерминации модели зависимости случайной величины от признаков определяется следующим образом:

где — условная (по признакам ) дисперсия зависимой переменной (дисперсия случайной ошибки модели).

В данном определении используются истинные параметры, характеризующие распределение случайных величин. Если использовать выборочную оценку значений соответствующих дисперсий, то получим формулу для выборочного коэффициента детерминации (который обычно и подразумевается под коэффициентом детерминации):

— сумма квадратов регрессионных остатков, — общая дисперсия, — соответственно, фактические и расчетные значения объясняемой переменной, — выборочное вреднее.

Необходимо подчеркнуть, что эта формула справедлива только для модели с константой, в общем случае необходимо использовать предыдущую формулу.

Интерпретация

Недостатки и альтернативные показатели

Основная проблема применения (выборочного) заключается в том, что его значение увеличивается (не уменьшается) от добавления в модель новых переменных, даже если эти переменные никакого отношения к объясняемой переменной не имеют. Поэтому сравнение моделей с разным количеством признаков с помощью коэффициента детерминации, вообще говоря, некорректно. Для этих целей можно использовать альтернативные показатели.

Скорректированный (adjusted)

Для того, чтобы была возможность сравнивать модели с разным числом признаков так, чтобы число регрессоров (признаков) не влияло на статистику обычно используется скорректированный коэффициент детерминации, в котором используются несмещённые оценки дисперсий:

который даёт штраф за дополнительно включённые признаки, где — количество наблюдений, а — количество параметров.

Данный показатель всегда меньше единицы, но теоретически может быть и меньше нуля (только при очень маленьком значении обычного коэффициента детерминации и большом количестве признаков), поэтому интерпретировать его как долю объясняемой дисперсии уже нельзя. Тем не менее, применение показателя в сравнении вполне обоснованно.

Обобщённый (extended)

Для случая регрессии без свободного члена:

При некоторой модификации также подходит для сравнения между собой регрессионных моделей, построенных с помощью: МНК, обобщённого метода наименьших квадратов (ОМНК), условного метода наименьших квадратов (УМНК), обобщённо-условного метода наименьших квадратов (ОУМНК).

Источник

Пример нахождения коэффициента детерминации

Коэффициент детерминации рассчитывается для оценки качества подбора уравнения регрессии. Для приемлемых моделей предполагается, что коэффициент детерминации должен быть хотя бы не меньше 50%. Модели с коэффициентом детерминации выше 80% можно признать достаточно хорошими. Значение коэффициента детерминации R 2 = 1 означает функциональную зависимость между переменными.

В случае нелинейной регрессии коэффициент детерминации рассчитывается через этот калькулятор. При множественной регрессии, коэффициент детемрминации можно найти через сервис Множественная регрессия

Уравнение имеет вид y = ax + b
1. Параметры уравнения регрессии.
Средние значения

Связь между признаком Y фактором X сильная и прямая.
Уравнение регрессии

Анализ точности определения оценок коэффициентов регрессии

S _a = 3.3432
Доверительные интервалы для зависимой переменной

Рассчитаем границы интервала, в котором будет сосредоточено 95% возможных значений Y при неограниченно большом числе наблюдений и X = 1
(-557.64;913.38)
Проверка гипотез относительно коэффициентов линейного уравнения регрессии
1) t-статистика

Статистическая значимость коэффициента регрессии a подтверждается (6.95>1.812).

Статистическая значимость коэффициента регрессии b не подтверждается (0.96 Fkp, то коэффициент детерминации статистически значим

Источник

Коэффициент детерминации: обзор

Опубликовано 10.06.2020 · Обновлено 11.06.2021

Что такое Коэффициент детерминации: обзор?

Коэффициент детерминации – это статистическое измерение, которое исследует, как различия в одной переменной могут быть объяснены разницей во второй переменной при прогнозировании результата данного события. Другими словами, этот коэффициент, который более известен как R-квадрат (или R 2 ), оценивает, насколько сильна линейная связь между двумя переменными, и на него в значительной степени полагаются исследователи при проведении анализа тенденций. Приведем пример его применения: этот коэффициент может включать следующий вопрос: если женщина забеременеет в определенный день, какова вероятность того, что она родит ребенка в определенный день в будущем? В этом сценарии этот показатель предназначен для расчета корреляции между двумя взаимосвязанными событиями: зачатием и рождением.

Ключевые моменты

Понимание коэффициента детерминации

Коэффициент детерминации – это измерение, используемое для объяснения того, насколько изменчивость одного фактора может быть вызвана его взаимосвязью с другим связанным фактором. Эта корреляция, известная как « степень соответствия », представлена ​​как значение от 0,0 до 1,0. Значение 1,0 указывает на идеальное соответствие и, таким образом, является высоконадежной моделью для будущих прогнозов, а значение 0,0 указывает на то, что расчет вообще не может точно моделировать данные. Но значение 0,20, например, предполагает, что 20% зависимой переменной предсказывается независимой переменной, а значение 0,50 предполагает, что 50% зависимой переменной предсказывается независимой переменной, и так далее.

График коэффициента детерминации

На графике степень соответствия измеряет расстояние между подогнанной линией и всеми точками данных, разбросанными по диаграмме. Плотный набор данных будет иметь линию регрессии, которая близка к точкам и будет иметь высокий уровень соответствия, что означает, что расстояние между линией и данными небольшое. Хотя хорошее соответствие имеет R 2, близкое к 1,0, одно только это число не может определить, смещены ли точки данных или прогнозы. Он также не сообщает аналитикам, является ли значение коэффициента детерминации действительно хорошим или плохим. Пользователь по своему усмотрению может оценить значение этой корреляции и то, как ее можно применить в контексте анализа будущих тенденций.

Источник

Коэффициент детерминации

Опубликовано 28.05.2021 · Обновлено 28.05.2021

Что такое коэффициент детерминации?

Коэффициент детерминации – это статистическое измерение, которое исследует, как различия в одной переменной могут быть объяснены разницей во второй переменной при прогнозировании исхода данного события. Другими словами, этот коэффициент, более известный как R-квадрат (или R 2 ), оценивает, насколько сильна линейная связь между двумя переменными, и на него сильно полагаются исследователи при проведении анализа тенденций. Приведем пример его применения: этот коэффициент может включать в себя следующий вопрос: если женщина забеременеет в определенный день, какова вероятность того, что она родит ребенка в определенный день в будущем? В этом сценарии этот показатель предназначен для расчета корреляции между двумя взаимосвязанными событиями: зачатием и рождением.

Ключевые выводы

Понимание коэффициента детерминации

Коэффициент детерминации – это измерение, используемое для объяснения того, насколько изменчивость одного фактора может быть вызвана его взаимосвязью с другим связанным фактором. Эта корреляция, известная как « степень соответствия », представлена ​​как значение от 0,0 до 1,0. Значение 1,0 указывает на идеальное соответствие и, таким образом, является высоконадежной моделью для будущих прогнозов, а значение 0,0 указывает на то, что расчет вообще не может точно смоделировать данные. Но значение 0,20, например, предполагает, что 20% зависимой переменной предсказывается независимой переменной, тогда как значение 0,50 предполагает, что 50% зависимой переменной предсказывается независимой переменной, и так далее.

График коэффициента детерминации

На графике степень соответствия измеряет расстояние между подогнанной линией и всеми точками данных, которые разбросаны по диаграмме. Плотный набор данных будет иметь линию регрессии, которая близка к точкам и будет иметь высокий уровень соответствия, что означает, что расстояние между линией и данными невелико. Хотя хорошее соответствие имеет R 2, близкое к 1,0, само по себе это число не может определить, смещены ли точки данных или прогнозы. Он также не сообщает аналитикам, является ли значение коэффициента детерминации изначально хорошим или плохим. Пользователь по своему усмотрению может оценить значение этой корреляции и то, как ее можно применить в контексте анализа будущих тенденций.

Источник

Коэффициент детерминации

Коэффициент детерминации (R2)— это доля объяснённой дисперсии отклонений зависимой переменной от её среднего значения. Зависимая переменная объясняется (прогнозируется) с помощью функции от объясняющих переменных, в частном случае является квадратом коэффициента корреляции между зависимой переменной и её прогнозными значениями с помощью объясняющих переменных. Тогда можно сказать, что R2 показывает, какая доля дисперсии результативного признака объясняется влиянием объясняющих переменных.

Формула для вычисления коэффициента детерминации:

где yi — наблюдаемое значение зависимой переменной, а fi — значение зависимой переменной предсказанное по уравнению регрессии -среднее арифметическое зависимой переменной.

Содержание

· 1 Проблемы и общие свойства R2

o 1.1 Интерпретация

o 1.2 Общие свойства для МНК регрессии

o 1.3 Общие свойства для МНК регрессии со свободным членом (единичным фактором)

o 1.4 Мнимая регрессия

· 2 Решение проблем или модификации R2

o 2.1 R2-скорректированный (adjusted)

o 2.2 R2-распространённый (extended)

o 2.3 R2-истинный (несмещённый)

· 3 Прочие используемые критерии

[править]Проблемы и общие свойства R2

[править]Интерпретация

Иногда показателям тесноты связи можно дать качественную оценку (шкала Чеддока):

Количественная мера тесноты связи

Качественная характеристика силы связи

Функциональная связь возникает при значении равном 1, а отсутствие связи — 0. При значениях показателей тесноты связи меньше 0,7 величина коэффициента детерминации всегда будет ниже 50 %. Это означает, что на долю вариации факторных признаков приходится меньшая часть по сравнению с остальными неучтенными в модели факторами, влияющими на изменение результативного показателя. Построенные при таких условиях регрессионные модели имеют низкое практическое значение.

[править]Общие свойства для МНК регрессии

Линейная множественная МНК регрессия имеет следующие общие свойства [1]:

1. Чем ближе значение к 1 тем ближе модель к эмпирическим наблюдениям.

2. С увеличением количества объясняющих переменных увеличивается R2.

[править]Общие свойства для МНК регрессии со свободным членом (единичным фактором)

Для случая наличия в такой регрессии свободного члена коэффициент детерминации обладает следующими свойствами: [2]

1. принимает значения из интервала (отрезка) [0;1].

2. в случае парной линейной регрессионной МНК модели коэффициент детерминации равен квадрату коэффициента корреляции, то есть R2 = r2. А в случае множественной МНК регрессии R2 = r(y;f)2. Также это квадрат корреляции Пирсона между двумя переменными. Он выражает количество дисперсии, общей между двумя переменными.[3]

4. R2 связан с проверкой гипотезы о том, что истинные значения коэффициентов при объясняющих переменных равны нулю, в сравнении с альтернативной гипотезой, что не все истинные значения коэффициентов равны нулю. Тогда случайная величина имеет F-распределение с (k-1) и (n-k) степенями свободы.

[править]Мнимая регрессия

Значения R2, , также могут быть манипулированы, с помощью включения фиктивных факторов. Например, если два показателя имеют возрастающую динамику, то их коэффициент корреляции (который входит в факторное разложение) будет достаточно высок. Поэтому логическая и смысловая адекватность модели имеют первостепенную важность. Только качество модели может быль проверено или сопоставлено с использованием R2 и его модификаций.

[править]Решение проблем или модификации R2

[править]R2-скорректированный (adjusted)

[править]R2-распространённый (extended)

с условием небольшой модификации, также подходит для сравнения между собой регрессий построенных с помощью: МНК, обобщённого метода наименьших квадратов (ОМНК), условного метода наименьших квадратов (УМНК), обобщённо-условного метода наименьших квадратов (ОУМНК).

[править]R2-истинный (несмещённый)

[править]Прочие используемые критерии

[править]См. также

§ Дисперсия случайной величины

§ Метод группового учета аргументов

[править]Примечания

2. ↑ 1 2 Распространение коэффициента детерминации на общий случай линейной регрессии, оцениваемой с помощью различных версий метода наименьших квадратов (рус., англ.) //ЦЕМИ РАН Экономика и математические методы. — Москва: ЦЕМИ РАН, 2002. — В. 3. — Т. 38. — С. 107-120.

4. ↑ Выбор регрессии максимизирующий несмещённую оценку коэффициента детерминации (рус., англ.) // Прикладная эконометрика. — Москва: Маркет ДС, 2008. — В. 4. — Т. 12. — С. 71-83.

Источник