Linear correlation model and least squares method
Abstract
In this article, we examine the relationship between the topics "Linear model of correlation dependence", studied in the discipline Probability Theory and Mathematical Statistics, and the topic "Method of least squares", which is considered within the discipline Numerical methods and mathematical optimization. Building interdisciplinary connections between these topics is an important moment for a deeper understanding of the material and for forming skills for practical application of mathematical knowledge.
Full text
151 ЛИНЕЕН МОДЕЛ НА КОРЕЛАЦИОННА ЗАВИСИМОСТ И МЕТОД НА НАЙ-МАЛКИТЕ КВАДРАТИ 1 ТОНЯ МАТЕВА LINEAR CORRELATION MODEL AND LEAST SQUARES METHOD TONYA MATEVA Abstract: In this article, we examine the relationship between the topics "Linear model of correlation dependence", studied in the discipline Probability Theory and Mathematical Statistics, and the topic "Method of least squares", which is considered within the discipline Numerical methods and mathematical optimization. Building interdisciplinary connections between these topics is an important moment for a deeper understanding of the material and for forming skills for practical application of mathematical knowledge. Keywords: Correlation, statistics, method of least squares. За решаване на линейния модел на корелационна зависимост могат да се използват различни методи, като например методът на най-малките модулни отклонения, методът на максималното правдоподобие, робастните методи и др. [1]. В настоящата разработка ще разгледаме класическия метод на най-малките квадрати, за да направим връзка между дисциплините „Теория на вероятностите и математическа статистика“ изучавана във II курс от специалност Информатика и информационни технологии и дисциплината „Числени методи и оптимиране“, която студентите изучават в III курс. 1 Статията е разработена по проект „Игровизацията в образователния процес“ на Шуменски университет „Епископ Константин Преславски“, № 08-122/06.02.2025.
152 Линейният модел на корелационна зависимост дава статистическа основа за изследване на връзката между две случайни величини и оценяване на силата и посоката на тази връзка чрез коефициента на корелация [2,5]. От своя страна, методът на най-малките квадрати предоставя числен подход за намиране на параметрите на линейната регресионна функция, която най-добре апроксимира експерименталните данни [3]. Една от задачите на статистиката е изследването на връзката между две променливи. Когато зависимостта не е ясно изразена (функционална), казваме че има корелационна зависимост [4]. Характерът на зависимостта се оценява от регресионния анализ. Зависимостта може да бъде между 2 и повече величини, а според вида ѝ – линейна, квадратична, експоненциална и др. [6]. Предполагаме, че е направено наблюдение върху съвкупност от n на брой единици по два признака. Независимата променлива (фактор) се означава с x, а зависимата(резултативна) – с y. Данните са от конкретно наблюдение, поради което те изразяват корелационна зависимост между изследваните признаци. Най-общата представа за зависимостта между две променливи се получава като се начертае диаграма на разсейването. Ако връзката е приблизително линейна, съставяме уравнението 𝑦 =𝑏0+𝑏1.𝑥, което се нарича регресионно уравнение (линеен регресионен модел). Числата 𝑏0 и 𝑏1 са параметри на модела или регресионни коефициенти, 𝑏0−отрез,𝑏1− наклон. Търсим такова уравнение на правата 𝑦 =𝑏0+𝑏1.𝑥, че тя да минава най-близо до всички емпирични точки. За решаването на тази задача ще използваме метода на наймалките квадрати – МНМК. Пример 1: Направени са наблюдения върху два признака на един и същ обект, като X е независимата променлива, a У е зависимата. Данните са показани в таблицата:
153 Таблица 1 X 1 2 3 4 5 Y 3 4 8 16 19 Фиг. 1 Диаграма на разсейването Построяваме диаграма на разсейването – избираме точкова диаграма и линия на тенденцията. Можем да предположим, че точките се групират около права, т. е зависимостта е линейна. 1. Нека регресионното уравнение е 𝑦 =𝑏0+𝑏1.𝑥 2. Параметрите 𝑏0 и 𝑏1 определяме по МНМК. Прилагането на този метод се свежда до решаване на система, наречена система нормални уравнения. |𝑆𝑦=𝑛𝑏0+𝑏1.𝑆𝑥 𝑆𝑦𝑥 =𝑏0𝑆𝑥+𝑏1.𝑆𝑥2 – n е обемът на извадката. 0 2 4 6 8 10 12 14 16 18 20 0 1 2 3 4 5 6 Yзависима променлива X - независима променлива(фактор) Диаграма на разсейването
154 𝑆𝑥=𝑥1+𝑥2+⋯+𝑥𝑛=∑𝑥𝑖 𝑛 𝑖=1 𝑆𝑦=𝑦1+𝑦2+⋯+𝑦𝑛=∑𝑦𝑖 𝑛 𝑖=1 𝑆𝑥2=𝑥1 2+𝑥2 2+⋯+𝑥𝑛 2=∑𝑥𝑖2 𝑛 𝑖=1 𝑆𝑥𝑦 =𝑥1 𝑦1+𝑥2𝑦2+⋯+𝑥𝑛𝑦𝑛=∑𝑥𝑖 𝑛 𝑖=1 𝑦𝑖 За удобство при извършване на изчисленията използваме следната таблица: Таблица 2 𝑖 𝑥𝑖 𝑦𝑖 𝑥𝑖2 𝑥𝑖𝑦𝑖 1 1 3 1 3 2 2 4 4 8 3 3 8 9 24 4 4 16 16 64 5 5 19 25 95 𝑛=5 𝑆𝑥=15 𝑆𝑦=50 𝑆𝑥2=55 𝑆𝑥𝑦 =194 Системата |𝑆𝑦=𝑛𝑏0+𝑏1.𝑆𝑥 𝑆𝑦𝑥 =𝑏0𝑆𝑥+𝑏1.𝑆𝑥2 приема вида |50=5𝑏0+15𝑏1 194=15𝑏0+55𝑏1 Решението e 𝑏0 =−3,2 и 𝑏1=4,4 Регресионната права е 𝑦 =−3,2+4,4.𝑥. Стойностите 𝑦 се наричат предсказана (прогнозна) стойност. Например, ако x приеме стойност 6, то за y се очаква да приеме стойност 𝑦 =23,2.
155 Пример 2: Трябва да се разбере как цената на наемите на апартаменти във вашия град зависи от площта на жилището. Събират се данни за 10 апартамента, като за всеки се записва: Площ в квадратни метри (x), месечен наем в лева (𝑦). Трябва да се изгради линеен регресионен модел от вида: 𝑦 =𝑏0+𝑏1.𝑥, където Y е прогнозният наем, X е площта, 𝑏0 и 𝑏1− параметри на модела или регресионни коефициенти. 1. Да се построи линейната регресия по дадените данни. 2. Да се използва модела, за да се предвиди наема за апартамент с площ 85 кв.м. 3. Да се прецени дали площта има значимо влияние върху цената на наема (може да се използва коефициентът на детерминация). Таблица 3 Апартамент Площ в кв.м - x Наем в лв. -𝑦 1 40 500 2 55 650 3 60 700 4 70 800 5 80 890 6 90 970 7 100 1050 8 110 1150 9 120 1230 10 130 1300 Решение: 1. Да се начертае диаграма: площта на абсцисата, наемът на ординатата.
156 2. Да се използва методът на най-малките квадрати, за да се намерят коефициентите 𝑏0 и 𝑏1 от уравнението на правата. 3. Да се изрази линейната функция: 𝑦 =𝑏0+𝑏1.𝑥 4. Да се направи прогноза: колко ще струва наем на апартамент с площ 85 кв.м? 5. Да се изчисли коефициента на детерминация R2, за да се прецени колко добре моделът обяснява зависимостта между площ и наем. Уравнение на модела: 𝑌 =8,88𝑋+165 За коефициента на детерминация получаваме R2=0,998. Това означава, че има много силна зависимост. Прогноза за апартамент с площ 85 кв.м: Y=919,56 лв. Изграждането на интердисциплинарна връзка между темите „Линеен модел на корелационна зависимост“ и „Метод на най-малките квадрати“ има съществено значение за формиране на цялостно разбиране за природата на статистическото моделиране и числената апроксимация. Чрез тази връзка студентите осъзнават, че методът на най-малките квадрати не е просто изчислителен инструмент, а логическо продължение на статистическите принципи за изследване на зависимости между случайни величини. От педагогическа гледна точка разглеждането на тези взаимосвързани теми в учебния процес подпомага изграждането на умения за аналитично мислене, критична оценка на данни и прилагане на математически инструменти за решаване на практически задачи. Този подход стимулира студентите да виждат връзките между отделните математически дисциплини и да прилагат знанията си в интегриран контекст, което повишава ефективността и мотивацията в обучението. ЛИТЕРАТУРА: 1. Сивакова В., Корелационен и регресионен анализ в поведенческите и социални науки, Пловдив: Университетско
157 издателство „Паисий Хилендарски“. ISBN 978-619-202-653-0, 2021. 2. Павлова, В., Чипева, С., Статистика: Учебник за ВУЗ. София: Нова звезда. ISBN 978-954-8933-70-4, 2012. 3. Калоянов, Т., Петров, В. П., Статистика. София: Изд. комплекс – УНСС. ISBN 978-954-644-687-9, 2014. 4. Гоев, В., Бошнаков, В., Тошева, Е., Харалампиев, К., Бозев, В., Статистически анализ в социологическите, икономическите и бизнес изследвания. София: Издателски комплекс на УНСС. ISBN 978-619-232-172-7, 2019. 5. Димитрова, Р., 2008, Методика за изследване на разходите и себестойността с помощта на регресионен анализ. Бизнес посоки. ISSN 1312 - 6016, бр. 1, с. 69-73. 6. Радилов, Д., Хаджиев, В., Жекова, С., Статистика. Варна: Наука и икономика ИУ. ISBN 978-954-21-0468-1, 2010.