Tham số b trong hồi quy tuyến tính (điểm chặn y của đường phù hợp nhất) được tính như thế nào?

/ / Xuất bản năm Trí tuệ nhân tạo, Học máy EITC/AI/MLP với Python, Hồi quy, Hiểu về hồi quy

Trong bối cảnh hồi quy tuyến tính, tham số b (thường được gọi là giao điểm y của đường thẳng phù hợp nhất) là thành phần quan trọng của phương trình tuyến tính y = m x + b, Nơi m đại diện cho độ dốc của đường. Câu hỏi của bạn liên quan đến mối quan hệ giữa chặn y b, phương tiện của biến phụ thuộc y và biến độc lập x, và độ dốc m.

Để giải quyết truy vấn, chúng ta cần xem xét đạo hàm của phương trình hồi quy tuyến tính. Hồi quy tuyến tính nhằm mục đích mô hình hóa mối quan hệ giữa một biến phụ thuộc y và một hoặc nhiều biến độc lập x bằng cách khớp một phương trình tuyến tính với dữ liệu được quan sát. Trong hồi quy tuyến tính đơn giản, bao gồm một biến dự đoán duy nhất, mối quan hệ được mô hình hóa theo phương trình:

    \[ y = mx + b \]

Ở đây, m (độ dốc) và b (điểm chặn y) là các tham số cần xác định. Độ dốc m chỉ ra sự thay đổi trong y đối với sự thay đổi một đơn vị trong x, trong khi chặn y b đại diện cho giá trị của y khi nào x là số không.

Để tìm các tham số này, chúng tôi thường sử dụng phương pháp bình phương tối thiểu, phương pháp này giảm thiểu tổng các chênh lệch bình phương giữa các giá trị quan sát được và các giá trị được mô hình dự đoán. Phương pháp này dẫn đến các công thức sau đây cho độ dốc m và điểm chặn y b:

    \[ m = \frac{\sum{(x_i - \bar{x})(y_i - \bar{y})}}{\sum{(x_i - \bar{x})^2}} \]

    \[ b = \bar{y} - m\bar{x} \]

Ở đây, \bar{x} và \bar{y} là những phương tiện của x và y các giá trị tương ứng. Thuật ngữ \sum{(x_i - \bar{x})(y_i - \bar{y})} đại diện cho hiệp phương sai của x và y, trong khi \sum{(x_i - \bar{x})^2} thể hiện sự khác biệt của x.

Công thức đánh chặn y b có thể hiểu như sau: một khi độ dốc m được xác định, điểm chặn y b được tính bằng cách lấy giá trị trung bình của y giá trị và trừ đi tích của độ dốc m và ý nghĩa của x các giá trị. Điều này đảm bảo rằng đường hồi quy đi qua điểm (\bar{x}, \bar{y}), là tâm của các điểm dữ liệu.

Để minh họa điều này bằng một ví dụ, hãy xem xét một tập dữ liệu có các giá trị sau:

    \[ \begin{array}{|c|c|} \hline x & y \\ \hline 1 & 2 \\ 2 & 3 \\ 3 & 5 \\ 4 & 4 \\ 5 & 6 \\ \hline \end{mảng} \]

Đầu tiên, chúng tôi tính toán phương tiện của x và y:

    \[ \bar{x} = \frac{1 + 2 + 3 + 4 + 5}{5} = 3 \]

    \[ \bar{y} = \frac{2 + 3 + 5 + 4 + 6}{5} = 4 \]

Tiếp theo, chúng tôi tính toán độ dốc m:

    \[ m = \frac{\sum{(x_i - \bar{x})(y_i - \bar{y})}}{\sum{(x_i - \bar{x})^2}} \]

    \[ = \frac{(1-3)(2-4) + (2-3)(3-4) + (3-3)(5-4) + (4-3)(4-4) + (5-3)(6-4)}{(1-3)^2 + (2-3)^2 + (3-3)^2 + (4-3)^2 + (5-3)^ 2} \]

    \[ = \frac{(-2)(-2) + (-1)(-1) + (0)(1) + (1)(0) + (2)(2)}{(-2) ^2 + (-1)^2 + (0)^2 + (1)^2 + (2)^2} \]

    \[ = \frac{4 + 1 + 0 + 0 + 4}{4 + 1 + 0 + 1 + 4} \]

    \[ = \frac{9}{10} = 0.9 \]

Cuối cùng, chúng tôi tính toán đánh chặn y b:

    \[ b = \bar{y} - m\bar{x} \]

    \[ = 4 - 0.9 \times 3 \]

    \[ = 4 - 2.7 \]

    \[ = 1.3 \]

Do đó, phương trình hồi quy tuyến tính cho tập dữ liệu này là:

    \[ y = 0.9x + 1.3 \]

Ví dụ này chứng minh rằng điểm chặn y b thực sự bằng với giá trị trung bình của tất cả y giá trị trừ đi tích của độ dốc m và ý nghĩa của tất cả x các giá trị phù hợp với công thức b = \bar{y} - m\bar{x}.

Điều quan trọng cần lưu ý là điểm chặn y b không chỉ đơn giản là ý nghĩa của tất cả y giá trị cộng với tích của độ dốc m và ý nghĩa của tất cả x các giá trị. Thay vào đó, nó liên quan đến việc trừ tích của độ dốc m và ý nghĩa của tất cả x giá trị từ giá trị trung bình của tất cả y các giá trị.

Hiểu đạo hàm và ý nghĩa của các tham số này là điều cần thiết để diễn giải kết quả phân tích hồi quy tuyến tính. Chặn y b cung cấp thông tin có giá trị về mức cơ bản của biến phụ thuộc y khi biến độc lập x là số không. Độ dốc mMặt khác, chỉ ra hướng và sức mạnh của mối quan hệ giữa x và y.

Trong các ứng dụng thực tế, hồi quy tuyến tính được sử dụng rộng rãi để lập mô hình dự đoán và phân tích dữ liệu. Nó phục vụ như một kỹ thuật nền tảng trong các lĩnh vực khác nhau, bao gồm kinh tế, tài chính, sinh học và khoa học xã hội. Bằng cách điều chỉnh mô hình tuyến tính phù hợp với dữ liệu quan sát được, các nhà nghiên cứu và phân tích có thể đưa ra dự đoán, xác định xu hướng và khám phá mối quan hệ giữa các biến số.

Python, ngôn ngữ lập trình phổ biến cho khoa học dữ liệu và học máy, cung cấp một số thư viện và công cụ để thực hiện hồi quy tuyến tính. Ví dụ: thư viện `scikit-learn` cung cấp cách triển khai hồi quy tuyến tính đơn giản thông qua lớp `LinearRegression` của nó. Đây là một ví dụ về cách thực hiện hồi quy tuyến tính bằng cách sử dụng `scikit-learn` trong Python:

python
import numpy as np
from sklearn.linear_model import LinearRegression

# Sample data
x = np.array([1, 2, 3, 4, 5]).reshape((-1, 1))
y = np.array([2, 3, 5, 4, 6])

# Create and fit the model
model = LinearRegression()
model.fit(x, y)

# Get the slope (m) and y-intercept (b)
m = model.coef_[0]
b = model.intercept_

print(f"Slope (m): {m}")
print(f"Y-intercept (b): {b}")

Trong ví dụ này, lớp `LinearRegression` được sử dụng để tạo mô hình hồi quy tuyến tính. Phương thức `fit` được gọi để huấn luyện mô hình trên dữ liệu mẫu và các thuộc tính `coef_` và `intercept_` được sử dụng để truy xuất độ dốc và điểm chặn y tương ứng.

Chặn y b trong hồi quy tuyến tính không bằng giá trị trung bình của tất cả y giá trị cộng với tích của độ dốc m và ý nghĩa của tất cả x các giá trị. Thay vào đó, nó bằng giá trị trung bình của tất cả y giá trị trừ đi tích của độ dốc m và ý nghĩa của tất cả x các giá trị được cho bởi công thức b = \bar{y} - m\bar{x}.

Các câu hỏi và câu trả lời gần đây khác liên quan đến Học máy EITC/AI/MLP với Python:

Xem thêm câu hỏi và câu trả lời trong Học máy EITC/AI/MLP với Python

Thêm câu hỏi và câu trả lời:

Gắn thẻ theo: , , , , ,