回归算法

机器学习教程 · 第 4 章 · 8 次浏览

回归预测连续数值:房价、销量、温度。分类分"是或不是",回归算"是多少"。

常用回归算法

  • 线性回归 LinearRegression:y = ax + b,最简单
  • 岭回归 Ridge:加正则防过拟合
  • 决策树/随机森林回归:非线性
  • 梯度提升 GBDT/XGBoost:比赛神器

评估指标

均方误差 MSE、均方根误差 RMSE、R²(决定系数,越接近 1 越好)。

代码示例

from sklearn.linear_model import LinearRegression
from sklearn.model_selection import train_test_split
from sklearn.metrics import mean_squared_error, r2_score
import numpy as np

# 模拟房价数据:面积 → 价格
np.random.seed(42)
area = np.random.rand(200, 1) * 150 + 30     # 30-180 平米
price = area * 5000 + 100000 + np.random.randn(200, 1) * 30000

X_train, X_test, y_train, y_test = train_test_split(
    area, price, test_size=0.2)

model = LinearRegression()
model.fit(X_train, y_train)

y_pred = model.predict(X_test)
print("R²:", r2_score(y_test, y_pred))
print("MSE:", mean_squared_error(y_test, y_pred))
print("每平米价格:", model.coef_[0][0])
📚 Python 语法速查
常用条目速查,完整版见对应教程章节。可复制代码到在线运行中测试。
写法 / 语法作用
print("hello")输出到控制台
name = "张三"变量赋值(无需声明类型)
if x > 0: ...条件判断(注意冒号和缩进)
for i in range(10): ...循环(缩进是语法的一部分)
while x < 10: ...条件循环
def fn(a, b): return a + b定义函数
class Person: ...定义类
list = [1, 2, 3]列表(可改)
tuple = (1, 2)元组(不可改)
dict = {"key": "value"}字典(键值对)
set = {1, 2, 3}集合(去重)
len(obj)取长度
str(x) / int(x) / float(x)类型转换
s.split(",")字符串按分隔符拆分
" ".join(list)列表拼接成字符串
import os导入模块
from math import sqrt从模块导入指定函数
try: ... except Exception as e: ...异常捕获
with open("a.txt", "r") as f: ...文件读取(自动关闭)
f"你好 {name}"f-string 格式化
lambda x: x * 2匿名函数
list(map(fn, arr))函数式处理列表
range(start, stop, step)生成数字序列
if __name__ == "__main__":主入口判断
pip install 包名安装第三方包(命令行)