Python爬虫Scrapy框架实战

之前踩过这个坑，花了不少时间才解决。把关键步骤整理出来，核心代码都贴上了，直接拿去用就行。

先搞清楚原理

先说基本原理。Scrapy的核心思路是统计推断方法。简单来说就是：把输入经过一系列变换，最终得到想要的结果。这个过程可以用下面的代码来理解：

from sklearn.model_selection import train_test_split
from sklearn.ensemble import GradientBoostingRegressor
from sklearn.metrics import mean_squared_error, r2_score
import numpy as np

X = np.random.randn(1000, 20)
y = X[:, 0] * 2 + X[:, 1] * 0.5 + np.random.randn(1000) * 0.1

X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=9)

model = GradientBoostingRegressor(n_estimators=100, random_state=9)
model.fit(X_train, y_train)

y_pred = model.predict(X_test)
rmse = np.sqrt(mean_squared_error(y_test, y_pred))
r2 = r2_score(y_test, y_pred)
print(f'RMSE: {rmse:.4f}, R2: {r2:.4f}')

if hasattr(model, 'feature_importances_'):
    top5 = np.argsort(model.feature_importances_)[-5:][::-1]
    print(f'Top5特征: {top5}')

实际怎么用

写代码的时候，Scrapy有几个常见写法。推荐用下面这种方式，代码更清晰，也更容易维护：

import pandas as pd
import numpy as np

np.random.seed(16)
df = pd.DataFrame({
    'feature_1': np.random.randn(1000),
    'feature_2': np.random.randn(1000) * 2 + 1,
    'category': np.random.choice(['A', 'B', 'C'], 1000),
    'value': np.random.exponential(1.0, 1000),
})

print(f'数据形状: {df.shape}')
print(f'缺失值:\n{df.isnull().sum()}')

numeric_cols = df.select_dtypes(include=[np.number]).columns
df[numeric_cols] = df[numeric_cols].fillna(df[numeric_cols].median())

summary = df.groupby('category')['value'].agg(['mean', 'std', 'count']).round(2)
print(f'分组统计:\n{summary}')

进阶一点的用法

Scrapy在复杂场景下的用法和简单场景差别挺大。主要是统计推断方法这块需要额外处理，代码如下：

容易踩的坑

总结几个实际项目中的教训：Scrapy在管道编排上容易出问题。建议写单元测试覆盖这些边界情况，免得线上出故障才后悔。

写在最后

Scrapy的要点就这些。核心是管道编排，其他都是围绕这个展开的。代码已经贴在前面了，照着跑一遍基本就能上手。后续有新的发现再更新。