99精品久久精品一区二区-亚洲熟妇无码?v在线播放-日本国产精品无码字幕在线观看-久久久亚洲永夜AV-亚洲一级无码一区二区一-免费国产成高清人在线视频-中文字幕乱码免费观看-国产毛片精品妇女久久久

ARTICLE DETAIL

資訊詳情

深耕商務建站與企業(yè)官網(wǎng)運營的一線實戰(zhàn)洞察。

CNN-GRU回歸預測與SHAP可解釋性分析完整實踐

CNN-GRU回歸預測與SHAP可解釋性分析完整實踐 之前在做回歸預測任務時最難受的點往往不是模型效果上不來而是模型給出一個預測值之后很難向業(yè)務方解釋清楚“為什么是這個值”。為了解決這個問題我采用了CNN-GRU 混合模型作為預測主體并結合SHAP 值分析每個特征對預測結果的貢獻。網(wǎng)上關于 CNN-GRU 做分類或回歸的例子很多但不少文章只貼代碼、不解釋維度變化也沒有把 SHAP 解釋的完整流程整合進去。這篇文章把我實際使用的代碼、訓練流程和可解釋性分析整理成一套可直接運行的教程希望對正在做回歸預測的你有所幫助。本文覆蓋以下內(nèi)容CNN-GRU 混合模型的核心原理回歸預測數(shù)據(jù)的滑窗構建與歸一化方法使用 PyTorch 搭建 CNN-GRU 回歸模型模型訓練、評估指標解讀SHAP 值的計算與可視化分析常見報錯和工程化建議。1. 背景與核心概念1.1 CNN-GRU 是什么CNN-GRU 是由卷積神經(jīng)網(wǎng)絡CNN和門控循環(huán)單元GRU組合而成的混合網(wǎng)絡結構。CNNConvolutional Neural Network善于提取局部特征。在一維時間序列數(shù)據(jù)中卷積核可以捕捉相鄰時間步之間的局部模式比如短期的趨勢變化、周期性波動等。GRUGated Recurrent Unit是 LSTM 的簡化變體通過更新門和重置門控制信息的保留與遺忘。GRU 適合建模長距離依賴關系同時參數(shù)量比 LSTM 更少訓練效率更高。將兩者串聯(lián)是一種常見做法先用 CNN 從原始輸入中提取局部特征再把 CNN 的輸出按照時間順序送入 GRU讓 GRU 繼續(xù)捕捉時間維度上的長期依賴。1.2 為什么用 CNN-GRU 做回歸預測很多真實場景中的回歸預測面對的是多變量時間序列數(shù)據(jù)比如根據(jù)過去 24 小時的多維環(huán)境數(shù)據(jù)預測未來氣溫根據(jù)歷史交易數(shù)據(jù)預測下一時段銷量根據(jù)設備傳感器數(shù)據(jù)預測剩余壽命根據(jù)歷史負荷數(shù)據(jù)預測未來用電量。這些數(shù)據(jù)通常同時具有“局部相關性”和“長期依賴性”。如果只用 CNN模型感受野有限難以建模長期依賴如果只用 GRU序列較長時訓練速度更慢而且對局部特征的提取不夠直接。CNN-GRU 先做局部特征抽象再做時序建模在很多回歸任務上效果優(yōu)于單一模型。1.3 為什么引入 SHAP 值回歸預測模型光有精度還不夠。當我們想判斷“哪個特征對預測結果影響最大”或者“某條預測為什么偏高”時就需要對模型做可解釋性分析。SHAPSHapley Additive exPlanations是一種基于博弈論 Shapley 值的模型解釋方法。它的核心思想是每個特征對預測結果的貢獻可以量化且所有特征的貢獻之和等于模型預測值相對于基線預測值的偏離程度。在復雜深度學習模型中SHAP 可以告訴我們哪些特征對預測結果影響最大樣本級別上某個特征取值是拉高了預測值還是拉低了預測值特征與預測結果之間是正相關還是負相關。所以CNN-GRU 負責把預測精度做到位SHAP 負責把預測結果解釋清楚兩者結合是一條很實用的工程路徑。2. 環(huán)境準備與項目結構2.1 運行環(huán)境說明下面的代碼以 Python 3.9 為例需要安裝以下依賴。具體版本請根據(jù)你的實際環(huán)境調(diào)整本文重點演示實現(xiàn)思路pip install numpy pandas matplotlib scikit-learn torch shap如果你使用 GPU 版本的 PyTorch 訓練需要提前安裝對應 CUDA 版本的 torch如果只是學習演示CPU 版本也能跑通。2.2 項目結構建議按照下面的目錄組織代碼cnn_gru_regression/ ├── main.py # 完整訓練與評估流程 ├── model.py # CNN-GRU 模型定義 ├── data_utils.py # 數(shù)據(jù)生成與滑窗處理 ├── explain.py # SHAP 可解釋性分析 └── requirements.txt # 依賴清單如果你希望代碼更集中也可以把全部內(nèi)容寫在一個腳本里。為了便于閱讀本文按照功能拆分講解最后你可以把代碼匯總到一個文件中運行。3. 回歸預測數(shù)據(jù)準備3.1 使用模擬數(shù)據(jù)快速驗證我們先寫一個模擬數(shù)據(jù)生成函數(shù)。這個函數(shù)會生成 4 個與目標值存在線性關系的時間序列特征并加入少量噪聲。# 文件路徑data_utils.py import numpy as np import pandas as pd def generate_demo_data(n_samples1500): 生成多變量回歸預測模擬數(shù)據(jù)。 參數(shù) n_samples: 樣本點數(shù)量 返回 pandas.DataFrame包含 4 個特征列和 1 個目標列 t np.arange(n_samples) # 構造4個特征每個特征有不同周期和噪聲 feature1 np.sin(2 * np.pi * t / 50) 0.1 * np.random.randn(n_samples) feature2 np.cos(2 * np.pi * t / 30) 0.1 * np.random.randn(n_samples) feature3 0.02 * t 0.2 * np.random.randn(n_samples) feature4 0.5 * np.sin(2 * np.pi * t / 7) 0.2 * np.random.randn(n_samples) # 目標值與特征之間保持線性組合方便后續(xù)用 SHAP 驗證解釋效果 target ( 2.5 * feature1 1.5 * feature2 0.8 * feature3 - 1.2 * feature4 0.3 * np.random.randn(n_samples) ) df pd.DataFrame({ feature1: feature1, feature2: feature2, feature3: feature3, feature4: feature4, target: target, }) return df這個方法的好處是數(shù)據(jù)可以自己生成代碼復制后能直接運行。如果你有自己的數(shù)據(jù)集只需要把“讀入 DataFrame包含特征列和目標列”這一步替換掉即可。3.2 滑窗樣本構建回歸預測里我們通常不能直接用單條樣本做預測而是用過去一段時間的特征序列預測下一個時間點的值。這個“過去一段時間”就叫做時間窗口對應的處理方式叫“滑窗”或“滾動窗口”。# 文件路徑data_utils.py def create_sequences(data, feature_cols, target_col, window_size24): 構建滑窗樣本。 參數(shù) data: DataFrame包含特征列和目標列 feature_cols: 特征列名列表 target_col: 目標列名 window_size: 時間窗口長度 返回 X: shape 為 (樣本數(shù), window_size, 特征數(shù)) 的數(shù)組 y: shape 為 (樣本數(shù),) 的數(shù)組 X, y [], [] for i in range(len(data) - window_size): X.append(data[feature_cols].iloc[i: i window_size].values) y.append(data[target_col].iloc[i window_size]) return np.array(X), np.array(y)這里需要注意窗口長度window_size決定了模型每次能看到多長的歷史信息。窗口太短會丟失長期依賴窗口太長會增加計算量也可能會引入過多噪聲。一般可以先通過實驗對比不同窗口大小再確定適合業(yè)務場景的值。3.3 時間順序切分與歸一化時序預測和普通機器學習不一樣不能隨機打亂數(shù)據(jù)再切分否則會造成“未來信息泄漏”。也就是說如果用后面的數(shù)據(jù)去訓練模型、預測前面的數(shù)據(jù)評估結果會虛高。這里我們按時間順序前 80% 作為訓練集后 20% 作為測試集。def load_train_test_data(window_size24, test_ratio0.2): 生成數(shù)據(jù)并切分為訓練集和測試集按時間順序切分。 feature_cols [feature1, feature2, feature3, feature4] target_col target data generate_demo_data(1500) split_idx int(len(data) * (1 - test_ratio)) train_df data.iloc[:split_idx] test_df data.iloc[split_idx:] # 分別對訓練集和測試集做歸一化 # 注意歸一化參數(shù)只能用訓練集 fit測試集直接 transform from sklearn.preprocessing import MinMaxScaler scaler_X MinMaxScaler() scaler_y MinMaxScaler() train_X_scaled scaler_X.fit_transform(train_df[feature_cols]) train_y_scaled scaler_y.fit_transform(train_df[[target_col]]) test_X_scaled scaler_X.transform(test_df[feature_cols]) test_y_scaled scaler_y.transform(test_df[[target_col]]) train_df_scaled pd.DataFrame(train_X_scaled, columnsfeature_cols) train_df_scaled[target_col] train_y_scaled test_df_scaled pd.DataFrame(test_X_scaled, columnsfeature_cols) test_df_scaled[target_col] test_y_scaled # 構建滑窗樣本 X_train, y_train create_sequences(train_df_scaled, feature_cols, target_col, window_size) X_test, y_test create_sequences(test_df_scaled, feature_cols, target_col, window_size) return X_train, y_train, X_test, y_test, scaler_y關于歸一化有兩個容易踩的坑整個數(shù)據(jù)集只 fit 一次MinMaxScaler然后在所有數(shù)據(jù)上 transform這在時序場景里是不可取的。因為訓練集之外的“未來數(shù)據(jù)”參與了歸一化參數(shù)計算相當于把未來的分布信息提前暴露給了模型。目標變量y也需要歸一化。深度學習模型直接回歸一個量綱較大的數(shù)值時損失值可能很大訓練不穩(wěn)定。這里我們把目標值歸一化到[0,1]區(qū)間訓練結束后再把預測結果反歸一化。4. 構建 CNN-GRU 回歸預測模型4.1 模型結構定義下面是模型的完整定義。# 文件路徑model.py import torch import torch.nn as nn class CNNGRU(nn.Module): def __init__(self, n_features, hidden_size64, num_layers1, dropout0.1, output_size1): super(CNNGRU, self).__init__() # 1D 卷積層輸入通道為特征數(shù)輸出通道為 32 self.conv1 nn.Conv1d( in_channelsn_features, out_channels32, kernel_size3, padding1 ) self.relu nn.ReLU() self.pool nn.MaxPool1d(kernel_size2) # GRU 層輸入大小是 CNN 輸出通道數(shù) self.gru nn.GRU( input_size32, hidden_sizehidden_size, num_layersnum_layers, batch_firstTrue, dropoutdropout if num_layers 1 else 0 ) # 全連接輸出層 self.fc nn.Linear(hidden_size, output_size) def forward(self, x): # 輸入 x 形狀: (batch_size, seq_len, n_features) # CNN 期望輸入形狀是 (batch_size, channels, seq_len) x x.permute(0, 2, 1) # 經(jīng)過卷積、激活、池化 x self.conv1(x) # (batch_size, 32, seq_len) x self.relu(x) x self.pool(x) # (batch_size, 32, seq_len // 2) # 轉回 GRU 需要的形狀: (batch_size, seq_len, input_size) x x.permute(0, 2, 1) # GRU 前向傳播取最后一個時間步輸出 out, _ self.gru(x) # out: (batch_size, seq_len, hidden_size) out out[:, -1, :] # 取最后一個時間步 # 全連接輸出 out self.fc(out) # (batch_size, 1) return out4.2 維度變化分析很多初學者第一次看這段代碼會卡在維度變化上這里梳理一下操作輸入形狀輸出形狀原始輸入(batch, seq_len, n_features)(batch, seq_len, n_features)permute 轉置(batch, seq_len, n_features)(batch, n_features, seq_len)Conv1d(batch, n_features, seq_len)(batch, 32, seq_len)ReLU(batch, 32, seq_len)(batch, 32, seq_len)MaxPool1d(batch, 32, seq_len)(batch, 32, seq_len // 2)permute 轉置(batch, 32, seq_len // 2)(batch, seq_len // 2, 32)GRU(batch, seq_len // 2, 32)(batch, seq_len // 2, hidden_size)取最后一個時間步(batch, seq_len // 2, hidden_size)(batch, hidden_size)Linear(batch, hidden_size)(batch, 1)需要注意MaxPool1d 的kernel_size2會讓序列長度減半。如果seq_len是奇數(shù)比如window_size25池化后長度會變成12對應關系可能變得不直觀因此建議優(yōu)先使用偶數(shù)窗口長度。4.3 為什么先 CNN 再 GRU這里簡單解釋一下設計動機CNN 的卷積核對局部模式敏感可以自動提取“相鄰幾個時間步之間的組合特征”經(jīng)過 MaxPooling 后序列長度縮短計算量降低也起到一定的特征壓縮作用GRU 接收 CNN 提取的高層特征序列繼續(xù)建模長期依賴最后用全連接層把 GRU 最后一個時間步的隱藏狀態(tài)映射為標量預測值。如果任務本身序列較短、特征較少也可以去掉 MaxPooling只保留卷積和 GRU。示例代碼保留池化是為了展示一種更通用的結構。5. 訓練與回歸評估5.1 數(shù)據(jù)集封裝與數(shù)據(jù)加載器我們使用 PyTorch 的TensorDataset和DataLoader來管理數(shù)據(jù)。from torch.utils.data import TensorDataset, DataLoader import torch X_train, y_train, X_test, y_test, scaler_y load_train_test_data(window_size24) # 轉換為 PyTorch Tensor X_train_t torch.FloatTensor(X_train) y_train_t torch.FloatTensor(y_train).view(-1, 1) X_test_t torch.FloatTensor(X_test) y_test_t torch.FloatTensor(y_test).view(-1, 1) train_dataset TensorDataset(X_train_t, y_train_t) test_dataset TensorDataset(X_test_t, y_test_t) train_loader DataLoader(train_dataset, batch_size64, shuffleTrue) test_loader DataLoader(test_dataset, batch_size64, shuffleFalse)這里有一個細節(jié)訓練數(shù)據(jù)加載時shuffleTrue但是測試數(shù)據(jù)shuffleFalse。因為訓練時我們希望每個 batch 的樣本盡量隨機幫助模型穩(wěn)定收斂測試時不需要打亂順序方便后續(xù)計算指標和可視化。5.2 模型初始化與訓練循環(huán)import torch.nn as nn import torch.optim as optim # 固定隨機種子保證結果可復現(xiàn) torch.manual_seed(42) model CNNGRU(n_featuresX_train.shape[2], hidden_size64) criterion nn.MSELoss() optimizer optim.Adam(model.parameters(), lr0.001) epochs 30 for epoch in range(epochs): model.train() train_loss 0.0 for X_batch, y_batch in train_loader: optimizer.zero_grad() y_pred model(X_batch) loss criterion(y_pred, y_batch) loss.backward() optimizer.step() train_loss loss.item() * X_batch.size(0) avg_train_loss train_loss / len(train_dataset) # 每個 epoch 后評估一次測試集 model.eval() test_loss 0.0 with torch.no_grad(): for X_batch, y_batch in test_loader: y_pred model(X_batch) loss criterion(y_pred, y_batch) test_loss loss.item() * X_batch.size(0) avg_test_loss test_loss / len(test_dataset) if (epoch 1) % 5 0: print(fEpoch {epoch 1}/{epochs}, Train Loss: {avg_train_loss:.6f}, Test Loss: {avg_test_loss:.6f})訓練過程中有兩個環(huán)境非常重要model.train()與model.eval()訓練模式會啟用 Dropout 等隨機操作而評估模式會固定這些操作保證測試輸出穩(wěn)定。with torch.no_grad()推理階段不需要計算梯度既省內(nèi)存又加快速度。5.3 回歸評估指標回歸預測常用三個指標MSE、MAE、R2。from sklearn.metrics import mean_squared_error, mean_absolute_error, r2_score model.eval() with torch.no_grad(): y_pred_all model(X_test_t).numpy().flatten() y_test_all y_test_t.numpy().flatten() # 反歸一化恢復真實尺度 y_pred_inv scaler_y.inverse_transform(y_pred_all.reshape(-1, 1)).flatten() y_test_inv scaler_y.inverse_transform(y_test_all.reshape(-1, 1)).flatten() mse mean_squared_error(y_test_inv, y_pred_inv) mae mean_absolute_error(y_test_inv, y_pred_inv) r2 r2_score(y_test_inv, y_pred_inv) print(fMSE: {mse:.4f}) print(fMAE: {mae:.4f}) print(fR2: {r2:.4f})各指標含義MSE均方誤差預測值與真實值差值的平方的平均值。MSE 對較大誤差更敏感適合關注極端偏差的場景。MAE平均絕對誤差預測值與真實值差值的絕對值的平均值。它直接反映平均誤差大小單位與真實值一致。R2決定系數(shù)表示模型解釋了目標變量多少方差。R2 越接近 1說明模型擬合效果越好R2 為 0 說明模型與直接預測平均值差不多R2 為負數(shù)說明模型效果比平均值預測還差。反歸一化這一步容易被忽略。因為訓練時對y做了MinMaxScaler所以模型輸出的是歸一化后的值。要計算真實尺度下的誤差指標必須先調(diào)用scaler_y.inverse_transform還原。5.4 可視化預測曲線為了更直觀地觀察預測效果可以把測試集上的真實值和預測值畫成曲線。import matplotlib.pyplot as plt plt.figure(figsize(12, 4)) plt.plot(y_test_inv[:200], labelTrue, linewidth2) plt.plot(y_pred_inv[:200], labelPred, linewidth2) plt.legend() plt.title(CNN-GRU Regression Prediction Results) plt.xlabel(Sample Index) plt.ylabel(Target Value) plt.savefig(prediction_result.png, dpi150) plt.show()如果前 200 個測試點上兩條曲線整體趨勢一致說明模型已經(jīng)學到了基本的時序規(guī)律。6. 使用 SHAP 解釋模型6.1 SHAP 原理簡介SHAP 的核心思想是 Shapley 值。它把模型預測值拆解為“基線值 每個特征的貢獻值”?;€值通常是訓練集上預測值的平均值。對于一條樣本假設模型預測值為f(x)基線值為E[f(x)]那么有f(x) E[f(x)] sum(每個特征的SHAP值)當一個特征的 SHAP 值為正表示該特征把預測值向上推動SHAP 值為負表示把預測值向下拉低。SHAP 值的絕對值越大說明該特征對這條樣本的影響越強。6.2 DeepExplainer 使用方法對于 PyTorch 模型SHAP 庫提供了DeepExplainer。它適用于深度學習模型計算效率比KernelExplainer更高。# 文件路徑explain.py import shap import torch # 將模型切換到評估模式 model.eval() # 選擇一部分測試樣本作為背景數(shù)據(jù) background X_test_t[:100] # 這里取少量測試樣本做解釋避免計算時間過長 X_explain X_test_t[:10] # 創(chuàng)建 DeepExplainer explainer shap.DeepExplainer(model, background) # 計算 SHAP 值 shap_values explainer.shap_values(X_explain)注意兩點background是背景樣本主要用來估計基線值。數(shù)量不一定要很多50 到 100 條通常就夠用但需要覆蓋訓練集中比較典型的特征分布。shap_values在DeepExplainer中通常返回一個列表。因為模型輸出維度是 1所以我們要看的是shap_values[0]。shap_values[0]的形狀與輸入數(shù)據(jù)一致也就是(樣本數(shù), 時間步數(shù), 特征數(shù))這意味著 SHAP 給出的不僅是“哪個原始特征重要”還包括“哪個時間步上的哪個特征重要”。這比普通表格數(shù)據(jù)回歸的解釋細節(jié)更豐富。6.3 特征重要性可視化如果我們只關心原始特征的整體重要性可以把所有時間步的 SHAP 絕對值求和。import numpy as np # shap_values[0] 形狀: (10, window_size, n_features) shap_values_0 np.array(shap_values[0]) # 對所有測試樣本和時間步求和得到每個原始特征的貢獻 feature_names [feature1, feature2, feature3, feature4] importance np.abs(shap_values_0).sum(axis(0, 1)) # (n_features,) for name, imp in zip(feature_names, importance): print(f{name}: {imp:.4f}) # 排序后可視化 sorted_idx np.argsort(importance)[::-1] plt.figure(figsize(8, 4)) plt.bar([feature_names[i] for i in sorted_idx], importance[sorted_idx]) plt.title(Feature Importance by SHAP) plt.xlabel(Feature) plt.ylabel(Mean |SHAP|) plt.tight_layout() plt.savefig(shap_feature_importance.png, dpi150) plt.show()在這個模擬數(shù)據(jù)里理論上feature1對目標值影響最大因為它的系數(shù)是 2.5。如果 SHAP 結果也顯示feature1的重要性最高說明模型學到的關系和數(shù)據(jù)生成邏輯基本一致。6.4 蜜蜂圖與依賴圖SHAP 庫自帶的summary_plot可以畫出“蜜蜂圖”既能反映特征重要性也能反映特征取值與 SHAP 值的正負關系。由于我們的輸入是三維的滑窗數(shù)據(jù)直接傳入原始X_explain會讓summary_plot難以解釋。為了方便展示我們可以把三維數(shù)據(jù)展平成二維并生成對應的扁平特征名。# 將 (10, window_size, n_features) 展平為 (10, window_size * n_features) X_flat X_explain.numpy().reshape(X_explain.shape[0], -1) # 生成扁平特征名 flat_names [] for t in range(X_explain.shape[1]): for f in feature_names: flat_names.append(ft{t}_{f}) shap_values_flat shap_values_0.reshape(shap_values_0.shape[0], -1) shap.summary_plot(shap_values_flat, X_flat, feature_namesflat_names, showFalse) plt.tight_layout() plt.savefig(shap_summary_plot.png, dpi150) plt.show()蜜蜂圖怎么看橫軸是 SHAP 值。某個點落在正半軸說明該樣本在這個特征上的取值讓預測值升高落在負半軸說明降低。點的顏色表示該特征在當前樣本中的實際大小顏色越紅表示數(shù)值越大顏色越藍表示數(shù)值越小。特征按重要性從上到下排列越靠上越重要。如果你只關心第一個時間步的特征也可以單獨取出對應切片# 只看第一個時間步 shap_summary_first_timestep shap_values_0[:, 0, :] X_first_timestep X_explain.numpy()[:, 0, :] shap.summary_plot(shap_summary_first_timestep, X_first_timestep, feature_namesfeature_names, showFalse) plt.tight_layout() plt.savefig(shap_summary_first_timestep.png, dpi150) plt.show()這種方式適合觀察“最近一個時間步”中哪些特征對預測影響最大。實際應用中你可以根據(jù)業(yè)務需求選擇查看某個時間步或全部時間步。6.5 為什么 SHAP 值要配合業(yè)務解讀SHAP 只能解釋“模型學到了什么”不能保證“真實的因果關系就是如此”。比如某個特征和預測值高度相關但它可能只是間接關聯(lián)而不是直接原因。所以做技術解釋時要把 SHAP 結果當作模型行為的證據(jù)之一而不是因果結論。7. 常見問題與排查思路在實際運行過程中經(jīng)常遇到下面幾個問題。問題現(xiàn)象常見原因解決思路模型訓練 loss 不下降數(shù)據(jù)未歸一化或學習率過大/過小檢查特征和目標值是否做了歸一化嘗試 lr0.001 或 0.0001測試集 R2 很低甚至為負訓練集和測試集數(shù)據(jù)分布差異過大或滑窗窗口太小檢查切分方式增大 window_size檢查數(shù)據(jù)是否存在強非平穩(wěn)性Conv1d 維度不匹配輸入形狀不是(batch, channels, seq_len)在進入卷積前用x.permute(0, 2, 1)調(diào)整維度MaxPool1d 后序列長度異常window_size為奇數(shù)調(diào)整窗口為偶數(shù)或不使用池化層SHAP 計算非常慢背景數(shù)據(jù)過多或者解釋樣本數(shù)量過大減小 background 數(shù)量比如 50 條減小 X_explain 數(shù)量DeepExplainer 報錯模型不在 eval 模式或數(shù)據(jù)類型不是 FloatTensor調(diào)用model.eval()確認輸入 tensor 使用torch.float32預測值始終接近某個常數(shù)模型欠擬合或者目標值分布非常集中增加訓練輪數(shù)調(diào)整隱藏層維度檢查數(shù)據(jù)生成邏輯下面單獨講一個高頻問題訓練時 loss 很低測試時 loss 很高。這在回歸預測中通常表示過擬合。常見解決辦法是增加訓練數(shù)據(jù)量減小模型復雜度比如減少 GRU 隱藏層維度加入 Dropout并在模型定義時對 GRU 多層場景設置dropout引入早停機制當測試 loss 連續(xù)若干輪不再下降時停止訓練。8. 最佳實踐與工程建議8.1 時間順序切分避免數(shù)據(jù)泄漏處理時序數(shù)據(jù)時不能直接使用train_test_split(random_state42)隨機打亂。應該按照時間順序劃分訓練集、驗證集和測試集并且驗證集和測試集都必須是訓練集之后的時間段。這樣才能真實模擬模型在“未來”數(shù)據(jù)上的表現(xiàn)。8.2 歸一化參數(shù)只能來自訓練集標準化的核心原則是scaler只能fit在訓練集上然后transform訓練集、驗證集和測試集。如果對整個數(shù)據(jù)集一起fit測試集的信息就會間接進入訓練過程導致評估結果偏樂觀。8.3 固定隨機種子深度學習模型帶有隨機性比如權重初始化、數(shù)據(jù)加載順序等。在實驗階段建議統(tǒng)一設置隨機種子import random import numpy as np import torch random.seed(42) np.random.seed(42) torch.manual_seed(42)如果使用 CUDA還需要設置if torch.cuda.is_available(): torch.cuda.manual_seed_all(42)這樣才能保證多次實驗的結果可比較。8.4 模型保存與加載訓練完成后可以用torch.save保存模型參數(shù)torch.save(model.state_dict(), cnn_gru_model.pth)加載時先實例化同一個模型再load_state_dictmodel CNNGRU(n_featuresX_train.shape[2], hidden_size64) model.load_state_dict(torch.load(cnn_gru_model.pth)) model.eval()注意這里保存的是模型參數(shù)不包含模型結構。如果你換了一臺機器運行需要保證model.py中的CNNGRU類定義一致。8.5 SHAP 解釋的工程化落地在業(yè)務系統(tǒng)中如果每次預測都要重新計算 SHAP開銷會比較大。你可以把測試集上的 SHAP 特征重要性結果保存下來作為模型的解釋報告也可以在模型服務層預留一個“解釋接口”只在需要分析特定樣例時才調(diào)用 SHAP。8.6 超參數(shù)調(diào)整建議CNN-GRU 中比較關鍵的超參數(shù)包括卷積核大小用于控制局部感受野一般取 3、5、7卷積輸出通道數(shù)控制特征抽象能力常見取值 32、64GRU 隱藏層維度控制時序記憶容量常見取值 32、64、128學習率一般從 0.001 開始訓練不收斂時降低到 0.0005 或 0.0001Batch Size根據(jù)顯存大小和數(shù)據(jù)量調(diào)整常見取值 32、64、128。建議先用小規(guī)模的模型和少量數(shù)據(jù)跑通流程再逐步擴大參數(shù)。這樣能更快定位問題。9. 總結與學習路線這篇文章圍繞CNN-GRU 回歸預測整理了一套完整的代碼實踐使用 CNN 提取局部特征使用 GRU 建模時序依賴使用滑窗和歸一化處理回歸預測數(shù)據(jù)自定義CNNGRU模型完成訓練和評估使用 MSE、MAE、R2 三個指標評估效果使用 SHAP 值的DeepExplainer計算特征貢獻并繪制特征重要性圖和蜜蜂圖。如果你還想繼續(xù)深挖可以從以下幾個方向入手嘗試用Seq2Seq Attention結構做多步回歸預測在 SHAP 的基礎上加入dependence_plot依賴圖分析單個特征與預測結果的關系對比 CNN-LSTM 與 CNN-GRU 在當前數(shù)據(jù)上的效果差異在真實業(yè)務數(shù)據(jù)上測試不同窗口長度對預測效果的影響將模型封裝成 Flask 或 FastAPI 服務實現(xiàn)在線預測和解釋報告輸出。希望這篇文章能幫你跑通 CNN-GRU 回歸預測的完整鏈路也讓你在向業(yè)務方解釋模型時不再無從下手。你可以把代碼保存下來先在自己的數(shù)據(jù)集上試一遍再根據(jù)實際數(shù)據(jù)分布調(diào)整窗口大小和模型參數(shù)。如果遇到本地環(huán)境問題也歡迎對照第 7 節(jié)的排查表格逐步檢查。
返回列表
PREV
查看更多資訊
NEXT
返回資訊列表
婷婷色色婷婷| 五月天婷婷综合网| 久婷婷五月激情| 色五月丁香91| 伊人久久艹| 婷婷色爱| 精品成人无码A片观看香草视频| 亚洲av无码精品色午夜| 亚洲V国产V欧美V久久久久久| 婷婷婷婷婷婷婷婷| 色婷婷色五月综合| 婷婷丁香五月激情综合站_久久五月丁香激情综合_开心五月综合激情综合五月_婷 | 五月丁香六月婷婷精品| www.婷婷五月.com| 亚洲AV影片在线观看| 97色天堂| 亚洲精品婷婷| 激情五月丁香六月| 天天成人丁香美女AV| 9l视频自拍9l视频自拍九色学生| 五月激情婷婷偷拍| 亚洲V国产V欧美V久久久久久| 五月天天天天天天天天天天天天天天天婷婷婷 | 久久99精品久久只有精品| 九九久久综合| 中文字幕,综合,91| 色吧婷婷五月亚洲| 熟妇内谢69XXXXXA片| 五月婷婷久久大香蕉| 五月丁香久久久| 91美女艹逼网站| 九九人人操| 碰97久久| 香蕉操亚洲| 激情婷婷五月天日本系列 | 五月婷婷久久久| 99国产精品久久久久久久久久久| 久久久97| 九九人人操| 丁香五月综合激情性爱| 综合噜噜| 激情综合激情综合| 日本五月天网站| 色五月婷婷内射| 五月天婷婷青青| 开心六月丁香五月婷婷| 亚洲 25P| 国产99视频永久免费| 丁香五月香蕉在线| 色。 婷婷婷| 亚洲超碰在线| 69精品人人人人人人人人人| www五月| 97色婷婷| 综合五月天亚洲婷婷| 日产精品久久久久久久蜜臀| 丁香五月婷婷激情蜜桃| 九月丁香婷婷综合激情| 在线99精品| 中文激情网| 五月丁香亚洲婷婷| 五月丁香六月婷婷免费| www综合久久| 伊人久久婷婷| 久久女人天堂| 五月婷综合| 久热 91| 牛色色碰| 99色天堂| 操碰97| www.五月激情红色| 深爱激情网五月| 99热很操老逼| 99热这里是精品| 欧美α√| 人人看人人摸人人| 婷婷五月天AV激情| 丁香五月婷婷久久综合激情网| 婷婷午夜| 激情五月婷婷欧美极品| 色综合九九色综合88| 国产特级毛片AAAAAAA高清| 日韩爱操视频| 色丁香在线视频| 激情婷婷五月| 婷婷丁香五月天影院| 中字幕视频在线永久在线观看免费 | 中文字幕,综合,91| 九月av在线| 欧美丰满熟妇BBB久久久| 色爱综合网| 99人人操人人摸| 人妻久久做| 天色综合网| 欧美69久成人做爰视频| 亚洲综合另类| 一起草性爱不卡视频| 人人做人人看人人摸| 五月天丁香婷| 免费观看全黄做爰的视频| 九九热精品| AA久久| WwW色婷婷| 色噜噜狠狠色综无码久久合欧美| 久久婷婷六月综合| 操一区| 国产精品视频久久99| 婷婷五月激情五月激情| 99福利导航| 日本VA视频| 99热在线中文字幕| 伦99热| 美妞av| 色婷婷影院| 97碰碰在线观看视频| 婷婷日韩| 白度黄视频| 色色色色丁香| 九九视频在线观看视频在线播放69| 久久久99精品免费观看| av在线婷婷| 色狠狠色噜噜AV天堂五区| 天天操天天插| 大香蕉久久| 天堂久久婷婷| 久婷婷色| 亚洲激情综合网| 丁香五月激情网| 婷婷 丁香 精品| 五月婷婷真爱激情网| 欧美精品熟女一区二区| 丁香五月六月综合欧美| 亚洲色图五月丁香| 天天爱天天爽| 婷婷激情人妻| av九九| 99热这里只有精品中文字幕| 久草狼人| 激情综合五月婷婷| 四LLL少妇BBBB槡BBBB| 久99久视频| 99久久婷| 天天日天天爽| 亚洲va综合va国产va中文| 91大神操美女| 99色在线| 99色在线观看视频者| 91女人18毛片水多国产| 婷婷五月精品中文| 91超碰九色| 无码色色色色色| 色色三级视频| 激情婷婷丁香色五月| 9色91视频| 久久综合五月天激情小说网站| 日韩aⅴ视频| OUMEIRIHANCHENGREN| 亚洲婷婷丁香五月| 九九热在线观看6| 婷婷五月激情综合| 天天日夜夜夜操操操操| 天天舔天天操| 五月天伊人综合| 狠狠色丁香| 久久婷婷精品| 午夜av网| 日本本土色网第一区| 五月天婷婷丁香蜜桃91| 天天干狠狠| 婷婷99狠狠| 亚洲婷婷91丁香| www色五月| 亚洲12p| 性爱激情综合网| 五月婷综合| 成人 AV播放| 日本人人草草| 五月婷婷网久久| 五月天最新网| 婷婷综合激情| 九月停停| 国产精品久久久久9999小说| 丁香视频| 开心久久爱五月天| 日本色99| 婷婷在线日韩综合| 久久婷婷五月| 99亚洲色色| 91人人操人人| www网站在线观看| 99热综合在线| 天天爽综合网| 欧美三级A做爰在线观看| 91人人爱| 五月亭亭六月色| 五月婷婷激情四月| 天天噜日日噜综合无码| 欧美五月婷婷综合| ...婷婷国产成人亚洲日韩| www激情婷婷com| 99热官网精品在线| 91精产品自偷自偷综合| 五月噜噜| 97丁香五月| 午夜精品人妻无码一区二区三区 | 激情又色又爽又黄的A片 | 六月丁香色色色| 97香蕉人人在线观看| 丁香婷婷色五月| 天天干天天曰天天射| 丁香五月丐人妻| www夜夜操| 色噜噜狠狠色综合日日| 色色色婷婷五月天| 99综合一区| 色综合com| 国产做爰视频免费播放| 伊人婷婷青青cao| 五月天精品视频| 26uuu日韩| 成人AV片播放| 五月丁香久久综合精品| 激情五月婷| 国产亚洲成AV人片在线| 亚洲另类婷婷五月综合| AV中文在线| www.综合久久.com| 四月婷婷丁香五月| 激情五月婷婷丁香综合网| 狠色综合网| 久久这里只有精品热在99| 怡红院AV亚洲一区二区三区H| 伊人婷婷综合| 日本五月天激情| 亚洲精品字幕| 激情校园 亚洲| 在线成人网址| 五月激情网站| 另类小说色婷婷| 日本美女五月天| 亚洲黄网AV| 九九热这里只有精品556| 亚洲色图五月丁香| 九九干视频| 开心激情网五月| 成人免费120分钟啪啪| 综合久久综合久久| 日本操碰碰| 丁香婷婷五月人体| 天天色天天日| 狠狠爱婷婷五月天| 婷婷激情蜜桃玖玖丁香| 久久综合激情| 九九Av| www.婷婷五月| 色五月大| www热久久yy9| 91婷色| 深爱五月天| 无码一级片| 色婷婷丁香五月综合| 中文字幕乱码亚洲精品一区| 亚洲色综合| 日本久久综合| 婷婷五月电影院| 色婷婷五月色| 亚洲美女婷婷五月天| 国产一级片| 国产日批视频| 色五月婷婷五月天| 五月丁香影院| 日韩二区搞逼插逼毛片| 狠狠色噜噜色狠狠狠综合久久成人波| 色约约视频一区二区三区四区五区 | 老妇六区| 久久性爱视频这里只有精品| 美腿丝袜AV天堂网| 97在线/亚洲| 日本久久性| 亚洲AV人人操| 狠狠色婷婷在线| 99日韩| 啊V视频在线观看| 99热久| 碰碰人人漕| 久9免费视频| 久久精品4| 五月天社区| 婷婷五月播| 五月丁香网站| 日日激情网| 97超级碰碰碰久久久| 亚洲色在线观看| 99热全是精品| 国产亚洲在线| 天天插夜夜爽| 久久九网| 再綫Av免费視品| www.久久| 久久机只有这里精品| 亚洲综合色网| 久久思思热视频| 久久精品五月| 五月天激情丁香| 五月婷婷激情刺激| 五月婷婷伊| 色五月婷婷九月| 91久久精品无码一区二区三区| 婷婷激情四射| 五月天色婷婷伊人网| 国产成人AV在线播放| 亚洲男女激情| 精品无吗va视频免费观看| 久久精品五月天| 色婷婷电影| 国产精品热搜丁香五月婷婷| 色玖玖| 久久久宗合视频88| 欧美人妻一区二区| 综合网亚洲| 亚洲性受XXXX五月丁香| 国产婷婷五月| 最近免费中文字幕大全高清大全1| 可似看的AV| 99热日本| 久久久久久久久久久月丁| 99精品综合| 六月合五月婷| 精品婷婷五月视| 97色色婷婷| 五月天堂在线| 天天爽天天爽天天爽天天爽天天爽| 色婷婷久久9.com| 激情五月天婷婷| 性色99| 婷婷丁香久久| 人人操操| 91九色超碰| 一级性爱视频| 超碰在线综合| 婷婷丁香成人五月天| 五月丁香六月婷婷精品| 一起草无码| 另类在线免费视频| 色五月激情综合网| 天天操无码| 伊人网色婷婷五月天| 中文字幕黄色片| 婷婷五月欧美AA片免费| 国产AV熟妇人震精品一品二区| 狠狠五月激情丁香六月| www.henhengan| 五月天激情婷婷五月天久久| 激情综合网络插| 中文字幕AV网址| 雪千夏麻豆| 综合五月婷婷| 久久99网| 婷婷九月丁香| 超碰在线视屏| 玖玖在线视| 五月婷婷 激情五月| 亚洲中文无码成人| 大香蕉网站,大香蕉综合| 日韩成人电泉AV| 久久久GOGO无码啪啪艺术| 久久3p| 啪啪亚洲综合| 久久这里有精品在线观看| 婷婷激情五月天综合| 大香蕉大香蕉在线影院| 无码动漫AV| 久久久精品婷婷五月天| 色婷婷伊人激情在线观看| 国产精品美女| 饮料下药迷倒漂亮女同事强干| 久久激情天堂| 9月色婷婷| 国产精品人人妻人人爽| 99热这里只有精品22| 婷婷成人丁香色情基地30 | 色婷婷五月天在线观看| 激情丁香五月天图片| 26UUU精品一区二区Com| 另类激情五月| 五月天激情小说婷婷基地| 丁香六月av| 久久精品爱爱| 同性gv国产精品一区二区| 九九精品热| 91碰| 青草网在线观看| 美日韩成人| 婷婷五月丁香久久| 67194国产| 丁香丁婷五月激情| 五月丁香婷婷在线综合蜜桃| 激情com| Xx色综合| www.思思99热| 99热成人在线观看| 丁香五月电影| 激情綜合網址| 九九伊人网| 99操99| se99视频| 国产成人精品亚洲线观看| 精品一二三区久久AAA片| www.婷婷| tingtingseav| 五月婷婷导航| 婷婷五月丁香久久| 丁香五月婷婷少妇| 五月丁香婷婷伊人| 天天干天天干天天干天天干天天干| 六月激情久久| 欧美日韩一区二区三区四区| 久久99国产综合精品免费| 99人妻碰碰久久久禁片| 丁香五月婷婷少妇| 丁香婷婷性爱| 精品人妻久久久| 91精品国产综合久久密臀| 99综合一区| 亚洲精品大片| 婷婷色导航| 婷婷伊人綜合中文字幕小说| 精品热九九| 99热99天堂| 亚洲色综合| 5月丁香婷婷| 五月天深爱激情网| 强伦轩人妻一区二区电影| 色五月色五天色情网| 99热这里只有精品8| 日本欧美成人片AAAA| 69热91天堂| 玖玖五月丁香| 五月激情婷婷图片基地| 色五月婷婷内射| 五月天激情婷婷| 亚洲日日日| 成人精品视频99在线观看免费 | 丁香花狠狠婷婷亚洲中文字幕| 激情综合在线播放| 婷婷国产综合| 狠狠色噜噜| 亚洲av成人在线| 少妇高潮呻吟A片免费看软件 | 亚洲综合另类| 熟妇人妻中文字幕无码老熟妇| 久草婷| 丁香五月另类色婷婷麻豆| 成人必爱视| 另类激情五月天| 综合大香蕉| 亚洲蜜桃精久久久久久久久久久久| 丁香五月伊人| 日韩免费乱轮网站| 激情丁香五月天| 精品久久人妻| 色婷婷综合电影| 日韩色色网| 五月婷婷之美女图片| 成人亚洲精品| 九九视频在线观看视频在线播放69| 婷婷五月香蕉| 五月天激情视频五月天| 99亚洲精品| 日本偷拍九九九| 丁香五月婷婷久久综合激情网 | 丁香五月最新网址| 婷婷五月天六月综合| 激情五月丁香六月综合AVXXXX| 久久曰曰| 日本美女上人| 狠狠色噜噜色狠狠狠综合久久成人波| 深爱激情五月天| 久久日韩婷婷五月| 五月丁香久久久| 午夜大香蕉| 色婷婷aV四虎| 很很干在线视频| 亚洲旡码| 人人综合91网| 精品,99| 91丨九色丨国产打屁股| 91久久精品无码一区二区三区| 亚洲色色色色| a网站免费观看| 熟女网站久久| 日韩1区2区| 爱久久小说下载网| 激情五月第四色| 永久免费视频| 欧美在线视频9| 亚洲小说欧美激情| 日韩另类| 五月婷色色| 日韩九九| 婷婷丁香色女人| 五月天无码视屏播放| 97在线精品视频| 9 9热这里有精品| 激情久久五月网| 丁香婷婷影院| 久久五月视频| 婷婷五月激情网| 久久超级碰视频| 亚洲欧州色情在线观看| 亚洲黄网AV| 99热欧| 五月天婷婷视频| 任你日视频| 噜一噜在线| 婷婷热色| 色色 9| 精品一二三区久久AAA片| 都市激情蜜桃婷婷五月天| 99精品热视频| 狼人狠狠操| 日本久久人| 五月婷婷97| 五月婷婷丁香瑟瑟视频| 热久91| 日本 @ va 免费| 密着浓厚中出乚交尾GvG935| 丁香五月天婷婷中文| 婷婷色婷婷| 五月婷丁香花| 九九热精品| 色五月婷婷中文字幕在线观看| 91久久婷婷| 色五月综合| 日本三级大片| 丁香婷婷综合精品六月初| 五月综合色| 337p大胆噜噜噜噜噜91Av| 成人婷99最新| 丁香五月色| 日日撸夜夜操| 色婷婷丁香六月| 亭亭玉月丁香| 婷婷六月丁香激情综合| 精品人妻在线免费观看| 婷婷丁香五月综合激情小说| 久久99jiu9| www.minyis.com【JT】实力收量可预付QQ2101460746 | 99WWW免费视频| 午夜婷婷久久 | 91久久九九| 亚洲色热| 欧美97色| 可以看的av| 人人爽人人爽人人爽人人爽| 婷婷酒色网| 五月天久久91| 无语停婷丁香网| 激情五月婷婷丁香| 婷婷丁香九月| 99热综合| 激情婷婷五月天日本系列| 香蕉五月婷婷| 99热日韩| 国产婷婷五月中文字幕高清| 精品99*| 天天色亚洲| 玖玖在线| 免费看欧美成人A片无码| 亚洲另类久久| 99啪99| 婷色五月| 99久久思思| Caoub青青超碰 | 九九这里是免费的视频5| 色色五月婷| 日本人妻伦在线中文字幕| 国产高清精品色| www,超碰| 大香蕉av在线| 狠狠色综合久久| 五月激情婷婷综合| 伊人色综合网| 欧美婷婷成人| 天堂AV三级| 五月丁香久久久| 色色无码| 五月天欧美 另类小说| 色色色色色日韩午夜激情 | 色婷婷狠狠干| 色色色天堂网| 91精品综合久久久久久五月丁香| 天天爽综合网| 66精品国产成人| 久久婷婷五月丁香蜜桃网| 国产九九一区二区三区| 亚洲婷婷开心五月| 日韩精品超碰在线观看| 欧美顶级少妇做爰HD| 狼人狠狠操| 国产午夜成人免费看片无遮挡| 欧美婷婷成人| 久久一热免费视频| 四月婷婷五月丁香| 五月天久久色| 亚洲国产成人综合| 99青青草| 色激情综合狠狠婷婷| 国内在线99视频| 午夜一区| 综合色影| 久热网站| 色综合xx| 五月丁香啪啪激情| 五月色亭丁香| 五月激情小说| 九九综合伊人| 狠狠干综合网| 天天噜天天爱| 五月婷婷五月天| 猫咪伊人AV| 俺去也五月| 久久久精品人妻| 五月丁香婷婷激情久久| 大香蕉综合| 五月丁香色色色| 人人爱操| 碰碰91| 色婷婷丁香| 五月丁香六月婷婷中合网| 色欲九区| 婷婷五月综合色中文字幕| 超碰在线caop| 五月综合久久| 五月丁香福利| 色综合天天| 99思思热只有在这里看| 停停色综合伊人| 99小视频在线| 丁香五月网址| 五月婷婷六月综合| 午夜丁香久久久久久| 免费做A爰片77777| 99精品综合| 婷婷九月亚洲| 六月丁丁香| 激情综合色五月丁香六月亚洲| 十月丁香婷婷| 五月六月丁香激情视频| 亚洲精品视频在线播放| 第五婷婷伊人丁香色| 噜噜五月天综合| 六月丁花香啪啪激情欧美| 99无码| 五月丁香婷婷综合网| 黄网免费看| 丁香五月激情六月欧亚激情综合导航 | 欧美Va在线| 丁香激情合作五月| 亚洲九九免费| www.婷婷网| 青青热视频| 综合色99| 天天性视频| 中文字幕在线免费观看视频| 久99久在线| 色碰碰| 成人电影在线免费试看| 久久伦乱| 丁香大香蕉| 九九热99视频| 亚洲五月婷| 亚洲啪视频| 少妇激情基地| 久这里只有精品99| 熟女激情网| 婷婷五月天va| 五月天色在线| 五月激情久久综合网| 日操夜撸| 天天摸天天做天天爱天天爽| 色五月激情网| 丁香婷婷五月六月久久| 婷婷久久综合久| 色婷婷狠狠| 99激情| 欧美黑人巨大猛烈cuckold| 亚洲精品视频在线| 五月丁香色婷婷综合| 九九精品re免费视频| 久久hd| 国产伊人五月天| 亚洲狠狠爱婷婷| 碰碰91| 97久久超碰| 成人综合网站| 夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂夂亚洲亚洲亚洲亚洲亚洲亚洲亚洲亚洲色 | 激情四射五月天| 色播五月婷婷综合| 狠狠操在线视频| 狠狠狠夜夜夜| www.日韩国产| 26uuu国产| 色婷婷成人做爰A片免费看网站| 日本视频不卡123区| 九九九干精品| 热99精品视频| 色婷婷五月天亚洲| 热这里| 丁香桃色网| 国产激情视频在线观看| 亚洲妇女熟BBW| 亚洲99一级无嗎特制在线| 日韩黄色电影| 激情婷婷五月亚洲| 色婷婷激情五月天在线观看| 人人操人人爰人人一天天碰夜夜拍夜夜爽-中国A级毛片天天看天天谢… | 日日操夜夜爽| 婷婷综合视频| 丁香六月成人| 99热1| 中文久久久人妻| www激情五月天| 99热这里都是精品| 日本人妻伦在线中文字幕| 婷婷WWW久久| 日本综合久久| 婷婷五月伦理| 五月婷中文字幕| 俺去也在线官网| 色色婷婷色色| 久久艹 五月天| 国产亚洲在线观看| 五月天婷婷乱论小说| 色五月婷婷五月久久| 狼友视频在线观看18| 超碰天堂网| 99re资源在线视频导航| 婷婷久热| 开心五月天激情网站| 色激情综合| 婷婷五月丁香亚洲| 色五月婷婷基地| 色五月婷婷久久大| 91viP在线看| 99天堂在线观看免费视频| 人人摸人人操人人爽| 丁香五月网在线观看| 91久久久久久久久| 九九综合网| 天堂AV三级| 婷婷五月天综合久久| 丁香五月天激情| 天久久久久| 性爱电影科技贸易有限公司| 丁香婷婷六月天| 大操人妻| 日日干日日色| 大香蕉久久久| 91久久久久| 婷婷色五月综合丁香| 丁香五月婷婷五月| 丁香六月婷婷基地| 大功率国产在线| 丁香五月中文字幕色播| 亚洲综合网在线| 九九热这里只有精品23| 99视频这里有精品| 黃色三级三级三级三级 qixing300.shrkbk.com www.jinbozs.com tianmiaosw.com | 人妻久久久久久| 日本久久精品18| 这里只精品热在线18| 97碰在线视频| 丁香婷婷六月天| 色五月婷婷亚洲| 国产精品热搜丁香五月婷婷| 欧美综合激情五月丁香| 五月天免费色| 色999五月色| 五月综合激情图片| 26uuu国产精品| 丁香五月综合图片在线观看| 久久五月丁香六月婷| 日本精品。999| 五月丁香婷婷无码A∨| 五月天天天操天天爽夜夜操| 婷婷日| 日韩无码人妻一区二区三区综合| 天天插天天很| 五月天夜夜爱夜夜操| 丁香丝袜五月| 丁香五月六月婷婷怡红院| 五月婷婷亚洲色图| 五月香六月婷| 九九九九九九综合| 五月天久久婷婷| 欧美激情五月天婷婷| 操碰97| 开心五月婷婷激情网| 欧美天堂婷婷日韩| 色偷偷五月天| caop在线视频| 激情综合五月婷婷| 五月花丁香婷婷| 色五月大香蕉婷婷| 色九九综合| 婷婷五月天色综合翘| 色逼综合网| 日日操夜夜爽| 日本精品在线噜噜噜| 国产毛片欧美毛片久久久| 色99综合视频| 五月天激情网址| 99这里只有精品视频| 日日想日日夜日日操| 久久精品日| 色婷婷狠狠爱| 先锋男人99资源| 久久婷婷东京热大香樵| av九九| 五月色俺婷婷| 玖玖五月| 少妇AB又爽又紧无码网站| 久久亚洲激情五码| 97久久久久| 男女啪啪做爰高潮无遮挡| 99综合视频| 婷婷丁香六月五月天| 九九九九热99超碰| 91操人| 五月婷丁香亚洲| 婷婷五月天六点丁香五月| 久久er99热精品一区二区| 五月天婷婷丁香| 五月天另类综合网| 婷婷婷久久久| 国产在线网| 色色综合网站| 色婷婷六月丁香综合欲精品| 97色色-99久久| 久久九九一區| 亚洲成av人影院| 丁香五月色五月| 玖玖精品视频99| 五月丁香无码| 久婷婷久草| 99视频只有精品| 99riAV国产精品视频| 九九热在线观看视频网站| 欧美久久婷婷| 亚洲精品网址| 色色色色欧美| 五月天国产| 婷婷五月色激情欧美激情| 好吊丝aV| 影音先锋按摩| 五月天激情四射网站| 久久久91精品| 五月激情天| 久综合网| 成人丁香| 天天综合亚洲| 久久人妻系列| 深爱激情AV| 色综合色| 久久精品视频99| 亚洲AV无码一区二| www.亚洲激情.com| 亚洲精品又粗又大又爽A片| 综合色色网| 99九九在线视频| 色婷婷狠狠18| 丁香婷婷色情社区成人小说| 亚洲综合丁香婷婷六月天| 丁香五月综合高清在线| 国产精品成人AV在线| 77777亚洲午夜久久| 国产女18毛片多18精品| 9色91视频| 熟妇无码乱子成人精品| 天天爽天天操| 另类在线| 五月天婷婷在线观看| 久久激情综合| 9久久精品| 久操大香蕉| www.91色| 五月婷婷中文字幕| 激情小说视频图片| 超碰国产在线| 可以免费观看的AV| 婷婷五月天福利| 91超级碰碰| 99爱在线视频| 国产片XXXXA片国语对白| 八戒青柠影视剧在线观看| 欧美色五月| 丁香六月婷婷久久综合| 韩国真做片在线观看| 国产精品第一国产精品| 国产偷人爽久久久久久老妇APP| 亚洲乱码日产精品BD在线观看| 粉嫩AV久久一区二区三区| 五月婷婷六月激情| 四川BBB搡BBB爽爽视频| 激情婷婷丁香五月| 碰99在线| 超热久碰.com| 91视频一起草| 五月丁香六月婷婷亚洲天堂网站| 丁香五月婷婷婷婷欧美综合| 男人天堂亚洲综合| 毛片新网地| 亚洲欧美一区二区三区四区爱爱动图| 夜夜躁爽日日| 五月婷精品| 色色色免费视频| 欧洲色区| 九久热| 色综合丁香婷婷| 99这里只有精品视频免费| 欧美综合激情五月丁香| 五月亭亭综合五码| 噜一噜在线| 天天日天天摸| 丁香伍月婷电影全集| 色综合久久综合| 99re热在线视频| 国产综合激情五月久久| 夜夜爽天天干| 激情伊人五月天| 青青久在线视频免费观看| 九九热狼人| av在线激情| 婷婷六月激情啪啪| 五月天婷婷免费视频| 强伦轩人妻一区二区电影| 亚洲欧美在线观看| 色五月综合97| 五月综合激情久久| 久 久9 9 热 视 频| 色婷婷久久综合| 蜜臀久久99精品久久久久久酒店| 亚洲无aV在线中文字幕 | 五月婷婷AV| 五月丁香人妻| 日本天堂网站99| 9l视频自拍9l九色成人| 99爱免费在线视频| 色一情一乱一乱一区91| 日韩人妻AV在线| BT综合在线视频观看| 初夜av| 亚洲色碰| 美女被操一区二区| 婷婷五月色情天| 天天综合网亚洲网站| 婷婷五月综合激情| 性爱技巧五月| 亚洲丁香婷婷五月天综合色| 综合网亚洲| 午夜少妇在线观看视频| 偷偷操99| 夜夜操天天爽| 五月天久久久| 九九人人精品| www.99热. com这里只有精品| 色综合色色| 91丨九色丨国产在线| 手机AVAV天堂看网| 99欧美| AVV黄| 中文字幕 久久9999| 久热这里只有精品99re| 色色丁香五月天社区| 亚洲 激情 中文| 9久久精品| 婷婷五月无码| 婷婷激情五月天在线| 操碰97| 人妻中文在线| 成人在线综合| 中文成人在线| 国产精品婷婷午夜在线观看| 五月天大香蕉| 婷婷五月天影院| 可以免费观看的AV| 九九99九九精品视频| 色五月婷婷激情五月| 色五月激情网| 五月天色色激情综合| 欧美婷婷丁香五月社区| 大香AV| 99性色| 日韩有码一区| 99热在线观看这里只有精品| 亚洲亚洲人成综合网络| 天天 青草 制服丝袜 在线| 色一情一乱一乱一区91| 亚洲xx网| 日韩aaaaa| 婷婷色基地在线看 | 婷婷综合激情五月综合| 福利视频在线播放| 五月视频日本免费观看| 丁香六月天| 综合色播| 色播五月天激情| 五月婷五月婷伊人伊人五月婷| 中文字幕在线不卡| 亚洲一级色电影| 99热大香蕉| 台湾无码A片一区二区| 免费看欧美成人A片无码 | 五月份婷婷| 丁香五月天堂| 丁香六月婷婷综合麻豆| 亚洲V国产V欧美V久久久久久| 久久ER视频com| 五月天婷婷激情| 南京搡BBBB搡BBBB| 亚洲成人无码专区| 天天操天天草天天草天天| 90色免费视频| 精品人妻一区二区三区四区不卡在| 欧美婷婷综合| 色婷另类| 丁香六月综合激情| 久久亚洲婷婷| 能看的AV网站| 真实熟女-91九色| 99久久五月婷婷| 五月婷婷与六月丁香图片激情| 丁香五月自拍| a色色片| 婷婷情色开心五月天99| 欧美VA在线观看| 丁香五月激情综合婷综| 丁香伊人网| 九九免费精品在线视频| www久久久久久久久久久| 天天色色天天| 大香蕉久久草| 99久视频| 婷婷五月激情在线| 999久久久国产精品| 91丨九色丨国产打屁股| 日本无va视频| 91在线看片| 丁香五月区| 这里只有在线精品| 久久五月婷综合网| 婷婷色丁香五月| 激情五月综合ì香亚洲| 色五月色情| 男女99免费视频| 婷婷综合五月激情| 五月天伊人久久| 五月天婷婷丁香| 婷婷五月色亚洲| 五月丁香欧美综合| 一本色道久久88综合日韩精品| 99re思思久久| 婷婷五月丁香av网站| 99网址在线观看| 色一情一乱一乱一区91| 秋霞簧片| 日本啪啪网| 黃色三级三级三级三级 qixing300.shrkbk.com www.jinbozs.com tianmiaosw.com | 91亚洲天堂| 色婷婷激情| 天堂五月婷婷| 狠狠狠狠狠狠狠狠狠狠狠色宗合图片| 加勒比久热| 在线不卡视频| 婷婷中文字幕| 天天拍夜夜爽| 在线99热| 五月丁香综合久久夜夜| 久热这里| 天天操天天操天天操天天操天天操天天操天天操天天操天天操 | 五月婷婷伊| 色色亚洲五月天| 99精品综合| 五月天色婷婷图片| 五月丁香免费视频| 伊人超碰在线| 99ER热精品视频| 男人天堂99| 逼里香不卡| www.五月激情.com| 日良久久| 九九美女视频| 日本视频久久| 激情综合网五月天| 婷婷九月在线| 日本熟女内射| 婷婷六月爽| 日本久久精品| 最新日韩久热免费视频看看| 97超碰,人人舔,人人操,人人摸| 91精品久久久久久| 狠狠干五月天| 这里只有精品9| 五月婷婷,六月激情| 91婷婷丁香五月天免费视频网站| 久操97| 亚洲精品另类| 九九99精品视品| AV大香蕉| 五月婷视频| 天天肏夜夜肏| 婷婷色色丁香五月天| 九九热视频精品| 天天日天天做天天操| 色五月开心五月激情五月| 大香蕉啪啪啪| 99九九在线| 婷婷色啪| 91.com男女操| 9久热在线精品| 97亚洲精品| 久综合4| 色婷婷很很十八禁| 激情五月婷婷| 成人国产欧美大片一区| 五月丁香激情啪啪| 精品久久99| 九九色精品| 久操热线| 五月激情小说| 国产做爰视频免费播放| 搡BBBB搡BBB搡18| 五月丁香六月婷婷的女人| 成人国产综合| 五月花婷婷| 五月丁香激情综合啪啪| 五月丁香综合激情| 99这里只有精品视频| 六月色播| 四月婷婷五月丁香| 久色激情| 中文字幕不卡+婷婷五月| 五月久久婷婷| 色色色色色色色色综合网| 久久久com| 五月婷婷啪啪| 另类少妇人与禽zOZZ0性伦| 免费无码毛片一区二区A片| 在线理论片| 色九月综合| 94干大香蕉| 99玖玖在线视频| 91日本在线观看| 久青青久| 桔色成人官方网站| 五区毛片七区毛片| 五月婷婷在线免费观看| 九九热re99re6在线精品| 久久99精品视频| 91九色精品熟女内射| 99久久66综合| 91日综合欧美| 变态另类9| 狠狠操天天操| 99热的无码| 超碰国产在线观看| www.日日夜夜.com| 成 人片 黄 色 大 片| 婷婷五月天综合久久日| 五月天久久网站| 色色五月天婷婷| 26UUU亚洲欧美| 激情五月天婷婷在线网址发给我| 五月天激情久久| 99色色| 丁香五月天AV在线 | 亚洲无AV在线中文字幕| 大香蕉伊然在亚洲90| 久久精品9| 色色色在线播放| 婷婷五月天黄色小说| 亚洲AV成人片无码网站| 乱精品一区字幕二区| 99丁香五月婷婷在线| 一起草av| www.五月瑟| 26UUU欧美| 色色亚洲99com| 美女黄频aⅴ视频| 手机激情网| pom538精品视频| 韩国真做片在线观看| 欧美亚洲成人在线| 日日天天天| 丁香婷婷情色五月天| 五月婷婷激情综合| 欧美性交一区二区三区| 丁香五月婷婷亚洲色图| 婷婷六月天激情| 婷婷五月在线视频| 大香蕉人在线65| 婷婷五月天色网久| 色色丁香婷婷综合| 91九色偷拍| 天天 青草 制服丝袜 在线| 婷婷综合激情| av在线播放网站| 日韩啪啪视频| 天天日综合| 丁香婷婷九月在线| 99热在线观看免费中文| 俺去也综合| WWW嗯嗯啊啊啊啊| 噜噜狠狠| 国产精品色婷婷久久久精品| 超碰免费成人网站| 九九久久99| av在线免费网站 | 婷婷成人五月天| 99噜噜| 在线1青婷| 少妇2做爰HD韩国电影| 丁香激情网| 色五月婷婷在线观看| 日比网免费国产| 韩国情人在线电视剧免费观看高清版全集 | 色天堂操| 九九热经典视频在线观看| 嫩草AV久久伊人妇女超级A| 日本啪啪网| 丁香五月天堂网| 久久99草五月婷婷| 色婷婷AV五月天| 大香蕉久久| 99精品久久| 97狠狠色| 人人人操| 六月丁香激情| 色综合久久无码| 亚洲综合色棒| 伊人久久丁香狠狠婷婷综合香蕉| 五月情四婷婷| 91操碰| 开心深爱五月天| 婷婷香五月天| 黄网网站在线播放| 婷婷色九月| 影音先锋一区| 91干在线| 人妻视频在线| 五月天婷婷免费视频| 人操人人| 九九热这里只有精品6| 色色网91| 激情噜噜噜| 人人插9| 五月丁香激情综合啪啪| 26.uuu丁香五月婷婷| 色色五月婷婷久久| 色色色色色五月丁香| 亚洲综合草草| 夜夜 操无码| 五月色影院| 五月丁香六月婷婷,婷| 亚洲AV免费在线|