Partage de technologie

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

#AIsummercamp#Datawhale #summercamp

1. Introduction au concours

Avec le développement rapide de l’économie mondiale et l’accélération de l’urbanisation, le système électrique est confronté à des défis croissants. Une prévision précise de la demande d’électricité est cruciale pour le fonctionnement stable du réseau électrique, une gestion efficace de l’énergie et l’intégration des sources d’énergie renouvelables.

2. Tâches événementielles

Compte tenu des données de séquence pertinentes et d'autres informations sur N jours d'historique de consommation d'électricité correspondant à plusieurs maisons, prédisez la consommation d'électricité correspondant aux maisons.

Concours de développeurs iFLYTEK AI 2024 - Plateforme ouverte iFLYTEK  

3.Tâche 2 : Lightgbm avancé, démarrer l'ingénierie des fonctionnalités

(1) Module d'importation :Cette section contient les modules requis par le code

import numpy as np
import pandas as pd
import lightgbm as lgb
from sklearn.metrics import mean_squared_log_error, mean_absolute_error
import tqdm
import sys
import os
import gc
import argparse
import warnings
warnings.filterwarnings('ignore')

(2) Préparation des données

Au cours de la phase de préparation des données, les données d'entraînement et les données de test sont principalement lues et l'affichage des données de base est effectué.

train = pd.read_csv('./data/train.csv')
test = pd.read_csv('./data/test.csv')

Une brève introduction aux données : Parmi eux, id est l'identifiant de la maison, dt est l'identifiant du jour, les données d'entraînement minimales dt sont 11 et différents identifiants correspondent à différentes longueurs de séquence est le type de maison. De manière générale, il existe une différence relativement grande dans l'ensemble. la consommation de différents types de maisons ; l'objectif est la consommation électrique réelle, qui est également notre objectif de prévision pour ce concours. Ce qui suit est une analyse visuelle simple pour nous aider à avoir une compréhension simple des données.

• Histogramme des cibles correspondant à différents types

import matplotlib.pyplot as plt
# 不同type类型对应target的柱状图
type_target_df = train.groupby('type')['target'].mean().reset_index()
plt.figure(figsize=(8, 4))
plt.bar(type_target_df['type'], type_target_df['target'], color=['blue', 'green'])
plt.xlabel('Type')
plt.ylabel('Average Target Value')
plt.title('Bar Chart of Target by Type')
plt.show()

• Le graphique linéaire de la cible avec l'identifiant 00037f39cf comme séquence selon dt

specific_id_df = train[train['id'] == '00037f39cf']
plt.figure(figsize=(10, 5))
plt.plot(specific_id_df['dt'], specific_id_df['target'], marker='o', linestyle='-')
plt.xlabel('DateTime')
plt.ylabel('Target Value')
plt.title("Line Chart of Target for ID '00037f39cf'")
plt.show()

(3) Ingénierie des fonctionnalités

Ici, nous construisons principalement des fonctionnalités de traduction historique et des fonctionnalités statistiques de fenêtre ; chaque fonctionnalité est bien fondée et est expliquée en détail comme suit :

• Fonctionnalités de traduction historique :Les informations de l'étape précédente sont obtenues par traduction historique comme le montre la figure ci-dessous, les informations du temps d-1 peuvent être données au temps d, et les informations du temps d peuvent être données au temps d+1, réalisant ainsi la construction caractéristique d’une unité de traduction.

• Caractéristiques statistiques de la fenêtre : Les statistiques de fenêtre peuvent créer différentes tailles de fenêtre, puis calculer les informations de moyenne, maximale, minimale, médiane et de variance en fonction de la plage de fenêtre, ce qui peut refléter les modifications apportées aux données au cours de l'étape la plus récente. Comme le montre la figure ci-dessous, les informations des trois unités de temps avant le moment d peuvent être construites statistiquement pour me donner le moment.

  # 合并训练数据和测试数据，并进行排序
  data = pd.concat([test, train], axis=0, ignore_index=True)
  data = data.sort_values(['id','dt'], ascending=False).reset_index(drop=True)
   
  # 历史平移
  for i in range(10,30):
      data[f'last{i}_target'] = data.groupby(['id'])['target'].shift(i)
      
  # 窗口统计
  data[f'win3_mean_target'] = (data['last10_target'] + data['last11_target'] + data['last12_target']) / 3
   
  # 进行数据切分
  train = data[data.target.notnull()].reset_index(drop=True)
  test = data[data.target.isnull()].reset_index(drop=True)
   
  # 确定输入特征
  train_cols = [f for f in data.columns if f not in ['id','target']]
  

  4) Formation du modèle et prédiction des ensembles de tests

  Choisir d'utiliser le modèle Lightgbm est généralement utilisé comme modèle de base dans les compétitions d'exploration de données. Il peut obtenir des scores relativement stables sans avoir besoin d'ajuster les paramètres du processus. De plus, il convient de noter que la construction de l'ensemble de formation et de l'ensemble de vérification, parce que les données ont une relation de série chronologique, est strictement divisée en fonction de la série chronologique. Ici, l'ensemble de données de formation d'origine dt est 30 comme formation. données, et les données précédentes sont utilisées comme données de vérification, cela garantit qu'il n'y a pas de problème de croisement dans les données (les données futures ne sont pas utilisées pour prédire les données historiques).

def time_model(clf, train_df, test_df, cols):
    # 训练集和验证集切分
    trn_x, trn_y = train_df[train_df.dt>=31][cols], train_df[train_df.dt>=31]['target']
    val_x, val_y = train_df[train_df.dt<=30][cols], train_df[train_df.dt<=30]['target']
    # 构建模型输入数据
    train_matrix = clf.Dataset(trn_x, label=trn_y)
    valid_matrix = clf.Dataset(val_x, label=val_y)
    # lightgbm参数
    lgb_params = {
        'boosting_type': 'gbdt',
        'objective': 'regression',
        'metric': 'mse',
        'min_child_weight': 5,
        'num_leaves': 2 ** 5,
        'lambda_l2': 10,
        'feature_fraction': 0.8,
        'bagging_fraction': 0.8,
        'bagging_freq': 4,
        'learning_rate': 0.05,
        'seed': 2024,
        'nthread' : 16,
        'verbose' : -1,
    }
    # 训练模型
    model = clf.train(lgb_params, train_matrix, 50000, valid_sets=[train_matrix, valid_matrix], 
                      categorical_feature=[], verbose_eval=500, early_stopping_rounds=500)
    # 验证集和测试集结果预测
    val_pred = model.predict(val_x, num_iteration=model.best_iteration)
    test_pred = model.predict(test_df[cols], num_iteration=model.best_iteration)
    # 离线分数评估
    score = mean_squared_error(val_pred, val_y)
    print(score)
       
    return val_pred, test_pred
    
lgb_oof, lgb_test = time_model(lgb, train, test, train_cols)
 
# 保存结果文件到本地
test['target'] = lgb_test
test[['id','dt','target']].to_csv('submit.csv', index=None)

obtenirFraction.

4.Avancé

L’importance de l’ingénierie des fonctionnalités va de soi

J'ai ajouté quelques fonctionnalités supplémentaires, j'aurais pu en ajouter davantage, mais Colab n'avait pas assez de mémoire.

Il existe des millions de données et il n'y a aucun moyen d'ajouter plus de fonctionnalités. Voyons comment les optimiser plus tard.