Partage de technologie

Rapport hebdomadaire FMP sur l'apprentissage automatique pour la 46e semaine

2024-07-08

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

semaine 46 FMP

Résumé

Cette semaine, j'ai lu un article intitulé À la recherche de l'équité dans les graphiques : une perspective d'architecture GNN. Cet article propose un schéma de transmission de messages équitable (FMP) guidé par un cadre d'optimisation unifié du réseau neuronal graphique (GNN), visant à améliorer l'équité du traitement des données graphiques. Cette approche est réalisée en deux étapes principales : d'abord agréger les données graphiques, puis poursuivre explicitement la représentation du centre de chaque population statistique afin de réduire les biais. Cette méthode construit un problème d'optimisation qui prend en compte à la fois l'équité et la fluidité des données, et utilise les techniques de conjugaison et de descente de gradient de Fenchel combinées aux caractéristiques de la fonction softmax pour le résoudre efficacement, générant une représentation de nœud à la fois juste et informative. Ce schéma est directement intégré dans GNN pour améliorer l'équité et la précision des tâches de classification des nœuds sans prétraitement des données. Les résultats expérimentaux montrent que sur des ensembles de données réels, FMP fonctionne mieux que plusieurs modèles de base, vérifiant pleinement son efficacité du point de vue de l'architecture du modèle, de son efficience et de l'utilisation des attributs sensibles.

Abstrait

Le journal hebdomadaire de cette semaine décrypte l'article intitulé Chasing Fairness in Graphs: A GNN Architecture Perspective. Cet article présente un schéma de transmission de messages équitables (FMP) guidé par un cadre d'optimisation unifié des réseaux neuronaux graphiques (GNN), visant à améliorer l'équité dans le traitement des données graphiques. Le FMP y parvient en deux étapes principales : d'abord, l'agrégation des données graphiques, puis l'effort explicite de représenter les centres de divers groupes statistiques pour atténuer les biais. Cette approche formule un problème d'optimisation qui prend en compte à la fois l'équité et la régularité des données, et exploite les techniques de dualité de Fenchel et de descente de gradient, combinées aux propriétés de la fonction softmax, pour résoudre efficacement le problème et générer des représentations de nœuds équitables et informatives. Ce schéma est directement intégré dans les GNN pour améliorer l'équité et la précision des tâches de classification des nœuds, sans nécessiter de prétraitement des données. Les résultats expérimentaux sur des ensembles de données réels montrent que le FMP surpasse plusieurs modèles de base, validant de manière exhaustive son efficacité du point de vue de l'architecture du modèle, de l'efficacité et de l'utilisation d'attributs sensibles.

1. Question

Article précédent : À la recherche de l'équité dans les graphes : une perspective d'architecture GNN

Interprètes : Zhimeng Jiang1, Xiaotian Han1, Chao Fan2, Zirui Liu3, Na Zou4, Ali Mostafavi1, Xia Hu3

libérer:Vol. 38 No. 19 : AAAI-24

Lien : https://doi.org/10.1609/aaai.v38i19.30115

2. Résumé

Cet article vise à atteindre une meilleure équité grâce au nouveau framework GNN, il propose donc de concevoir dans le cadre d'optimisation unifié de GNN.Messagerie équitable (FMP) .Il convient de noter que FMP utiliseperte d'entropie croiséePrésenter explicitement l'utilisation d'attributs sensibles dans le passage direct pour les tâches de classification des nœuds, tout enAucun prétraitement des données requis .En FMP, première utilisationpolymérisationpour exploiter les informations des voisins, puisAtténuation des biais Les étapes regroupent explicitement le centre de représentation des nœuds du groupe de statistiques de données. De cette manière, le système FMP peut regrouper des informations utiles provenant des voisins et atténuer les biais pour obtenir de meilleures performances de compromis en matière d'équité et de prédiction.Classement des nœudsLes expériences sur cette tâche montrent que le FMP proposé surpasse plusieurs lignes de base en termes d'équité et de précision sur trois ensembles de données du monde réel.

3. FMP

FMP peut réaliser des prédictions justes du point de vue de l’épine dorsale du modèle. Plus précisément, la messagerie équitable est formulée comme un problème d’optimisation visant simultanément à rechercher la fluidité et la représentation équitable des nœuds. Combiné avec des algorithmes d'optimisation efficaces et efficients, un message équitable sous forme fermée est dérivé. Enfin, le FMP proposé est intégré dans un GNN équitable en trois étapes, y compris les étapes de transformation, d'agrégation et de débiaisation, comme le montre la figure 1. Ces trois étapes adoptent respectivement les caractéristiques des nœuds, la topologie du graphe et les attributs sensibles.

image-20240707151714855

3.1 Cadre d'optimisation

min ⁡ F λ s 2 tr ( FTT ~ F ) 1 2 ∣ ∣ F − X trans ∣ ∣ F 2 λ f ∣ ∣ Δ s SF ( F ) ∣ ∣ 1 (1) min_{mathbf F}frac{lambda_s}{2}tr(mathbf F^T tilde {mathbf T}mathbf F) frac12||mathbf F-mathbf X_{trans}||^2_F lambda_f||Delta_sSF(mathbf F)||_1 balise{1}Fmin2λmtl(FTT~F) 21∣∣FXtlunmF2 λF∣∣ΔmSF(F)1(1)

$tilde L représente la matrice laplacienne normalisée, représente la matrice laplacienne normalisée,représente la matrice laplacienne normalisée,h_s(·)$ et hf ( ⋅ ) h_f(·)hF() Représente les objectifs de fluidité et d'équité, X trans ∈ R n × dout X_{trans} dans R^{n×d_{out}}XtlunmRn×douuutoit est le transformé dout d_{out}douuutoitCaractéristiques du nœud de dimension. F ∈ R n × dout F dans R^{n×d_{out}}FRn×douuutoit​ sont des entités de nœuds agrégées de même taille de matrice.

Les deux premiers termes préservent la similarité des représentations des nœuds connectés, améliorant ainsi la fluidité du graphique. Le dernier terme impose une représentation équitable des nœuds afin que la probabilité moyenne prédite puisse rester constante entre les différents groupes d'attributs sensibles.

Les coefficients de régularisation λs et λf contrôlent de manière adaptative le compromis entre la douceur et l'équité du graphique.
hs ( F ) = min ⁡ F λ s 2 tr ( FTT ~ F ) 1 2 ∣ ∣ F − X trans ∣ ∣ F 2 h_s(mathbf F)=min_{mathbf F}frac{lambda_s}{2}tr(mathbf F^T tilde {mathbf T}mathbf F) frac12||mathbf F-mathbf X_{trans}||^2_Fhm(F)=Fmin2λmtl(FTT~F) 21∣∣FXtlunmF2
Cible de douceur hs(·) : les matrices de contiguïté dans les schémas de messagerie graphique existants sont normalisées pour améliorer la stabilité numérique et obtenir des performances supérieures.D'un point de vue centré sur les bords, l'objectif de lissage force les représentations des nœuds connectés à être similaires car
tr ( FTT ~ F ) = ∑ ( vi , vj ) ∈ E ∣ ∣ F idi 1 − F idj 1 ∣ ∣ F 2 (2) tr(mathbf F^T tilde {mathbf T}mathbf F)=somme_{(v_i,v_j)dans {Epsilon}}||frac{mathbf F_i}{sqrt {d_i 1}}-frac{mathbf F_i}{sqrt{d_j 1}}||^2_F balise{2}tl(FTT~F)=(vje,vj)E∣∣dje 1 Fjedj 1 FjeF2(2)
Objectif d'équité hf(·) : L'objectif d'équité mesure l'écart de la représentation des nœuds après agrégation. Le vecteur d'événement d'attribut sensible Δs représente le groupe d'attributs sensibles et la taille du groupe par somme du signe et de la valeur absolue.Le vecteur d'événement d'attribut sensible est
Δs = 1