Compartilhamento de tecnologia

Relatório semanal de aprendizado de máquina FMP para a 46ª semana

2024-07-08

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

semana46 FMP

Resumo

Esta semana li um artigo intitulado Chasing Fairness in Graphs: A GNN Architecture Perspective. Este artigo propõe um esquema justo de passagem de mensagens (FMP) guiado por uma estrutura de otimização unificada de redes neurais de grafos (GNN), com o objetivo de melhorar a justiça do processamento de dados de grafos. Esta abordagem é alcançada através de duas etapas principais: primeiro agregar dados gráficos e, em seguida, procurar explicitamente a representação do centro de cada população estatística para reduzir distorções. Este método constrói um problema de otimização que considera tanto a imparcialidade quanto a suavidade dos dados, e usa técnicas de conjugado Fenchel e gradiente descendente combinadas com características da função softmax para resolvê-lo de forma eficiente, gerando uma representação de nó que é ao mesmo tempo justa e informativa. Este esquema é diretamente incorporado ao GNN para melhorar a justiça e a precisão das tarefas de classificação de nós sem pré-processamento de dados. Os resultados experimentais mostram que o FMP tem um desempenho melhor do que vários modelos de linha de base em conjuntos de dados reais, verificando completamente sua eficácia do ponto de vista da arquitetura do modelo, eficiência e utilização de atributos sensíveis.

Abstrato

O jornal semanal desta semana decodifica o artigo intitulado Chasing Fairness in Graphs: A GNN Architecture Perspective. Este artigo apresenta um esquema Fair Message Passing (FMP) guiado por uma estrutura de otimização unificada de Graph Neural Networks (GNNs), com o objetivo de aumentar a imparcialidade no processamento de dados de gráfico. O FMP consegue isso por meio de duas etapas principais: primeiro, agregando dados de gráfico e, em seguida, se esforçando explicitamente para representar os centros de vários grupos estatísticos para mitigar o viés. Esta abordagem formula um problema de otimização que considera a imparcialidade e a suavidade dos dados e aproveita as técnicas de dualidade de Fenchel e descida de gradiente, combinadas com as propriedades da função softmax, para resolver o problema de forma eficiente e gerar representações de nós justas e informativas. Este esquema é diretamente incorporado em GNNs para melhorar a imparcialidade e a precisão das tarefas de classificação de nós, sem a necessidade de pré-processamento de dados. Resultados experimentais em conjuntos de dados do mundo real mostram que o FMP supera vários modelos de linha de base, validando de forma abrangente sua eficácia das perspectivas de arquitetura de modelo, eficiência e utilização de atributos sensíveis.

1. Pergunta

Título: Em busca da justiça em gráficos: uma perspectiva da arquitetura GNN

Nomes: Zhimeng Jiang1, Xiaotian Han1, Chao Fan2, Zirui Liu3, Na Zou4, Ali Mostafavi1, Xia Hu3

liberar:Vol. 38 No. 19: AAAI-24

Link: https://doi.org/10.1609/aaai.v38i19.30115

2. Resumo

Este artigo visa alcançar uma melhor justiça através da nova estrutura GNN, por isso propõe projetar dentro da estrutura de otimização unificada da GNNMensagens Justas (FMP) .Vale ressaltar que o FMP utilizaperda de entropia cruzadaApresentar explicitamente o uso de atributos sensíveis na passagem direta para tarefas de classificação de nós, enquantoNão é necessário pré-processamento de dados .No FMP, primeiro usepolimerizaçãopara explorar informações vizinhas e, em seguida,Mitigação de preconceito As etapas unem explicitamente o centro de representação do nó do grupo de estatísticas de dados. Desta forma, o esquema FMP pode agregar informações úteis dos vizinhos e mitigar preconceitos para alcançar melhor justiça e desempenho de compensação de previsão.Classificação de nósExperimentos na tarefa mostram que o FMP proposto supera várias linhas de base em termos de justiça e precisão em três conjuntos de dados do mundo real.

3. PMF

O FMP pode alcançar previsões justas do ponto de vista da espinha dorsal do modelo. Especificamente, mensagens justas são formuladas como um problema de otimização para buscar simultaneamente suavidade e representação justa de nós. Combinado com algoritmos de otimização eficazes e eficientes, são derivadas mensagens justas de formato fechado. Finalmente, o FMP proposto é integrado em uma GNN justa em três estágios, incluindo etapas de transformação, agregação e eliminação de preconceitos, conforme mostrado na Figura 1. Esses três estágios empregam recursos de nó, topologia de gráfico e atributos sensíveis, respectivamente.

imagem-20240707151714855

3.1 Estrutura de otimização

min ⁡ F λ s 2 tr ( FTT ~ F ) 1 2 ∣ ∣ F − X trans ∣ ∣ F 2 λ f ∣ ∣ Δ s SF ( F ) ∣ ∣ 1 (1) min_{mathbf F}frac{lambda_s}{2}tr(mathbf F^T til {mathbf T}mathbf F) frac12||mathbf F-mathbf X_{trans}||^2_F lambda_f||Delta_sSF(mathbf F)||_1 tag{1}Fmínimo2λeparar(FEE~F) 21∣∣FXpararumeF2 λe∣∣ΔeSF(F)1(1)

$til L representa a matriz laplaciana normalizada, representa a matriz laplaciana normalizada,representa a matriz laplaciana normalizada,h_s(·)$ e hf ( ⋅ ) h_f(·)oe() Representa objetivos de suavidade e justiça, X trans ∈ R n × dout X_{trans} em R^{n×d_{out}}XpararumeRnãoão×eovocêpara é o transformado duut d_{fora}eovocêparaCaracterísticas do nó de dimensão. F ∈ R n × dout F em R^{n×d_{out}}FRnãoão×eovocêpara​ são recursos de nó agregados do mesmo tamanho de matriz.

Os dois primeiros termos preservam a similaridade das representações de nós conectados, aumentando assim a suavidade do gráfico. O último termo impõe uma representação justa do nó para que a probabilidade média prevista possa permanecer constante entre diferentes grupos de atributos sensíveis.

Os coeficientes de regularização λs e λf controlam adaptativamente o compromisso entre suavidade e justiça do gráfico.
hs ( F ) = min ⁡ F λ s 2 tr ( FTT ~ F ) 1 2 ∣ ∣ F − X trans ∣ ∣ F 2 h_s(mathbf F)=min_{mathbf F}frac{lambda_s}{2}tr(mathbf F^T til {mathbf T}mathbf F) frac12||mathbf F-mathbf X_{trans}||^2_Foe(F)=Fmínimo2λeparar(FEE~F) 21∣∣FXpararumeF2
Alvo de suavidade hs(·): Matrizes de adjacência em esquemas de mensagens gráficas existentes são normalizadas para melhorar a estabilidade numérica e alcançar desempenho superior.De uma perspectiva centrada na borda, o objetivo de suavização força as representações dos nós conectados a serem semelhantes porque
tr ( FTT ~ F ) = ∑ ( vi , vj ) ∈ E ∣ ∣ F idi 1 − F idj 1 ∣ ∣ F 2 (2) tr(mathbf F^T til {mathbf T}mathbf F)=soma_{(v_i,v_j)em {Epsilon}}||frac{mathbf F_i}{sqrt {d_i 1}}-frac{mathbf F_i}{sqrt{d_j 1}}||^2_F tag{2}parar(FEE~F)=(vocêocêeu,vocêocêeu)E∣∣eeu 1 Feueeu 1 FeuF2(2)
Meta de justiça hf(·): A meta de justiça mede o desvio da representação do nó após a agregação. O vetor de eventos de atributos sensíveis Δs representa o grupo de atributos sensíveis e o tamanho do grupo pela soma do sinal e do valor absoluto.O vetor de evento de atributo sensível é
Δ s = 1