моя контактная информация
Почтамезофия@protonmail.com
2024-07-12
한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina
#Datawhale #AIsummercamp#summercamp
Задача конкурса — определить, является ли изображение лица изображением Deepfake, и вывести оценку вероятности того, что это изображение Deepfake. Участникам необходимо разработать и оптимизировать модели обнаружения, чтобы справиться с разнообразными технологиями создания дипфейков и сложными сценариями применения, тем самым повышая точность и надежность обнаружения дипфейковых изображений.
Файл меток train_label.txt обучающего набора используется для обучения модели, а файл меток val_label.txt набора проверки используется только для настройки модели. Например, в train_label.txt или val_label.txt каждая строка содержит две части, разделенные запятыми. Первая часть — это имя файла (суффикс .mp4), вторая часть — фактическое значение.
Целевое значение 1 указывает на глубокую подделку аудио и видео, а целевое значение 0 указывает на реальное аудио и видео.
Ниже приведены образцы train_label.txt и val_label.txt:
train_label.txt
video_name,target
96b04c80704f02cb426076b3f624b69e.mp4,0
16fe4cf5ae8b3928c968a5d11e870360.mp4,1
val_label.txt
video_name,target
f859cb3510c69513d5c57c6934bc9968.mp4,0
50ae26b3f3ea85babb2f9dde840830e2.mp4,1
Каждая строка файла состоит из двух частей, разделенных запятыми. Первая часть — это имя видеофайла, а вторая часть — оценка дипфейка, соответствующая предсказанию модели (то есть значение вероятности выборки, принадлежащей дипфейк-видео). Пожалуйста, обратитесь к шаблону подачи ниже:
prediction.csv
video_name,score
658042526e6d0c199adc7bfeb1f7c888.mp4,0.123456
a20cf2d7dea580d0affc4d85c9932479.mp4,0.123456
Второй этап следует за первым этапом, на котором выпускается общедоступный тестовый набор. Участникам необходимо отправить в систему файл прогнозируемых результатов Pregion_test.csv тестового набора и предоставить онлайн-отзывы о результатах тестов в режиме реального времени.
После второго этапа 30 лучших команд перейдут в третий этап. На этом этапе участникам необходимо предоставить докер кода и технические отчеты. Требования Docker включают исходный обучающий код и тестовый API (входные данные функции — это путь к изображению, а выходные данные — оценка дипфейка, предсказанная моделью). Спонсор проверит и повторно запустит код алгоритма для воспроизведения процесса обучения и результатов тестирования.
Разрешается отправлять только одну модель, а действительные параметры сети не должны превышать 200 M (используйтетопПараметры модели статистики инструмента).
Разрешено только предварительное обучение модели с использованием ImageNet1K. Расширенные выборки, созданные на основе опубликованного обучающего набора (с помощью инструментов увеличения данных/дипфейков), могут использоваться для обучения, но эти инструменты необходимо отправить на воспроизведение на третьем этапе.
В качестве индекса оценки в основном используется AUC под кривой ROC. Диапазон значений AUC обычно находится в пределах.0.5-1между, иначе мы думаемЭто не очень хорошая модель машинного обучения . Чем ближе AUC к 1, тем лучше модель. Если AUC представляет неоднозначные результаты ранжирования, мы используем **TPR (истинно положительный показатель)** в качестве вспомогательного ориентира. Конечно, соответствующий метод — FPR.
F1-ОценкаЭто также показатель, на который мы можем ссылаться: это уровень точности и уровень полноты.гармоническое среднее。
F 1 _ S ядро = 2 ∗ ( TP ) / ( 2 TP + FN + FP ) F1_Score = 2*(TP)/(2TP+FN+FP)Ф1_Сосновной=2∗(ТП)/(2ТП+ФН+ФП)
Прежде чем изучать машинное обучение, мы должны рассмотреть две важные концепции:ТочностьиОтзывать。
Точность： Точность = TPTP + FP Точность = frac{TP}{TP+FP}прекясяон=ТП+ФПТП, который используется для измерения моделиПроверьте производительность, доля образцов, которые по прогнозам будут положительными, среди правильно предсказанных образцов.
Отзывать： Отзыв = TPTP + FN Отзыв = frac{TP}{TP+FN}ресалл=ТП+ФНТП, который используется для измерения моделиЭффективность поиска, доля образцов, которые действительно являются положительными, среди образцов, которые прогнозируются как положительные.
Истинно положительный показатель (TPR):
ТПР = ТП / (ТП + ФН)
Частота ложноположительных результатов (FPR):
ФПР = ФП / (ФП + ТН)
в:
ТП: Образец атаки правильно определен как атака;
ТН: Реальные образцы правильно идентифицируются как настоящие;
ФП: Реальные образцы ошибочно принимаются за атаки;
ФН: Образец атаки ошибочно определен как настоящий.
Ссылки: Агаджан Х., Аугусто Дж. К. и Дельгадо РЛК (ред.) (Если ссылку, указанную в заголовке, невозможно открыть, нажмите:вся книга)
Вот мой скрипт расчета TPR:
l1 = [0,1,1,1,0,0,0,1]
l2 = [0,1,0,1,0,1,0,0]
def accuracy(y_true, y_pred):
# 正确预测数初始化一个简单计数器
correct_counter = 0
# 遍历y_true, y_pred中所有元素
# zip函数接受多个元组，返回他们组成的列表
for yt, yp in zip(y_true, y_pred):
if yt == yp:
# 如果预测标签与真实标签相同，则增加计数器
correct_counter += 1
# 返回正确率，正确标签数/总标签数
return correct_counter / len(y_true)
def false_positive(y_true, y_pred):
# 初始化假阳性样本计数器
fp = 0
# 遍历y_true，y_pred中所有元素
for yt, yp in zip(y_true, y_pred):
# 若真实标签为负类但预测标签为正类，计数器增加
if yt == 0 and yp == 1:
fp += 1
return fp
def false_negative(y_true, y_pred):
# 初始化假阴性样本计数器
fn = 0
# 遍历y_true，y_pred中所有元素
for yt, yp in zip(y_true, y_pred):
# 若真实标签为正类但预测标签为负类，计数器增加
if yt == 1 and yp == 0:
fn += 1
return fn
def true_positive(y_true, y_pred):
# 初始化真阳性样本计数器
tp = 0
# 遍历y_true，y_pred中所有元素
for yt, yp in zip(y_true, y_pred):
# 若真实标签为正类且预测标签也为正类，计数器增加
if yt == 1 and yp == 1:
tp += 1
return tp
def true_negative(y_true, y_pred):
# 初始化真阴性样本计数器
tn = 0
# 遍历y_true，y_pred中所有元素
for yt, yp in zip(y_true, y_pred):
# 若真实标签为负类且预测标签也为负类，计数器增加
if yt == 0 and yp == 0:
tn += 1
# 返回真阴性样本数
return tn
# 您可以尝试更好的精确度计算方式
def accuracy_v2(y_true, y_pred):
# 真阳性样本数
tp = true_positive(y_true, y_pred)
# 假阳性样本数
fp = false_positive(y_true, y_pred)
# 假阴性样本数
fn = false_negative(y_true, y_pred)
# 真阴性样本数
tn = true_negative(y_true, y_pred)
# 准确率
accuracy_score = (tp + tn) / (tp + tn + fp + fn)
return accuracy_score
# F1-score的计算方法
def f1(y_true,y_pred):
p = precision(y_true, y_pred)
r = recall(y_true,y_pred)
score = 2*p*r/(p+r)
return score
Если требуется классификация, вам может понадобиться порог. Его отношение к прогнозируемому значению следующее:
Прогноз = Вероятность > Порог Прогноз = Вероятность > Порогпповторногястяон=пробабиляту>Тчасрезчасолг
После изучения AUC вам следует изучить еще один важный показатель — потери журналов. Для задач двоичной классификации мы определяем потерю журнала как:
Log Loss = − цель ∗ log ( p ) − ( 1 − цель ) ∗ log ( 1 − p ) LogLoss = -цель*log(p) - (1-цель)*log(1-p)ЛогЛосс=−таргет∗лог(п)−(1−таргет)∗лог(1−п)
Среди них целевое значение равно 0 или 1, а прогнозируемое значение — это вероятность того, что образец принадлежит категории 1. Потеря журнала наказывает как очень точные, так и очень неверные прогнозы. Чем меньше потери журнала, тем ближе вероятность, предсказанная моделью, к целевому значению.
Мы также можем использовать эти показатели в задачах классификации:
# “word count” 的缩写，是一个用于计数的 Unix 命令。-l 只计算行数
!wc -l /kaggle/input/ffdv-sample-dataset/ffdv_phase1_sample/train_label.txt
!wc -l /kaggle/input/ffdv-sample-dataset/ffdv_phase1_sample/val_label.txt
Нам просто нужно посчитать количество строк, которое указывает на количество выборок.
from IPython.display import Video
Video("/kaggle/input/ffdv-sample-dataset/ffdv_phase1_sample/valset/00882a2832edbcab1d3dfc4cc62cfbb9.mp4", embed=True)
Видео создает видеообъект, а внедрение означает, что если установлено значение True, видеопроигрыватель будет отображаться непосредственно в выходных данных ячейки записной книжки.
После запуска базового уровня Kaggle вы должны увидеть такие результаты:
!pip install moviepy librosa matplotlib numpy timm
Ссылки на документацию по использованным библиотекам:
moviepy
librosa(librosa — очень мощная сторонняя библиотека для обработки речевых сигналов Python. В этой базовой версии мы в основном используем генерацию спектрограмм MEL и преобразование спектрограмм)
matplotlib
нумпи
тимм(Библиотека моделей классификации изображений, позволяет быстро создавать различные модели соты)
Что такое СОТА? Полное название SOTA — State of arts, что означает лучшую модель в этой области. SOTA получает очень высокие оценки по некоторым наборам контрольных данных.
Несквозная модель (конвейер). Прежде всего, мы должны понять, что такое конец. Два конца относятся к входному концу и выходному концу. Традиционный процесс машинного обучения состоит из множества модулей, независимых друг от друга. Результат последнего модуля зависит от уровня предыдущего результата, влияющего на весь результат обучения.
Сквозная модель (end-to-end): Прежде всего, вы должны понимать, что прогноз генерируется от входного конца к выходному. Этот результат прогнозирования будет иметь ошибку по сравнению с реальным результатом (это нужно помнить). что основная задача машинного обучения по-прежнемупредсказывать ), эта ошибка распространяется обратно на каждый слой нейронной сети, а веса и параметры модели корректируются до тех пор, пока модель не сходится или не будут получены ожидаемые результаты. Если рассматривать это с точки зрения системы управления, то это система управления с обратной связью. (нейронная сеть напримерBP)
Последовательность-последовательность (seq2seq): это общийконцы с концамиМетод прогнозирования последовательности, его структура представляет собой кодер и декодер. Если вы используете набор данных вопросов и ответов для кодирования/декодирования, вы можете получить робота вопросов и ответов. Это приложение для преобразования последовательности в последовательность.
Вопрос возвращается к самой базовой линии: что такое базовая линия?Базовый уровень обычно относится к простой и легко реализуемой базовой модели.
В процессе настройки алгоритма и корректировки параметров задача Baseline — сравнивать себя с самим собой, чтобы делать модель все лучше и лучше.
Бенчмарк также является важным понятием, его смысл заключается вТесты . Обычно это относится к стандартизированному методу оценки и сравнения производительности алгоритмов, моделей или методов, используемых для измерения различий между моделями.
Их часто можно увидеть на сайтах сравнительного анализа моделей.напримерСи Нан。
Когда я запустил базовую версию, произошла ошибка конфигурации CUDA. Используйте другой ускоритель:
import torch
# 设置pytorch的种子
torch.manual_seed(0)
# deterministic当设置为False时，cuDNN将允许一些操作的非确定性优化
torch.backends.cudnn.deterministic = False
# benchmark设置为true允许cuDNN在每个前向传播中自动寻找最适合当前配置的卷积算法，以提高性能。
torch.backends.cudnn.benchmark = True
# 导入必要的库，我们需要用到cv2,glob,os,PIL
import torchvision.models as models
import torchvision.transforms as transforms
import torchvision.datasets as datasets
import torch.nn as nn
import torch.nn.functional as F
import torch.optim as optim
from torch.autograd import Variable
from torch.utils.data.dataset import Dataset
import timm
import time
import pandas as pd
import numpy as np
import cv2, glob, os
from PIL import Image
Generate_mel_spectrogram принимает такие параметры, как путь к видеофайлу, количество фильтров частоты Mel, самую высокую частоту (управляющую расчетным диапазоном спектра) и размер целевого изображения.
import moviepy.editor as mp
import librosa
import numpy as np
import cv2
def generate_mel_spectrogram(video_path, n_mels=128, fmax=8000, target_size=(256, 256)):
# 提取音频
audio_path = 'extracted_audio.wav'
# video_path 应该是之前定义的变量，包含了要处理的视频文件的路径。创建了一个 VideoFileClip 对象，存储在 video 变量中。
video = mp.VideoFileClip(video_path)
# video.audio 访问视频的音频轨道。write_audiofile() 方法将音频写入文件。verbose=False: 设置为False表示不在控制台输出处理进度。logger=None: 设置为None表示不使用日志记录器。实际上我们做这个预测没有这样的需求，也就不消耗占存。
# 其默认参数：write_audiofile(self, filename, fps=None, nbytes=2, buffersize=2000, codec=None, bitrate=None, ffmpeg_params=None, write_logfile=False, verbose=True, logger='bar')
video.audio.write_audiofile(audio_path, verbose=False, logger=None)
# 加载音频文件，加载采样率
y, sr = librosa.load(audio_path)
# 生成MEL频谱图（梅尔频谱图，与之相对应的有mel倒频谱图）
# 默认参数：librosa.feature.melspectrogram(y=None, sr=22050, S=None, n_fft=2048, hop_length=512, power=2.0, **kwargs)
# 参数解释：y:音频时间序列，sr:采样率，n_mels 是指在计算梅尔频谱图时，将频谱图划分为多少个梅尔频率滤波器（Mel filters），其决定了最终生成的梅尔频谱图的分辨率，也可以理解为梅尔频谱图的高度。
S = librosa.feature.melspectrogram(y=y, sr=sr, n_mels=n_mels)
# 将频谱图转换为dB单位，S：输入功率，ref：作为参考，如果是标量，则振幅 abs（S） 相对于 ref： 10 * log10（S / ref） 进行缩放。此处np.max指的是将谱图中的最大值作为参考值，这也是一种常用的参考值取法
S_dB = librosa.power_to_db(S, ref=np.max)
# 归一化到0-255之间，NORM_MINMAX:数组的数值被平移或缩放到一个指定的范围，线性归一化。
S_dB_normalized = cv2.normalize(S_dB, None, 0, 255, cv2.NORM_MINMAX)
# 将浮点数转换为无符号8位整型
S_dB_normalized = S_dB_normalized.astype(np.uint8)
# 缩放到目标大小256，256
img_resized = cv2.resize(S_dB_normalized, target_size, interpolation=cv2.INTER_LINEAR)
return img_resized
# 使用示例
video_path = '/kaggle/input/ffdv-sample-dataset/ffdv_phase1_sample/trainset/001b0680999447348bc9f89efce0f183.mp4' # 替换为您的视频文件路径
mel_spectrogram_image = generate_mel_spectrogram(video_path)
!mkdir ffdv_phase1_sample
!mkdir ffdv_phase1_sample/trainset
!mkdir ffdv_phase1_sample/valset
Объем данных слишком велик, поэтому я не буду размещать здесь картинку. Вместо этого я выложу диаграмму Мела при обычных обстоятельствах:
Источник изображения:Университет Саймона Фрейзера
Если вы включите его и послушаете, это будет фрагмент звука, который постепенно уменьшается.
# 使用glob.glob函数查找/kaggle/input/ffdv-sample-dataset/ffdv_phase1_sample/trainset/目录下前400个.mp4视频文件的路径。
for video_path in glob.glob('/kaggle/input/ffdv-sample-dataset/ffdv_phase1_sample/trainset/*.mp4')[:400]:
mel_spectrogram_image = generate_mel_spectrogram(video_path)
cv2.imwrite('./ffdv_phase1_sample/trainset/' + video_path.split('/')[-1][:-4] + '.jpg', mel_spectrogram_image)
# a. 调用generate_mel_spectrogram(video_path)函数生成梅尔频谱图，并将其存储在mel_spectrogram_image变量中。b. 使用cv2.imwrite函数将梅尔频谱图保存为JPEG图像。图像被保存在./ffdv_phase1_sample/trainset/目录下，并使用与原始视频文件相同的名称（但扩展名改为.jpg）。
for video_path in glob.glob('/kaggle/input/ffdv-sample-dataset/ffdv_phase1_sample/valset/*.mp4'):
mel_spectrogram_image = generate_mel_spectrogram(video_path)
cv2.imwrite('./ffdv_phase1_sample/valset/' + video_path.split('/')[-1][:-4] + '.jpg', mel_spectrogram_image)
Класс AverageMeter используется для расчета и хранения среднего и текущего значения переменной.
class AverageMeter(object):
"""Computes and stores the average and current value"""
def __init__(self, name, fmt=':f'):
self.name = name
self.fmt = fmt
self.reset()
def reset(self):
self.val = 0
self.avg = 0
self.sum = 0
self.count = 0
def update(self, val, n=1):
self.val = val
self.sum += val * n
self.count += n
self.avg = self.sum / self.count
def __str__(self):
fmtstr = '{name} {val' + self.fmt + '} ({avg' + self.fmt + '})'
return fmtstr.format(**self.__dict__)
Класс ProgressMeter используется для вывода текущей информации о пакете и статистических показателей в процессе обучения.
class ProgressMeter(object):
def __init__(self, num_batches, *meters):
self.batch_fmtstr = self._get_batch_fmtstr(num_batches)
self.meters = meters
self.prefix = ""
def pr2int(self, batch):
entries = [self.prefix + self.batch_fmtstr.format(batch)]
entries += [str(meter) for meter in self.meters]
print('t'.join(entries))
def _get_batch_fmtstr(self, num_batches):
num_digits = len(str(num_batches // 1))
fmt = '{:' + str(num_digits) + 'd}'
return '[' + fmt + '/' + fmt.format(num_batches) + ']'
Функция проверки регулярно оценивает производительность модели на проверочном наборе во время процесса обучения, а также рассчитывает и печатает точность Top-1.
def validate(val_loader, model, criterion):
batch_time = AverageMeter('Time', ':6.3f')# 批处理时间
losses = AverageMeter('Loss', ':.4e')# 损失
top1 = AverageMeter('Acc@1', ':6.2f')# Top-1准确率
progress = ProgressMeter(len(val_loader), batch_time, losses, top1)# 输出ProgressMeter
# switch to evaluate mode，eval()为评估函数，关闭训练时使用的一些特定层（如 Dropout），并启用 Batch Normalization 层的运行统计。
model.eval()
with torch.no_grad():# 定时设置requires_grad为False，防止梯度计算并节省内存。
end = time.time()
for i, (input, target) in enumerate(val_loader):
input = input.cuda()# 将输入数据和目标数据转移到GPU计算
target = target.cuda()
# compute output
output = model(input)
loss = criterion(output, target)# 计算训练损失
# measure accuracy and record loss，acc百分比显示
acc = (output.argmax(1).view(-1) == target.float().view(-1)).float().mean() * 100
losses.update(loss.item(), input.size(0))
top1.update(acc, input.size(0))
# measure elapsed time
batch_time.update(time.time() - end)
end = time.time()
# TODO: this should also be done with the ProgressMeter
print(' * Acc@1 {top1.avg:.3f}'
.format(top1=top1))
return top1
Функция прогнозирования используется для вывода выводов о тестовом наборе и поддерживает использование увеличения времени тестирования (TTA) для повышения стабильности прогнозов модели за счет выполнения нескольких прогнозов и усреднения.
def predict(test_loader, model, tta=10):
# switch to evaluate mode
model.eval()
# TTA（Test Time Augmentation）
test_pred_tta = None
for _ in range(tta):# 执行 TTA 次数的循环，每次循环会生成一个略有不同的输入数据。
test_pred = []
with torch.no_grad():
end = time.time()
for i, (input, target) in enumerate(test_loader):
input = input.cuda()
target = target.cuda()
# compute output
output = model(input)
output = F.softmax(output, dim=1)# 对模型输出进行 softmax 归一化处理，以获得类别概率。
output = output.data.cpu().numpy()
test_pred.append(output)
test_pred = np.vstack(test_pred)
if test_pred_tta is None:
test_pred_tta = test_pred
else:
test_pred_tta += test_pred
return test_pred_tta
Функция поезда отвечает за обучение модели, обновление параметров модели путем расчета функции потерь и точности, а также выполнение шагов обратного распространения ошибки и оптимизации.
def train(train_loader, model, criterion, optimizer, epoch):
batch_time = AverageMeter('Time', ':6.3f')
losses = AverageMeter('Loss', ':.4e')
top1 = AverageMeter('Acc@1', ':6.2f')
progress = ProgressMeter(len(train_loader), batch_time, losses, top1)
# switch to train mode
model.train()
end = time.time()
for i, (input, target) in enumerate(train_loader):
input = input.cuda(non_blocking=True)
target = target.cuda(non_blocking=True)
# compute output
output = model(input)
loss = criterion(output, target)
# measure accuracy and record loss
losses.update(loss.item(), input.size(0))
acc = (output.argmax(1).view(-1) == target.float().view(-1)).float().mean() * 100
top1.update(acc, input.size(0))# 更新 top1 计量器，记录当前批次的准确率。
# compute gradient and do SGD step
optimizer.zero_grad() # 清除之前累积的梯度。
loss.backward()# 计算损失相对于模型参数的梯度
optimizer.step()# 根据 backward() 计算的梯度更新模型参数。
# measure elapsed time
batch_time.update(time.time() - end)# 更新 batch_time 计量器，记录当前批次的处理时间。
end = time.time()
if i % 100 == 0:
progress.pr2int(i)
train_label = pd.read_csv("/kaggle/input/ffdv-sample-dataset/ffdv_phase1_sample/train_label.txt")
val_label = pd.read_csv("/kaggle/input/ffdv-sample-dataset/ffdv_phase1_sample/val_label.txt")
train_label['path'] = '/kaggle/working/ffdv_phase1_sample/trainset/' + train_label['video_name'].apply(lambda x: x[:-4] + '.jpg')
val_label['path'] = '/kaggle/working/ffdv_phase1_sample/valset/' + val_label['video_name'].apply(lambda x: x[:-4] + '.jpg')
train_label = train_label[train_label['path'].apply(os.path.exists)]
val_label = val_label[val_label['path'].apply(os.path.exists)]
Преобразование оставляет параметр для последующего улучшения данных, значение по умолчанию — Нет.
Изображение преобразуется в режим RGB.
Метки возвращаются как torch.Tensor.
class FFDIDataset(Dataset):
def __init__(self, img_path, img_label, transform=None):
self.img_path = img_path
self.img_label = img_label
if transform is not None:
self.transform = transform
else:
self.transform = None
def __getitem__(self, index):
img = Image.open(self.img_path[index]).convert('RGB')
if self.transform is not None:
img = self.transform(img)
return img, torch.from_numpy(np.array(self.img_label[index]))
def __len__(self):
return len(self.img_path)
Ссылается на класс FFDID, указанный выше.
train_loader = torch.utils.data.DataLoader(
FFDIDataset(train_label['path'].values, train_label['target'].values,
transforms.Compose([
transforms.Resize((256, 256)),
transforms.RandomHorizontalFlip(),
transforms.RandomVerticalFlip(),
transforms.ToTensor(),
transforms.Normalize([0.485, 0.456, 0.406], [0.229, 0.224, 0.225])
])
), batch_size=40, shuffle=True, num_workers=12, pin_memory=True
)
val_loader = torch.utils.data.DataLoader(
FFDIDataset(val_label['path'].values, val_label['target'].values,
transforms.Compose([
transforms.Resize((256, 256)),
transforms.ToTensor(),
transforms.Normalize([0.485, 0.456, 0.406], [0.229, 0.224, 0.225])
])
), batch_size=40, shuffle=False, num_workers=10, pin_memory=True
)
# 重点：这里调用timm提供的resnet18模型，因为分类为0/1（真视频/假视频），可以在后续改进，比如换用更深的网络ResNet-34、ResNet-50或是其他变体
model = timm.create_model('resnet18', pretrained=True, num_classes=2)
model = model.cuda()
# 交叉熵损失，针对多类别
criterion = nn.CrossEntropyLoss().cuda()
# Adam优化器，学习率设置为0.003。
optimizer = torch.optim.Adam(model.parameters(), 0.003)
# 每4个epoch将学习率按0.85的因子进行调整。
scheduler = optim.lr_scheduler.StepLR(optimizer, step_size=4, gamma=0.85)
# 初始化最优acc
best_acc = 0.0
for epoch in range(10):
scheduler.step()
print('Epoch: ', epoch)
# 调用train函数
train(train_loader, model, criterion, optimizer, epoch)
# 调用validate函数
val_acc = validate(val_loader, model, criterion)
if val_acc.avg.item() > best_acc:
best_acc = round(val_acc.avg.item(), 2)
torch.save(model.state_dict(), f'./model_{best_acc}.pt')
Выход:
Epoch: 0
[ 0/10] Time 6.482 ( 6.482) Loss 7.1626e-01 (7.1626e-01) Acc@1 35.00 ( 35.00)
* Acc@1 64.000
Epoch: 1
[ 0/10] Time 0.819 ( 0.819) Loss 4.6079e-01 (4.6079e-01) Acc@1 80.00 ( 80.00)
* Acc@1 75.500
Epoch: 2
[ 0/10] Time 0.914 ( 0.914) Loss 1.4983e-01 (1.4983e-01) Acc@1 97.50 ( 97.50)
* Acc@1 88.500
Epoch: 3
[ 0/10] Time 0.884 ( 0.884) Loss 2.4681e-01 (2.4681e-01) Acc@1 87.50 ( 87.50)
* Acc@1 84.000
Epoch: 4
[ 0/10] Time 0.854 ( 0.854) Loss 5.3736e-02 (5.3736e-02) Acc@1 100.00 (100.00)
* Acc@1 90.500
Epoch: 5
[ 0/10] Time 0.849 ( 0.849) Loss 5.9881e-02 (5.9881e-02) Acc@1 97.50 ( 97.50)
* Acc@1 89.500
Epoch: 6
[ 0/10] Time 0.715 ( 0.715) Loss 1.6215e-01 (1.6215e-01) Acc@1 92.50 ( 92.50)
* Acc@1 65.000
Epoch: 7
[ 0/10] Time 0.652 ( 0.652) Loss 5.3892e-01 (5.3892e-01) Acc@1 80.00 ( 80.00)
* Acc@1 78.500
Epoch: 8
[ 0/10] Time 0.847 ( 0.847) Loss 6.6098e-02 (6.6098e-02) Acc@1 97.50 ( 97.50)
* Acc@1 81.000
Epoch: 9
[ 0/10] Time 0.844 ( 0.844) Loss 9.4254e-02 (9.4254e-02) Acc@1 97.50 ( 97.50)
* Acc@1 81.500
Более глубокие сети. Если вам нужна более высокая производительность и более сложные возможности извлечения функций, вы можете рассмотреть возможность использования более глубоких сетей, таких как ResNet-34, ResNet-50 или даже более крупных вариантов ResNet (таких как ResNet-101 или ResNet-152).
Другие предварительно обученные модели. Помимо серии ResNet, на выбор предлагается множество других предварительно обученных моделей, например:
EfficientNet: имеет превосходную производительность и эффективность параметров.
DenseNet: Плотно связанная сетевая структура помогает лучше использовать функции.
Серия VGG: Простая и классическая архитектура, подходящая для использования в условиях ограниченных ресурсов.
Пользовательская модель. В зависимости от конкретных характеристик набора данных и требований задачи вы также можете рассмотреть возможность разработки и обучения индивидуальной архитектуры модели, что может потребовать дополнительной отладки и экспериментирования.
Ансамблевое обучение. Рассмотрите возможность использования методов ансамблевого обучения, таких как пакетирование или повышение, для объединения прогнозов из нескольких моделей для дальнейшего повышения производительности и стабильности.
Настройка гиперпараметров. Помимо выбора модели, производительность модели также можно оптимизировать, регулируя скорость обучения, размер пакета, выбор оптимизатора и стратегии увеличения данных.
Рассмотрите возможность применения Dice Loss для улучшения функции потерь в будущем. Dice Loss измеряет сходство между результатом прогнозирования и целевой маской и лучше подходит для задач двоичной классификации с очевидными границами. Это функция потерь, которая лучше работает при прогнозировании на уровне пикселей.
Также следите за потерей фокуса. Специально разработанный для решения проблемы дисбаланса классов, он может еще больше повысить эффективность модели по категориям меньшинств за счет уменьшения веса выборок, которые легко классифицировать, чтобы сосредоточиться на сложных выборках.
RAdam — это усовершенствованная версия Adam, которая повышает стабильность и производительность за счет динамической настройки коррекции скорости обучения.
AdamW — это вариант Adam, который вводит снижение веса для решения проблем с производительностью, которые Adam может создавать в некоторых случаях, особенно когда количество параметров модели велико.
AdamW — это вариант Adam, который вводит снижение веса для решения проблем с производительностью, которые Adam может создавать в некоторых случаях, особенно когда количество параметров модели велико.
# 用模型 (model) 对验证数据集 (val_loader) 进行预测。这部分假设 [:, 1] 给出了类别1的概率。
val_pred = predict(val_loader, model, 1)[:, 1]
# 赋值，预测的概率（或者预测值）赋给了 val_label 数据框中名为 "y_pred" 的列
val_label["y_pred"] = val_pred
submit = pd.read_csv("/kaggle/input/multi-ffdv/prediction.txt.csv")
# 使用 merge 函数将提交文件 (submit) 中的数据与验证数据集标签 (val_label) 中的 video_name 和 y_pred 列合并
merged_df = submit.merge(val_label[['video_name', 'y_pred']], on='video_name', suffixes=('', '_df2'), how='left', )
# 将合并后的数据中 y_pred_df2 列（从验证集中获取的预测结果）的值填充到 y_pred 列中
merged_df['y_pred'] = merged_df['y_pred_df2'].combine_first(merged_df['y_pred'])
merged_df[['video_name', 'y_pred']].to_csv('submit.csv', index=None)
Завершение базовой линии не занимает 10 минут. Обычно для создания спектрограммы Мела она останавливается на значении 4,7. Но это требует 5 часов терпеливого исследования. Вот краткое изложение ключевых процессов:
Определение задачи глубокого обучения на самом деле можно резюмировать как «обратное распространение», поскольку его суть заключается в использовании алгоритма обратного распространения для настройки параметров модели для минимизации определенной функции потерь.
Для решения таких аудио- и видеозадач очень удобно использовать глубокое обучение. Я думаю, что первый из них — это огромный объем аудио- и видеоданных и необходимость сложной классификации этих данных.Механизм глубокого обучения определяет, что он требует огромного количества данных, и на самом деле очень важным моментом является то, что сам дипфейк требуетКлассификацияМысль — это, по сути, задача классификации, а глубокое обучение имеет большие преимущества при работе с большими объемами данных и усовершенствованной классификацией. Знакомый пример — сеть состязательной генерации GAN.
Во-вторых, статистически похожие данные создаются в больших количествах, и они могут изучать распределение огромных объемов данных. Он также может выполнять обратную задачу.
AIGC должен включать Deepfake. С точки зрения развития, развитие и масштабность технологии Deepfake определенно возрастут с ростом вычислительной мощности AIGC. Мы столкнемся с огромным морем реальных и фейковых данных. Конечно, нам также нужно посмотреть, что представляют собой эти видео. использовать для. Если это может сэкономить Энергия создателей историй, несомненно, полезна для развития литературных и художественных развлечений, если она будет использоваться для обмана, она вскоре столкнется с этическими и моральными проблемами;
Одна из моих мыслей заключается в том, что в сочетании с нынешним увлечением короткометражными драмами Deepfake может позволить публике получить сверхнизкие цены на аудиовизуальные развлечения, но он также бросает вызов традиционной кино- и телеиндустрии и даже тому, какие актеры и аудиовизуальная стимуляция, необходимая человеческим глазам. Это дискуссионная тема.
Он посвятил себя исследованию технологий более 30 лет и владеет различными языками, такими как Java, Linux, Javascript, php, css и т. д. Он внес большой вклад в область открытого исходного кода. Станция документации для разработчиков, где можно поделиться некоторыми проблемами в разработке технологий для дальнейшего использования. Все ознакомьтесь.
Почтамезофия@protonmail.com