Обмен технологиями

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Вопрос 1: Анализ размеров матрицы трансформатора и подробное объяснение MultiHead:

Подробная ссылка 1
Подробная ссылка 2

Вопрос 2: Структура преобразователя, процесс, преобразование измерений, кодер, декодер:

Как изменить размеры мультиголовки: сначала обработайте входные терминалы q, k и v так, чтобы их размеры были embedding_size/nums_head. Наконец, окончательное сращивание выполняется на уровне внимания.Вот почему: количество голов должно делиться на embedding_size.
Внимание: рассчитайте вес внимания через Q и K, а затем воздействуйте на V, чтобы получить полный вес и результат.
Подробные ссылки

Вопрос 3: Подробный алгоритм п-тюнинга, лора и адаптера:

p-настройка
Лора
адаптер

Вопрос 4: Каковы задачи системы оценки? cсиний

Вопрос 5. Какие модели были обучены, проблемы с наборами данных

Вопрос 6: резюме, deepsortv3, история развития yolo, основа yolo

Вопрос 7. Разница между загрузчиком данных и набором данных:

ⅰ Набор данных — это традиционный класс, и пользователи устанавливают определенные классы на основе требований к характеристикам.
https://huggingface.co/docs/datasets/loading
ⅱ Загрузчик данных принимает классы, определенные набором данных, и делит их на пакеты для облегчения последующего обучения, вывода и других операций.
ⅲ Набор данных извлекает характеристики нашего набора данных и маркирует один образец за раз. При обучении модели загрузчика данных мы обычно хотим доставлять образцы «мини-пакетами» и реорганизовывать данные в каждом периоде, чтобы уменьшить переобучение модели. При этом используется перетасовка, которая определяет, следует ли прерывать каждый пакет между каждой эпохой.