Berbagi teknologi

Pertanyaan wawancara algoritma_bytes

2024-07-12

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Pertanyaan 1: Analisis Dimensi Matriks Transformator dan Penjelasan Detail MultiHead:

Tautan detail 1
Tautan detail 2

Pertanyaan 2: Struktur transformator, proses, transformasi dimensi, encoder, decoder:

Cara mengubah dimensi multi-head: Proses terlebih dahulu terminal input q, k, dan v, sehingga dimensinya menjadi embedding_size/nums_head. Terakhir, penyambungan terakhir dilakukan pada lapisan perhatian.Inilah alasannya: jumlah kepala harus habis dibagi dengan ukuran_embedding
Perhatian: Hitung bobot perhatian melalui Q dan K, lalu kerjakan V untuk mendapatkan seluruh bobot dan keluaran
Tautan terperinci

Pertanyaan 3: Algoritma terperinci untuk penyetelan p, lora, dan adaptor:

penyetelan p
lora
adaptor

Pertanyaan 4: Apa tugas kerangka evaluasi? cbiru

Pertanyaan 5: Model mana yang telah dilatih, masalah kumpulan data

Pertanyaan 6: cv, deepsortv3, sejarah perkembangan yolo, tulang punggung yolo

Pertanyaan 7: Perbedaan antara dataloader dan dataset:

ⅰ.Dataset adalah kelas tradisional, dan pengguna menetapkan kelas tertentu berdasarkan persyaratan karakteristik.
https://huggingface.co/docs/set data/memuat
ⅱ Dataloader menerima kelas yang ditentukan oleh kumpulan data dan membaginya menjadi beberapa batch untuk memfasilitasi pelatihan selanjutnya, inferensi, dan operasi lainnya.
ⅲ.Dataset mengambil fitur dataset kami dan memberi label satu sampel pada satu waktu. Saat dataloader melatih suatu model, kami biasanya ingin mengirimkan sampel dalam "mini-batch" dan mengatur ulang data di setiap periode untuk mengurangi overfitting model; ini memiliki pengacakan yang menentukan apakah akan mengganggu setiap batch di antara setiap epoch.