Berbagi teknologi

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Meta baru saja diluncurkan, mengklaim sebagai “model bahasa besar tercanggih” di bidang pemrograman——
Kode Llama
, dapat didasarkan pada
Tip kode dan bahasa alami
Menghasilkan kode dan bahasa alami tentang kode, mendukung berbagai bahasa pemrograman utama,
Termasuk Python, C, Java, PHP, TypeScript (Javascript), C# dan Bash
。

Code Llama sepenuhnya gratis untuk penelitian dan penggunaan komersial dan telah dirilis di GitHub:
https://www.jlht168.com/post/m1/Jryk1eDMBdAR.html
。

Code Llama didasarkan pada 2 model bahasa utama Llama dan menyediakan tiga model:

• Kode Llama

• Model kode dasar

• Kode Llama - Python

• Dioptimalkan secara khusus untuk Python

• Kode Llama - Instruksi

• Dirancang khusus untuk memahami instruksi bahasa alami

Jalankan contohnya

• Hasilkan kode berdasarkan bahasa alami

• Jelaskan fungsi/struktur kode

Code Llama menyediakan tiga model dengan ukuran berbeda, dengan parameter masing-masing 7B, 13B, dan 34B, yang dapat digunakan untuk penyelesaian kode dan debugging. Setiap model dilatih menggunakan token kode 500B dan data terkait kode. Selain itu, model dasar dan model instruksi 7B dan 13B dilatih dengan fungsi fill-in-the-middle (FIM), yang mendukung fungsi memasukkan kode ke dalam. kode yang ada.

Meta mengatakan tiga model ukuran berbeda memenuhi persyaratan layanan dan latensi yang berbeda. Misalnya, model 7B dapat berjalan pada satu GPU. Model 34B memberikan hasil terbaik dan memberikan bantuan pengkodean yang lebih baik, namun model 7B dan 13B yang lebih kecil lebih cepat dan lebih cocok untuk tugas-tugas yang memerlukan latensi rendah, seperti penyelesaian kode waktu nyata.

Menurut data yang disediakan oleh Meta, Code Llama mengungguli solusi yang ada dan setara dengan ChatGPT pada tolok ukur pengkodean populer HumanEval dan Mostly Basic Python Programming (MBPP).