Compartilhamento de tecnologia

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

Meta acaba de ser lançado, afirmando ser o “modelo de grande linguagem mais avançado” no campo da programação——
Código Llama
, pode ser baseado em
Dicas de código e linguagem natural
Gere código e linguagem natural sobre código, suportando várias linguagens de programação convencionais,
Inclui Python, C, Java, PHP, Typescript (Javascript), C# e Bash
。

Code Llama é totalmente gratuito para pesquisa e uso comercial e foi lançado no GitHub:
https://www.jlht168.com/post/m1/Jryk1eDMBdAR.html
。

Code Llama é baseado nos principais modelos de linguagem do Llama 2 e fornece três modelos:

• Código Llama

• Modelo de código básico

• Código Llama - Python

• Otimizado especificamente para Python

• Código Llama - Instruir

• Projetado especificamente para entender instruções em linguagem natural

Execute o exemplo

• Gere código com base em linguagem natural

• Explique a função/estrutura do código

Code Llama oferece três modelos de tamanhos diferentes, com parâmetros 7B, 13B e 34B respectivamente, que podem ser usados ​​para conclusão de código e depuração. Cada modelo é treinado usando tokens de código 500B e dados relacionados ao código. Além disso, os modelos básicos e modelos de instrução 7B e 13B são treinados com a função fill-in-the-middle (FIM), que suporta a função de inserção de código. código existente.

Meta afirma que os três modelos de tamanhos diferentes atendem a diferentes requisitos de serviço e latência. Por exemplo, o modelo 7B pode rodar em uma única GPU. O modelo 34B retorna os melhores resultados e fornece melhor assistência de codificação, mas os modelos menores 7B e 13B são mais rápidos e mais adequados para tarefas que exigem baixa latência, como conclusão de código em tempo real.

De acordo com dados fornecidos pela Meta, o Code Llama supera as soluções existentes e está no mesmo nível do ChatGPT nos populares benchmarks de codificação HumanEval e Mostly Basic Python Programming (MBPP).