Teknologian jakaminen

Shengsi Large Model - MindFormersin käyttö - Asenna ja määritä ympäristö alusta alkaen

2024-07-12

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

         

MindSpore Transformers -ohjelmistopaketin tavoitteena on rakentaa koko prosessin kehityspaketti suurten mallien koulutukseen, hienosäätöön, arviointiin, päättelyyn ja käyttöönottoon. Se tarjoaa alan valtavirran Transformer-tyyppisiä esikoulutusmalleja ja SOTA-pohjaisia ​​tehtäväsovelluksia kattaa runsaasti rinnakkaisia ​​ominaisuuksia. Toivomme voivamme auttaa käyttäjiä saavuttamaan helposti laajan mallikoulutuksen sekä innovatiivisen tutkimuksen ja kehityksen.

MindSpore Transformers -sarja perustuu MindSporen sisäänrakennettuun rinnakkaistekniikkaan ja komponenttien suunnitteluun, ja siinä on seuraavat ominaisuudet:

  • Yksi koodirivi mahdollistaa saumattoman siirtymisen yksittäiskortista laajamittaiseen klusterikoulutukseen;
  • Tarjoa joustava ja helppokäyttöinen henkilökohtainen rinnakkaiskokoonpano;
  • Pystyy automaattisesti suorittamaan topologiatietoisuutta ja integroimaan tehokkaasti datan rinnakkaisuuden ja mallin rinnakkaisuusstrategioita;
  • Aloita yhden tai useamman kortin koulutus, hienosäätö, arviointi ja päättelyprosessit mitä tahansa tehtävää varten yhdellä napsautuksella;
  • Tukea käyttäjiä määrittämään minkä tahansa moduulin komponenttimuodossa, kuten optimoija, oppimisstrategia, verkkokokoonpano jne.;
  • Tarjoaa korkean tason helppokäyttöiset käyttöliittymät, kuten Trainer, pipeline ja AutoClass;
  • Tarjoaa esiasetettujen SOTA-painojen automaattiset lataus- ja lataustoiminnot;
  • Tuetaan tekoälyn laskentakeskusten saumatonta siirtymistä ja käyttöönottoa;

Mindspore suuri mallialusta (mindspore.cn)

mindformers: MindSpore Transformers -ohjelmistopaketin tavoitteena on rakentaa koko prosessiohjelmisto laajalle mallikoulutukselle, päättelylle ja käyttöönotolle: tarjota alan valtavirran Transformer-tyyppisiä esikoulutusmalleja, jotka kattavat runsaasti rinnakkaisia ​​ominaisuuksia. Toivomme voivamme auttaa käyttäjiä helposti toteuttamaan laajan mallikoulutuksen. Dokumentaatio: https://mindformers.readthedocs.io/zh-cn/latest/ (gitee.com)

1. Asennus

Asenna git ensin Linux Ubuntu -ympäristöön

sudo apt install git

Hanki mielenmuodostajia

git clone -b r1.1.0 https://gitee.com/mindspore/mindformers.git

Anna hakemisto suorittaaksesi komentosarjan

cd mindformers
bash build.sh

Tämän skriptin on asennettava python setuptools -kirjasto ja suoritettava linkissä oleva komento

Ei moduulia nimeltä 'distutils.cmd_ei moduulia nimeltä 'distutils.cmd-CSDN博客

sudo apt-get install python3.7-distutils   3.7

Python-version on oltava vähintään 3.7, suosittelen 3.9:n asentamista

Ubuntu päivittää Pythonin versioon 3.7_apt-get updates python3.7-CSDN -blogi

python3

Kirjoita "exit()" palataksesi normaaliin komentorivitilaan

build.h voi ilmoittaa virheestä VIRHE: Virheellinen vaatimus: 'mindformers*whl'

Muuta skriptin python muotoon python3

Paina Esc ja kirjoita ":wq!" tallentaaksesi ja poistuaksesi.

juokse uudestaan

bash build.sh

Suorita onnistuneesti ja asennus on valmis.

Joskus tarvitaan erilaisia ​​Python-versioita. Huomaa, että python3 on erilainen kuin python. Muistaakseni se on myös konfiguroitavissa.

  1. whereis python3
  2. rm /usr/bin/python3
  3. ln -s /usr/bin/python3.9 /usr/bin/python3

Jos se on 3.9

sudo apt-get install python3.9-distutils   3.9