Shengsi 25 dies reprehendo-in castris mentis-ML- Day22-Applicatio praxis linguae naturalis processui-LSTM+CRF sequentiarum annotationis
Hodie LSTM+CRF seriem labelingorum methodi didici. Validum est exemplar quod retiacula neuralis recurrentes componit (RNN) et agros temere conditionales (CRF). et ex parte orationis tagging. Fundamental：
LSTM (Brevis-Term Memoria Long): Ut typum RNN, LSTM longum spatium dependentiae in seriebus discere potest et in notitia praecipuorum seriei temporis notitias capere.
CRF (Conditional Random Field): CRF exemplar est probabilisticum graphium ad discendum clientelas inter titulus, exempli gratia, "magnum" in "Tsinghua University" ad eandem entitatem pertinere ac "Tsing" et "Hua". In basic gradus：
Data preprocessing: Converte sequentia texta in repraesentationes vectoris in verbo, et operationes padding efficies ut omnes sequentia longitudinis habeant.
LSTM modum translitterandi: LSTM retis utere ad vectores encode verbo et repraesentationem internam sequentis extrahere.
CRF decoding: CRF exemplar utere ut praedicem pittacium uniuscuiusque verbi innixa dependentia inter LSTM output et pittacium.
Exemplar disciplina: Negative log-probabilius utere amissionem functionis ad exemplar disciplinae et optimize exemplar parametri. exemplum： Cum entitatem agnitionis ut exemplum nominat, initus series est "Tsinghua University in capitali Beijing" sita. Exemplar LSTM+CRF titulum cuiusque verbi praedicet. LOC (initium ens) et "I-LOC" (ens internum), dum "Beijing" notabitur ut "B-LOC". Code supplicium processus：
Import bibliotheca: Inferre bibliothecam MindSpore et modulorum cognatorum.
Define CRF accumsan: Exsequendam anteriorem institutionem et partem CRF iacuit decoding, incluso calculo Score et Normalizer calculi.
Define exemplum: LSTM+CRF exemplar aedifica, LSTM et CRF stratis coniungens.
notitia praeparatio: Datas disciplinas generare et notitias praeprocessiones conficere, inter textum convertendum in vectores verbi, padding et alias operationes.
Exemplar disciplina: Optimis utere ad exemplar disciplinae et optimize parametri exemplar.
Exemplar iudicium: Utere test notitias ad exemplar faciendum aestimare, ut accurate computare, revocare et aliis indicibus. Application missiones： LSTM+CRF series labeling modus applicari potest ad varias series deflectentium difficultates, ut:
Recognitio nomine ens: Identitatem entia in textu, ut nomina hominum, locorum, institutionum, etc.
pars orationis tagging: Animadverte partem orationis ad singula verba in textu, ut nomina, verba, adiectiva, etc.
res extractionem: Extract res notitias e textu, ut tempus, locus, persona, eventus, genus, etc. medicinae applications： LSTM+CRF annotationem sequentem methodus late etiam in re medica usus est, ut:
Medical text information extraction: Extract clavium informationes ex monumentis electronicis medicis, litteris medicis et aliis textibus, ut patientis symptomata, nomina medicamentorum, methodorum curationum, etc.
Gene series analysis: Sequentiarum generum examinare et regiones functiones agnoscere in genes, ut coding regiones, regiones non-coding, etc.
Dapibus structura praedictio: Praedicunt tres dimensiones servo structuram ut referat ad consilium medicamento. In summa, LSTM+CRF annotationem sequentem methodus instrumentum validum est, quod variis quaestionibus annotationis sequentiarum applicari potest et in re medica magni ponderis partes agit.
Detailed documenta et signum sunt: [Tencent Documentation] LSTM CRF sequence annotation https://docs.qq.com/pdf/DUm1JdWlxbE5mSHdQ?
