Κοινή χρήση τεχνολογίας

한어Русский языкEnglishFrançaisIndonesianSanskrit日本語DeutschPortuguêsΕλληνικάespañolItalianoSuomalainenLatina

1. Λειτουργία ενεργοποίησης σιγμοειδούς:

Η συνάρτηση Sigmoid είναι μια σημαντική συνάρτηση ενεργοποίησης για την κατασκευή ενός μοντέλου λογιστικής παλινδρόμησης, όπως φαίνεται στο παρακάτω σχήμα.

• δύοΟ στόχος του προβλήματος ταξινόμησης είναι να ελέγξει την έξοδο του μοντέλου εντός της περιοχής [0,1], όταν το αποτέλεσμα εξόδου του μοντέλου είναι <0,5, το προεπιλεγμένο αποτέλεσμα πρόβλεψης είναι 0, όταν το αποτέλεσμα εξόδου του μοντέλου είναι >0,5, το προεπιλεγμένο αποτέλεσμα πρόβλεψης είναι 1.
• Η ιδέα για την επίλυση του προβλήματος δυαδικής ταξινόμησης είναι να χαρτογραφηθεί η είσοδος x του προβλήματος δυαδικής ταξινόμησης στην είσοδο z της συνάρτησης Sigmoid κατασκευάζοντας ένα μοντέλο λογιστικής παλινδρόμησης f για τον υπολογισμό της εξόδου g και στη συνέχεια να λάβουμε το αποτέλεσμα του μοντέλου λογιστικής παλινδρόμησης με βάση το εύρος του g (αν είναι μεγαλύτερο από 0,5) ( Δηλαδή, το αποτέλεσμα ενός προβλήματος δύο ταξινομήσεων).
• Το πεδίο ορισμού της συνάρτησης ∈ R, το εύρος τιμών ∈ [0,1], ότανΕισαγάγετε z<0Πότε, Σογμοειδής συνάρτησηΑποτέλεσμα εξόδου g<0,5,Η προεπιλογή είναιΤο αποτέλεσμα είναι 0,απαρτίζωΗ πρώτη κατηγορία του προβλήματος δυαδικής ταξινόμησης .πότεΕισαγάγετε z>0Πότε, Σογμοειδής συνάρτησηΑποτέλεσμα εξόδου g>0,5,Η προεπιλογή είναιΤο αποτέλεσμα είναι 1,απαρτίζωΗ δεύτερη κατηγορία του προβλήματος δυαδικής ταξινόμησης。

2. Εισαγωγή στην λογιστική παλινδρόμηση:

Η λογιστική παλινδρόμηση χρησιμοποιείται για την επίλυσηΔύο προβλήματα ταξινόμησης . Για προβλήματα ταξινόμησης, υπάρχει μόνο ένας περιορισμένος αριθμός αποτελεσμάτων εξόδου από το μοντέλο (για προβλήματα παλινδρόμησης, υπάρχουν άπειρα).Στο πρόβλημα της δυαδικής ταξινόμησης, υπάρχουν μόνο δύο αποτελέσματα εξόδου του μοντέλου.

Στην κλασική περίπτωση του προβλήματος παλινδρόμησης "Περίπτωση πρόβλεψης όγκου", το χαρακτηριστικό μεγέθους όγκου χρησιμοποιείται για να προβλέψει εάν ο όγκος είναι κακοήθης όγκος Υπάρχουν μόνο δύο αποτελέσματα: ναι (1) ή όχι (0).

Αυτή τη στιγμή, είναι δύσκολο να προσαρμοστεί το σετ εκπαίδευσης χρησιμοποιώντας ένα μοντέλο γραμμικής παλινδρόμησης.(Η γραμμική παλινδρόμηση λύνει ένα πρόβλημα παλινδρόμησης, ενώ η περίπτωση πρόβλεψης όγκου είναι ένα πρόβλημα ταξινόμησης ή ένα πρόβλημα δυαδικής ταξινόμησης για την ακρίβεια), έτσι προτάθηκε η ιδέα της λογιστικής παλινδρόμησης.

Μοντέλο λογιστικής παλινδρόμησης (επίλυση προβλημάτων ταξινόμησης): εισάγετε ένα χαρακτηριστικό ή σύνολο χαρακτηριστικών X και εξάγετε έναν αριθμό μεταξύ 0 και 1 , όπου η καμπύλη προσαρμογής κατασκευάζεται μέσω της συνάρτησης Sogmoid. Η συγκεκριμένη διαδικασία κατασκευής έχει ως εξής:

• Η πρώτη γραμμή εξηγεί:Μοντέλο λογιστικής παλινδρόμησηςΚατασκευάστε συνγραμμική παλινδρόμηση κατάΣύνολο χαρακτηριστικών εισόδου X και αποτέλεσμα πρόβλεψης εξόδου f, η διαφορά είναι ότιΕύρος τιμών f∈[0,1]。
• Επεξήγηση της δεύτερης, τρίτης και τέταρτης γραμμής: Προηγουμένως εισαγάγαμε ότι η έξοδος g της συνάρτησης Sigmoid μπορεί να λύσει πολύ καλά το πρόβλημα της δύο ταξινόμησης, επομένως χρησιμοποιήσαμε έξυπνα τη συνάρτηση Sigmoid για να δημιουργήσουμε το μοντέλο λογιστικής παλινδρόμησης f για να λύσουμε το πρόβλημα δύο πρόβλημα ταξινόμησης.Αντιστοιχίστε το σύνολο χαρακτηριστικών εισόδου X στην είσοδο z της συνάρτησης Sigmoid χρησιμοποιώντας γραμμική παλινδρόμηση ή πολυωνυμική παλινδρόμηση，Υλοποιήστε την έξοδο της συνάρτησης Sigmoid，Στη συνέχεια, υπολογίστε την έξοδο f (0 ή 1) του μοντέλου λογιστικής παλινδρόμησης με βάση το εάν το αποτέλεσμα εξόδου της συνάρτησης Sigmoid είναι μεγαλύτερο από 0,5., λάβετε το αποτέλεσμα του προβλήματος των δύο ταξινομήσεων.
• Επεξήγηση της πέμπτης γραμμής: Οι παραπάνω ιδέες μπορούν να ενσωματωθούν για να ληφθεί το μοντέλο λογιστικής παλινδρόμησης f, στο οποίο η είσοδος του μοντέλου είναι το σύνολο χαρακτηριστικών X και η έξοδος είναι το προβλεπόμενο αποτέλεσμα της ταξινόμησης 0 ή 1.
• Επεξήγηση της έκτης γραμμής: Όταν το αποτέλεσμα εξόδου του μοντέλου λογιστικής παλινδρόμησης είναι μεγαλύτερο ή ίσο με 0,5, η προβλεπόμενη τιμή y^ είναι 1, που σημαίνει ότι ο όγκος είναι κακοήθης όγκος στο παραπάνω παράδειγμα το μοντέλο λογιστικής παλινδρόμησης είναι μικρότερο ή ίσο με 0,5, Η προβλεπόμενη τιμή είναι 0, που σημαίνει ότι ο όγκος δεν είναι κακοήθης, χρησιμοποιώντας το παραπάνω παράδειγμα.

3. Όρια απόφασης

Δεν είναι δύσκολο να κατανοήσουμε από τα παραπάνω ότι όταν η είσοδος z της συνάρτησης Sigmoid είναι μεγαλύτερη ή ίση με 0, δηλαδή όταν η αντιστοίχιση z=wx+b του συνόλου χαρακτηριστικών X έως z είναι μεγαλύτερη ή ίση με 0, το αποτέλεσμα εξόδου του μοντέλου είναι 1 όταν η είσοδος z της συνάρτησης Sigmoid είναι μικρότερη από Όταν 0, δηλαδή, όταν η αντιστοίχιση z=wx+b από το σύνολο χαρακτηριστικών X σε z είναι μικρότερη από 0, το αποτέλεσμα εξόδου. του μοντέλου είναι 0.
Αυτή είναι η έννοια με την οποία μπορούμε να καταλήξουμε στα όρια απόφασης:Η εξίσωση που κάνει την αντιστοίχιση της εισόδου του μοντέλου X στην είσοδο της συνάρτησης σιγμοειδούς z ίση με 0 ονομάζεται όριο απόφασης.

Λαμβάνοντας ως παράδειγμα το παραπάνω μοντέλο πρόβλεψης όγκου, η αντιστοίχιση από την είσοδο του μοντέλου X στην είσοδο της συνάρτησης σιγμοειδούς z είναι z=wx+b, τότε το όριο απόφασης είναι wx+b=0.

Ας χρησιμοποιήσουμε μια εικόνα για να επεξηγήσουμε την έννοια του ορίου απόφασης:

• παράδειγμα 1:χάρτης σε γραμμική συνάρτηση
  
  Το παραπάνω σχήμα δείχνει την πραγματική τιμή της ετικέτας όταν τα χαρακτηριστικά x1 και x2 στο σετ εκπαίδευσης έχουν διαφορετικές τιμές Ο κύκλος αντιπροσωπεύει το αποτέλεσμα ταξινόμησης του δείγματος ως 0 και ο σταυρός αντιπροσωπεύει το αποτέλεσμα ταξινόμησης του δείγματος ως 1.

  Το μοντέλο λογιστικής παλινδρόμησης είναι όπως φαίνεται παραπάνω, όπου η αντιστοίχιση από την είσοδο του μοντέλου X στην είσοδο της συνάρτησης Sigmoid z είναι z=w1x1+w2x2+b και το όριο απόφασης είναι w1x1+w2x2+b=0. Εάν τα αποτελέσματα εκπαίδευσης του μοντέλου είναι w1=1, w2=1, b=-3, το όριο απόφασης είναι x1+x2-3=0 και η εικόνα συνάρτησης του ορίου απόφασης είναι όπως φαίνεται στο παραπάνω σχήμα,Μπορεί να φανεί ότι εάν τα χαρακτηριστικά του δείγματος βρίσκονται στην αριστερή πλευρά του ορίου απόφασης, η πρόβλεψη λογιστικής παλινδρόμησης είναι 0, διαφορετικά είναι 1. Αυτή είναι η έννοια της εικόνας του ορίου απόφασης.

• Παράδειγμα 2:Χάρτης σε πολυωνυμική συνάρτηση
  
  Η αντιστοίχιση από την είσοδο του μοντέλουΗ θέση των χαρακτηριστικών του δείγματος σε σχέση με το όριο απόφασης καθορίζει το αποτέλεσμα πρόβλεψης του δείγματος.

4. Διαδικασία εκπαίδευσης μοντέλου λογιστικής παλινδρόμησης:

Στην πραγματικότητα, είναι το ίδιο με τη διαδικασία εκπαίδευσης γραμμικής παλινδρόμησης, με τη διαφορά ότι το μοντέλο (συνάρτηση) που θα εκπαιδευτεί είναι διαφορετικό.

1. Στόχοι εκπαίδευσης:

2. Παράμετροι προσαρμογής κλίσης καθόδου: