TechCodeview

• Der Naive-Bayes-Algorithmus ist ein überwachter Lernalgorithmus, der auf basiert Satz von Bayes und zur Lösung von Klassifizierungsproblemen verwendet.
• Es wird hauptsächlich verwendet in Textklassifizierung Dazu gehört ein hochdimensionaler Trainingsdatensatz.
• Der Naive Bayes Classifier ist einer der einfachsten und effektivsten Klassifizierungsalgorithmen, der beim Aufbau schneller Modelle für maschinelles Lernen hilft, die schnelle Vorhersagen treffen können.
Es handelt sich um einen probabilistischen Klassifikator, das heißt, er prognostiziert auf der Grundlage der Wahrscheinlichkeit eines Objekts.
• Einige beliebte Beispiele für den Naiven Bayes-Algorithmus sind: Spam-Filterung, sentimentale Analyse und Klassifizierung von Artikeln .

Warum heißt es Naive Bayes?

Der Naive-Bayes-Algorithmus besteht aus den beiden Wörtern Naive und Bayes, die wie folgt beschrieben werden können:

Naiv: Es wird als naiv bezeichnet, weil es davon ausgeht, dass das Auftreten eines bestimmten Merkmals unabhängig vom Auftreten anderer Merkmale ist. Wenn die Frucht beispielsweise anhand von Farbe, Form und Geschmack identifiziert wird, werden rote, kugelförmige und süße Früchte als Apfel erkannt. Daher trägt jedes Merkmal einzeln dazu bei, zu erkennen, dass es sich um einen Apfel handelt, ohne voneinander abhängig zu sein.Bayes: Es wird Bayes genannt, weil es auf dem Prinzip des Satzes von Bayes beruht.

Satz von Bayes:

• Der Satz von Bayes ist auch bekannt als Bayes-Regel oder Bayes'sches Gesetz , die dazu dient, die Wahrscheinlichkeit einer Hypothese mit Vorwissen zu bestimmen. Es kommt auf die bedingte Wahrscheinlichkeit an.
• Die Formel für den Satz von Bayes lautet:

Wo,

P(A|B) ist die Posterior-Wahrscheinlichkeit : Wahrscheinlichkeit der Hypothese A zum beobachteten Ereignis B.

P(B|A) ist die Likelihood-Wahrscheinlichkeit : Wahrscheinlichkeit des Beweises, vorausgesetzt, dass die Wahrscheinlichkeit einer Hypothese wahr ist.

P(A) ist die A-priori-Wahrscheinlichkeit : Wahrscheinlichkeit einer Hypothese vor Beobachtung der Beweise.

P(B) ist die Grenzwahrscheinlichkeit : Beweiswahrscheinlichkeit.

Funktionsweise des Naive-Bayes-Klassifikators:

Die Funktionsweise des Naive-Bayes-Klassifikators lässt sich anhand des folgenden Beispiels verstehen:

Angenommen, wir haben einen Datensatz von Wetterverhältnisse und entsprechende Zielvariable ' Spielen '. Anhand dieses Datensatzes müssen wir also entscheiden, ob wir an einem bestimmten Tag entsprechend den Wetterbedingungen spielen sollen oder nicht. Um dieses Problem zu lösen, müssen wir die folgenden Schritte ausführen:

1. Konvertieren Sie den angegebenen Datensatz in Häufigkeitstabellen.
2. Erstellen Sie eine Wahrscheinlichkeitstabelle, indem Sie die Wahrscheinlichkeiten bestimmter Merkmale ermitteln.
3. Verwenden Sie nun den Satz von Bayes, um die A-posteriori-Wahrscheinlichkeit zu berechnen.

Problem : Wenn das Wetter sonnig ist, sollte der Spieler dann spielen oder nicht?

Lösung : Um dieses Problem zu lösen, betrachten Sie zunächst den folgenden Datensatz:

Häufigkeitstabelle für die Wetterbedingungen:

Wahrscheinlichkeitstabelle Wetterbedingungen:

Anwendung des Bayes-Theorems:

P(Ja|Sonnig)= P(Sonnig|Ja)*P(Ja)/P(Sonnig)

P(Sonnig|Ja)= 3/10= 0,3

statische Funktion in Java

P(Sonnig)= 0,35

P(Ja)=0,71

Also P(Ja|Sonnig) = 0,3*0,71/0,35= 0,60

P(Nein|Sonnig)= P(Sonnig|Nein)*P(Nein)/P(Sonnig)

P(Sonnig|NEIN)= 2/4=0,5

P(Nein)= 0,29

P(Sonnig)= 0,35

Also P(Nein|Sonnig)= 0,5*0,29/0,35 = 0,41

Wie wir aus der obigen Berechnung sehen können P(Ja|Sonnig)>P(Nein|Sonnig)

Daher kann der Spieler das Spiel an einem sonnigen Tag spielen.

Vorteile des Naiven Bayes-Klassifikators:

• Naive Bayes ist einer der schnellen und einfachen ML-Algorithmen zur Vorhersage einer Klasse von Datensätzen.
• Es kann sowohl für binäre als auch für mehrklassige Klassifizierungen verwendet werden.
• Im Vergleich zu den anderen Algorithmen schneidet es bei Mehrklassenvorhersagen gut ab.
• Es ist die beliebteste Wahl für Probleme bei der Textklassifizierung .

Nachteile des Naiven Bayes-Klassifikators:

• Naive Bayes geht davon aus, dass alle Merkmale unabhängig oder nicht miteinander verbunden sind, sodass die Beziehung zwischen Merkmalen nicht erlernt werden kann.

Anwendungen des Naiven Bayes-Klassifikators:

• Es wird genutzt für Kreditwürdigkeit .
• Es wird verwendet in Klassifizierung medizinischer Daten .
• Es kann in verwendet werden Echtzeitvorhersagen weil der Naive Bayes Classifier ein eifriger Lerner ist.
• Es wird bei der Textklassifizierung verwendet, z Spam-Filterung Und Stimmungsanalyse .

Arten des naiven Bayes-Modells:

Es gibt drei Arten von Naive-Bayes-Modellen, die im Folgenden aufgeführt sind:

Gauß: Das Gaußsche Modell geht davon aus, dass Merkmale einer Normalverteilung folgen. Das heißt, wenn Prädiktoren kontinuierliche statt diskrete Werte annehmen, geht das Modell davon aus, dass diese Werte aus der Gaußschen Verteilung entnommen werden.Multinomial: Der Multinomial Naive Bayes-Klassifikator wird verwendet, wenn die Daten multinomial verteilt sind. Es wird hauptsächlich für Probleme bei der Klassifizierung von Dokumenten verwendet. Es bedeutet, dass ein bestimmtes Dokument zu welcher Kategorie gehört, z. B. Sport, Politik, Bildung usw.
Der Klassifikator verwendet die Häufigkeit von Wörtern für die Prädiktoren.Bernoulli: Der Bernoulli-Klassifikator funktioniert ähnlich wie der Multinomial-Klassifikator, aber die Prädiktorvariablen sind unabhängige boolesche Variablen. Beispielsweise ob ein bestimmtes Wort in einem Dokument vorhanden ist oder nicht. Dieses Modell ist auch für Dokumentenklassifizierungsaufgaben bekannt.

Python-Implementierung des Naive Bayes-Algorithmus:

Jetzt werden wir einen Naive-Bayes-Algorithmus mit Python implementieren. Dafür verwenden wir also das ' Benutzerdaten ' Datensatz , das wir in unserem anderen Klassifizierungsmodell verwendet haben. Daher können wir das Naive-Bayes-Modell problemlos mit den anderen Modellen vergleichen.

Schritte zur Implementierung:

• Datenvorverarbeitungsschritt
• Anpassung von Naive Bayes an das Trainingsset
• Vorhersage des Testergebnisses
• Testgenauigkeit des Ergebnisses (Erstellung einer Verwirrungsmatrix)
• Visualisierung des Testsatzergebnisses.

1) Datenvorverarbeitungsschritt:

In diesem Schritt werden wir die Daten vorverarbeiten/vorbereiten, damit wir sie effizient in unserem Code verwenden können. Es ist ähnlich wie bei der Datenvorverarbeitung. Der Code hierfür ist unten angegeben:

string.substring Java

 Importing the libraries import numpy as nm import matplotlib.pyplot as mtp import pandas as pd # Importing the dataset dataset = pd.read_csv('user_data.csv') x = dataset.iloc[:, [2, 3]].values y = dataset.iloc[:, 4].values # Splitting the dataset into the Training set and Test set from sklearn.model_selection import train_test_split x_train, x_test, y_train, y_test = train_test_split(x, y, test_size = 0.25, random_state = 0) # Feature Scaling from sklearn.preprocessing import StandardScaler sc = StandardScaler() x_train = sc.fit_transform(x_train) x_test = sc.transform(x_test) 

Im obigen Code haben wir den Datensatz mit „ dataset = pd.read_csv('user_data.csv') . Der geladene Datensatz wird in Trainings- und Testsatz unterteilt, und dann haben wir die Feature-Variable skaliert.

Die Ausgabe für den Datensatz ist wie folgt:

2) Anpassung von Naive Bayes an das Trainingsset:

Nach dem Vorverarbeitungsschritt passen wir nun das Naive Bayes-Modell an den Trainingssatz an. Unten ist der Code dafür:

 # Fitting Naive Bayes to the Training set from sklearn.naive_bayes import GaussianNB classifier = GaussianNB() classifier.fit(x_train, y_train) 

Im obigen Code haben wir verwendet Gaußscher NB-Klassifikator um es an den Trainingsdatensatz anzupassen. Wir können gemäß unseren Anforderungen auch andere Klassifikatoren verwenden.

Ausgabe:

 Out[6]: GaussianNB(priors=None, var_smoothing=1e-09) 

3) Vorhersage des Testsatzergebnisses:

Jetzt werden wir das Ergebnis des Testsatzes vorhersagen. Dazu erstellen wir eine neue Prädiktorvariable y_pred und wird die Vorhersagefunktion verwenden, um die Vorhersagen zu treffen.

 # Predicting the Test set results y_pred = classifier.predict(x_test) 

Ausgabe:

Die obige Ausgabe zeigt das Ergebnis für den Vorhersagevektor y_pred und realer Vektor y_test. Wir können sehen, dass einige Vorhersagen von den tatsächlichen Werten abweichen, bei denen es sich um falsche Vorhersagen handelt.

4) Verwirrungsmatrix erstellen:

Jetzt überprüfen wir die Genauigkeit des Naive Bayes-Klassifikators mithilfe der Verwirrungsmatrix. Unten ist der Code dafür:

 # Making the Confusion Matrix from sklearn.metrics import confusion_matrix cm = confusion_matrix(y_test, y_pred) 

Ausgabe:

Wie wir in der obigen Ausgabe der Verwirrungsmatrix sehen können, gibt es 7+3=10 falsche Vorhersagen und 65+25=90 richtige Vorhersagen.

5) Visualisierung des Trainingssatzergebnisses:

Als nächstes visualisieren wir das Ergebnis des Trainingssatzes mit dem Naive Bayes Classifier. Unten ist der Code dafür:

 # Visualising the Training set results from matplotlib.colors import ListedColormap x_set, y_set = x_train, y_train X1, X2 = nm.meshgrid(nm.arange(start = x_set[:, 0].min() - 1, stop = x_set[:, 0].max() + 1, step = 0.01), nm.arange(start = x_set[:, 1].min() - 1, stop = x_set[:, 1].max() + 1, step = 0.01)) mtp.contourf(X1, X2, classifier.predict(nm.array([X1.ravel(), X2.ravel()]).T).reshape(X1.shape), alpha = 0.75, cmap = ListedColormap(('purple', 'green'))) mtp.xlim(X1.min(), X1.max()) mtp.ylim(X2.min(), X2.max()) for i, j in enumerate(nm.unique(y_set)): mtp.scatter(x_set[y_set == j, 0], x_set[y_set == j, 1], c = ListedColormap(('purple', 'green'))(i), label = j) mtp.title('Naive Bayes (Training set)') mtp.xlabel('Age') mtp.ylabel('Estimated Salary') mtp.legend() mtp.show() 

Ausgabe:

In der obigen Ausgabe können wir sehen, dass der Naive Bayes-Klassifikator die Datenpunkte mit der feinen Grenze getrennt hat. Es ist die Gaußsche Kurve, wie wir sie verwendet haben GaussianNB Klassifikator in unserem Code.

6) Visualisierung des Testsatzergebnisses:

 # Visualising the Test set results from matplotlib.colors import ListedColormap x_set, y_set = x_test, y_test X1, X2 = nm.meshgrid(nm.arange(start = x_set[:, 0].min() - 1, stop = x_set[:, 0].max() + 1, step = 0.01), nm.arange(start = x_set[:, 1].min() - 1, stop = x_set[:, 1].max() + 1, step = 0.01)) mtp.contourf(X1, X2, classifier.predict(nm.array([X1.ravel(), X2.ravel()]).T).reshape(X1.shape), alpha = 0.75, cmap = ListedColormap(('purple', 'green'))) mtp.xlim(X1.min(), X1.max()) mtp.ylim(X2.min(), X2.max()) for i, j in enumerate(nm.unique(y_set)): mtp.scatter(x_set[y_set == j, 0], x_set[y_set == j, 1], c = ListedColormap(('purple', 'green'))(i), label = j) mtp.title('Naive Bayes (test set)') mtp.xlabel('Age') mtp.ylabel('Estimated Salary') mtp.legend() mtp.show() 

Ausgabe:

Die obige Ausgabe ist die endgültige Ausgabe für Testsatzdaten. Wie wir sehen können, hat der Klassifikator eine Gaußsche Kurve erstellt, um die Variablen „gekauft“ und „nicht gekauft“ zu unterteilen. Es gibt einige falsche Vorhersagen, die wir in der Verwirrungsmatrix berechnet haben. Aber es ist immer noch ein ziemlich guter Klassifikator.