[Deep Learning] Stimmungsanalyse: Eine Methode basierend auf Textklassifizierung und Stimmungsvorhersage

In diesem Artikel werden die Grundkonzepte, technischen Prinzipien und Methoden der Stimmungsanalyse vorgestellt und erläutert, wie Textklassifizierung und Stimmungsvorhersagetechnologie zur Implementierung der Stimmungsanalyse verwendet werden. Wir werden anhand tatsächlicher Codebeispiele zeigen, wie man mit Python und verwandten Bibliotheken Stimmungsanalysemodelle erstellt und diese in realen Szenarien anwendet.

1. Einführung in die Stimmungsanalyse

1.1. Definition und Anwendungsszenarien

Die Stimmungsanalyse ist ein wichtiger Zweig im Bereich der Verarbeitung natürlicher Sprache, der hauptsächlich die emotionale Einstellung des Autors des Textes beurteilt, indem er die subjektiven Informationen im Text auswertet. Zu den Anwendungsszenarien gehören Filmrezensionen, Produktrezensionen, Überwachung der öffentlichen Meinung in sozialen Medien usw.

1.2. Arten der Stimmungsanalyse

Die Stimmungsanalyse kann in drei Ebenen unterteilt werden: Wortebene, Satzebene und Textebene. Gemäß der Emotionsklassifizierung kann sie in die Emotionspolaritätsklassifizierung (positiv, negativ) und die Emotionskategorieklassifizierung (wie Emotion, Trauer, Freude usw.) unterteilt werden.

2. Deep-Learning-Methoden und -Modelle

2.1. Rekurrentes neuronales Netzwerk (RNN)

Rekurrente neuronale Netze können die zeitlichen Eigenschaften von Sequenzdaten erfassen. Bei Stimmungsanalyseaufgaben können RNNs Fernabhängigkeiten im Text erfassen und die Modellleistung verbessern.

2.2. Langes Kurzzeitgedächtnisnetzwerk (LSTM)

LSTM ist eine Variante von RNN, die das Problem des Verschwindens und der Explosion von Gradienten beim Training mit langen Sequenzen durch Einführung eines Gating-Mechanismus löst. LSTMs eignen sich gut für Stimmungsanalyseaufgaben und sind in der Lage, semantische Abhängigkeiten über große Entfernungen zu erfassen.

2.3. Transformator

Transformer ist ein neuronales Netzwerkmodell, das auf dem Selbstaufmerksamkeitsmechanismus basiert. Im Vergleich zu RNN und LSTM kann Transformer Fernabhängigkeiten besser erfassen und weist eine höhere Recheneffizienz auf.

3. Aktuelle Fallanalyse

3.1. Stimmungsanalyse von Filmkritiken

• Datenvorverarbeitung und Merkmalsextraktion: Bereinigen und segmentieren Sie die ursprünglichen Filmrezensionsdaten und konvertieren Sie den Text in eine numerische Darstellung (z. B. Worteinbettung).
• Modellkonstruktion und -schulung: Wählen Sie ein geeignetes Deep-Learning-Modell (z. B. LSTM, Transformer), erstellen Sie ein Stimmungsanalysemodell und trainieren Sie es.
• Modellbewertung und -optimierung: Bewerten Sie die Modellleistung anhand von Indikatoren wie Genauigkeitsrate und F1-Wert und optimieren Sie sie durch Anpassen von Hyperparametern und Verwendung vorab trainierter Modelle.

Hier ist ein Beispiel für den Aufbau eines Stimmungsanalysemodells für Filmrezensionen mit Python und TensorFlow:

import tensorflow as tf
from tensorflow.keras.preprocessing.text import Tokenizer
from tensorflow.keras.preprocessing.sequence import pad_sequences
from tensorflow.keras.models import Sequential
from tensorflow.keras.layers import Embedding, LSTM, Dense, Dropout
from tensorflow.keras.datasets import imdb

# 载入IMDB数据集
(train_data, train_labels), (test_data, test_labels) = imdb.load_data(num_words=10000)

# 设置参数
maxlen = 500
vocab_size = 10000
embedding_dim = 16
trunc_type = 'post'
oov_tok = "<OOV>"

# 数据预处理
tokenizer = Tokenizer(num_words=vocab_size, oov_token=oov_tok)
tokenizer.fit_on_texts(train_data)

train_sequences = tokenizer.texts_to_sequences(train_data)
train_padded = pad_sequences(train_sequences, maxlen=maxlen, truncating=trunc_type)

test_sequences = tokenizer.texts_to_sequences(test_data)
test_padded = pad_sequences(test_sequences, maxlen=maxlen, truncating=trunc_type)

# 构建LSTM模型
model = Sequential([
    Embedding(vocab_size, embedding_dim, input_length=maxlen),
    LSTM(64, return_sequences=True),
    Dropout(0.5),
    LSTM(64),
    Dense(1, activation='sigmoid')
])

# 编译和训练模型
model.compile(loss='binary_crossentropy', optimizer='adam', metrics=['accuracy'])
model.summary()

history = model.fit(
    train_padded, train_labels,
    epochs=5,
    validation_data=(test_padded, test_labels),
    verbose=1
)

# 模型评估
loss, accuracy = model.evaluate(test_padded, test_labels)
print("Test Loss: ", loss)
print("Test Accuracy: ", accuracy)

In diesem Beispiel verwenden wir den IMDB-Datensatz, der 50.000 Filmrezensionen enthält, von denen 25.000 für Schulungen und 25.000 für Tests verwendet werden. Wir kodieren den Text mit einem Tokenizer, wandeln den Text in eine Folge von Ganzzahlen um und füllen die Folgen dann mit pad_sequences auf, sodass sie die gleiche Länge haben.

Als Nächstes erstellen wir ein LSTM-Modell, einschließlich einer Einbettungsschicht, zwei LSTM-Schichten und einer vollständig verbundenen Ausgabeschicht. Wir verwenden die binäre Kreuzentropieverlustfunktion (binary_crossentropy), um das Modell zu kompilieren und verwenden den Adam-Optimierer für das Training. Abschließend werten wir die Testdaten aus, um den Verlust und die Genauigkeit des Testsatzes zu ermitteln.

(Wenn es ModuleNotFoundError: No module named 'tensorflow.keras'eine Ausnahme gibt, lesen Sie bitte diesen Artikel, um das Problem zu lösen: https://blog.csdn.net/Zinnir/article/details/125999939 )

3.2. Überwachung der öffentlichen Meinung in sozialen Medien

• Datenvorverarbeitung und Merkmalsextraktion: Vorverarbeitung von Social-Media-Daten, einschließlich Entfernung von Stoppwörtern, Wortsegmentierung und Merkmalsextraktion.
• Modellaufbau und Training: Wählen Sie entsprechend den Aufgabenanforderungen ein geeignetes Deep-Learning-Modell (z. B. LSTM, Transformer) aus und führen Sie das Training durch.
• Modellbewertung und -optimierung: Bewerten Sie die Modellleistung und optimieren Sie das Modell entsprechend den tatsächlichen Anforderungen, z. B. durch Anpassen der Modellstruktur, Hyperparameter usw.

In diesem Beispiel verwenden wir Python und das BERT-Modell zur Überwachung der Stimmung in sozialen Medien mithilfe der Transformers-Bibliothek von Hugging Face.

!pip install transformers

import numpy as np
import pandas as pd
from transformers import AutoTokenizer, AutoModelForSequenceClassification, pipeline
from sklearn.model_selection import train_test_split
from sklearn.metrics import accuracy_score, classification_report

# 加载数据（这里我们假设已经有一个包含评论内容和标签的CSV文件）
data = pd.read_csv('social_media_comments.csv')
texts = data['content'].values
labels = data['sentiment'].values

# 划分训练集和测试集
train_texts, test_texts, train_labels, test_labels = train_test_split(texts, labels, test_size=0.2, random_state=42)

# 加载预训练的BERT模型和分词器
model_name = 'bert-base-uncased'
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForSequenceClassification.from_pretrained(model_name, num_labels=2)

# 数据预处理
train_encodings = tokenizer(train_texts, padding=True, truncation=True, return_tensors='pt')
test_encodings = tokenizer(test_texts, padding=True, truncation=True, return_tensors='pt')

# 准备PyTorch数据集
class SentimentDataset(torch.utils.data.Dataset):
    def __init__(self, encodings, labels):
        self.encodings = encodings
        self.labels = labels

    def __getitem__(self, idx):
        item = {
    
    key: torch.tensor(val[idx]) for key, val in self.encodings.items()}
        item['labels'] = torch.tensor(self.labels[idx])
        return item

    def __len__(self):
        return len(self.labels)

train_dataset = SentimentDataset(train_encodings, train_labels)
test_dataset = SentimentDataset(test_encodings, test_labels)

# 训练模型
from transformers import Trainer, TrainingArguments

training_args = TrainingArguments(
    output_dir='./results',
    num_train_epochs=3,
    per_device_train_batch_size=8,
    per_device_eval_batch_size=8,
    logging_dir='./logs',
)

trainer = Trainer(
    model=model,
    args=training_args,
    train_dataset=train_dataset,
    eval_dataset=test_dataset,
)

trainer.train()

# 评估模型
predictions = trainer.predict(test_dataset).predictions
predicted_labels = np.argmax(predictions, axis=1)

print("Accuracy: ", accuracy_score(test_labels, predicted_labels))
print(classification_report(test_labels, predicted_labels))

# 使用模型进行实时舆情监控
sentiment_pipeline = pipeline('sentiment-analysis', model=model, tokenizer=tokenizer)

sample_text = "I'm really enjoying this new social media platform!"
result = sentiment_pipeline(sample_text)[0]
print(f"Text: {
      
      sample_text}")
print(f"Sentiment: {
      
      result['label']}, Score: {
      
      result['score']}")

In diesem Beispiel laden wir zunächst eine CSV-Datei mit Social-Media-Kommentaren und Sentiment-Labels und teilen sie in Trainings- und Testsätze auf. Als Nächstes laden wir das vorab trainierte BERT-Modell und den Tokenizer mithilfe der Transformers-Bibliothek von Hugging Face. Wir kodieren die Textdaten und konvertieren sie in einen PyTorch-Datensatz.

TrainerFür das Modelltraining verwenden wir Klassen aus der Transformers-Bibliothek . Nach dem Training verwenden wir das Modell, um Vorhersagen zum Testsatz zu treffen und die Genauigkeit zu berechnen, um die Modellleistung zu bewerten. Wir geben außerdem einen vollständigen Klassifizierungsbericht aus, um einen detaillierteren Einblick in die Leistung des Modells in verschiedenen Klassen zu erhalten.

Schließlich verwenden wir das trainierte Modell, um eine Echtzeit-Pipeline zur Überwachung der öffentlichen Meinung aufzubauen. Diese Pipeline kann eine Stimmungsanalyse für beliebigen Eingabetext durchführen und dabei Stimmungsbezeichnungen und entsprechende Bewertungen zurückgeben.

So gehen Sie mit dieser Echtzeit-Sentiment-Monitoring-Pipeline mit neuen Social-Media-Kommentaren um:

# 使用模型进行实时舆情监控
sentiment_pipeline = pipeline('sentiment-analysis', model=model, tokenizer=tokenizer)

sample_text1 = "I'm really enjoying this new social media platform!"
result1 = sentiment_pipeline(sample_text1)[0]
print(f"Text: {
      
      sample_text1}")
print(f"Sentiment: {
      
      result1['label']}, Score: {
      
      result1['score']}")

sample_text2 = "I'm very disappointed with the recent changes on this platform."
result2 = sentiment_pipeline(sample_text2)[0]
print(f"Text: {
      
      sample_text2}")
print(f"Sentiment: {
      
      result2['label']}, Score: {
      
      result2['score']}")

sample_text3 = "This update is amazing! I love the new features."
result3 = sentiment_pipeline(sample_text3)[0]
print(f"Text: {
      
      sample_text3}")
print(f"Sentiment: {
      
      result3['label']}, Score: {
      
      result3['score']}")

In diesem Beispiel haben wir das trainierte Modell verwendet, um eine Stimmungsanalyse für drei verschiedene Social-Media-Kommentare durchzuführen. Dieses System zur Überwachung der öffentlichen Meinung in Echtzeit kann problemlos auf praktische Anwendungen ausgeweitet werden und hilft Unternehmen, die Wahrnehmung ihrer Produkte oder Dienstleistungen durch die Benutzer zu verstehen, um fundiertere Entscheidungen zu treffen.

3.3. Analyse der Produktbewertung

• Datenvorverarbeitung und Merkmalsextraktion: Vorverarbeitung von Produktbewertungsdaten, einschließlich Bereinigung, Wortsegmentierung und Merkmalsextraktion (z. B. Worteinbettung).
• Modellkonstruktion und -schulung: Wählen Sie ein geeignetes Deep-Learning-Modell (z. B. LSTM, Transformer), erstellen Sie ein Stimmungsanalysemodell und trainieren Sie es.
• Modellbewertung und -optimierung: Bewerten Sie die Modellleistung anhand von Indikatoren wie Genauigkeitsrate und F1-Wert und optimieren Sie sie entsprechend den Geschäftsanforderungen, z. B. durch Anpassen von Hyperparametern und Einführen vorab trainierter Modelle.

In diesem Abschnitt beschreiben wir, wie Sie mithilfe von Deep-Learning-Methoden eine Stimmungsanalyse für Produktbewertungen durchführen. Als Beispiel verwenden wir den Datensatz „Amazon Product Reviews“, der Bewertungen von Produkten in verschiedenen Kategorien enthält. Wir werden das vorab trainierte BERT-Modell als Grundlage verwenden, um ein Modell zu erstellen, das in der Lage ist, eine Stimmungsanalyse für Produktbewertungen durchzuführen.

import pandas as pd
from sklearn.model_selection import train_test_split
from transformers import BertTokenizer, BertForSequenceClassification
from transformers import Trainer, TrainingArguments

# 1. 加载数据集
data = pd.read_csv("amazon_reviews_sample.csv")
reviews = data['review_text'].tolist()
labels = data['sentiment'].tolist()

# 2. 划分训练集和测试集
train_reviews, test_reviews, train_labels, test_labels = train_test_split(reviews, labels, test_size=0.2, random_state=42)

# 3. 使用预训练的BERT模型和分词器
tokenizer = BertTokenizer.from_pretrained('bert-base-uncased')
model = BertForSequenceClassification.from_pretrained('bert-base-uncased', num_labels=2)

# 4. 对数据进行分词
train_encodings = tokenizer(train_reviews, truncation=True, padding=True)
test_encodings = tokenizer(test_reviews, truncation=True, padding=True)

# 5. 创建数据集对象
train_dataset = Dataset(train_encodings, train_labels)
test_dataset = Dataset(test_encodings, test_labels)

# 6. 定义训练参数
training_args = TrainingArguments(
    output_dir='./results',
    num_train_epochs=2,
    per_device_train_batch_size=16,
    per_device_eval_batch_size=16,
    warmup_steps=500,
    weight_decay=0.01,
    logging_dir='./logs',
    logging_steps=100,
    evaluation_strategy="steps",
    eval_steps=500
)

# 7. 创建训练器
trainer = Trainer(
    model=model,
    args=training_args,
    train_dataset=train_dataset,
    eval_dataset=test_dataset
)

# 8. 开始训练
trainer.train()

# 9. 评估模型性能
eval_results = trainer.evaluate()
print(eval_results)

Dieses Beispiel zeigt, wie ein vorab trainiertes BERT-Modell verwendet wird, um eine Stimmungsanalyse für den Amazon Product Reviews-Datensatz durchzuführen. Wir haben zuerst den Datensatz geladen und dann die Daten vorverarbeitet, einschließlich der Wortsegmentierung und der Erstellung von Datensatzobjekten. Als nächstes definieren wir die Trainingsparameter und erstellen das Trainerobjekt. Wir haben das Modell mit dem Trainer trainiert und die Modellleistung am Testsatz bewertet.

Dieses Modell kann auf praktische Anwendungen ausgeweitet werden, um Unternehmen dabei zu helfen, die Produktbewertungen der Verbraucher besser zu verstehen und so Produkte zu optimieren und die Benutzerzufriedenheit zu verbessern.

4. Zusammenfassung

Die Stimmungsanalyse ist eine wichtige Aufgabe im Bereich der Verarbeitung natürlicher Sprache. In diesem Artikel werden die Grundkonzepte der Stimmungsanalyse, Deep-Learning-Methoden und praktische Fallstudien vorgestellt. Die Stimmungsanalyse mithilfe von Deep-Learning-Modellen (wie RNN, LSTM und Transformer) kann in mehreren Anwendungsszenarien (wie Filmrezensionen, Überwachung der öffentlichen Meinung in sozialen Medien und Analyse von Produktrezensionen) eine bessere Leistung erzielen.