【深度学习

使用强化学习优化深度模型，如DQN（深度Q学习） #生活技巧# #学习技巧# #深度学习技巧#

个人主页：@AI_magician

首页地址： 作者简介：CSDN内容合作伙伴，全栈领域优质创作者。

愿景：旨在与更多热爱电脑的伙伴共同成长！

声明：我目前是大学二年级学生，有兴趣研究人工智能硬件（虽然我还没有开始玩硬件，但是我一直对它很感兴趣！希望你能带给我）

该文章收录专栏

【---《深度剖析机器学习：从原理到应用的全面指南》---]

朴素贝叶斯

贝叶斯算法是一种常用的概率统计方法，它利用贝叶斯定理进行分类和预测。它比计算机早几十年就存在，当时科学家们手工计算，是机器学习的最早形式之一，该算法基于统计学原理，通过已知的先验概率和观测到的数据，更新对事件发生概率的估计。因为有一个强有力的假设，即每个数据特征是独立的，这也是条件独立的前提，也称为“朴素”假设，因此被称为朴素贝叶斯算法。

具体公式推导如下：

贝叶斯定理表达式：

根据贝叶斯定理，我们可以得到如下表达式：

P(A|B)=(P(B|A) * P(A))/P(B) （注意P(B|A)的分母范围不是整体样本，而是P(A)，因此乘以P(A) 相当于全局P(B|A)，其中，

P(A|B) 是事件A 在给定观测数据 B条件下发生的概率（后验概率）。 P(B|A) 是在事件A 发生的情况下观察数据B 的概率（可能性）。 P(A) 是事件A 发生的概率先验。 P(B)是观察数据B的概率。贝叶斯定理的核心思想是通过已知的条件概率和边际概率来计算后验概率。先验概率是在考虑任何观察到的数据之前根据先验知识或经验得出的概率。后验概率是考虑观测数据后根据先验概率和条件概率计算的概率。

朴素贝叶斯分类器：

在朴素贝叶斯分类器中，我们有假设特征之间相互独立，即给定类别的情况下，特征之间是条件独立的。基于这个假设，我们可以将贝叶斯定理重写为：

P(C|X)=(P(X|C) * P(C))/P(X) 其中，

P(C|X) 是在给定观测数据X 的情况下发生C 类的概率（后验概率）。 P(X|C) 是在C 类发生的情况下观察数据X 的概率（可能性）。 P(C)是C类的先验概率。P(X)是观测数据X的概率。具体公式推导：

假设观察到的数据有n个特征，我们可以将数据表示为X=(x, x2, x)，其中x表示第i个特征的值。根据朴素贝叶斯分类器的条件独立性假设，上述表达式可以进一步简化为：

P(C|X)=(P(x|C) * P(x2|C) * . * P(x|C) * P(C))/P(X) 对于分类，我们需要计算每个类别的后验概率P(C|X) ，并选择具有最高后验概率的类别作为预测结果。具体来说，将比较已知的数据中该类别的概率乘以数据中的特征属于该类别的概率，结果就是后验概率。而这个P(X|C) 似然概率需要参数估计，见下一部分。

参数估计：

在实际应用中，我们需要利用训练数据来计算每个概率的估计值。常见的参数估计方法有极大似然估计和贝叶斯估计。（最大似然估计vs贝叶斯估计：谁是朴素贝叶斯的最佳拍档？）最大似然估计：假设训练集包含m个样本，属于类别C的样本数量是m （i {1, 2, k}，k 是类别数）。根据最大似然估计，我们可以得到：

P(C)=m/m

P(x|C)=m(x, C)/m 其中，

P(C)是C类的先验概率。P(x|C)是在类别 C 发生的条件下特征 x 出现的概率（似然）。 m(x, C) 是在训练集中属于类别 C 且特征为 x 的样本个数。假设样本数据是根据属于参数族的某个概率分布生成的。在这个参数化族中，找到一组参数，根据这组参数来最大化样本数据的概率（即似然函数）。这组参数是总体参数的最大似然估计。假设有样本数据，它们是独立同分布的，概率密度函数或概率质量函数为 、是未知参数。那么似然函数为：

目标是找到一组 的值，使得这个似然函数最大（即最大概率）用于最大似然估计：

也就是说：

解这个方程组就可以得到 的极大似然估计。

最大似然估计具有以下主要性质：

当样本量趋于无穷大时，MLE渐近最优，即收敛于真实参数值。MLE不需要事先指定先验分布。对于给定的数据集，MLE 始终存在。 MLE充分利用了数据信息。 MLE 相对容易计算。综上所述，最大似然估计是一种常用且有效的参数估计方法，通过最大化似然函数来找到最有可能产生观测数据的模型参数。它具有渐近最优、无需先验等优点，并且具有良好的理论性质。

贝叶斯估计：贝叶斯估计是对极大似然估计进行修正，以解决可能出现的概率为零的情况。常见的贝叶斯估计方法包括拉普拉斯平滑和Lidstone平滑。贝叶斯估计：

先验概率的估计：贝叶斯估计引入了先验分布、用于对先验概率进行平滑。常见的先验分布包括拉普拉斯平滑和贝叶斯平滑。拉普拉斯平滑将每个类别的出现次数从加上一个常数 ，然后再进行归一化划分，以平滑先验概率的估计。贝叶斯平滑使用更通用的先验分布，例如狄利克雷分布，并通过调整参数来控制平滑程度。条件概率的估计：对于条件概率的估计，我们可以使用类似于先验概率的方法进行平滑。例如，对于每个特征 ，我们可以将每个取值的出现次数加上一个常数 ，然后再进行归一化，以平滑条件概率的估计。贝叶斯估计器比最大似然估计器的优势在于它可以通过引入先验分布来减小估计的偏差,** 并在数据较少时提供更稳定的估计结果。 **然而，贝叶斯估计也引入了一些偏差，因为它基于对先验分布的假设。

在实际应用中，我们可以根据数据集的大小和特征的分布情况选择合适的参数估计方法。对于较大的数据集，极大似然估计通常可以提供较好的结果。而对于较小的数据集或特征分布较稀疏的情况，贝叶斯估计可以提供更稳定的估计结果。

这些公式和推导提供了贝叶斯算法的基本原理，但具体应用需要根据实际情况进行调整和优化。

基于朴素贝叶斯算法的生活示例可以是垃圾邮件分类。我们可以使用朴素贝叶斯算法来训练一个模型，该模型可以根据电子邮件的内容将电子邮件分类为垃圾邮件或非垃圾邮件。

具体推导建模步骤如下：

数据准备：收集一批标记为垃圾邮件和非垃圾邮件的样本数据。每个示例数据都包含邮件的内容和标签（垃圾邮件或非垃圾邮件）。数据预处理：预处理电子邮件内容，包括删除停用词、标点符号和数字，将文本转换为小写，以及执行词干或词形还原等操作。特征提取：将每封电子邮件转换为特征向量表示。常见的方法是使用词袋模型（Bag of Words），将每个单词作为一个特征，统计每个单词在邮件中出现的频率。词袋模型是一种常用的文本特征提取方法，它将文本转换为固定长度的向量表示。在词袋模型中，文本被视为一个词袋，其中包含了所有单词，而忽略了它们的顺序和语法结构。每个词都独立地出现。

以下是词袋模型的基本步骤：

构建词汇表：首先需要建立一个词汇表，其中包含所有在训练数据中出现的单词。该词汇表可以从整个语料库或特定的文档集合构建。向量化：对于每个文本样本，将其转换为特征向量。特征向量的长度等于词汇表中单词的数量。一般来说，特征向量可以使用稀疏向量表示来表示，其中大多数元素为零。计算词频：对于每个文本样本，计算每个单词在文本中出现的频率。使用这些频率作为特征向量的元素值。例如，假设我们有两个文档：

文档1：“我喜欢看电影”

文件2：“我不喜欢看电影”

在这个例子中，我们的词汇是{I, like, watch, movie, not}。那么，文档1 和文档2 的词袋表示为：

文档1：[1, 1, 1, 1, 0]

文档2：[1,1,1,1,1]

词袋模型的主要优点是简单和高效。然而，它也有一些缺点。首先是忽略了词的顺序，这在许多情况下是非常重要的。其次，它假设所有单词都是独立的，不考虑词与词之间的关系。最后是它只考虑了词频，没有考虑词的重要性，这在信息检索中非常重要。 （在某些应用中只需要词频就有效）

为了解决这些问题，出现了一些改进的词袋模型，例如TF-IDF模型，它考虑了词的重要性。还有词嵌入模型，例如Word2Vec和GloVe，它们考虑了词之间的关系。

根据训练数据计算概率：计算每个特征在垃圾邮件和非垃圾邮件中出现的概率。具体来说，这些词对应的特征控制属于垃圾邮件邮箱或非垃圾邮件邮箱的概率。训练模型：根据计算的概率训练朴素贝叶斯分类器模型。预测分类：对于新电子邮件，将其转换为特征向量表示，并使用经过训练的模型来预测其分类。以下是不使用包装器的Python 代码示例：

进口重新

导入数学

# 数据准备

垃圾邮件=[

“立即获得一台免费笔记本电脑！”,

'不费吹灰之力就能快速赚钱！',

'用我们的产品扩大您的资产！',

“今晚与您所在地区的单身人士见面！”

]

火腿电子邮件=[

'你好你好吗？'，

'我们明天可以见面吗？',

“记得在回家的路上买些杂货。”,

“我五分钟后就到。”

]

# 数据预处理

def preprocess_email(电子邮件):

email=email.lower() # 全部小写

email=re.sub(r'\W', ' ', email) # 删除非字母数字字符

email=re.sub(r'\s+', ' ', email) # 将多个空格合并为一个空格

return email.strip() # 删除空格

spam_emails=[spam_emails 中电子邮件的preprocess_email(email)]

ham_emails=[ham_emails 中电子邮件的preprocess_email(email)]

# 特征提取（每封电子邮件）

def extract_features(电子邮件):

特征={}

文字=电子邮件。分裂（）

对于单词中的单词：

features[word]=features.get(word, 0) + 1 # 字典查询没有值，返回默认值0，实现自动添加。

返回特征

spam_features=[spam_emails 中电子邮件的extract_features(email)]

ham_features=[ham_emails 中电子邮件的extract_features(email)]

打印（垃圾邮件）

打印（垃圾邮件特征）

# 计算概率（创建词汇表及其对应单词的概率）

spam_word_count={}

ham_word_count={}

垃圾邮件总字数=0

火腿总字数=0

对于spam_features: 中的电子邮件

对于单词，在email.items(): 中计数

spam_word_count[字]=spam_word_count.get(字， 0) + 计数

spam_total_words +=计数

ham_features: 中的电子邮件

对于单词，在email.items(): 中计数

ham_word_count[单词]=ham_word_count.get(单词， 0) + 计数

ham_total_words +=计数

打印（垃圾邮件字数，垃圾邮件总字数）

spam_word_prob={}

ham_word_prob={}

对于单词，在spam_word_count.items(): 中计数

spam_word_prob[word]=count/spam_total_words # 概率的最大似然估计( p(x|c(spam))/m^i ）

对于单词，在ham_word_count.items(): 中计数

ham_word_prob[单词]=计数/ham_total_words

print('spam_word_prob:\n', spam_word_prob)

# 训练模型

spam_prior=len(spam_emails)/(len(spam_emails) + len(ham_emails)) # 先验概率P(C(spam)|X)

ham_prior=len(ham_emails)/(len(spam_emails) + len(ham_emails)) # 先验概率P(C(ham)|X)

# 预测分类

def 预测（电子邮件）:

电子邮件=preprocess_email(电子邮件)

特征=extract_features(电子邮件)

# 求分数的加法（避免概率相乘时出现下溢问题）

spam_score=数学。日志（垃圾邮件优先）

ham_score=数学。日志（ham_prior）

打印（垃圾邮件分数，火腿分数）

对于单词，计数features.items():

# print(单词，spam_word_prob[单词])

如果spam_word_prob: 中存在单词

spam_score -=math.log(spam_word_prob[word]) * count # 因为词频必须在0到1之间，所以需要减去来增加

如果单词在ham_word_prob: 中

ham_score -=math.log(ham_word_prob[word]) * 计数

打印（垃圾邮件分数，火腿分数）

spam_score=数学。 exp(垃圾邮件分数)

ham_score=math.exp(ham_score)

# 乘法分数（概率相乘时的下溢问题）

# spam_score=(spam_prior)

# ham_score=(ham_prior)

# 对于单词，计算特征。项目():

# 如果spam_word_prob: 中有单词

# spam_score *=spam_word_prob[word] ** 计数

# 如果单词在ham_word_prob: 中

# ham_score *=ham_word_prob[word] ** 计数

打印（垃圾邮件分数，火腿分数）

如果spam_score=ham_score:

返回“垃圾邮件”

否则：

返回“火腿”

测试

test_email='立即获得一台免费笔记本电脑！'

预测=预测（测试电子邮件）

print(f'\n电子邮件'{test_email}': {prediction}' 的预测)

输出：

[“立即获得一台免费笔记本电脑”、“毫不费力地快速赚钱”、“利用我们的产品扩大您的资产”、“今晚与您所在地区的单身人士见面”]

[{'get': 1, 'a': 1, '免费': 1, '笔记本电脑': 1, '现在': 1}, {'赚': 1, '钱': 1, '快': 1、'有': 1、'没有': 1、'努力': 1}、{'放大': 1、'你的': 1、'作为

sets': 1, 'with': 1, 'our': 1, 'product': 1}, {'meet': 1, 'singles': 1, 'in': 1, 'your': 1, 'area': 1, 'tonight': 1}] {'get': 1, 'a': 1, 'free': 1, 'laptop': 1, 'now': 1, 'earn': 1, 'money': 1, 'fast': 1, 'with': 2, 'no': 1, 'effort': 1, 'enlarge': 1, 'your': 2, 'assets': 1, 'our': 1, 'product': 1, 'meet': 1, 'singles': 1, 'in': 1, 'area': 1, 'tonight': 1} 23 spam_word_prob: {'get': 0.043478260869565216, 'a': 0.043478260869565216, 'free': 0.043478260869565216, 'laptop': 0.043478260869565216, 'now': 0.043478260869565216, 'earn': 0.043478260869565216, 'money': 0.043478260869565216, 'fast': 0.043478260869565216, 'with': 0.08695652173913043, 'no': 0.043478260869565216, 'effort': 0.043478260869565216, 'enlarge': 0.043478260869565216, 'your': 0.08695652173913043, 'assets': 0.043478260869565216, 'our': 0.043478260869565216, 'product': 0.043478260869565216, 'meet': 0.043478260869565216, 'singles': 0.043478260869565216, 'in': 0.043478260869565216, 'area': 0.043478260869565216, 'tonight': 0.043478260869565216} -0.6931471805599453 -0.6931471805599453 2.4423470353692043 -0.6931471805599453 5.577841251298354 -0.6931471805599453 8.713335467227504 -0.6931471805599453 11.848829683156653 -0.6931471805599453 14.984323899085803 -0.6931471805599453 3218171.4999999995 0.5 Prediction for email 'Get a free laptop now!': spam 实践大于理论 —— 伽利略 对数函数具有一些特殊的性质，使得它在概率计算中非常有用。 在概率计算中，我们通常需要计算多个概率的乘积。当这些概率非常小的时候，连续相乘可能会导致结果变为零或非常接近零。这是由于计算机浮点数的精度限制所导致的。 为了解决这个问题，我们可以使用对数概率进行计算。对数函数具有以下性质： 对数函数是单调递增的。这意味着概率的对数值的大小顺序与概率本身的大小顺序（都会变小）相同。因此，对数概率的加法可以代替概率的乘法。对数函数将乘法转换为加法。对数函数的一个重要性质是，它将乘法操作转换为加法操作。具体来说，对数函数满足以下等式：log(ab) = log(a) + log(b)。这意味着将两个概率的对数相加，等于将这两个概率相乘。通过将概率转换为对数概率，我们可以将概率的乘法转换为对数概率的加法，从而避免了下溢问题。这样做的好处是，我们可以在对数空间中进行计算，而不会丢失精度（其实相当于是转换到对数空间了）。 在代码中，使用math.log函数对概率进行取对数操作，将概率的乘法转换为对数概率的加法。然后，在最后比较概率大小时，使用math.exp函数将对数概率转换回原始概率进行比较。 总结起来，使用对数概率进行计算是为了避免概率相乘时出现下溢问题，并且利用对数函数的性质将乘法转换为加法，从而提高计算的准确性和效率。 这段代码用了简单的词频特征提取方法，将每个单词的计数作为特征（词频），且在计算概率时没有进行平滑处理。平滑处理是为了避免在训练数据中出现未见过的单词时，概率为零的情况。sklearn中的MultinomialNB分类器**默认使用了拉普拉斯平滑（Laplace smoothing）**来处理这种情况。并默认使用了更复杂的特征提取方法，称为词袋模型（Bag of Words），它将每个单词的出现与否作为特征 下面是一个使用封装库scikit-learn的Python代码示例： from sklearn.feature_extraction.text import CountVectorizer from sklearn.naive_bayes import MultinomialNB # 数据准备 spam_emails = [ "Get a free laptop now!", "Earn money fast with no effort!", "Enlarge your assets with our product!", "Meet singles in your area tonight!" ] ham_emails = [ "Hi, how are you?", "The cat sat on the mat", "Can we meet tomorrow?", "Remember to buy groceries on your way home.", "I'll be there in 5 minutes." ] labels = ["spam", "spam", "spam", "spam", "ham", "ham", "ham", "ham", "ham"] # 特征提取 vectorizer = CountVectorizer() X = vectorizer.fit_transform(spam_emails + ham_emails) print(type(X)) print(X) print(vectorizer.get_feature_names_out()) print(X.toarray()) # 训练模型 model = MultinomialNB() # 多项式朴素贝叶斯 model.fit(X, labels) # 接受数组和稀疏矩阵 # 预测分类 test_email = ["Get a free laptop now!", "how are you?"] test_email_vector = vectorizer.transform(test_email) print(test_email_vector) prediction = model.predict(test_email_vector)[0] print(f"Prediction for email '{test_email}': {prediction}") 输出： <class 'scipy.sparse._csr.csr_matrix'> (0, 12)1 (0, 11)1 (0, 18)1 (0, 25)1 (1, 7)1 (1, 23)1 (1, 10)1 (1, 39)1 (1, 24)1 (1, 8)1 (2, 39)1 (2, 9)1 (2, 41)1 (2, 2)1 (2, 27)1 (2, 28)1 (3, 41)1 (3, 21)1 (3, 31)1 (3, 17)1 (3, 1)1 (3, 36)1 (4, 14)1 (4, 16)1 (4, 0)1 (4, 40)1 (5, 32)2 (5, 6)1 (5, 30)1 (5, 26)1 (5, 20)1 (6, 21)1 (6, 5)1 (6, 38)1 (6, 35)1 (7, 41)1 (7, 26)1 (7, 29)1 (7, 34)1 (7, 4)1 (7, 13)1 (7, 37)1 (7, 15)1 (8, 17)1 (8, 19)1 (8, 3)1 (8, 33)1 (8, 22)1 ['are' 'area' 'assets' 'be' 'buy' 'can' 'cat' 'earn' 'effort' 'enlarge' 'fast' 'free' 'get' 'groceries' 'hi' 'home' 'how' 'in' 'laptop' 'll' 'mat' 'meet' 'minutes' 'money' 'no' 'now' 'on' 'our' 'product' 'remember' 'sat' 'singles' 'the' 'there' 'to' 'tomorrow' 'tonight' 'way' 'we' 'with' 'you' 'your'] [[0 0 0 0 0 0 0 0 0 0 0 1 1 0 0 0 0 0 1 0 0 0 0 0 0 1 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0] [0 0 0 0 0 0 0 1 1 0 1 0 0 0 0 0 0 0 0 0 0 0 0 1 1 0 0 0 0 0 0 0 0 0 0 0 0 0 0 1 0 0] [0 0 1 0 0 0 0 0 0 1 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 1 1 0 0 0 0 0 0 0 0 0 0 1 0 1] [0 1 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 1 0 0 0 1 0 0 0 0 0 0 0 0 0 1 0 0 0 0 1 0 0 0 0 1] [1 0 0 0 0 0 0 0 0 0 0 0 0 0 1 0 1 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 1 0] [0 0 0 0 0 0 1 0 0 0 0 0 0 0 0 0 0 0 0 0 1 0 0 0 0 0 1 0 0 0 1 0 2 0 0 0 0 0 0 0 0 0] [0 0 0 0 0 1 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 1 0 0 0 0 0 0 0 0 0 0 0 0 0 1 0 0 1 0 0 0] [0 0 0 0 1 0 0 0 0 0 0 0 0 1 0 1 0 0 0 0 0 0 0 0 0 0 1 0 0 1 0 0 0 0 1 0 0 1 0 0 0 1] [0 0 0 1 0 0 0 0 0 0 0 0 0 0 0 0 0 1 0 1 0 0 1 0 0 0 0 0 0 0 0 0 0 1 0 0 0 0 0 0 0 0]] (0, 11)1 (0, 12)1 (0, 18)1 (0, 25)1 (1, 0)1 (1, 16)1 (1, 40)1 Prediction for email '['Get a free laptop now!', 'how are you?']': spam CountVectorizer是sklearn.feature_extraction.text模块中的一个类，它用于将文本数据转换为向量形式，这种形式对于机器学习算法的输入非常有用。下面是CountVectorizer的基本原理： Tokenization（分词）：CountVectorizer首先将文本分解为单独的单词（在英文中通常是通过空格来分隔），这个过程被称为分词。例如，句子 "The cat sat on the mat" 可能会被分解为 "The", "cat", "sat", "on", "the", "mat"。Vocabulary Building（构建词汇表）：然后，CountVectorizer会创建一个词汇表，其中包含所有出现在所有文档中的唯一单词。例如，如果我们有两个文档，一个是 "The cat sat on the mat"，另一个是 "The dog sat on the log"，那么词汇表就会是 "The", "cat", "sat", "on", "the", "mat", "dog", "log"。Encoding（编码）：最后，CountVectorizer会将每个文档转换为一个向量。向量的长度等于词汇表中的单词数量，每个元素代表词汇表中对应单词在文档中出现的次数。例如，对于文档 "The cat sat on the mat" 和词汇表 "The", "cat", "sat", "on", "the", "mat", "dog", "log"，其对应的向量可能是 [2, 1, 1, 1, 1, 1, 0, 0]（这里假设我们不区分大小写，"The" 和 "the" 被视为同一个单词，则表示出现了两次）。这就是CountVectorizer的基本原理。需要注意的是，CountVectorizer还有许多参数可以调整，例如你可以选择是否将所有单词转换为小写，是否删除停用词，是否包含n-gram特征等等。其中输出是稀疏矩阵的表示形式。 (0, 11) 1 表示在第0个样本(也就是第一个邮件"Get a free laptop now!")中,词汇表中的第11个词出现了1次。 (1, 6) 1 表示在第1个样本(第二个邮件"Earn money fast with no effort!")中,词汇表中的第6个词出现了1次。 以此类推。这里的词汇表是根据所有邮件内容提取出来的,包含了所有唯一的词。数字11、6等就是每个词在这个词汇表中的位置。 而输出的是稀疏矩阵(sparse matrix)的形式,只显示了非零元素,比如一个词在一个邮件中出现过,那么就显示其行号、列号和计数,没有出现的位置就不显示了。 这样的稀疏矩阵表示可以节省空间,因为大多数位置都是0,不需要存储和显示。 总结一下,这个输出表示了每个邮件中包含的单词及其出现次数,这些特征已经转换为了向量化的表示,作为后续机器学习算法的输入。 到这里，如果还有什么疑问欢迎私信博主问题哦，博主会尽自己能力为你解答疑惑的！ 如果对你有帮助，你的赞是对博主最大的支持！！

网址：【深度学习 https://www.yuejiaxmz.com/news/view/660941

相关内容

深度学习
深度学习 Fine
深度学习之
【深度学习】深度学习语音识别算法的详细解析
Python深度学习实践：深度学习在虚拟助理中的应用
什么是深度学习，促进深度学习的策略 爱问知识人
深度增强学习前沿
走向深度学习
深度学习PPT资源下载
GPU加速深度学习

随便看看