技术背景

在使用Theano或TensorFlow训练神经网络时，模型会在每个训练周期报告一个名为“损失（loss）”的变量。理解损失和准确率对于评估机器学习模型的性能至关重要。损失反映了模型在训练和验证集上的误差情况，而准确率则衡量了模型预测的正确性。

使用生成模型产生全新药物分子是当前的热门研究领域。西班牙庞培法布拉大学(Universitat Pompeu Fabra, UPF) Gianni De Fabritiis课题组最近在JCIM上发表了一种机器学习方法，可以依据种子化合物(seed compound)的三维形状(3D shape)及其药效团特征生成新分子。整个方法从图像分析领域中使用的生成模型汲取灵感，使用变分自编码器(variational autoencoder)在化合物的3D空间进行扰动后使用卷积神经网络(CNN)和递归神经网络(RNN)产生化合物的SMILES序列。由此产生的新骨架和官能团可以覆盖化学空间中与先导化合物具有类似性质的未开发区域。

1. 回顾与引入

上节课我们聊到了机器学习的概念和基本要素。现在，让我们把时光机开回过去，看看机器学习是如何一步步走到今天的。

2. 机器学习的起源

机器学习的起源可以追溯到20世纪50年代，那时人工智能刚刚萌芽。当时的研究重点是逻辑推理和启发式搜索，还有那些能做出决策的专家系统。你可以想象那时候的计算机就像是刚学会走路的小孩，还在摸索着前进。

技术背景

在机器学习和深度学习中，交叉熵是常用的损失函数，用于衡量模型预测结果与真实标签之间的差异。二元交叉熵（

传统的统计方法如

Focal loss自从提出后，很多目标检测框架都采用了focal loss，那么它优秀在哪里呢？我们今天一起来看看这篇何凯明大神的paper。首先是这篇文章的motivation，这篇文章是为了解决样本类别不平衡问题提出的一个方法，在这篇文章前的解决此问题的方法有些过于复杂，有些仅仅是简单重采样方法，效果对于参数的选择有些许敏感等，因此提出了该方法。

我们可以先了解一下目标检测中的两种不平衡问题：

在深度学习中，对数似然梯度是一种常用的优化方法，用于最小化损失函数。它通过计算损失函数相对于模型参数的梯度，来更新模型参数，以使损失函数最小化。

对数似然梯度的计算可以通过反向传播算法来实现。反向传播算法是一种计算梯度的方法，它利用链式法则将梯度从输出层向输入层传播。具体来说，对于每个参数，反向传播算法计算其对应的梯度，并将其用于参数的更新。

逻辑回归（Logistic Regression）是一种广泛应用于分类任务的机器学习算法，下面这篇是笔者整理分享的关于逻辑回归算法的入门教程文章，对此感兴趣的同学可以进来看看了解更多呀！

逻辑回归算法是机器学习中的一位“老司机”，尽管名字里有“回归”，但它却是个不折不扣的分类高手。