BlinKZzz6

模式识别是根据已有的特征，通过参数或者非参数的方法给定模型中的参数，从而达到判别目的的；机器学习侧重于在特征不明确的情况下，用某种具有普适性的算法给定分类规则；学过多元统计的可以这样理解：模式识别的概念可以类比判别分析，是确定的，可检验的，有统计背景的（或者更进一步说有机理性基础理论背景），而机器学习的概念可以类比聚类分析（聚类本身就是一种典型的机器学习方法），对“类”的严格定义尚不明确，更谈不上检验；针对市面上很多关于模式识别与机器学习的著作内容重合，应该这么看： ①算法是中性的，两个不同的学科领域关键看思维。如神经网络的应用，如果通过具体学科，如生物学的机理分析是明确了某种昆虫的基因型应该分为两类，同时确定了其差异性的基因是会表现在触角长和翅长两个表现型的话，那么构造两个（触角长，翅长）——（隐含层）——（A类，B类）的网络可以看作对已有学科知识的表达，只是通过网络刻画已有知识而已；而机器学习的思路是：采样，发现两类品种差异最大的特征是触角长和翅长（可能会用到诸如KS检验之类的方法），然后按照给定的类目：两类来构造神经网络进行分类；同一个算法，两个学科是两种思路；②模式识别在人工智能上的前沿成果已经慢慢被机器学习取代，所以很多以AI为导向的模式识别书记包含了很多机器学习的算法也正常，毕竟很多新成果是机器学习做出的；关于应用范围，机器学习目前是在狭义的人工智能领域走得比较快，但是广度还是模式识广，模式识别在很多经典领域，如信号处理，计算机图像与计算机视觉，自然语言分析等都不断有新发展；从发展目标看，机器学习是要计算机学会思考，而模式识别是具体方法的自动化实现（不止计算机，还包括广义的控制系统），从立意上机器学习要高出一筹。至于现实中是否能实现，当前的机器学习热潮会不会陷入泡沫，都值得观察。

1 year ago

BlinKZzz6 opened issue BlinKZzz6/prml#23

模式识别与机器学习区别与联系

1 year ago

BlinKZzz6 commented on issue BlinKZzz6/prml#22

主要分类和学习方法

• 数据聚类目标：用某种相似性度量的方法将原始数据组织成有意义的和有用的各种数据集。是一种非监督学习的方法，解决方案是数据驱动的。 • 统计分类基于概率统计模型得到各类别的特征向量的分布，以取得分类的方法。特征向量分布的获得是基于一个类别已知的训练样本集。是一种监督分类的方法，分类器是概念驱动的。 • 结构模式识别该方法通过考虑识别对象的各部分之间的联系来达到识别分类的目的。识别采用结构匹配的形式，通过计算一个匹配程度值（matching score）来评估一个未知的对象或未知对象某些部分与某种典型模式的关系如何。 • 神经网络神经网络是受人脑组织的生理学启发而创立的。由一系列互相联系的、相同的单元（神经元）组成。相互间的联系可以在不同的神经元之间传递增强或抑制信号。增强或抑制是通过调整神经元相互间联系的权重系数来（weight）实现。神经网络可以实现监督和非监督学习条件下的分类。 • 监督学习监督学习是从有标记的训练数据来推断或建立一个模型，并依此模型推测新的实例。 • 无监督学习无监督学习是我们不告诉计算机怎么做，而是让它自己去学习怎样做一些事情。无监督学习与监督学习的不同之处在于，事先没有任何训练样本，需要直接对数据进行建模，寻找数据的内在结构及规律，如类别和聚类。常用于聚类、概率密度估计。 • 半监督学习半监督学习（Semi-supervised Learning）是模式识别和机器学习领域研究的重点问题，是监督学习与无监督学习相结合的一种学习方法。 • 增强学习增强学习要解决的问题：一个能够感知环境的自治机器人，怎样通过学习选择能达到其目标的最优动作。机器人选择一个动作用于环境，环境接受该动作后状态发生变化，同时产生一个强化信号(奖或惩)反馈回来。 • 集成学习集成学习（Ensemble Learning）是机器学习中一类学习算法，指联合训练多个弱分类器并通过集成策略将弱分类器组合使用的方法。由于整合了多个分类器，这类算法通常在实践中会取得比单个若分类器更好的预测结果。常见的集成策略有：Boosting、Bagging、 Random subspace 、Stacking等。常见的算法主要有：决策树、随机森林、Adaboost、GBDT、DART等。 • 深度学习深度学习的概念源于人工神经网络的研究，除输入层和输出层外，含多个隐藏层的神经网络就是一种深度学习结构。深度学习通过层次化模型结构可从低层原始特征中逐渐抽象出高层次的语义特征，以发现复杂、灵活、高效的特征表示。常见的深度学习模型有：卷积神经网络，递归神经网络，深度信任网络，自编码器，变分自编码器等。 • 元学习元学习（Meta Learning）或者叫做“学会学习”（Learning to Learn），它是要“学会如何学习”，即利用以往的知识经验来指导新任务的学习，具有学会学习的能力。当前的机器学习模型往往只局限于从头训练已知任务并使用精调来学习新任务，耗时较长，且性能提升较为有限。 • 多任务学习多任务学习是指通过共享相关任务之间的表征，联合训练多个学习任务的学习范式。 • 多标记学习多标记学习问题为一种特殊的有监督分类问题，其所处理的数据集中的每个样本可同时存在多个真实类标。多标记学习主要用于处理多种标签的语义重叠，如预测歌曲的音乐流派，预测图书、商品的属性标签。 • 对抗学习对抗学习是针对传统机器学习的一种攻击性方法，是机器学习和计算机安全领域都十分关注的交叉问题。对抗学习主要通过恶意输入来误导机器学习算法或模型使其得到错误结果，并在该过程中暴露机器学习算法存在的脆弱性，帮助设计适应复杂环境的鲁棒学习方法。

1 year ago

BlinKZzz6 opened issue BlinKZzz6/prml#22

主要分类和学习方法

1 year ago