奇异值分解(SVD)的原理详解及推导

字数统计: 1.8k字   |   阅读时长: 6分

王喆《深度学习推荐系统》

1. 写在前面

最近整理推荐系统模型的时候， 第二个模型打算整理一下隐语义模型， 这里面绕不开一种思想就是矩阵分解， 而作为矩阵分解的经典方法SVD感觉这次有必要学学了， SVD不仅是一个数学问题，在工程应用中的很多地方都有它的身影，比如我之前在【白话机器学习篇】说到了PCA， 那是一种经典的降维方式， 而SVD同样的也可以用于降维， 并且掌握了SVD原理后再去看PCA那是相当简单的，在推荐系统方面，SVD更是名声大噪，在2006年， Koren将它应用于推荐系统并获得了Netflix大奖， 因此在推荐系统中也就出来了隐语义模型(Latent Factor Model)或者叫矩阵分解模型(Matrix Fatcorization)， 它们的核心思想是通过寻找隐含特征来联系用户兴趣和商品，说白了其实就是把协同过滤里面的共现矩阵分解成了两个矩阵相乘的方式。 这个在具体整理的时候再谈， 总之， 这里面绕不开的一个名词就是SVD， 尽管数学上的这种SVD矩阵分解由于它对矩阵稠密的要求和计算复杂度大不太直接用于协同过滤里面的共现矩阵，但是源思想没变， 所以在这里先整理一下SVD的原理， 防止在整理矩阵分解模型的时候遇到SVD， RSVD， ASVD， SVD++等各种名词的时候一脸懵逼哈哈。

展开全文 >>

2-AI上推荐之隐语义模型(LFM)和矩阵分解(MF)

字数统计: 7.7k字   |   阅读时长: 27分

王喆《深度学习推荐系统》
文章出处：https://zhongqiang.blog.csdn.net/article/details/108173885

1. 前言

这次整理重点放在推荐系统的模型方面， 先从传统推荐模型开始， 然后到深度学习模型。 传统模型的演化关系拿书上的一张图片， 便于梳理传统推荐模型的进化关系脉络， 对知识有个宏观的把握：

展开全文 >>

1-AI上推荐之协同过滤

字数统计: 9.6k字   |   阅读时长: 36分

王喆《深度学习推荐系统》
文章出处：https://www.bilibili.com/video/BV12q4y1f7Mv?p=5&spm_id_from=pageDriver

1. 前言

随着信息技术和互联网的发展， 我们已经步入了一个信息过载的时代，这个时代，无论是信息消费者还是信息生产者都遇到了很大的挑战：

  • 信息消费者：如何从大量的信息中找到自己感兴趣的信息？
  • 信息生产者：如何让自己生产的信息脱颖而出， 受到广大用户的关注？

为了解决这个矛盾， 推荐系统应时而生， 并飞速前进，在用户和信息之间架起了一道桥梁，一方面帮助用户发现对自己有价值的信息， 一方面让信息能够展现在对它感兴趣的用户前面。 推荐系统近几年有了深度学习的助推发展之势迅猛， 从前深度学习的传统推荐模型(协同过滤，矩阵分解，LR, FM, FFM, GBDT)到深度学习的浪潮之巅(DNN, Deep Crossing, DIN, DIEN, Wide&Deep, Deep&Cross, DeepFM, AFM, NFM, PNN, FNN, DRN), 现在正无时无刻不影响着大众的生活。

展开全文 >>

R-CNN and Fast R-CNN and Faster R-CNN and SPP

字数统计: 2.7k字   |   阅读时长: 9分

1. 简书

2018-09-28 RCNN，FAST-RCNN，FASTER - RCNN家族发展史演进

首先，object detection，就是在给定的图片中精确找到物体所在位置，并标注出物体的类别。所以，object detection要解决的问题就是物体在哪里以及是什么的整个流程问题。

目前学术和工业界出现的目标检测算法分成3类：

  • 传统的目标检测算法：Cascade + HOG/DPM/SIFT + Haar/SVM以及上述方法的诸多改进、优化；

  • 候选窗+深度学习分类：通过提取候选区域，并对相应区域进行以深度学习方法为主的分类的方案，如：

展开全文 >>

10-Harris和Shi-Tomas算法

字数统计: 1k字   |   阅读时长: 4分

Author: haoransun
WeChat: SHR—97

1 Harris角点检测

1.1 原理

Harris角点检测的思想是通过图像的局部的小窗口观察图像，角点的特征是窗口沿任意方向移动都会导致图像灰度的明显变化，如下图所示：

展开全文 >>

9-角点特征

字数统计: 820字   |   阅读时长: 2分

Author: haoransun
WeChat: SHR—97

1 图像的特征

大多数人都玩过拼图游戏。首先拿到完整图像的碎片，然后把这些碎片以正确的方式排列起来从而重建这幅图像。如果把拼图游戏的原理写成计算机程序，那计算机就也会玩拼图游戏了。
在拼图时，我们要寻找一些唯一的特征，这些特征要适于被跟踪，容易被比较。我们在一副图像中搜索这样的特征，找到它们，而且也能在其他图像中找到这些特征，然后再把它们拼接到一起。我们的这些能力都是天生的。

那这些特征是什么呢？我们希望这些特征也能被计算机理解。

如果我们深入的观察一些图像并搜索不同的区域，以下图为例：

展开全文 >>

8-图像变换-傅里叶变换

字数统计: 4.7k字   |   阅读时长: 17分

Author: haoransun
WeChat: SHR—97

1 傅里叶变换的理解

傅里叶变换是由法国的一位数学家Joseph Fourier在18世纪提出来的，他认为：任何连续周期的信号都可以由一组适当的正弦曲线组合而成。

傅里叶变换是描述信号的需要，它能够反映信号的特征，并可以使用特征值进行量化，比如正弦波可以使用幅值和频率进行描述。下面这幅图是变压器空载电流的输入波形：

展开全文 >>

7-模板匹配与霍夫变换

字数统计: 2.6k字   |   阅读时长: 10分

Author: haoransun
WeChat: SHR—97

1 模板匹配

1.1 原理

所谓的模板匹配，就是在给定的图片中查找和模板最相似的区域，该算法的输入包括模板和图片，整个任务的思路就是按照滑窗的思路不断的移动模板图片，计算其与图像中对应区域的匹配度，最终将匹配度最高的区域选择为最终的结果。

展开全文 >>

6-边缘检测

字数统计: 2.1k字   |   阅读时长: 8分

Author: haoransun
WeChat: SHR—97

1 原理

边缘检测是图像处理和计算机视觉中的基本问题，边缘检测的目的是标识数字图像中亮度变化明显的点。图像属性中的显著变化通常反映了属性的重要事件和变化。边缘的表现形式如下图所示：

图像边缘检测大幅度地减少了数据量，并且剔除了可以认为不相关的信息，保留了图像重要的结构属性。有许多方法用于边缘检测，它们的绝大部分可以划分为两类：基于搜索和基于零穿越。

展开全文 >>

5-直方图

字数统计: 2.5k字   |   阅读时长: 9分

Author: haoransun
WeChat: SHR—97

1 灰度直方图

1.1 原理

直方图是对数据进行统计的一种方法，并且将统计值组织到一系列实现定义好的 bin 当中。其中， bin 为直方图中经常用到的一个概念，可以译为 “直条” 或 “组距”，其数值是从数据中计算出的特征统计量，这些数据可以是诸如梯度、方向、色彩或任何其他特征。
  图像直方图（Image Histogram）是用以表示数字图像中亮度分布的直方图，标绘了图像中每个亮度值的像素个数。这种直方图中，横坐标的左侧为较暗的区域，而右侧为较亮的区域。因此一张较暗图片的直方图中的数据多集中于左侧和中间部分，而整体明亮、只有少量阴影的图像则相反。

展开全文 >>

本站总访问量次 | 本站访客数人

tag:

    缺失模块。
    1、请确保node版本大于6.2
    2、在博客根目录（注意不是yilia根目录）执行以下命令：
    npm i hexo-generator-json-content --save

    3、在根目录_config.yml里添加配置： 

      jsonContent:
    meta: false
    pages: false
    posts:
      title: true
      date: true
      path: true
      text: false
      raw: false
      content: false
      slug: false
      updated: false
      comments: false
      link: false
      permalink: false
      excerpt: false
      categories: false
      tags: true

一个脱离了高级趣味的人!