2-AD有关课题

字数统计: 1.3k字   |   阅读时长: 4分

Author: haoransun
WeChat: SHR—97

如何基于AD病理构建多层级的图神经网络实现AD早期预警和筛查

（a）结合MRI图像、数字生物标志物和时序关系，建立新型的多通道结构的图神经网络模型，优化设计群体性AD特征的组合关系

利用丰富的成像和非成像信息进行AD早期预测任务，需要模型能够同时表示个体特征以及来自潜在大人群的受试者之间的数据关联。图为该任务提供了一个自然框架，它捕捉了图中节点呈现的各元素之间的交互，将图像和非图像信息相结合，用于群体性受试者的大脑分析。节点可以表示潜在大量人群（患者或健康对照）中的个体，并带有一组特征（MRI/fMRI图像特征），边直观的整合了非图像信息（数字生物标志物：年龄、性别、血流信号、APOE-4基因数据等），并借助权重建模了相邻受试者的相似性。同时，设计了两种注意力机制分别从结构域和时间域揭示与AD关联程度最高的大脑区域。结构域利用注意力机制引导随机游走模块提取大脑网络中的结构图特征，由于其在随机游走的每一步只需要邻域节点周围的局部信息，因此它对图噪声具有鲁棒性并且在处理动态图时更具有灵活性。全局注意力机制集成到序列处理模块中构建了时间域，可以突出显示与图序列诊断标签相关的重要时间点，进一步揭示与AD相关大脑区域的病灶演变过程。

展开全文 >>

7-SHAP

字数统计: 2.6k字   |   阅读时长: 10分

1. 写在前面

很多高级的机器学习模型(xgboost， lgb， cat)和神经网络模型， 它们相对于普通线性模型在进行预测时往往有更好的精度，但是同时也失去了线性模型的可解释性， 所以这些模型也往往看作是黑箱模型， 在2017年，Lundberg和Lee的论文提出了SHAP值这一广泛适用的方法用来解释各种模型（分类以及回归）， 使得前面的黑箱模型变得可解释了，这篇文章主要整理一下SHAP的使用， 这个在特征选择的时候特别好用。

这次整理， 主要是在xgboost和lgb等树模型上的使用方式， 并且用一个真实的数据集进行演示， 详细的内容参考SHAP的原地址：https://github.com/slundberg/shap

展开全文 >>

6-模型的融合技术大总结与结果部署

字数统计: 11.9k字   |   阅读时长: 45分

1. 写在前面

今天是数据挖掘入门系列的最后一篇文章模型融合技术大总结和结果部署， 一般来说，通过融合多个不同的模型，可能提升机器学习的性能，这一方法在各种机器学习比赛中广泛应用， 也是在比赛的攻坚时刻冲刺Top的关键，而融合模型往往又可以从模型结果，模型自身，样本集等不同的角度进行融合。 所以今天会从不同的角度介绍模型融合的技术，今天整理的这些技术在今后的比赛或者项目里面会非常的有用，既然是这个系列的最后一篇文章，就想着把这些技术整理的详细一些作为最后的压轴了，通过这篇文章，希望你能真正的理解模型结果层面的融合方式Voting和Averaging的原理、从样本集角度出发把模型进行集成的Boosting和Bagging的区别，以及更为强大的模型自身融合方法Stacking和Blending的原理和区别（其实后面这两个才是真正的模型融合，即将多个已经有较好效果的模型融合成更好的模型）。 在这个比赛中， 我尝试把baseline里面的xgb和lgb作为第一层， 然后把LinearRegressor作为第二层进行Stacking，最后再进行结果层面加权融合，效果又会有一个提升。所以今天的这些技术可以让模型发挥更大的作用， 当然这些技术不会仅适用于这个比赛。

展开全文 >>

5-模型建立与调参

字数统计: 9.8k字   |   阅读时长: 37分

1. 写在前面

今天是本系列的第五篇文章模型的建立与调参部分，这一块也是很费时间且核心的一部分工作，毕竟特征工程也好，数据清洗也罢，都是为最终的模型来服务的，模型的建立和调参才决定了最终的结果，上限是一回事， 如何更好的去达到这个上限又是一回事，

首先，我们会先从简单的线性模型开始，看看如何去建立一个模型以及建立完模型之后要去分析什么东西， 然后我们会学习交叉验证的思想和技术（这个在评估模型的效果是经常会用到）并且会构建一个线下测试集（当然这个针对本比赛）， 上面的这些算是建立模型的基础，然后我们会尝试建立更多的模型去解决这个问题，并对比它们的效果， 当把模型选择出来之后，我们还得掌握一些调参的技术发挥模型最大的性能， 模型选择出来之后，也调完参数，但是模型真的就没有问题了吗？ 我们其实不知道， 所以最后我们学习绘制学习率曲线看模型是否存在过拟合或者欠拟合的问题并给出相应的解决方法。

展开全文 >>

4-特征工程

字数统计: 9k字   |   阅读时长: 33分

1. 写在前面

今天是本系列的第四篇文章特征工程部分，特征工程和数据清洗转换是比赛中至关重要的一块， 因为数据和特征决定了机器学习的上限，而算法和模型只是逼近这个上限而已，

所以特征工程的好坏往往决定着最后的结果。 特征工程和数据清洗，我用了四天的进行整理总结，就是尝试把尽可能多的方法和技巧都尝试一下，当然可能有些细节在这个比赛中不一定适用， 但以全面为主，毕竟是为了学习知识。特征工程一般包括特征构造， 特征选择， 降维等步骤， 但是它一般是和数据清洗转换放在一块，也有的把这两块统称为特征工程，因为两者联系实在是密切（你中有我，我中有你的景象）。

展开全文 >>

3-数据清洗和转换技巧

字数统计: 4.3k字   |   阅读时长: 16分

1. 写在前面

今天是本系列的第三篇文章数据的清晰和转换技巧，依然是围绕着上面的比赛进行展开。数据清洗和转换在数据挖掘中也非常重要，毕竟数据探索我们发现了问题之后，下一步就是要解决问题，通过数据清洗和转换，可以让数据变得更加整洁和干净，才能进一步帮助我们做特征工程，也有利于模型更好的完成任务。

展开全文 >>

2-数据的探索性-EDA分析

字数统计: 6k字   |   阅读时长: 23分

1. 写在前面

今天是本系列的第二篇数据的EDA探索分析，这一块主要是对数据进行一个探索，帮助我们了解和熟悉数据，只有真正的了解数据，我们才能更好的进行后面的特征工程等处理，所以这一步也是非常重要的，所以这次会整理各种数据探索性分析的技巧，依然是围绕着上面的比赛进行展开论述，为了增加趣味性，我把数据探索这一块分成了五个维度，依然是采用将夜里面昊天世界的修炼等级境界来命名，分为数据初识，数据感知，数据不惑，数据洞玄和数据知命。因为学习的本身也是一场修行，相信通过这篇文章，能够修习到不错的数据探索技巧。

展开全文 >>

1-赛题理解

字数统计: 3.2k字   |   阅读时长: 11分

1. 写在前面

今天是本系列的第一篇赛题理解，这一个算是热身，作为切入一道赛题的基础，赛题理解是极其重要的，对于赛题的理解甚至会影响后续的特征工程构建以及模型的选择，最主要是会影响后续发展工作的方向，比如挖掘特征的方向或者存在问题解决问题的方向，正确了解赛题背后的思想以及赛题业务逻辑的清晰，也很有利于花费更少时间构建更为有效的特征模型。 今天我们就从赛题的理解出发， 首先了解一下这次赛题的概况和数据，从中分析赛题以及大致的处理方式， 其次我们了解一些模型评测的指标，最后对赛题的理解整理一些经验（来自Datawhale团队的零基础入门数据挖掘）

展开全文 >>

0-零基础入门数据挖掘学习路径

字数统计: 414字   |   阅读时长: 1分

1. 写在前面

零基础入门数据挖掘系列是记录自己在Datawhale举办的数据挖掘专题学习中的所学和所想， 该系列笔记使用理论结合实践的方式，整理数据挖掘相关知识，提升在实际场景中的数据分析、数据清洗，特征工程、建模调参和模型融合等技能。所以这个系列笔记共五篇重点内容，也分别从上面五方面进行整理学习，既是希望能对知识从实战的角度串联回忆，加强动手能力的锻炼，也希望这五篇笔记能够帮助到更多喜欢数据挖掘的小伙伴，我们一起学习，一起交流吧。

展开全文 >>

本站总访问量次 | 本站访客数人

tag:

    缺失模块。
    1、请确保node版本大于6.2
    2、在博客根目录（注意不是yilia根目录）执行以下命令：
    npm i hexo-generator-json-content --save

    3、在根目录_config.yml里添加配置： 

      jsonContent:
    meta: false
    pages: false
    posts:
      title: true
      date: true
      path: true
      text: false
      raw: false
      content: false
      slug: false
      updated: false
      comments: false
      link: false
      permalink: false
      excerpt: false
      categories: false
      tags: true

一个脱离了高级趣味的人!