自然语言处理研究实现人与计算机之间用自然语言进行有效通信的各种理论和方法。自然语言处理技术发展经历了基于规则的方法、基于统计学习的方法和基于深度学习的方法三个阶段。自然语言处理由浅入深的四个层面分别是形式、语义、推理和语用，当前正处于由语义向推理的发展阶段。 词向量学习模型 是一种将自然语言中的字词转换为计算机可以理解的稠密向量的方法，基本思想就是用词来预测词。其中包含两种算法：CB...

读论文时间！ 生成对抗网络：GAN 参考： https://blog.csdn.net/qq_15719613/article/details/134029786 GAN论文逐段精读 相关工作 生成对抗网络相比于之前一些生成式的模型，之前的一些生成式模型是要学习数据到底是什么样的一个分布，然而生成对抗网络只需要生成的东西和原来的看上去像就行，而...

读论文时间！ 词嵌入模型：GloVe 参考： https://blog.csdn.net/qq_44579321/article/details/128120877 https://blog.csdn.net/qq_22795223/article/details/105737651 介绍 glove是斯坦福大学的一个开源项目，于 2014 年...

参考：https://blog.csdn.net/weixin_45727931/article/details/114369073 先简单聊聊RNN的结构。最简单的一层RNN网络结构如下图所示： 其中，每个箭头都表示一个权值，输入为向量X，输出向量为Y，隐含层向量为H。一层指的是有一层隐含层。也可以根据具体需求设计多层，一般层数取2-10。时间步共享参数。 RNN模块 Pyt...

读论文时间！ 图卷积神经网络：GCN 参考： 原论文：SEMI-SUPERVISED CLASSIFICATION WITH GRAPH CONVOLUTIONAL NETWORKS 前置知识：GNN 图卷积神经网络（GCN）论文笔记 GCN图卷积网络入门详解 简单实例：计算工资 假设在一个人际关系图里面，人是节点，关系是边，要...

图神经网络GNN 参考： https://distill.pub/2021/gnn-intro/，这篇博客有很多交互图，非常推荐体验。 https://blog.csdn.net/giganticpower/article/details/109366833 图神经网络不同于只用于网格结构数据的传统模型：LSTM，CNN等。是一种处理广义拓扑图（将实体...

读论文时间！ 计算机视觉模型：ResNeXt 参考： 前置知识：ResNet 吴恩达《深度学习》课程 前情提要 ResNeXt，简单来说是ResNet与Inception网络的优化，先简单复习一下ResNet与Inception网络。 ResNet 这是一个基本模块，ResNet由这种基本模块堆叠构成。这种基本模块可以用数学公式概括...

读论文时间！ 计算机视觉模型：ResNet 参考：吴恩达深度学习视频 吴恩达说残差网络 非常非常深的神经网络是很难训练的，因为存在梯度消失和梯度爆炸问题。这节课我们学习跳跃连接（Skip connection），它可以从某一层网络层获取激活，然后迅速反馈给另外一层，甚至是神经网络的更深层。利用跳跃连接构建能够训练深度网络的残差网络（ResNet），有时深度能够超过100层。...

读论文时间！ 多模态模型：CLIP 参考： 论文网址：https://arxiv.org/abs/2103.00020 源码网址：https://github.com/OpenAI/CLIP 【论文&模型讲解】CLIP CLIP 模型解读 深度学习系列37：CLIP模型 介绍 SOTA计算机视觉系统被训练来预测一...

文章笔记： Multitask learning and benchmarking with clinical time series data How to Leverage Multimodal EHR Data for Better Medical Predictions? Improving Medical Predictions by Irregul...