Learning Transferable Visual Models From Natural Language Supervision
读论文时间! 多模态模型:CLIP 参考: 论文网址:https://arxiv.org/abs/2103.00020 源码网址:https://github.com/OpenAI/CLIP 【论文&模型讲解】CLIP CLIP 模型解读 深度学习系列37:CLIP模型 介绍 SOTA计算机视觉系统被训练来预测一...
读论文时间! 多模态模型:CLIP 参考: 论文网址:https://arxiv.org/abs/2103.00020 源码网址:https://github.com/OpenAI/CLIP 【论文&模型讲解】CLIP CLIP 模型解读 深度学习系列37:CLIP模型 介绍 SOTA计算机视觉系统被训练来预测一...
文章笔记: Multitask learning and benchmarking with clinical time series data How to Leverage Multimodal EHR Data for Better Medical Predictions? Improving Medical Predictions by Irregul...
读论文时间! 官方代码 介绍 深度学习提供了改善医疗服务质量的巨大机会。然而,电子健康记录(EHR)数据的复杂性是深度学习应用的一个挑战。 数据可以分为三种模式: 非时间相关的数据,如患者的年龄、性别等。通常,在住院期间不会改变。 时间序列数据,如生命体征和实验室检查结果。这些数据共享相同的特点,即它们会随着时间而变化,并且在时间上的分布是非均匀的。例如,心率和...
读论文时间! 代码:github 介绍 重症监护室 (ICU) 患者的健康状况通过电子健康记录 (EHR) 进行监测,这些记录由数字时间序列和冗长的临床笔记组成,并在不规则的时间间隔内进行采集。 图片解释:一个病人ICU停留的示例包括三个特征的MISTS和一系列临床记录。对于MISTS,心率和体温以不同的频率定期监测,并根据医生的决定在不规则的时间间隔内进行实验室检查...
读论文时间! 参考: 前置知识:孪生网络和三胞胎网络 前置知识:BERT 原论文:Arxiv https://wmathor.com/index.php/archives/1496/ https://zhuanlan.zhihu.com/p/659682364 SentenceTransformers 官方python库文档 ...
参考:https://wmathor.com/index.php/archives/1495/ Siamese Network(孪生网络) 简单来说,孪生网络就是共享参数的两个神经网络。 在孪生网络中,我们把一张图片 X1 作为输入,得到该图片的编码 $G_W(X_1)$。然后,我们在不对网络参数进行任何更新的情况下,输入另一张图片 W2,并得到改图片的编码 $G_W(X_2)$。由...
读论文时间! 参考: 前置知识:Transfomer BERT 论文逐段精读【论文精读】 https://zhuanlan.zhihu.com/p/509244050 1、标题解释 BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding ...
Encoder-Decoder 我们从编码器-解码器架构开始,在Transfomer出现之前,还是朴素的RNN结构。 RNN的一种结构是 n-to-m,即输入、输出为不等长的序列,也称为 Encoder-Decoder, 这种结构常见于机器翻译中,因为源语言和目标语言的句子往往并没有相同的长度。 首先:Encoder-Decoder结构先将输入数据编码成一个上下文语义向量c;语义向...
读论文时间! 论文名称: An Image Is Worth 16x16 Words: Transformers For Image Recognition At Scale 论文下载链接:https://arxiv.org/abs/2010.11929 原论文对应源码:https://github.com/google-research/vision_tra...
读论文时间! 原文名称:Attention Is All You Need 原文链接:https://arxiv.org/abs/1706.03762 参考: https://blog.csdn.net/weixin_42475060/article/details/121101749 https://www.bilibili.co...