登录社区云,与社区用户共同成长
邀请您加入社区
本文提出了一个混合域网络(HDNet),旨在结合空间域的多尺度感知能力与频率域的背景抑制能力,以解决红外小目标检测中目标尺寸多变及背景干扰严重的问题。为实现这一目标,作者设计了两个核心模块:其一是位于空间域的多尺度空洞对比度卷积(MAC)模块,通过利用多个不同核尺寸的并行空洞对比度卷积,增强了网络对尺寸微小且多变目标的感知能力并提升了目标与背景的对比度;
Tokenizer与词向量是NLP中两个核心概念:Tokenizer负责将文本切分成模型可处理的tokens(词/子词/字符),词向量则负责语义表示。传统NLP需要手动处理分词、构建词典、数字映射等步骤,预训练模型通过AutoTokenizer一键完成。主流分词算法包括BPE、WordPiece等,HuggingFace的Tokenizer API支持编码(文本→ID)、解码(ID→文本)双向转换
Transformer架构以自注意力机制为核心,突破了传统序列模型的局限,极大提升了自然语言处理的能力。输入嵌入和位置编码解决了语义和顺序感的结合,多头自注意力、多层前馈网络等模块让模型可以捕捉复杂的全局关系和抽象表达。掩码自注意力则确保了模型生成时的信息封闭性和合理性。这些创新共同构建了强大而高效的底座,使Transformer成为近年来AI领域最火爆的模型框架,催生如GPT系列、DeepSee
RT-DETR的出现,标志着目标检测领域正式迈入Transformer时代。它不仅证明了Transformer在实时检测任务中的可行性,更通过端到端的设计,为工业部署提供了更简洁、更可靠的解决方案。随着技术的不断演进,RT-DETR有望在更多场景中替代传统CNN检测器,成为实时视觉感知的新基石。
Gorilla 提出了一种通过微调 (fine-tuning) 和检索增强 (retrieval augmentation) 的方法,使 LLM 能够更有效地使用大量 API。构建了一个大规模的、包含真实世界 API 调用及其指令的数据集 (APIBench),并在此数据集上微调一个基础 LLM。
这里写目录标题参考前言cnn与transformerConformer(国科大&华为&鹏城)详情参考1.CNN+Transformer算法总结前言总结了2021年以来,所有将CNN与Transformer框架结合的CV算法在卷积神经网络(CNN)中,卷积运算擅长提取局部特征,但在捕获全局特征表示方面还是有一定的局限性。 在Vision Transformer中,级联自注意力模块可以
本文来源公众号,仅用于学术分享,侵权删,干货满满。小目标一直是目标检测的一个痛点,本文为大家介绍一种小目标检测方法ESOD,它是一个通用框架,可以应用于基于CNN和ViT的检测器来节约计算和GPU内存成本。实验证明在VisDrone、UAVDT和小型行人数据集上,作者的方法一致性地大幅度超越现有技术水平。论文链接:https://arxiv.org/abs/2407.16424代码链接:https
本文深入探讨了卷积神经网络(CNN)的核心概念与数学原理。首先从一维和二维卷积的数学定义出发,详细推导了卷积操作的公式及其物理意义。重点分析了局部感受野与权值共享的设计原理,通过对比全连接层阐明了CNN在参数效率和特征提取方面的优势。文章还介绍了im2col转换技术,将卷积操作转化为矩阵乘法以提高计算效率。此外,涵盖了多通道卷积、频域分析等高级主题,并简要提及等变卷积等前沿研究方向。通过数学证明和
本文介绍了计算机视觉中常用的三种特征提取方法:颜色特征、纹理特征和边缘特征。颜色特征提取包括颜色直方图、颜色矩和颜色集等方法,具有计算简单的优点;纹理特征提取主要介绍了LBP特征和灰度共生矩阵两种方法;边缘特征提取重点讲解了Canny算子和Sobel算子的原理及实现。文章通过对比分析不同算法的特点和适用场景,为图像处理和计算机视觉任务提供了有效的特征提取方案。这些方法在目标检测、图像分类等应用中发
DETR(Detection Transformer)是目标检测领域的革命性突破,通过Transformer架构和集合预测范式,摒弃了传统方法中的锚框和NMS后处理。其核心创新包括:1)端到端训练,直接输出检测结果;2)采用匈牙利算法实现预测与真实标签的最优匹配;3)全局建模能力显著提升检测精度。尽管存在训练收敛慢、小目标检测不足等挑战,但通过Deformable-DETR等改进模型,在训练效率、
对于正在迷茫择业、想转行提升,或是刚入门的程序员、编程小白来说,有一个问题几乎人人都在问:未来10年,什么领域的职业发展潜力最大?答案只有一个:人工智能(尤其是大模型方向)当下,人工智能行业正处于爆发式增长期,其中大模型相关岗位更是供不应求,薪资待遇直接拉满——字节跳动作为AI领域的头部玩家,给硕士毕业的优质AI人才(含大模型相关方向)开出的月基础工资高达5万—6万元;即便是非“人才计划”的普通应