transformer标签_乐奇 Rokid 开放社区

transformer

【图像识别】Vision Transformer

Vision Transformer (ViT) 结构简介

 beginner_GFL1207
2024-04-19 16:59:43

 1459

 14

#深度学习 #transformer #人工智能
计算机视觉之Vision Transformer图像分类

近些年，随着基于自注意（Self-Attention）结构的模型的发展，特别是Transformer模型的提出，极大地促进了自然语言处理模型的发展。由于Transformers的计算效率和可扩展性，它已经能够训练具有超过100B参数的空前规模的模型。ViT则是自然语言处理和计算机视觉两个领域的融合结晶。在不依赖卷积操作的情况下，依然可以在图像分类任务上达到很好的效果。本案例演示了如何在ImageN

StevenChen
2024-07-13 22:55:12

 1044

 4

#计算机视觉 #transformer #人工智能
ViT：一图胜千言，用于大规模图像识别的Transformer

虽然Transformer架构已经成为NLP任务事实上的标准，但其在计算机视觉中的应用仍然有限。在计算机视觉中，注意力机制要么与卷积网络结合使用，要么用来替换卷积网络的某些组件，同时保持其整体结构不变。我们的研究表明，这种对CNN的依赖是不必要的，直接应用于图像补丁序列的纯Transformer可以很好地执行图像分类任务。当在大量数据上进行预训练并迁移到多个中小型图像识别基准任务时，我们提出的Vi

Civisky
2021-12-21 09:48:04

 1258

 1

#transformer #深度学习 #计算机视觉
＜＜视觉问答＞＞2022：SwapMix: Diagnosing and Regularizingthe Over-Reliance on Visual Context in VQA

先看一下下面这篇论文对VQA任务语言偏差的介绍Greedy Gradient Ensemble for Robust Visual Question Answering摘要虽然VQA发展迅速，但之前的工作对当前VQA模型的健壮性提出了担忧。在这项工作中，我们从一个新的角度研究了VQA模型的稳健性：视觉上下文。我们认为，这些模型过度依赖视觉的上下文部分，即图像中与正确的、应该注意到的对象所不相关的对

 金克丝、
2022-04-27 14:35:08

 1518

 2

#计算机视觉 #人工智能 #深度学习 +2
自注意机制在图像识别上的应用

基本概念: 非局部神经网络是一种在深度学习中引入非局部操作的框架，以便捕捉长距离依赖关系。传统的卷积神经网络主要关注局部邻域，而非局部神经网络可以考虑整个特征图上任意位置之间的关系。工作原理: 各个位置的特征通过计算它们之间的相似性（通常使用点积或窗口计算）来生成逐位置的注意力权重。然后，这些权重被用来加权求和整个特征图，从而增强重要信息。应用: NLN模型在目标检测和视频分析等任务中表现出色，因

 Tongzhi_
2025-01-27 21:24:06

 1219

 12

#python #图像处理 #人工智能 +3
大语言模型鼻祖Transformer的模型架构和底层原理

Transformer 模型的出现标志着自然语言处理（NLP）技术的一次重大进步。这个概念最初是针对机器翻译等任务而提出的，Transformer 后来被拓展成各种形式——每种形式都针对特定的应用，包括原始的编码器-解码器（encoder-decoder）结构，以及仅编码器（encoder-only）和仅解码器（decoder-only）等变体结构，满足不同的 NLP 任务。本文将从基础的 enc

Zilliz Planet
2024-11-05 18:30:57

 1725

 6

#语言模型 #transformer #人工智能 +2
Transformer 与 CNN 在图像识别中的原理区别与应用表现

在常见的图像识别基准（如 ImageNet）上，设计合理的 CNN 架构通过深层次的局部特征学习，能够达到非常高的准确率。而近年来的研究表明，随着数据集规模扩大和模型不断加深，ViT 开始展现优势：在大规模训练条件下，ViT 常能以更高的准确度超越同类 ResNet 等 CNN 模型。这样，ViT 在处理大规模数据时具有出色的灵活性和可扩展性：理论和实验均表明，在模型规模和数据量增大时，ViT 往

 qwqqaq9
2025-07-06 21:35:04

 1027

 17

#transformer #cnn #深度学习
基于Transformers的机器阅读理解（Machine Reading Comprehension）

详细解释什么是机器阅读理解，基于transformers的解决方案，以及机器阅读理解的代码实战。

苏黎世的从前927
2025-02-19 10:59:19

 1371

 11

#人工智能 #pytorch #深度学习 +2
【ViT】【ICLR 2021】用Transformer做大规模图像识别

作者提出了Vision Transformer（ViT）模型，表明计算机视觉任务对于卷积神经网络的依赖是不必要的，可以利用一个基本的Transformer直接作用于一系列图像块，在图片分类任务中可以取得良好的效果。在大规模数据集上训练后，迁移到中小型数据集进行使用，Vision Transformer可以获得与最好的卷积神经网络相媲美的结果，同时需要的训练资源更少。

youfromme
2022-04-18 11:28:10

 5776

#transformer #计算机视觉 #深度学习
Swin Transformer—— 基于Transformer的图像识别模型

与在所有斑块之间计算注意力的 ViT 不同，注意力计算和斑块聚合可以在相邻斑块的窗口中重复进行，从而可以在不同尺度上提取特征。另一个优点是不在所有斑块之间计算注意力，从而降低了计算复杂度，并能从较小的斑块尺寸中提取特征。

qq_1041357701
2025-01-29 19:14:12

 1337

 16

#transformer #深度学习 #人工智能
1-大语言模型—理论基础：详解Transformer架构的实现(1)

序列中每一个单词所在的位置对应一个向量。这一向量会与单词表示对应相加并送入后续模块中做进一步出来。在训练的过程中，模型会自动学习到如何利用这部分位置信息。2。

神石石
2025-07-18 18:34:27

 1131

 29

#语言模型 #transformer #人工智能
Ai网络安全智能助手-漏洞检索、攻防技巧、CVE知识库、代码审计、应急响应、聊天机器人支持语音识别输出大模型

*、

小马不会过河
2025-04-28 20:41:18

 1026

 25

#人工智能 #web安全 #机器人 +4
变形检测 Transformer | Lung-DETR 提升图像识别率！

在计算机断层扫描(CT)图像中准确检测肺结节是具有挑战性的，因为结节的出现较为稀疏，同时与其他解剖结构具有相似性。在典型的阳性案例中，结节仅在CT切片中的3%中出现，使得检测变得更加复杂。本文提出了一种名为 Lung-DETR 的肺肿瘤检测方法，将肺癌检测任务视为异常检测，目标为在主要为正常数据集中的结节出现。作者的新颖方法 Lung-DETR 将变形检测 Transformer 、Focal L

AI_小站
2024-10-06 11:47:21

 1244

 17

#transformer #深度学习 #人工智能
从编码器和词嵌入开始：Transformer架构详解（上）-ChatGPT4o作答+王木头学科学阅读理解

Transformer架构的创新之处在于它摒弃了RNN和CNN的顺序计算，通过自注意力机制并行计算输入序列中的所有位置之间的关系，极大提高了计算效率。同时，多头注意力机制允许模型从多个角度学习输入数据的特征，位置编码则帮助模型理解词语之间的顺序信息。这种架构已被广泛应用于各种自然语言处理任务，并成为了许多大型预训练语言模型（如BERT、GPT、T5等）的基础架构。

部分分式
2025-03-23 00:53:12

 1161

 17

#transformer #深度学习 #人工智能
Transformer应用之图像识别中的应用 - Transformer教程

本文介绍了Transformer模型在图像识别中的应用，包括Vision Transformer、Swin Transformer和DETR等模型，并探讨了其优势、面临的挑战及未来发展方向。Transformer凭借其强大的特征提取和建模能力，正逐渐成为图像识别领域的重要工具。

taiyangyukeji
2024-08-14 09:40:02

 1079

 3

#transformer #深度学习 #人工智能
图像识别transformer基础知识和实践

现在文本领域的大模型，如chatgpt对文字的理解能力已经做到很强了。那么怎么让大模型不仅会“说”，而且会“看”，拥有跨图像和文字的多模态能力呢？多模态的算法其实研究了很长时间了，进入大模型时代后是一个质变的飞跃时刻。就是标志着“transformer”这一种模型架构可以一统江湖了。这里限于篇幅，就列出多模态理解的一个重要的论文——CLIP。（原来是openai出品的文章。。现在才发现。果然ope

幻兽帕鲁
2024-05-03 16:43:10

 752

 8

#transformer #深度学习 #人工智能
【一文读懂】从底层逻辑认知到底什么是大语言模型、智能体、提示词。

大语言模型是基于深度学习架构（如Transformer）、通过海量文本数据训练的程序系统。其本质是一个“数学函数”——输入文本（如问题），输出文本（如回答），核心能力是通过计算词语间的概率关系生成连贯内容。

爱编程的小辞
2025-02-12 10:01:59

 2054

 17

#语言模型 #人工智能 #自然语言处理 +2
Toolformer Language Models Can Teach Themselves to Use Tools 阅读理解

大型语言模型在各种自然语言处理任务上取得了令人印象深刻的few-shot结果，并展示了一些涌现能力。然而，所有这些模型都有一些固有的限制，这些限制最多只能通过进一步扩展来部分解决。这些限制包括无法获取最近事件的最新信息和相关的幻觉倾向，理解低资源语言的困难，缺乏进行精确计算的数学技能以及对时间进程的不了解。克服当今语言模型的这些限制的一个简单方法是赋予它们使用外部工具(如搜索引擎、计算器或日历)的

 清辉依次减
2023-12-23 14:23:27

 1332

 18

#语言模型 #人工智能 #自然语言处理 +4
大语言模型背后的Transformer，与CNN和RNN有何不同，一文搞懂！！

随着大语言模型的不断出圈，Transformer这一概念也走进了大众视野。Transformer是一种非常流行的深度学习模型，最早于2017年由谷歌（Google）研究团队提出，主要用于处理自然语言。

小涂Ss
2024-10-16 14:37:48

 2629

 21

#语言模型 #transformer #cnn +2
解析 Transformer 在语音识别中的应用

``html 解析 Transformer 在语音识别中的应用。

人生主线程崩溃AB
2025-03-29 10:09:17

 1135

 6

#transformer #语音识别 #深度学习
数据派THU | 深入解析Tiktokenizer：大语言模型中核心分词技术的原理与架构（建议收藏！）

在快速发展的自然语言处理(NLP)领域，分词(tokenization)作为将原始文本转换为机器可处理格式的首要环节，具有不可替代的重要性。分词过程将文本分割成离散单元——即token，这些token构成了后续分析的基础，包括词嵌入(embedding)、语法解析和模型训练等多个环节。

双木的木
2025-03-28 17:12:38

 1206

 30

#语言模型 #人工智能 #自然语言处理 +3
大语言模型-Transformer

大语言模型-Transformer是深度学习在自然语言处理领域的里程碑式进展，极大地推动了语言理解和生成的技术。从基本的文本处理到复杂的对话系统，Transformer及其各种变体已经成为了现代NLP不可或缺的一部分。尽管存在一些挑战，但这些模型在多个任务上都已经取得了显著的成果，并且继续在人工智能领域发挥着重要作用。

ak2111
2024-06-21 22:13:10

 3032

 73

#transformer #人工智能 #语言模型 +1
一文讲透大语言模型构建流程

最近已有不少大厂都在秋招宣讲了，也有一些在 Offer 发放阶段。节前，我们邀请了一些互联网大厂朋友、今年参加社招和校招面试的同学。针对新手如何入门算法岗、该如何准备面试攻略、面试常考点、大模型技术趋势、算法项目落地经验分享等热门话题进行了深入的讨论。大语言模型的构建过程一般分为两个阶段，即：预训练、人类对齐（对齐再细分为指令微调+基于人类反馈强化学习）预训练-数据准备流程原始语料库：为了构建功能

 Python算法实战
2024-10-02 11:37:10

 2034

 36

#语言模型 #人工智能 #自然语言处理 +3
大语言模型中常用的旋转位置编码RoPE详解：为什么它比绝对或相对位置编码更好?

旋转位置嵌入代表了 Transformer 架构的范式转变，提供了一种更稳健、直观和可扩展的位置信息编码方式。RoPE不仅解决了LLM context过长之后引起的上下文无法关联问题，并且还提高了训练和推理的速度。这一进步不仅增强了当前的语言模型，还为 NLP的未来创新奠定了基础。随着我们不断解开语言和人工智能的复杂性，像 RoPE 这样的方法将有助于构建更先进、更准确、更类人的语言处理系统。

傻逼社区云
2024-04-01 10:18:19

 1.1w

 13

#人工智能 #深度学习 #神经网络 +1
浙江大学：《大小模型端云协同赋能人机交互》（可下载）

最后呢，会给大家一个小福利，课程视频中的所有素材，有搭建AI开发环境资料包，还有学习计划表，几十上百G素材、电子书和课件等等，只要你能想到的素材，我这里几乎都有。作为一名从业五年的资深大模型算法工程师，我经常会收到一些评论和私信，我是小白，学习大模型该从哪里入手呢？在做这套教程之前呢，我就曾放空大脑，以一个大模型小白的角度去重新解析它，采用基础知识和实战项目相结合的教学方式，历时3个月，终于完成了

 程序员糖仔
2025-04-30 13:57:01

 396

 5

#人机交互 #自然语言处理 #transformer +1
[代码实战]从0开始实现fMRI字幕预测和视觉问答

实现fMRI解码字幕预测和视觉问答

 夏莉莉iy
2025-04-28 01:45:02

 1423

 31

#人工智能 #深度学习 #计算机视觉 +4
【文字识别】TrOCR: Transformer-based Optical Character Recognition with Pre-trained Models

TrOCR: Transformer-based Optical Character Recognition with Pre-trained Models

阿飞大魔王
2022-12-23 14:11:04

 1530

#transformer #深度学习 #人工智能 +1
基于 PyTorch + BERT 意图识别与模型微调

意图识别说大白话就是：能够理解提炼用户输入的内容最终目的、意图是什么，能够从用户的自然语言中理解他到底想要做什么！了解了意图识别概念后，接下里先了解一个概念叫做【槽位slot】，槽位是意图识别中的：参数、信息点，是实现具体操作所需的关键数据。当用户输入：发起张三2026年全年的绩效考核任务，就能把该内容理解为【发起考核任务】——> create_task；将2026年1月份任务就行归档，就理解为【

Coder Xu
2025-11-16 19:51:28

 726

 5

#pytorch #bert #人工智能 +2
ICLR2021 | ViT | 一张图像相当于 16×16 的词：大规模图像识别的 Transformer 模型

本文 “An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale” 提出将标准Transformer直接应用于图像识别任务的Vision Transformer (ViT)，通过将图像分割为块并输入Transformer编码器，在大规模数据预训练后于多个图像识别基准测试中取得优异成绩，探讨了其预训练数据需求

 四口鲸鱼爱吃盐
2024-12-26 22:33:49

 4292

 11

#人工智能 #深度学习 #计算机视觉 +1
使用 Conformer 模型实现自动语音识别，ASR

使用 Conformer 模型实现自动语音识别，ASR

Michael.py
2025-05-27 17:41:51

 325

 3

#python #pytorch #transformer
通俗讲解大语言模型内部运行原理Transformer，看到就是赚到！

在过去几年中，大语言模型（Large Language Model, LLMs）成为了人工智能领域的关键突破之一，尤其是GPT-3和GPT-4等模型，它们被广泛应用于自然语言处理（NLP）相关的任务，如文本生成、翻译、对话系统等。这些模型之所以备受瞩目，不仅因为它们能够处理海量数据，还因为它们在理解、生成和推理语言方面表现出强大的能力。

上马定江山
2024-10-07 15:14:50

 2137

 19

#语言模型 #transformer #人工智能
ViT：把图像切成词之后，Transformer 如何进入计算机视觉

本文是一篇原创中文论文解读，主要参考 D2L《Dive into Deep Learning》1.0.3 章节，解读 Alexey Dosovitskiy 等人的经典论文。D2L 书籍文本与图示采用 Creative Commons Attribution-ShareAlike 4.0 International License；本文复用的 D2L 图示已在本地备份并转换为 PNG，用于说明模型结

 就是一顿骚操作
2026-08-27 10:05:47

 418

 5

#transformer #计算机视觉 #深度学习 +1
分割-tran-3-9-用于大规模图像识别AN IMAGE IS WORTH 16X16 WORDS: TRANSFORMERS FOR IMAGE RECOGNITION AT SCALE

与在计算机视觉中使用自注意力的先前工作不同，除了初始补丁提取步骤之外，我们不会将特定于图像的归纳偏差引入架构中。最后，vit 的进一步缩放可能会导致性能的提高。当对大量数据进行预训练并转移到多个中小型或小型图像识别基准（Imagenet、cifar-100、vtab 等）时，与最先进的卷积网络相比，视觉转换器 (vit) 获得了出色的结果，同时需要更少的计算资源来训练。：将输入图像分割成固定大小的

 weixin_43899239
2024-12-09 21:03:25

 394

 3

#论文阅读 #transformer #深度学习 +1
图像识别完整项目之Swin-Transformer，从获取关键词数据集到训练的完整过程

本文介绍了利用 Swin-Transformer 从网络自定义下载数据集到完整训练、预测的完整项目，操作简单，无需更改参数！

Henry_zs
2023-12-17 12:41:57

 2291

 16

#transformer #深度学习 #人工智能 +1
Agent如何精准识别用户意图？深入解析意图识别技术在Agent中的应用与实现！

在AI Agent的设计中，意图识别是自然语言理解（NLU）的核心环节，直接影响用户体验和业务目标达成。作为AI产品经理，需从业务场景、技术实现和用户体验三个维度系统设计意图识别方案。

python忠粉
2026-01-06 08:45:00

 1241

 16

#人工智能 #语言模型 #架构 +2
＜＜计算机视觉NeurIPS＞＞2022：GLIPv2: Unifying Localization and VL Understanding

建立一个通用的，可以同时处理任务(image classification、object detection和segmentation等等)和任务(VQA和image captioning等等)的在过去一两年广为关注，这需要模型能够有效的统一和任务。然而，这两种任务有很大的区别：localization是仅视觉的任务，需要细粒度的输出(例如，bounding boxes或pixel masks)，

金克丝、
2022-09-30 00:34:31

 1592

#计算机视觉 #自然语言处理 #深度学习 +1
Transformer、BERT、GPT、T5、LLM（大语言模型），以及它们在实际行业中的运用

Transformer、BERT、GPT、T5、LLM（大语言模型），以及它们在实际行业中的运用

 NTD_huachen
2024-09-05 11:23:40

 1977

 16

#transformer #bert #语言模型 +1
Transformer颠覆图像识别：ViT网络结构解析

ViT是Google团队提出的将Transformer应用于图像分类的里程碑模型。其核心思想是将图像分割为16x16的图块，通过线性嵌入转换为序列输入Transformer编码器。相比CNN，ViT缺乏空间归纳偏置，在小数据集上表现较差，但在大规模数据预训练后展现出优越性能。模型结构包含Patch嵌入、Class Token、位置编码和多层Transformer编码器。ViT的重要意义在于证明了统

 纽约恋情
2025-10-27 15:11:13

 1263

 11

#transformer
ViT(Vision Transformer)+MNIST图像识别

北京理工大学人工智能基础大作业 Vision Transformer（ViT）+MNIST

亦梦亦醒乐逍遥
2022-12-15 23:34:16

 3728

 9

#transformer #深度学习 #人工智能
初学者必备：一文读懂大语言模型（LLM）入门攻略！

当前2024年，LLM领域发展日新月异，很多新的实用技术层出不穷，个人认为要跟上LLM的发展，需要掌握以下内容，并需要不断地跟踪学习。

bagell
2024-09-25 11:39:39

 1419

 11

#语言模型 #人工智能 #自然语言处理 +3
【AI大模型】大语言模型应用框架介绍

大语言模型的英文全称为：Large Language Model，缩写为 LLM，也被称为大型语言模型，主要指的是在大规模文本语料上训练、包含百亿级别参数的语言模型，它用来做自然语言相关任务的深度学习模型。

瓦罗兰特顶级C位
2024-09-09 16:03:32

 1464

 10

#人工智能 #语言模型 #自然语言处理 +1
计算机视觉-图像去雾（A Data-Centric Solution to NonHomogeneous Dehazing via Vision Transformer）中文版

近年来，图像去雾技术受到了越来越多的关注。针对这一挑战，已经提出了许多深度学习方法，并在处理均匀雾霾（homogeneous haze）的场景中取得了显著成果。然而，当这些方法被应用于非均匀雾霾图像（如NTIRE挑战赛提出的NH-HAZE23数据集）时，其性能却难以保持相当水平。造成这种表现不佳的原因之一在于，非均匀雾霾（non-homogeneous haze）不符合建模均匀雾霾所需的基本假设。

m0_68604571
2024-12-11 22:54:06

 1170

 31

#计算机视觉 #transformer #人工智能 +2
【大模型】大型模型飞跃升级—文档图像识别领域迎来技术巨变

2023年12月31日，第十九届中国图象图形学学会青年科学家会议在广州举行，由中国图象图形学学会主办。该会议的目标是促进青年科学家之间的交流与合作，以提升我国在图像图形领域的科研水平和创新能力。由中国图象图形学学会和上海合合信息（INTSIG）联合承办的《垂直领域大模型论坛》中，专注于探讨大语言模型时代下以ChatGPT为代表的大模型技术对图像图形学领域研究方向或落地应用的潜在价值。包括合合信息丁

 AGI学习社
2024-10-30 16:40:38

 1163

 19

#transformer #深度学习 #人工智能
【飞桨PaddleSpeech语音技术课程】— 语音识别-Transformer

【飞桨PaddleSpeech语音技术课程】— 语音识别-Transformer

小湉湉
2022-10-28 16:06:13

 2843

 1

#语音识别 #transformer #人工智能