登录社区云,与社区用户共同成长
邀请您加入社区
随着深度学习技术的飞速发展,AI 模型正从云端数据中心向边缘终端加速迁移。端侧 AI 推理,即将训练好的深度学习模型直接部署在手机、智能眼镜、安防摄像头、IoT 设备等终端硬件上,正在成为人工智能落地的关键趋势。传统的云端 AI 推理模式存在明显的局限性:数据必须上传至服务器,这不仅带来了较高的网络延迟,难以满足自动驾驶、实时翻译等对响应速度要求极高的场景,还存在用户隐私数据泄露的风险。相比之下,
很多刚接触 AI 的同学,最先被绕晕的概念就是人工智能、机器学习、深度学习。网上不少文章讲得晦涩抽象,或者只放一张嵌套图就草草结束。本文从本质出发,理清三者的包含关系,重点拆解,同时结合工业落地场景讲选型思路。
本项目基于PyQt5构建了简洁易用的图形用户界面,支持用户选择本地图片或视频进行目标检测。系统界面美观,交互流畅,具备良好的用户体验。项目附带完整的 Python 源码和详细的使用说明,适合学生进行学习或有一定 Python 基础的开发者,参考与二次开发。您可以在文末获取完整的代码资源文件。✨ 项目亮点🔧包括pyqt5界面、后台检测逻辑、模型加载等模块🧠源代码,支持个人添加改进、模型修改等🚀
11将"acad.exe"文件替换到CAD软件的安装目录中,如果第三步没有修改安装路径,默认位置就是C:\Program Files\Autodesk\AutoCAD 2026。首先推荐在网上找到免费版本autoCAD2026版本,如果实在找不到可以去。10.桌面找到CAD软件图标,右键右击【打开文件所在的位置】8.点击右上角的关闭,如果点击了开始,也请先关闭CAD软件。4.【勾选】我同意使用条款
在机器学习与深度学习快速渗透各行各业的今天,算法竞赛成为连接理论知识与工程实践的重要桥梁。全球校园人工智能算法精英大赛以真实场景数据和明确评测指标为核心,要求参赛者在有限算力与时间约束下完成可复用的算法方案。比赛覆盖固定数据集、开放场景与算法创新三类赛题,既考验数据清洗、特征工程、数据增强等基础能力,也检验模型选型、训练配置、超参数调优等实战技巧。从建立轻量级baseline到学习率调度,从剪枝蒸
本文描述了大模型优化器NAG算法的原理
当前所有AI均为弱人工智能,仅擅长特定任务,缺乏通用理解与自我意识;强人工智能(AGI)指具备人类水平的通用智能,可跨领域自主学习,尚未实现;超人工智能则远超人类智慧,属理论猜想。大模型虽表现强大,本质仍是数据拟合,非真正AGI。
极验叠字点选验证码的对抗本质,使用YOLO系列检测,数学优化方法,结果等。控制在150字内,需精炼。本文聚焦极验叠字点选验证码对抗,采用YOLO系列检测汉字位置,结合数学方法解决叠字与语义干扰。通过合成数据训练,以匈牙利算法匹配提示词与检测框,并用阈值分割和尺寸惩罚优化精度。实验表明标注准确率超90%,排序准确率70-80%。工程实践中提出过拟合与训练慢的调优策略。
PyTorch数据加载指南:核心组件与实用技巧 PyTorch通过Dataset和DataLoader两大组件实现高效数据加载。自定义Dataset需实现__len__和__getitem__方法,支持结构化数据(如CSV)和图像数据(如文件夹分类)。DataLoader关键配置包括: 批处理(batch_size) 打乱顺序(shuffle) 多进程加载(num_workers) 内存优化(pi
在windows11系统上部署对应版本的cuda、cudnn、pytorch、anaconda、pycharm
PyTorch模型保存与加载指南 本文详细介绍了PyTorch中模型参数的保存与加载方法: 核心概念:模型参数存储在state_dict字典中,包含各层名称与参数张量的映射关系 推荐保存方式: 仅保存state_dict(文件小、跨平台) 避免保存整个模型(依赖代码结构) 训练检查点: 保存模型参数、优化器状态、epoch数和损失等完整训练状态 实现训练中断后恢复功能 设备映射: 处理CPU/GP
OpenCode 是一款 100% 开源的 AI 编程 Agent,直接跑在终端里,支持 75+ 模型供应商,能理解整个代码库、自主完成多文件编辑和命令执行。本文带你从零完成安装与配置。
GPT-5.6 桌面端提供了比网页版更流畅的体验和更多本地功能。通过本教程,您应该已经成功完成了安装和基本配置。
如果还是没有显示的话(一般来说之前显示图没问题的话这一步是不用设置的,并且如果全部都设置了还是无法显示就要考虑matplotlib和d2l的冲突了),就在以下设置需要打开:【不同的版本可能没有pillow那个,无需理会全部勾选就ok】新的【Animator】类如下:【注:3.6中存在这样的问题也直接去掉就好了,3.7中需要在上面提到的torch文件中手动注释】注:本文参考d2l参考书中Zhang_
量子化学软件——Gaussian 16W 安装教程
基于plc的物料分拣1(设计源文件+万字报告+讲解)(支持资料、图片参考_相关定制)_西门子博图S7-1200plc与触摸屏HMI的物料分拣系统设计,物流分拣。基于西门子s7-1200plc的智能物流快递分拣设计分拣plc280。内容包含博图程序 io表 接线图 说明书,说明文档很详细!基于西门子PLC的智能物流/快递分类设计。基于plc的物料分拣。
本文详细解析了YOLOv5在RK3588上的后处理数据格式。模型的三个输出头分别对应不同尺度的检测目标(小/中/大),每个输出为4维张量(如[1,255,80,80])。数据按NCHW布局存储,255个通道包含3个锚框的预测信息(x,y,w,h,置信度及80类概率)。作者通过三维立方体类比形象说明了数据在内存中的分层存储结构:先存储锚框0的全部参数,再依次存储锚框1和2的参数。这种立体化的讲解方式
本文描述了LLM训练时使用的反向传播算法的基本原理
本文研究能否完全不用反向传播训练 Transformer 语言模型,方法是将其各层重新解释为一个连续时间能量系统的定点。我们实现了EnergyLM——一个能量递归块(ERB),其隐状态弛豫到稳态Z* = f(Z*),预测从该平衡点读出。我们对比了两种不沿深度反传的学习规则:(i)平衡传播(EP),用自由相与钳制相两个稳态下的局部 Hebb 相关差更新权重;(ii)DEQ 隐式梯度,在平衡点用 Ne
4、个性化定制,适配工业场景:Inno Setup支持通过脚本自定义安装流程,比如指定默认安装路径(避免客户误装到系统盘)、隐藏高级配置(避免非专业用户误操作)、安装完成后自动启动程序,甚至可以定制多语言安装界面,适配不同客户的需求。4、批量部署更高效:很多场景下,需要在多台工业电脑上安装上位机(比如工厂多条生产线、多个监控工位),安装包可以实现批量安装、静默安装,节省大量部署时间,而散文件需要逐
本文梳理嵌入式完整知识脉络:计算机源于战时军工研发,依靠军转民实现技术可持续发展,摩尔定律支撑硬件小型化。计算机分通用 PC、超算与专用嵌入式,嵌入式内嵌设备内部,软硬件定制、实时、低功耗、资源受限。嵌入式主流架构为 ARM,其独创 IP 授权模式,仅出售内核设计不造芯片,覆盖移动、物联网、车载等领域。文中区分 SoC 片上系统与 MCU 单片机,MCU 是轻量化控制类 SoC。STM32 是意法
本文详细介绍了在Ubuntu 26.04系统下为NVIDIA RTX 5060 Ti显卡配置深度学习环境的完整流程。首先通过官方仓库安装CUDA 13.2工具包,并提供了安装验证和卸载方法。随后安装cuDNN 9.24.0加速库,并建议先安装zlib1g依赖包。最后通过Miniconda创建Python 3.13环境,安装PyTorch 2.12.1(CUDA 13.2版本)进行验证测试,成功输出
本文介绍了基于美国专利商标局(USPTO)和谷歌专利数据构建的1976-2023年美国人工智能专利数据集(AIPD)。该数据集采用改进的BERT模型,通过专利标题、摘要和权利要求识别8类AI技术要素,并以86%概率阈值判定AI专利。数据集包含两个版本:86%全版和基于调整引用次数的1%精版,后者通过计算首要CPC子类别的相对引用量筛选高影响力专利。数据整合了USPTO的AI分类指标和谷歌专利的完整
本文介绍了迭代注意力特征融合(iAFF)机制的改进方法,用于提升目标检测精度。iAFF通过多尺度通道注意力模块优化特征融合过程,解决了传统方法在尺度和语义不一致时的局限性。文章详细解析了iAFF的核心原理、代码
(3)Invoke-WebRequest -Uri "https://github.com/kendryte/nncase/releases/download/v2.11.0/nncase_kpu-2.11.0-py2.py3-none-win_amd64.whl" -OutFile "C:\Users\中文路径\Desktop\YOLOv8-yan\convert_ascii\nncase_kp
本文详细说明了深度学习中损失函数CTC的基本原理
本文详细解析了K210开发板部署Mx_yolov3模型时遇到的七大典型问题,包括CUDA版本选择、zlibwapi.dll缺失、GPU利用率低下等,提供经过验证的解决方案和优化技巧,帮助开发者高效完成本地部署。
退路
这里的【-c nvidia】表示优先从官网下载,若本地已配置镜像,则去掉。以下为安装命令,在安装命令后加上【 -i 参数】,可临时使用清华源。限制安装pytorch时选择CUDA的最高版本。
在深度学习过程中,经常需要用到pytorch以及mamba_ssm,因此,在这里记录一下如何快速下载这两个包。前提条件:在终端输入以下命令确认CUDA的版本。nvcc -V如图所示,笔者的CUDA版本为12.2。
YOLOv26(全称Ultralytics YOLOv26)是Ultralytics公司于2026年初发布的新一代端到端实时目标检测模型,作为YOLO系列的最新迭代,它彻底重构了传统YOLO的推理与训练范式,核心定位是极致轻量化、边缘端友好、多任务统一、部署极简,彻底解决了前代模型在低功耗设备上的速度瓶颈、部署复杂、后处理冗余等痛点,是当前计算机视觉领域兼顾速度、精度与工程实用性的标杆方案。3.
本文介绍了如何在星图GPU平台上自动化部署PyTorch 2.8深度学习镜像,实现torch与transformers版本的无缝对齐。该镜像专为AI工作负载优化,支持大语言模型推理、视频生成等场景,用户可快速搭建稳定环境,避免常见依赖冲突问题。
输入: [CLS] 我 喜欢 猫↑特殊标记,初始无意义,专门训练用来"总结"经过12层后:[CLS]' = 整句话的压缩表示(不是我+喜欢+猫的简单相加,而是学会了"这句话是正面情感")用途:- 情感分类: [CLS]' → 全连接层 → "正面"- 文本相似: 比较两句的[CLS]'向量距离关键: [CLS]的向量是通过注意力机制,主动学习如何总结全文,不是被动装东西。输入: [CLS] 我 喜
本文介绍了如何在星图GPU平台上自动化部署PyTorch 2.8 深度学习镜像(RTX4090D 24G CUDA12.4 通用优化版),实现嵌入式AI项目的高效开发。该镜像支持快速训练轻量级CNN模型,适用于工业检测、智能家居等嵌入式场景,显著缩短从仿真到实物验证的开发周期。
本文提供了Mamba在Windows11上的完整安装教程,涵盖Python版本选择、CUDA兼容性解决方案及常见错误如`ModuleNotFoundError: No module named 'causal_conv1d_cuda'`的修复方法。通过详细的步骤和验证流程,帮助开发者在Windows平台上高效部署Mamba模型。
obsidian。
本文深入解析Transformer中的多头注意力机制,包括编码器自注意力、解码器自注意力和编码器-解码器注意力三种应用方式。通过将输入拆分为查询、键和值三个参数,Transformer能并行处理多个注意力头,每个头独立计算注意力分数后再合并,从而捕捉更丰富的语义关系。文章详细图解了数据在注意力机制中的处理流程,包括线性变换、头分割、分数计算和合并等关键步骤,并解释了如何通过掩码机制控制注意力范围。
【代码】labelme 2 yolov5。
每个输入向量先乘以自己的注意力权重,再加和得到上下文向量。
本文详细介绍了Transformer架构的底层实现,主要包括以下核心组件: 输入模块:词嵌入层将词汇转为向量表示,位置编码层添加位置信息 编码器:包含多头注意力层和前馈全连接层,通过残差连接和层规范化连接 解码器:包含掩码多头自注意力层、多头注意力层和前馈全连接层 输出模块:线性层将输出转为词表概率分布 文章完整实现了Transformer的各个组件,包括: 注意力机制计算函数 多头注意力组件 前
摘要:彻底清除CUDA的正确步骤为:1)使用nvcc --version和dpkg -l | grep cuda检查当前安装状态;2)执行sudo apt-get --purge remove 'cuda*'彻底卸载所有CUDA组件及配置文件;3)运行sudo apt autoremove清理残留依赖;4)再次用dpkg -l | grep cuda确认卸载完成。其中--purge参数是关键,可避
本文介绍了自然语言处理中的语言模型概念,重点讲解了n-gram语言模型的工作原理。文章首先阐述了语言模型的核心任务是预测下一个词的概率分布,并详细说明了如何通过n-gram方法和马尔可夫假设来简化计算。接着分析了n-gram模型面临的稀疏性问题及其解决方案(平滑和回退),最后讨论了文本生成过程和n-gram模型的局限性(上下文窗口有限导致逻辑不连贯)。文章指出这些局限性正是推动神经网络语言模型发展
本文提供了一份详细的PyTorch模型可视化实战教程,重点介绍了pytorchviz工具的使用方法。通过LSTM和ResNet等具体案例,展示了如何快速生成清晰、专业的神经网络结构图,帮助开发者直观理解模型架构、调试代码并提升工作效率。
本文介绍了如何在星图GPU平台自动化部署🎨 SDXL 1.0 电影级绘图工坊镜像,实现高质量AI图像生成。该平台简化了部署流程,用户可快速创建电影级视觉内容,适用于概念艺术设计、场景构建和角色创作等专业应用场景,显著提升创作效率与质量。
本文为开发者提供了一份从零搭建和微调AI大模型的实战指南。文章详细介绍了从环境配置、模型加载(如GPT-2)、数据预处理到使用LoRA技术进行高效微调的完整流程,并涵盖了模型部署及生产化考量的关键步骤,帮助读者快速上手大模型开发与应用。
问题回答ViT 有没有 Q、K、V?有!完全保留Q、K、V 在图像中是什么意思?Q=“我想看啥”,K=“我能被谁看”,V=“我有啥内容”为什么需要 Q 和 K 算相关性?为了知道图像中哪个区域该关注哪个区域(比如眼睛关注鼻子,车轮关注车身)是不是只关注自己?不是!恰恰是要跨区域关注,这才是注意力的价值所以,不管是文字还是图像,Transformer 的核心思想不变通过 Q-K 匹配,动态决定从哪些
先说一下我的设备,ubuntu22.04RTX5090,CUDA Version:12.9 Driver version:575.57.08。前两天在跑一篇mamba的实验,5090比较新,安装mamba遇到了一些问题,在这里整理一下,我也是新手,仅供参考,希望能有所帮助。从源码编译安装 mamba-ssm,依旧git克隆 (上面如果还在causal-conv1d里记得出来 cd ~)手动添加 5