• 最新文章

X-transformers项目解析

X-transformers项目架构概览 架构关系图 训练脚本层 (train_*.py) ├── train_copy.py ├── train_with_muon.py ├── train_entropy_tokenizer.py ├── train_parity.py ├── train_enwik8.py ├── train_length_extrapolate.py ├── train_

deepseekv3.2 的 DSA 和 MoE 技术

deepseekv3.2 的 DSA 和 MoE 技术:在算力天花板下重构大模型效率 在 2024–2025 年这轮大模型军备竞赛中,真正的稀缺品已经从“参数规模”变成了“稳定可负担的算力”。研究机构 Precedence Research 估算,全球 AI 数据中心市场规模将从 2025 年约 175 亿美元增长到 2034 年约 1657 亿美元,年复合增速超过 28%,电力与资本开支压力持续

Transform原理解析

引言 从 2017 年 Transformer 提出到今天,大模型几乎清一色采用这一架构,“Transform 原理”已经变成理解现代 AI 的必修课。Transformer 通过自注意力机制,打破了 RNN、CNN 在长序列和全局依赖上的性能瓶颈,成为 NLP、CV、语音乃至多模态任务的统一基石。根据 S&P Global 在 2024 年发布的调研,约 60% 的企业已经在生产或试点环

一文看懂 LoRA 微调和 QLoRA:原理、场景与代码实战

一文看懂 LoRA 微调和 QLoRA:原理、场景与代码实战 大模型时代,很多人都会遇到同一个问题: “我只有一块 24G 显卡,怎么微调一个几十亿参数的模型?” 如果你也有这样的困惑,那你基本上已经站在了 LoRA 和 QLoRA 的门口。 它们都是 参数高效微调(PEFT, Parameter-Efficient Fine-Tuning) 技术,让你在显存有限、存储有限的前提下,也能把大模型变

网络规划师论文汇总

试题一:论F5G全光网络的规划与设计 F5G(The 5th Generation Fixed Networks,第五代固定网络)是以增强型固定宽带(eFBB,enhanced Fied BroadBand)、全光纤连接(FFC,Ful-Fiber Connection)、极致体验(GRE,Guaranteed Reliable Experience)为主要特征、由中国提出的最新一代固定网络标准且

网络规划师案例分析汇总

1、请按照网络安全等级保护第三级要求,为该企业规划安全区域边界层面的网络安全防范方案、简要说明方案中网络安全设备的部署规划(包括设备名称、部署区域、部署方式),并说明每个设备在网络安全防范体系中的作用。8 分 (1)在互联网出口/分支机构区域部署下一代防火墙(NGFW),串行部署,进行网络边界隔离。 (2)在核心交换机区域部署防火墙板卡,与核心交换机集成部署,进行办公区域隔离。 (3)在互联网出口

网络规划师综合知识汇总

5G 网络 eMBB(Enhanced Mobile Broadband )应用场景中采用的复用技术是 OFDM。 Paxos 分布式一致性协议的角色包括 Proposer(提议者)、Acceptor(决策者)、Learner(最终决策学习者)。 EPON 技术中,用于将光信号转换为电信号的设备采用的调制方式是 ASK,利用光波的强度(振幅)变化来实现数字信号的传输。QAM 被广泛应用于蜂窝移动通

网络规划师论文分析

论文架构要求:摘要(300字)、项目背景(500字)、正文(1300字)建议不要超过五个模块、总结(200字)。 一、内容 参考架构1:PSV架构/问答式 1、风险与现状分析:把风险和问题说清楚。 2、问题的整改:具体的问题,一个个整改。里面可以罗列多个小标题,比如: (1)架构优化 (2)网络安全整改 (3)xxx 3、建设效果与总结。 参考架构2:模块化结构 1、整体建设的标准,方法论等。 2

2025数据库系统工程师模拟题

2025数据库系统工程师模拟题 【说明】 某电视台拟开发一套信息管理系统,以方便对全台的员工、栏目、广告和演播厅等进行管理。 【需求分析】 (1)系统需要维护全台员工的详细信息、栏目信息、广告信息和演播厅信息。员工的信息主要包括工号、姓名、性别、出生日期、电话和住址等,栏目信息主要包括:栏目名称、播出时间和时常等。广告信息主要包括:广告编号、价格等。演播厅信息包括:房间号、房间面积等。 (2)电视

2024数据库系统工程师模拟题

2024数据库系统工程师模拟题 【说明】 某省针对每年举行的足球联赛,拟开发一套信息管理系统,以方便球队、球员、主教练、主裁判、比赛等信息。 【需求分析】 (1)系统需要维护球队、球员、主教练、主裁判、比赛等信息。 球队信息:球队编号、名称、成立时间、人数、主场地址、球队主教练 球员信息:姓名、身份证号、出生日期、身高、家庭住址 主教练信息:姓名、身份证号、出生日期、资格证书号、级别 主裁判信息: