首页
学习
活动
专区
圈层
工具
发布

#压缩

AI大模型破局:内存压缩与高速互连新战场

数据存储前沿技术

随着生成式AI的爆发,大语言模型(LLM)正以前所未有的速度重塑着技术格局。然而,在这场AI浪潮的背后,我们正面临着严峻的挑战:日益增长的模型规模对内存容量和数...

9810

《Linux进阶指令实操指南》:文件查看、时间管理、搜索压缩全覆盖(附高频案例)

用户11915063

功能:查看目标文件的内容,tac就是逆序查看 语法:cat [选项] [文件] 常用选项:

8610

DeepSeek之后,清华和智谱AI提出“视觉压缩”新范式

Ai学习的老章

大型语言模型(LLM)在处理超长上下文时面临着巨大的计算和内存成本挑战,这严重限制了它们在文档理解、代码分析和复杂推理等关键应用中的潜力。传统的解决方案,如扩展...

8010

【ChIP-seq分析】重叠peak分析:bedtools软件 intersect用法

三兔测序学社

intersect主要用于识别两个或多个BED/GFF/VCF文件之间相交的区域,找到两个或多个peaks中重叠的区域,并分析重叠与非重叠区域的特征差异,是后续...

10210

DeepSeek技术架构解析:MLA多头潜在注意力

老周聊架构

MLA主要通过优化KV-cache来减少显存占用,从而提升推理性能。我们知道这个结论之前,老周带大家一起梳理一下从MHA、MQA、GQA到MLA的演变历程,并着...

7210

bam文件转fastq的一些小tips

生信菜鸟团

samtools bam2fq(现多写作 samtools fastq)在大多数场景下 I/O 密集、计算量低,单线程即可跑满磁盘带宽,再增加线程也不会明显提速...

7810

7分钟搞定正则替换:批量清洗技术博客中的奇怪格式符号(含20个可套用Regex)

安全风信子

一句话承诺:复制即用的正则清单+流程图,帮你把技术文章里的奇怪空格、中文标点、错位代码块一次性清理干净。

12010

全新开源的DeepSeek-OCR,可能是最近最惊喜的模型。

数字生命卡兹克

传统的OCR任务其实特别纯粹,就是把那些图片上字啥的啊,变成你电脑里可以编辑可以复制粘贴数字文本。

18810

Prompt的尽头,居然是MBTI。

数字生命卡兹克

就是你跟大模型对话,可以不需要再用一些非常复杂的Prompt了,而是只需要给它一个人格,给它一个,MBTI,就能发挥非常好的效果。

8610

DeepSeek-OCR模型发布背后的重大意义

javpower

在人工智能领域,尤其是大语言模型(LLM)的发展浪潮中,一个长期存在的核心瓶颈正日益凸显:如何高效、经济地处理超长文本上下文。传统的文本处理方式,随着输入长度的...

24810

革新视频生成速度的秘密武器!英伟达最新DC-VideoGen:超高清生成实现近15倍加速

AI生成未来

论文链接:https://arxiv.org/pdf/2509.25182 Git链接:https://github.com/dc-ai-projects/DC...

10310

108!_数字水印技术与版权保护:从理论到实战的全方位解析指南

安全风信子

扩频水印的基本原理是使用伪随机序列(扩频码)将水印信息扩展到更宽的频带或更大的空间,然后将扩展后的水印嵌入到载体数据中。这种方法可以提高水印对噪声和压缩的抵抗能...

15510

129_量化技术:INT8与动态量化 - 推导压缩的精度损失公式

安全风信子

在2025年的大语言模型(LLM)时代,随着模型规模的指数级增长,部署这些庞然大物变得越来越具有挑战性。GPT-5和Claude 4.5等最新模型的参数量已经达...

19310

118_LLM模型量化与压缩:从理论到2025年实践技术详解

安全风信子

大型语言模型(LLM)在自然语言处理领域取得了前所未有的成功,但模型规模的快速增长带来了巨大的计算和存储挑战。一个典型的大型语言模型(如GPT-4或LLaMA ...

15010

94_提示压缩:成本砍半,性能不减!极简提示的降本增效艺术

安全风信子

在大语言模型(LLM)应用中,提示工程已成为提升模型性能和控制输出的关键技术。然而,随着模型能力的增强和应用场景的复杂化,提示文本往往变得冗长,导致token消...

10010

85_多轮对话:上下文管理与压缩

安全风信子

在大语言模型(LLM)的应用场景中,多轮对话已经成为最核心的交互模式之一。随着2025年LLM技术的快速发展,用户对持续、连贯、个性化的对话体验要求越来越高。然...

18910

139_剪枝优化:稀疏模型压缩 - 分析结构化剪枝的独特速度提升与LLM部署加速实践

安全风信子

本文将深入探讨结构化剪枝在LLM压缩中的应用,分析其独特的速度提升机制,并提供实用的剪枝策略和实现方法。我们将从剪枝原理出发,介绍各种结构化剪枝算法,讨论评估标...

16310

54_模型优化:大模型的压缩与量化

安全风信子

随着大型语言模型(LLM)的快速发展,模型规模呈指数级增长,从最初的数亿参数到如今的数千亿甚至万亿参数。这种规模扩张带来了惊人的能源消耗和训练成本,同时也给部署...

19510

压缩格式大比拼:TAR、ZIP、7Z、WAR 谁才是压缩之王?

用户8589624

在日常工作和数据处理中,文件压缩是必不可少的操作。无论是节省存储空间、加快传输速度,还是归档备份,选择合适的压缩格式至关重要。然而,面对 TAR、ZIP、7Z、...

30710

深入解析GZIP解压缩异常:从错误日志到解决方案

用户8589624

在分布式系统开发中,数据传输的压缩与解压缩是常见的优化手段,尤其是使用 GZIP 压缩可以显著减少网络传输的数据量。然而,如果客户端和服务端在压缩/解压缩的处理...

7010
领券