keepdims: 布尔值，是否保留原尺寸。 如果 keepdims 为 False，则张量的秩减 1。 如果 keepdims 为 True，缩小的维度保留为长度 1。
是属于有理数中某特定子集的数的数字表示，在计算机中用以近似表示任意某个实数，小数点可以“浮动”。实数由一个整数或定点数（即尾数/significand/mantissa）乘以某个基数exponent（计算机中通常是2）的整数次幂得到，这种表示方法类似于基数为10的科学计数法。
小夕找了一份开源代码，结果刚开始跑小夕就震惊了！什么鬼？训练速度怎么这么快？出bug了吧？？？？
Keras 是一个模型级库，为开发深度学习模型提供了高层次的构建模块。它不处理诸如张量乘积和卷积等底层操作，目的也就是尽量不重复造轮子。
从 2018 年 10 月到 2019 年 6 月，NLP 三大模型横空出世，分别是 Google 的 BERT，OpenAI 的 GPT-2 和 CMU 和 Google 联手的 XLNet。
之前看到过一篇文章，讲的就是如何在使用pandas的时候降低内存的开销。笔者亲自尝试了一下，发现确实不错，但是也会有很多问题，譬如，一些第三方包（例如statsmodels、alphalens等）的运算要求数据就是float64类型的，这使得我们很尴尬呀。
PaddlePaddle Fluid可以支持在卷积神经网络上进行float16模式的低精度预测了！
我们非常高兴能够将训练后的 float16 quantization 作为模型优化工具包（Model Optimization Toolkit）的一部分。这套工具包括了：
Tensor是Tensorflow中最基础的数据结构，常常翻译为张量，可以理解为n维数组或矩阵，相关函数：
最近在测试一些通用模型+项目，包括：CLUE（tf+pytorch），bert4keras(keras)， Kashgari(keras+tf)等。其中如果要部署的话，就有tensorflow-serving和flask的选择了。 这里刚好有一个非常好的实战例子，基于tensorflow 1.x的，比较全面。
计算一个值对另一个值的幂。别名:tf.RaggedTensor.__pow__tf.compat.v1.RaggedTensor.__pow__tf.compat.v1.math.powtf.compat.v1.powtf.compat.v2.RaggedTensor.__pow__tf.compat.v2.math.powtf.compat.v2.powtf.math.powtf.powtf.math.pow( x, y, name=None)给定一个张量x和一个张量y，这个操作计算x和
我们发现这个数组的type是float64，那我们试着改变一个数组的类型，会有什么样的变化呢？请看下面的截图
在本部分中，我们将介绍 TensorFlow 2.00 alpha。 我们将首先概述该机器学习生态系统的主要功能，并查看其使用示例。 然后我们将介绍 TensorFlow 的高级 Keras API。 我们将在本节结尾处研究人工神经网络技术。
前几日分享了juila的一些特性和安装，今天让我们来学一下这个基本的语法。我的主要的参考文档来自于：
https://www.paddlepaddle.org.cn/documentation/docs/zh/guides/06_distributed_training/cluster_quick_start_cn.html
近日，TensorFlow模型优化工具包又添一员大将，训练后的半精度浮点量化（float16 quantization）工具。
我们首先需要从互联网上获取包含墙壁裂缝的图像（URL格式）数据。总共包含1428张图像：其中一半是新的且未损坏的墙壁；其余部分显示了各种尺寸和类型的裂缝。
在进行模型推理时，需要考虑如何有效地利用和管理GPU显存。以下总结了常用的节省显存的方法。
本文分享的论文是《COLD: Towards the Next Generation of Pre-Ranking System》 论文下载地址为：https://arxiv.org/abs/2007.16122
这个操作对x(对于张量)或x进行了强制转换。值(对于稀疏张量或索引切片)到dtype。
Creates a 1D tensor containing a sequence of integers.
随着深度学习技术的成熟和人工智能的发展，机器开始变得越来越“聪明”，越来越了解用户的喜好和习惯。
x: 一个类型为:half, float32, float64, uint8, int8, uint16, int16, int32, int64, complex64, complex128的张量。
MindSpore Lite 是一款 AI 引擎，它提供了面向不同硬件设备 AI 模型推理的功能，目前已经在图像分类、目标识别、人脸识别、文字识别等应用中广泛使用。
如何优化大数据集内存占用？在用Pandas进行数据分析时，首先对读取的数据清洗操作包括剔除空列、去除不合要求的表头、设置列名等，而经常忽略对数据列设置相应的数据类型，而数据类型设置对大数据集内存占用产生重要影响。
>>> a.dtype = ‘float32’ >>> a array([ 3.65532693e+20, 1.43907535e+00, -3.31994873e-25, 1.75549972e+00, -2.75686653e+14, 1.78122652e+00, -1.03207532e-19, 1.58760118e+00], dtype=float32) >>> a.shape (8,)
Represents one of the outputs of an Operation.
位置编码技术是一种能够让神经网络建模句子中 Token 位置信息的技术。在 Transformer 大行其道的时代，由于 Attention 结构无法建模每个 token 的位置信息，位置编码（Position embedding) 成为 Transformer 非常重要的一个组件。研究人员也提出了各种各样的位置编码方案来让网络建模位置信息，Rope 和 Alibi 是目前最被广泛采纳的两种位置编码方案。
文 / Khanh LeViet 和 Luiz Gustavo Martins，技术推广工程师
模型量化属于模型优化中的重要技术之一，是非常有效地提升模型推理速度的技术方案，那么当前有哪些可用的模型量化工具呢？
PyTorch Lightning 地址：https://github.com/williamFalcon/pytorch-lightning
注意： （1）multiply这个函数实现的是元素级别的相乘，也就是两个相乘的数元素各自相乘，而不是矩阵乘法，注意和tf.matmul区别。 （2）两个相乘的数必须有相同的数据类型，不然就会报错。
上两篇原创的文章，小编主要是讲了数据可视化方面的内容，但是好像看得人不是很多的样子(搞得小编心里拔凉拔凉的....)
内存是否不足以支持长时间聊天内容的#LLM应用？NVIDIA工程师Song Han 开发了StreamingLLM，集成了TensorRT LLM v0.8。让我们看看StreamingLLM在中的应用吧！
Transformers 是一个强大的架构，但模型因其采用的自注意力机制，虽然能够有效地处理序列数据并捕获长距离依赖关系，但同时也容易导致在训练过程中出现OOM（Out of Memory，内存不足）或者达到GPU的运行时限制。
这篇文章中，我们来聊聊如何快速上手一众模型里，具有 14B 参数，但是比较特别的 RNN 模型：ChatRWKV。
Numpy中的数据类型 名称 描述 bool_ 布尔型数据类型（True 或者 False） int_ 默认的整数类型（类似于 C 语言中的 long，int32 或 int64） intc 与 C 的 int 类型一样，一般是 int32 或 int 64 intp 用于索引的整数类型（类似于 C 的 ssize_t，一般情况下仍然是 int32 或 int64） int8 字节（-128 to 127） int16 整数（-32768 to 32767） int32 整数（-2147483648 to
第一步，引入需要的包： from keras.models import Model from keras.layers import Input, LSTM, Dense import numpy as np import pandas as pd 第二步，定义模型超参数、迭代次数、语料路径： #Batch size 的大小 batch_size = 32 # 迭代次数epochs epochs = 100 # 编码空间的维度Latent dimensionality latent_di
Int16 意思是16位整数(16bit integer)，相当于short 占2个字节 -32768 ~ 32767
计算张量的绝对值。给定一个整数或浮点值的张量，这个操作返回一个相同类型的张量，其中每个元素都包含输入中相应元素的绝对值。 给定一个复数张量x，这个操作返回一个类型为float32或float64的张量。x中的所有元素都必须是a+bj形式的复数。绝对值计算为
Numpy 中的数组比 Python 原生中的数组（只支持整数类型与浮点类型）强大的一点就是它支持更多的数据类型。
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
写这个博客的关键Bug: Value passed to parameter ‘input’ has DataType uint8 not in list of allowed values: float16, bfloat16, float32, float64。本博客将围绕 加载图片 和 保存图片到本地 来详细解释和解决上述的Bug及其引出来的一系列Bug。
某次和领导吃饭，无意中提到了房子的话题，说了几句自己的心得经验（虽然没有再次实操的资本），却给领导留下了深深的印象（领导，你不是又要在郑州置业了吧）。
从均匀分布中输出随机值。生成的值在该 [minval, maxval) 范围内遵循均匀分布.下限 minval 包含在范围内,而上限 maxval 被排除在外。对于浮点数,默认范围是 [0, 1)。对于整数，至少 maxval 必须明确地指定。在整数情况下，随机整数稍有偏差，除非 maxval - minval 是 2 的精确幂。对于maxval - minval 的值，偏差很小，明显小于输出(2**32 或者 2**64)的范围。
Python数据分析之初识numpy常见方法使用案例
变量跨run()调用在图中维护状态。通过构造类变量的实例，可以向图中添加一个变量。Variable()构造函数需要变量的初值，它可以是任何类型和形状的张量。初值定义变量的类型和形状。构造完成后，变量的类型和形状是固定的。可以使用指定方法之一更改值。如果稍后要更改变量的形状，必须使用带有validate_shape=False的赋值Op。与任何张量一样，使用Variable()创建的变量可以用作图中其他Ops的输入。此外，张量类的所有重载运算符都被传递到变量上，因此您也可以通过对变量进行算术将节点添加到图中。
使用astype实现dataframe字段类型转换 # -*- coding: UTF-8 -*-
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
对象存储
实时音视频
即时通信 IM
