首页
学习
活动
专区
圈层
工具
发布

个人永久性免费-Excel催化剂功能第53波-无比期待的合并工作薄功能

正是因为需求很大,而现有的插件都有提供。 最重要的是连微软官方都提供了此功能,使用PowerQuery的ETL功能,无论从易用性还是功能强大性来说,秒杀市面一切的第3方开发的功能。...所以在此次的工作薄合并推出,结合前期的报表格式转标准数据源格式,将形成了一个大的完整的场景使用,其他的场景,在微软官方PowerQuery上已经得到了非常大的支持和补充。...image.png 2.首列开始也不是数据内容,如工作薄2 ? 3.首列开始也不是数据内容,如工作薄2 每个待合并的工作表,列名称不同,或者列的顺序不同 ?...对列名不一致的进行重新映射,如列51、列81,重新映射回列5、列8 将智能表的的列标题进行修改,成为最终生成数据时的列标题。...映射表里不抽取列4,结果表中体现出来,映射表将列51、列81合并到列5、列8中,结果表也体现出来了。 ?

1.4K50

【重磅来袭】在Power BI 中使用Python(4)——PQ数据导出&写回SQL

; 2.而一直广为诟病的powerquery数据困难的问题更是一时半会也得不到解决。...第一个问题,推荐使用DAX Studio,轻松导出十万、百万条记录; 第二个问题,没有现成的工具可以直接解决,但是结合本系列第二篇的内容,我们是否可以想到如何用Python将powerquery中的表输出为...看到了吗,mysql数据库中本来是一张空表,我们在powerquery中运行了一段Python代码后,表中有了数据。 ?...但是有一个大BUG一点小问题: 因为全球只有200左右个国家和地区,country层面的数据应该只有200左右。但是,我习惯性地瞥了一眼MySQL右下角,发现: ?...而且清空表后再刷新运行,就会发现有的时候是2次,有的时候5次,这意思就是Python代码运行了多次,造成了数据重复,这背后的原因我们无从得知。

4.8K41
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    1.9 PowerBI数据准备-逆透视,将二维表或多维表转换为一维表

    一维表的每个字段都是事物的属性,而不是属性的值,多个字段不能合并为一个字段,比如年月、客户;二维表的字段包含了展开的属性的值,至少有部分字段可以合并为一个字段,比如2024年1月、2024年2月这样的字段是年月属性的值...因此,很多时候需要在PowerQuery中将二维的甚至更多维的数据源表转换为一维表。举例1二维表转一维表,年月横向展开的。...STEP 2未选中的列变成了两列,一列属性,一列值,双击列标题改名后保存。图片举例2多维表转一维表,多层表头+多列维度。...操作步骤STEP 1 PowerQuery获取数据后,点击菜单栏添加列下的自定义列,把值以外的所有维度列合并成一列,列和列之间放上与内容不会产生重复的分隔符,比如“**”。...图片STEP 4 转置后,点击表的左上角,将第一行作为列标题。STEP 5 按住Ctrl键选中维度列,然后点击菜单栏转换下的逆透视其他列。

    1K10

    「数据ETL」从数据民工到数据白领蜕变之旅(七)-将Excel(PowerQuery+VBA)的能力嫁接到SSIS中

    如PowerQuery里的逆透视功能,行列转置功能,标题行提升功能等。...将模板文件内的PowerQuery查询使用替换的方式,将其引用的文件路径替换为当次循环引用文件。...测试数据及其他说明 本次的测试数据,和上篇python篇一样,使用课程表数据,将其转换为标准的一维表数据再上传到数据库中。...使用Application.Run方法来调用模板文件里的VBA代码,替换掉PowerQuery里的参数filePath的值。...再使用QueryTable的刷新代码,将替换后的M代码对应的智能表刷新重新加载一下新数据。 每次循环都新开Application对象及最后将其对应的Excel进程给杀掉,释放COM非托管对象。

    6.1K20

    1.14 PowerBI数据准备-添加条件列,给维度添加排序列

    解决方案在PowerBI中,可以用一个序号列为要排序的列的每个值标记一个数字序号,然后再让它按照序号列排序。...月份名称或者星期几来自于日期表,通常搭建日期表的时候,无论是用PowerQuery还是用DAX,都会把用于排序的列做出来,如MonthNumber或者DayOfWeek。...区域名称也需要序号列,优先在数据源中自带排序列,如果没有权限修改数据源,或者想自主控制顺序,可以在PowerQuery中添加条件列。...操作步骤STEP 1 点击菜单栏添加列下的条件列,在跳出的对话框中,新列名命名为大区序号,输入各个大区对应的序号。图片STEP 2 将生成的大区序号列数据类型改为整数。...拓展有时候维度表是从事实表中提取的,建议这个提取操作在PowerQuery中使用分组依据实现,不建议使用DAX的DISTINCT实现,因为用DAX生成的计算表虽然也能实现新建计算列进行条件赋值,但是点击按列排序的时候会报错

    56400

    个人永久性免费-Excel催化剂功能第16波-N多使用场景的多维表转一维表

    很可惜,一般主流Excel插件都仅限于将二维表转换为一维表的功能实现,另外多种多维转一维的需求都未见有实现的功能。此次Excel催化剂将多维表转换一维表的功能发挥得淋漓尽致。...小插件有其功能,但因说明文档不详,本人竟然不懂操作, 在微软Excel官方PowerBI组件的PowerQuery中,对此类多维表结构(含以下类型五),可胜任将其转一维表,但操作步骤繁多,属高阶用户使用范筹...类型五:多行表头,多维表的结构,最底层表表头含有多个数据列类型 和类型四类似,同样为多维表头,增加一难度是此处为多个值类型字段如销量、销售额、销售成本等,多层表头和类型四不同之处,此处为合并单元格,类型四为首列的表头有值...如下图所示,合最复杂的类型五作了数据前后的对比及参数的填写。...对应地在后两列的【单元间列数】和【单元总列数】上填写间隔或连续的列数量,如类型5中间隔3列重复出现销售量一列的值,此处填写3。

    4.2K20

    「数据ETL」从数据民工到数据白领蜕变之旅(六)-将Python的能力嫁接到SSIS中

    特别是已经掌握了一门现有语言的基础上,再学一门新语言,也是不难,熟悉语法、现有类库、包调用即可。...若其他朋友的学习路径是python为主,本文可以给python群体一个大大的精喜,在python上做好它最擅长的部分,其余流程交给SSIS现有成熟、简单易用的数据ETL框架来完成,双重优势发挥得淋漓尽致...演示内容介绍 本文打算使用python进行数据的清洗部分,引用的案例是带笔者入门dotNET的我的师傅的出品案例:清洗一份课程表数据,将其转换为结构化的一维表结构。...最终我们的控制流任务如下,完成我们预期的效果,将python清洗好的数据,交给SSIS的后续步骤来调用。 在SSMS上打开目标表,发现数据已经加载成功。...在下一篇中,我们重新回到微软系中,使用SSIS和PowerQuery联合,将轻量化的ETL工具一些好用易用的能力同样嫁接到SSIS中,同时又可以避开此短板部分。敬请关注。

    4.3K20

    个人永久性免费-Excel催化剂功能第90波-xml与json数据结构转换表格结构

    一开始抱有一点希望,直接用PowerQuery来操作,界面化的解释过程,想必非常友好和智能,试了一翻,虚有徒表,起码我这样的PowerQuery水平未能很好地解决和拿到自己想要的效果。...powerquery上进行json的解释 json、xml结构的数据,也有可能是一个dataset结构的,即数据内部会有多张表关联而成,表与表之间的关系除了较理想的一对多关系,更有多对多关系,生硬地进行拆解...例如:一个json结构的订单表,主订单中包含了买家信息,而可能这个买家信息又展开多重信息如买家的多个购物喜爱标签,而在订单明细上,一个明细记录只和一个主订单关联,若不小心关联到买家信息,产生多对多的关系...一般开发者存储的数据结构为规范化的数据,将数据拆散在多个表中存储防止冗余,而数据分析的很大需求是将其 反规范化,将多个表的数据合并为一个大的宽表,允许冗余,在普通工具如PowerQuery上很难考虑这种问题...先选定要处理的json文件 也可以选定处理json文本 步骤2:点击【批量json转Excel表格】按钮,确定选择类型 单元格内容属于文件路径还是文本的确认 步骤3:根据窗体界面,选择所需表和所需字段

    1.4K20

    【强强联合】在Power BI 中使用Python(3)数据可视化

    并将高于、低于整体值的部分填充不同颜色,另一个是显示柱状图标签,用到了一个小技巧。...好了,本文入门级地讲解了如何使用Python的matplotlib库在Power BI中进行可视化呈现,以补充Power BI自带可视化类型和第三方可视化插件无法实现的功能,想必大家一定能够通过这两个大神级软件的配合使用得到自己想要的可视化呈现...众所周知,Power BI对于数据的输出是有一定限制的,至少有这么两个点: 1.可视化对象导出CSV格式限制3万行数据,这对于数据量动辄上百万甚至上亿的表来说是不可接受的; 2.而一直广为诟病的powerquery...M将其Table类型的数据传递给Python,Python会自动将Table转换为Dataframe。...我们是否可以想到如何用Python将powerquery中的表输出为excel甚至实现回写到SQL中呢? 这就是下一篇文章要讲的内容了: ?

    3.2K32

    个人永久性免费-Excel催化剂功能第73波-数据转换:单行多项目转多行单项目

    业务场景 在一些系统导出的数据里,或者一些表单采集到的多选项目的数据,很常见到的是将某一列的内容,多个项目合并成一行,如下图所示。...例如需要统计下上图中某类阅读如文学的出现次数。期待的数据结构如下图。...如设置为、|||/。...数据源列转换配置 步骤3:生成结果表 根据步骤2设置的内容,生成结果表,如下图,其中重复数一列内容用原数字作填充,如下图所示重复A姓名行在拆分列两两组合基础上再重复6次。...结果表示例 结语 需要Excel已经使用了PowerQuery这样的轻量化ETL工具进行数据处理、转换,但往往在非界面化操作外的使用M语言来实现,对普通人要求门槛还是过高,不妨使用插件,一键完成既定的有清晰逻辑关系的数据转换

    83750

    基于Excel2013的PowerQuery入门

    成功关闭并上载.png 填充行 如下图所示,打开第二个表 ? 加载到查询编辑器1.png 加载到PowerQuery中如下图所示 ? 加载到查询编辑器2.png ?...成功填充.png 选择导航栏中的开始中的关闭并加载至,出现下图所示,填入现有工作表的你想填入的位置。 ? 加载设置.png ?...替换2.png ? 成功替换.png 可以将下图与结果表进行对照 ? 成功加载.png 4.数据的拆分合并提取 打开下载文件中的04-数据的拆分合并提取.xlsx,如下图所示。 ?...加载数据到PowerQuery中.png ? 成功加载结果.png ? 将标题作为第一行.png ? 转置按钮位置.png ? 转置后结果.png ? 将第一行作为标题.png ?...透视1.png 值列为是否完成销售额,点开高级选项,聚合值函数选择不要聚合,最后点击确定。 ? 透视2.png ? 成功透视结果.png ? 加载至原有表.png ?

    11.3K50

    「数据ETL」从数据民工到数据白领蜕变之旅(四)-有了PowerQuery还需要SSIS吗?

    甚至很多在SSIS这样专业级ETL工具上实现起来繁琐的任务,在PowerQuery上可以非常流畅地完成如逆透视,简单网页抓取,空值填充,行列转置等。 但PowerQuery的局限性也是非常明显的。...同样使用双击的方式,打开Excel源的详细设置,如Excel源的连接信息,抽取哪个表数据等,同样可以使用此界面的【新建】按钮,直接创建一个数据源连接信息。...若需调整表内的字段信息如增减字段和字段的重命名等操作,可以跳到列选项卡中进行操作,反正所有一切,都可界面完成,无需写SQL语句。...将蓝色箭头拖到下方的【派生列】组件即可。 连接好的效果。...因数据流任务里的数据管道的概念,现阶段管道里的内容是Excel表的数据,列字段是源里抽取后得到的结果,所以在派生列里,其实可以对上游的列字段进行识别,进行简单的计算转换如单位转换,计算转换如生成金额列=

    4.6K20

    PowerBI 多版本实际预测综合分析 第一弹

    随着时间的推移,每月的调整预测将更加准确。 直至整年结束。...2019年2月 已知了1月的实际,填入并以绿色显示;重新调整对随后月份的预测,并以红色显示。 依次类推。 在现实中,可能需要的内容要比这样的显示更加复杂,但很多复杂可以由巧妙的设计来扩展。...在某些企业,预测是可以交给经验丰富的专业人员进行的;在某些企业,预测又是可以交给某精确复杂的计算流程实现的(如:通过R的某些特别适合的算法等)。...值得强调的是: KPI.Base = [KPI.Actual.Base] + [KPI.Forecast.Base] 在这里有一个非常惊艳的计算,KPI居然直接可以由实际与预测相加。...在数据准备中,我们明确发现有实际则预测无效;有预测则实际无效;因此,综合表现恰好为实际与预测的和。这种直接加和的巧合,不但简化的计算,还可以免去IF逻辑,大幅优化了性能。

    2.1K11

    如何用PowerBI自定义函数批量爬取财务报表

    2 数据导入 1)科目表 ? 2)资产负债表数据 ? 3)上市公司股票代码表 ? ?...由于资产负债表数据为二维表,我们需要用逆透视把它变成一维表(提升标题后 - 选中索引列 - 逆透视其他列),再删除掉值中的空值 ?...第二步,在资产负债表的“查询设置”的源中,将代码中 000333替换为 "&Text.From(Web)&" 即首行公式为 =Web.BrowserContents("http://quotes.money...现金流量表、利润表也照此方法搞定。 5 进一步思考 刚刚Demo的测试,我们只选取了3家公司,一切都很完美,那如果将3500+家上市公司都加载进来,批量爬取将会发生什么? 很慢!...由于一些不知的原因,在爬取过程中存在一些上市公司的数据缺失,返回的是空表。而且测试中发现有不稳定的情况,同一只股票单独可以抓取到数据,但放在参数里出现了错误。

    3.6K12

    PQ获取TABLE的单一值作为条件查询MySQL返回数据

    领导安排活得赶紧的呀,放下咖啡,打开excel表-全选-插入表格-转换数据-powerquery 一顿操作猛如虎,分析了一下谁谁谁是二百五。 领导表示,说得对,就这么办。...注意这里的值是一个单纯的值,而不是一个一行一列的表。...当然,如果你关闭并上载,的确会得到一张一行一列的表: 由于我们并不想要这张表,而是想得到这个值,所以直接在这个查询后,将查询结果作为下一步查询的输入值。...得到了这个值,我们就可以调用MySQL去查询了: let 源 = Excel.CurrentWorkbook(){[Name="表2"]}[Content], 更改的类型 = Table.TransformColumnTypes...我们到查询编辑器中看看: 注意第三行: NAME = 更改的类型{1}[NAME], M语言允许我们通过坐标的方式获取表中单一的值,[NAME]代表NAME列,而{1}代表第2行,因为表都是从标号为0的行开始的

    4.3K51

    PowerBI 十月多项更新 AI问答及实时报告 颠覆来袭

    读者可以自己尝试,如何制作一个实时报告,也保证柱状图停留在固定的时间窗口,如:1分钟。...新的xViz视觉效果 这个大家就在官网下载体验吧: 层级变化对比表 ? 线型仪表板 ? 标签云 ?...使用方法是: 点击【开始诊断】 刷新 PowerQuery 相关查询 点击【停止诊断】 系统会生成两个表:诊断的汇总信息和诊断的详细信息。如下: ?...当作者打开.PBIDS文件时,Power BI Desktop将启动并提示进行身份验证以连接到文件中指定的数据源。然后将弹出导航对话框,用户将需要选择表以加载到模型中。...总结 本月更新有几个大事,我们一起来总结下: 基于 Direct Query 已经页面刷新功能可以构建实时报告,我们未来将进一步详解。 更加完善的基于 AI 的 QA 功能,我们未来将进一步详解。

    2.6K10

    统计不同值的7种方法

    当将计数取倒数时,会得到一个分数值,列表中每个不同的值加起来就是1。然后,SUM函数将所有这些分数相加,总数就是列表中不同项目的数量。...方法2:使用UNIQUE函数 如下图2所示,很简单的公式: =COUNTA(UNIQUE(B5:B13)) 图2 UNIQUE函数返回列表中所有不同的值,COUNTA函数统计这些值的个数。...图5 方法4:使用数据透视表 选择数据区域,单击功能区“插入”选项卡“表格”组中的“数据透视表”,在“来自表格或区域的数据透视表”对话框中,选取“现有工作表”单选按钮,选取在工作表中放置透视表的单元格位置...图8 方法5:使用数据透视表数据模型 选择数据区域,单击功能区“插入”选项卡“表格”组中的“数据透视表”,在“来自表格或区域的数据透视表”对话框中,选取“现有工作表”单选按钮,选取在工作表中放置透视表的单元格位置...图9 在“数据透视表字段”窗口,将“数据”字段拖至“值”窗口,然后单击其右侧下拉箭头,在快捷菜单中单击“值字段设置”,如下图10所示。

    6.7K10

    理解PQ里的数据结构(一、总体结构)

    首先,我们创建一个查询,比如说订单表: 这个时候,PowerQuery里有了一个查询(注意修改名字),显示出来2个查询步骤,一个结果表: 我们再添加一个查询,比如订单明细表: 然后将订单明细表与订单表合并一下...: 结果如下: 这里面我们可以知道: 现在工作簿里有2个查询(一个订单表,一个订单明细表) 每个查询里有多个步骤 最后的步骤对应着一张结果表(在PQ里叫Table) 结果表里有很多行(在PQ里叫记录...Record),很多列(在PQ里叫列表List) 行列交叉形成很多很多的“单元格” “单元格”里有各种内容,如文本、数字等等(在PQ里统称为值Value) 总之,形成一个层层嵌套的结构,大概如下图所示:...你看合并过来的,一个单元格里实际是一张表(Table)? 大海:对的,这是一个很特别的地方,PQ的单元格里可能是各种内容,一个表、一行、一列、一个值等等。...比如虽然现在生成了合并查询结果,但我只想显示订单明细表,在高级编辑器里,将in后面的“合并的查询“修改为”更改的类型“: 修改后如下: 结果如下: 这里隐藏着一个很重要的信息,即每一个步骤的名称,

    88930

    BUUCTF Rabbit 1

    题目描述: 注意:得到的 flag 请包上 flag{} 提交 密文: U2FsdGVkX1/+ydnDPowGbjjJXhZxm2MP2AgI 解题思路: 1、根据题目直接得到编码方式,Rabbit...Rabbit在线工具 2、得到flag。...flag: Cute_Rabbit Rabbit编码: Rabbit编码是一种字典编码技术,它的原理是根据字符的出现频率来构建一颗哈夫曼树,通过将频率较高的字符编码为较短的码字,频率较低的字符编码为较长的码字...接着,将频率最低的两个字符节点合并成一个节点,并将它们的频率相加作为新节点的频率。重复这个过程,直到所有节点都被合并成一棵哈夫曼树。 然后,对于哈夫曼树中的每一个叶子节点,都赋予一个唯一的二进制编码。...在Rabbit编码中,采用了一些特殊的技巧,如动态更新编码表和使用多个哈希表等,以便快速生成编码表。最终,对于原始数据中每个字符,都可以用对应的编码替换掉它,从而实现数据的压缩。

    13800

    超越ToT,苏黎世理工发布新一代思维图GoT:推理质量提升62%,成本降低31%

    比如说,在写作任务中,可以将几篇输入文章合并成一个连贯的摘要;在排序任务中,可以将几个排序后的数字子数组(sub-array)合并成一个最终的排序数组。...为了获得对思维的评分,首先需要对每个关键字推导出计数和正确计数之间的绝对差值,然后将所有差值相加,并得到最终分数。 3....为了给解决方案打分,研究人员要求语言模型查询两个值(每个值三次,取平均值),第一个值对应于解决方案冗余(10表示没有冗余,0表示至少一半的信息是冗余的),第二个值代表信息保留(10表示保留了所有信息,0...在GoT中,在完整k-ary树的叶子处与一个大小相同但边反向的镜像k-ary树连接起来; 可以看到,虽然CoT-SC提供的思维量为N,但代价是高延迟(N);CoT-SC将延迟降低了k倍(对应于分支因子...相比ToT,GoT方法将中值误差降低了约62%,从而实现了更高的排序质量,并且运行成本降低了31%以上;优势主要是因为GoT能够将复杂的任务分解成更简单的子任务,独立解决这些子任务,然后逐步将这些结果合并成最终结果

    57240
    领券