首页
学习
活动
专区
圈层
工具
发布

使用shell脚本批量插入数据到MySQL中

经常会踫到这样的场景需求:批量向MySQL数据库插入数据,显然手工INSERT成千上万条数据是不现实的,所以自己写了这个shell脚本来处理。...1 具体需求 shell脚本批量插入10万条数据到MySQL中,其中对应表唯一索引是用户uid。因此在程序循环1万次数时,每次都使uid自增1就行了。.../bin/bash # FileName: batchinsertmysqlshell1.sh # Description: 使用shell脚本批量插入数据到MySQL中 # Simple.../batchinsertmysqlshell1.sh # mysql db name. db_name="gamedata" # mysql table name. table_name="test_user_skin...endTime} ====" 3 脚本管理 目前已经把这个脚本放在Github了,地址是https://github.com/vfhky/shell-tools,以后脚本的更新或者更多好用的脚本也都会加入到这个工程中

1.6K10
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    在LaTeX中插入python代码

    起因 老师突然要求交上去的论文需要在附录加上代码,奈何我使用的LaTeX模板只能高亮显示Matlab的代码,但是我写论文的时候绝大部分代码都是用Python写的在这里实名吐槽一下Matlab的数据处理功能这么拉跨...,不知道为什么还被拿来当数据挖掘课的第一语言,没办法,只能找一个方法让LaTeX里面能高亮显示Python代码。...解决方法 在Latex中插入Python代码,需要一个第三方的宏包python-latex-highlighting,下载下来后把pythonhighlight.sty放到和tex文件同一个目录下面。...之后在tex文件导言区引用 \usepackage{graphicx} \usepackage{pythonhighlight} 之后就可以在正文部分插入python代码 \begin{python}...\end{python} 效果如下 image.png 完美!

    7.9K30

    Python 批量插入100万级数据到Excel文件(简洁版)

    引言   python是一门开发语言,可以用来写大型项目,也可以用来写脚本,比如自动化脚本,也可以用来写工具。   ...背景   我们平时做测试,不一定做自动化测试才用去python,做功能测试,也就是点点点,也可以把它用起来。   ...比如,我现在页面有一个功能,导入的功能,我想测它最大支持多少数据量导入,或者说多大的文件导入,那么我们得在excel中写入很多条数据(导入模板是xls,xlsx)。   ...那么就得写这样的一个向excel批量插入数据的脚本: from xlwt import Workbook #创建一个工作簿 w = Workbook() #创建一个工作表 ws = w.add_sheet...另外,对测试开发,自动化测试,全栈测试相关技术感兴趣的朋友,可以加入到群里学习和探索交流,进群方式,扫下方二维码。

    1.3K10

    AI办公自动化:批量在多个Word文档中插入对应图片

    工作任务:文件夹中有多个word文档和word文档名称一致的图片,要把这些图片都插入到word文档中 在chatpgt中输入提示词: 你是一个Python编程专家,写一个Python脚本,具体步骤如下:...打开文件夹:F:\AI自媒体内容\AI视频教程下载\新建文件夹 读取里面的docx文档; 定位文件夹中和这个docx文档主文件名一样的png图片; 将这个png图片插入到docx文档的第2段落和第3段落之间...; 图片大小设置为:高度为7.25厘米,宽度14.44为厘米; 删除这个png图片; 注意:每一步都要输出信息到屏幕 源代码: from docx import Document from docx.shared...import Cm import os from PIL import Image # 文件夹路径 folder_path = r'F:\AI自媒体内容\AI视频教程下载\新建文件夹' # 遍历文件夹中的文件...png_path}') # 检查文档的段落数 if len(doc.paragraphs) < 2: print(f'文档段落数少于2: {docx_path},跳过此文档') continue # 插入图片到第

    66110

    Python爬虫:把爬取到的数据插入到execl中

    Python爬虫:现学现用xpath爬取豆瓣音乐 Python爬取大量数据时,如何防止IP被封 我们已经把数据爬到本地并已经插入execl,上效果图 ?...读execl文件 需要安装 xlrd库,老办法,直接在setting中安装,然后导入放可使用python读取execl 操作这样的execl列表 ?...复习一下range函数 # >>> range(1,5) #代表从1到5(不包含5) # [1, 2, 3, 4] # >>> range(1,5,2) #代表从1到5,间隔2(不包含5) # [1,...把爬取的猪八戒数据插入到execl中 这里直接上代码了,相关的注释都在代码里 # coding=utf-8 import requests import time import xlwt import...当然数据还应该存入到数据库中,所以下一篇我们会来讲讲如何把数据插入到数据库中。

    1.9K30

    盘点一个通过python大批量插入数据到数据库的方法

    一、前言 前几天在Python白银群【鶏啊鶏】问了一个Python数据存入数据库的问题,一起来看看吧。...各位大佬 我想请教下通过python大批量插入数据到数据库的方法 目前我在用的操作是以下这个模式: sql='' for i in list: sql = "insert XXX表(地址,单号,缸号,...,备注,时间) values('" + address + "','"+ppo+"','"+batch_no+"','待定','未生产',getdate())" 这样当sql稍微大点的情况下 一次性插入就会插入失败...,想请问下各位大佬如果大批量插入的话应该用哪个方式更稳定点呢。...二、实现过程 这里【袁学东】给了一个解答,如下所示: 用pandas, 先将批量插入数据整理成dataframe,df.to_sql(table, index=False, con=self.engine

    66030

    在python中运行MATLAB代码从而实现批量运算结果

    在安装好python和matlab的电脑上,如果需要做一些流程化的内容,matlab这个方面不擅长,此时可以借助python来开发, 首先需要确保在cmd明年能够打开matlab 类似这样可以正常在...cmd调用到matlab就可, python调用matlab服务通过os.system来实现 1、运行一个无参的脚本 假定保存一些变量到txt中,matlab代码如下 clc close all...a = 1; b = 2; c = a + b; fp = fopen('data.txt','w'); fprintf(fp, '%d,%d,%d', [a b c]); fclose(fp); 在python...中写入下面代码 import os # 下面命令就是调用.m文件命令格式 line = 'matlab -nodisplay -nodesktop -nosplash -r test"' os.system...+ str(a) + "';b=" + "'" + str(b) + "'" + ';add1"' os.system(line) 输出结果为 这个时候可以发现输出的结果和期望的不一致,这是因为在入参的时候把

    1K20

    在python中操作MySQL数据库

    cursor.execute(sql) # 执行sql # 查询所有数据,返回结果默认以元组形式,所以可以进行迭代处理 for i in cursor.fetchall(): print(i) print('共查询到:...获取前n行数据 result_3 = cursor.fetchmany(3) print(result_3) cursor.close() # 关闭游标 conn.close() # 关闭连接 2.插入数据...db='test', # 要操作额数据库 charset='utf8') # 创建一个游标 cursor = conn.cursor() # 插入数据..."隔开,此时它的sql中注意要给中文字符对应的占位符加上引号,即"%s",不然会报错:unsupported format character conn.commit() # 提交,不然无法保存插入或者修改的数据...movie=%s where ranking=%s" data = ('寂静之地', 1) cursor.execute(sql, data) conn.commit() # 提交,不然无法保存插入或者修改的数据

    5.5K21

    .NET Core使用NPOI将Excel中的数据批量导入到MySQL

    前言:   在之前的几篇博客中写过.NET Core使用NPOI导出Word和Excel的文章,今天把同样我们日常开发中比较常用的使用Excel导入数据到MySQL数据库中的文章给安排上。...,在项目中会有一些注释关于升级到.NET Core3.1需要修改的代码这里就不做详细的讲解了可以Clone项目,或者是直接查看官方文档.NET Core相关版本的迁移指南(https://docs.microsoft.com...二、ASP.NET Core使用EF Core连接MySQL执行简单的CRUD操作:   因为该篇文章会涉及到MySQL数据库的操作,所以前提我们需要有一点的CRUD的基础。...: 注意,咱们填写在Excel单元格中的数据可能为多种不同的数据类型,因此我们需要对单元格中的数据类型做判断然后在获取,否则程序会报异常。...Core使用NPOI导出复杂Word详解: https://www.cnblogs.com/Can-daydayup/p/11588531.html .NET Core使用NPOI将Excel中的数据批量导入到

    5.6K20

    python在mysql数据库中存取emoji😀

    emoji就是我们聊天的时候的特殊表情, 是特殊字符(非字符串), unicode编码起始为 1F600 , 占用4个字节, 不同的终端显示可能不同,但是都是表示的同一个对象.比如 "草莓" 这个表情, 在浏览器上效果如下但是在微信上效果如下图片在...mysql workbench上效果如下(作为字符)图片emoji完整表情可以查看: https://unicode.org/emoji/charts/full-emoji-list.html在python...中使用emoji命令行终端不支持emoji表情显示, 所以我使用的jupyter notebook你可以直接复制其它地方的表情到你的python代码print("")图片但是这样显然不方便, 所以我们可以调用...cat)print(type(strawberry), type(cat))print(strawberry.encode(), cat.encode())图片发现emoji是字符串类型, 编码是4字节.在mysql...中存取emoji存通过上面发现emoji是字符串(这跟python语言有关, 实际上是字符), 占用4个字节, 所以得使用 utf8mb4 字符集(mysql低版本默认为utf8mb3)mysql建表如下

    4.5K50

    经验:在MySQL数据库中,这4种方式可以避免重复的插入数据!

    ,测试SQL语句如下,当插入本条数据时,MySQL数据库会首先检索已有数据(也就是idx_username索引),如果存在,则忽略本次插入,如果不存在,则正常插入数据: ?...02 on duplicate key update 即插入数据时,如果数据存在,则执行更新操作,前提条件同上,也是插入的数据字段设置了主键或唯一索引,测试SQL语句如下,当插入本条记录时,MySQL数据库会首先检索已有数据...03 replace into 即插入数据时,如果数据存在,则删除再插入,前提条件同上,插入的数据字段需要设置主键或唯一索引,测试SQL语句如下,当插入本条记录时,MySQL数据库会首先检索已有数据(idx_username...,这种方式适合于插入的数据字段没有设置主键或唯一索引,当插入一条数据时,首先判断MySQL数据库中是否存在这条数据,如果不存在,则正常插入,如果存在,则忽略: ?...目前,就分享这4种MySQL处理重复数据的方式吧,前3种方式适合字段设置了主键或唯一索引,最后一种方式则没有此限制,只要你熟悉一下使用过程,很快就能掌握的,网上也有相关资料和教程,介绍的非常详细,感兴趣的话

    5.3K40

    手写批量线性回归算法:在Python3中梯度下降方法实现模型训练

    在这篇文章中,我们将看一个使用NumPy作为数据处理库的Python3编写的程序,来了解如何实现使用梯度下降法的(批量)线性回归。 我将逐步解释代码的工作原理和代码的每个部分的工作原理。 ?...在此方法中,我们将平方误差总和用作损失函数。 ? 除了将SSE初始化为零外,我们将在每次迭代中记录SSE的变化,并将其与在程序执行之前提供的阈值进行比较。如果SSE低于阈值,程序将退出。...在该程序中,我们从命令行提供了三个输入。他们是: threshold — 阈值,在算法终止之前,损失必须低于此阈值。 data — 数据集的位置。...因此,该程序的启动应该是这样的: python3linearregr.py — datarandom.csv — learningRate 0.0001 — threshold 0.0001 在深入研究代码之前我们确定最后一件事...迭代次数增加1,当前SSE被存储到先前的SSE中。如果较旧的(上一次迭代的SSE)和较新的(当前迭代的SSE)之间的绝对差值低于阈值,则循环中断,并将最后的输出值写入文件。

    1.1K10
    领券