首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往

Golang并发把excel数据插入数据库

= nil { return } _, err = io.Copy(localFile, res.Body) //把body里的内容复制本地excel文件 if err !...每次批量插入100条数据数据库 func InsertBatch(temp [][]string, length int) error { db := modelUtils.GetDB() //gorm...库 sqlStr := "INSERT INTO other_sn_mac(a, b, c) VALUES" for i := 0; i < length; i++ { // 批量插入 if...: 大概有40多万条数据,每5000条数据一个goroutine,那么大概需要80多个goroutine,总共花费的时间大概是1分钟,因为阿里云服务器为2核4G的性能,所以主要的性能瓶颈在于服务器上的数据库...,虽然开启的数据库池,但是单条数据的插入时间是固定的 我还试了一下把同样40多万的数据插入亚马逊云的数据库,要16分钟左右,因为服务器在国外,所以受网络影响较大 image.png

2.9K10
  • 您找到你想要的搜索结果了吗?
    是的
    没有找到

    如何快速的插入 100W数据数据库,使用PreparedStatement 最快实现!

    有时候,我们使用数据库的时候,如何快速的添加测试数据数据库中,做测试呢,添加100W 数据,如果使用工具的话可能很慢,这里我推荐大家使用 PreparedStatement 预编译 去进行操作: 单线程操作...,测试 只需要 20秒 如果字段少的话,可以几秒钟插入100w数据 public static void main(String[] args) { long start =.../2.注册驱动(mysql5之后的驱动jar包可以省略注册驱动的步骤) //Class.forName("com.mysql.jdbc.Driver"); //3.获取数据库连接对象...,只插入一次 conn = DriverManager.getConnection("jdbc:mysql://134.175.66.149:3306/test?"...Math.random()*1000000)+""); pstmt.addBatch(); } //7.往数据库插入一次数据

    1.1K00

    教你88秒插入1000万条数据mysql数据库

    我用到的数据库为,mysql数据库5.7版本的 首先自己准备好数据库表 其实我在插入1000万条数据的时候遇到了一些问题,现在先来解决他们,一开始我插入100万条数据时候报错,控制台的信息如下: com.mysql.jdbc.PacketTooBigException...出现上面的错误是因为数据库表的 max_allowed_packet 这个配置没配置足够大,因为默认的为4M的,后来我调为100M就没报错了 set global max_allowed_packet...= 100*1024*1024* 记住,设置好后重新登录数据库才能看的设置后的值 show VARIABLES like '%max_allowed_packet%' 代码如下: package insert...结束时间 Long end = new Date().getTime(); // 耗时 System.out.println( "1000万条数据插入花费时间...: " + (end - begin) / 1000 + " s" ); System.out.println( "插入完成" ); } }

    1.8K40

    vim 从嫌弃依赖(6)——插入模式

    由于在该模式中输入的字符会被当做有效输入,因此该模式下涉及的命令也少,内容也不多,这一篇文章差不多就能讲完 进入插入模式的一些命令 在前面几节我们在介绍一些例子的时候或多或少接触到了如何进入插入模式,...命令 含义 i 在当前光标前进入插入模式 I 在行首进入插入模式 a 在当前光标后面进入插入模式 A 在行尾进入插入模式 o 在下一行进入插入模式 O 在上一行进入插入模式...s 删除当前光标所在字符并进入插入模式 S 删除光标所在行并进入模式 c + motion 删除指定范围的字符,并进入插入模式 C 删除光标所在位置至行尾的字符,并进入插入模式 在插入模式中删除字符...假设我在写文档或者写代码的时候光标已经窗口的最后一行了,但是我想将光标定位窗口中央,一般都会先退回到普通模式,然后使用前面介绍过的 zz来完成这一动作,最后再进入插入模式。...set shiftwidth = 4 set expandtab = true 这几行会将tab替换为4个空格,并且在一些代码中,如果加入了自动缩进的属性,在输入下一行的时候它会自动以4个空格进行缩进 这里

    56140

    如何使用Hutool插入图片Excel中?

    本文将介绍如何使用Hutool插入图片Excel中,并给出详细的代码示例。Hutool简介Hutool是一个Java工具库,它封装了很多常用的功能,包括字符串处理、日期时间处理、文件操作等。...插入图片Excel的需求假设我们需要将某个Java对象的数据导出到Excel中,并且要求在Excel中显示对象的图片。...使用Hutool插入图片Excel的方法Hutool提供了非常方便的API,可以帮助我们将图片插入Excel中。具体步骤如下:1. 创建Excel对象首先,我们需要创建一个Excel对象。...插入图片在前面的步骤中,我们已经将Employee对象的数据写入Excel中。现在,我们需要将照片插入Excel中。具体步骤如下:获取Employee对象的照片URL地址。...这里我们假设Employee对象的照片要插入第4列第2行的单元格中。

    2.1K30

    盘点一个通过python大批量插入数据数据库的方法

    一、前言 前几天在Python白银群【鶏啊鶏】问了一个Python数据存入数据库的问题,一起来看看吧。...各位大佬 我想请教下通过python大批量插入数据数据库的方法 目前我在用的操作是以下这个模式: sql='' for i in list: sql = "insert XXX表(地址,单号,缸号,...,备注,时间) values('" + address + "','"+ppo+"','"+batch_no+"','待定','未生产',getdate())" 这样当sql稍微大点的情况下 一次性插入就会插入失败...,想请问下各位大佬如果大批量插入的话应该用哪个方式更稳定点呢。...这篇文章主要盘点了一个Python数据存数据库的问题,文中针对该问题,给出了具体的解析和代码实现,帮助粉丝顺利解决了问题。

    47530

    PHP读取excel插入mysql数据库

    来看一段代码吧 建立一个数据库excel和一个study表 建立表代码如下: CREATE TABLE `excel` (   `id` int(11) NOT NULL auto_increment.../Study.xls’);  //read函数读取所需EXCEL表,支持中文 $conn= mysql_connect(‘localhost’, ‘root’, ‘joyous’) or die(“数据库连接出错了...;    //连接数据库 mysql_query(“set names ‘utf8′”);//设置编码输出 mysql_select_db(‘study’); //选择数据库 for ($i =...’;  $insert = mysql_query($sql);  //插入部分 注释掉,实际可以自己插入。...因为路径成败也是很大影响的 study文件夹包含了class文件夹(就是从那个压缩包解压出来的文件)、xls文件夹(里面是excel文件)、test.php文件 运行下text文件 然后看看数据库

    8.3K40
    领券