下载安卓APP箭头
箭头给我发消息

客服QQ:3315713922

数据库插入速度能有50W每秒吗

作者:一起web编程     来源: 今日头条点击数:1399发布时间: 2020-09-06 10:09:35

标签: 数据库MySQL计算机

来,看看MySQL插入速度能有50W每秒吗.数据库中的数据是为众多用户所 共享其信息而建立的,已经摆脱了具体 程序的限制和制约。不同的用户可以按各自的用法使用数据库中的数据;多个用户可以同时共享数据库中的数据资源,即不同的用户可以同时存取数据库中的同一个数据。数据共享性不仅满足了各用户对信息内容的要求,同时也满足了各用户之间信息通信的要求。

MySQL每秒可以插入50w条记录吗? 带着疑问,我们一起看看mysql每秒可以插入多少条记录? 要回答这个问题,首先要考虑影响mysql插入速度的因素有哪些?

数据库插入速度能有50W每秒吗_数据库_MySQL_计算机_课课家

写入速度

  • MySQL每秒可以插入50w条记录吗?
  • 带着疑问,我们一起看看mysql每秒可以插入多少条记录?
  • 要回答这个问题,首先要考虑影响mysql插入速度的因素有哪些?

硬盘的速度,网卡的速度,写入行的数据量,数据在硬盘中的存放位置等等因素。

简单的数据,插入速度肯定快,复杂的插入肯定慢。

所以单纯这个问题不好回答,最好的办法是进行压力测试,最后求一个平均值。

一 测试环境:

MySQL表结构

  1. CREATE TABLE `user_10w` ( 
  2.   `id` int(10) NOT NULL AUTO_INCREMENT, 
  3.   `namevarchar(20) DEFAULT NULL
  4.   `mobile` varchar(11) DEFAULT NULL
  5.   `add_time` int(11) DEFAULT NULL
  6.   `groupid` tinyint(1) DEFAULT NULL
  7.   `login_time` int(11) DEFAULT NULL
  8.   PRIMARY KEY (`id`) 
  9. ) ENGINE=MyISAM AUTO_INCREMENT=4730016 DEFAULT CHARSET=utf8mb4 

电脑配置

4核 Intel(R) Core(TM) i3-8100 CPU @ 3.60GHz

ssd 120G硬盘

二. 开始测试

说明:单机测试,不涉及网卡,网络传输的影响

测试程序php pdo

  1. include_once("tool.php"); 
  2. $dsn = 'mysql:dbname=demo;host=127.0.0.1'
  3. $user = 'root'
  4. $pass = 'root'
  5. try{ 
  6.         $hand = new PDO($dsn, $user, $pass); 
  7. }catch(PDOException $e){ 
  8.         echo 'Connection failed: ' . $e->getMessage(); 
  9. $query = $hand->prepare("insert into user_10w(name,mobile,add_time,groupid,last_login_time) values(?,?,?,?,?)"); 
  10. $n=0; 
  11. $count = 1000000; //每次插入100w 
  12. $t = time(); 
  13. echo 'start write,time is '. $t. "\\n"
  14. while(true){ 
  15. $n++; 
  16. $name = Tool::getRandomStr(5); 
  17. $mobile = Tool::getRandNum(9); 
  18. $group = Tool::getRandNum(1); 
  19. $rs = $query->execute([$name,'13'.$mobile,time(),$group,time()]); 
  20. if($n>$count)break; 
  21. echo 'write end, time is '. (time()-$t) . "\\n"

1.无任何索引,单进程

  1. start write,time is 1593338798 
  2. write endtime is 50 

耗时50s, 平均2w/秒

2. 给name添加普通索引

  1. write endtime is 60  
  2. root@test:/data/php# php7 pdo.php  
  3. start write,time is 1593393695  
  4. write endtime is 61 

大概慢了10s ,所以索引会导致插入变慢,因为要更新索引


负载

3. 多进程测试

用go写了一个简单的多进程执行程序

  1. package main 
  2.  
  3. import( 
  4.         "os/exec" 
  5.         "sync" 
  6. var wg sync.WaitGroup 
  7. func testRun(wg *sync.WaitGroup){ 
  8.         c := exec.Command("php7""./pdo.php"
  9.         c.Run() 
  10.         wg.Done() 
  11. func main(){ 
  12.         var n int = 10 
  13.         wg.Add(n) 
  14.         for i:=0;i<n;i++{ 
  15.                 go testRun(&wg) 
  16.         } 
  17.         wg.Wait(); 

4进程负载

结果:

耗时115s ,插入速度平均3.4w/s

MySQL锁表状态


mysql status

10进程一起执行


10进程

耗时5‘10“ ,插入速度大概3.2w/s

MySQL锁表状态


MySQL status

最后:

  • 可见,插入速度并没有网上说的那么高,随着进程数增多,锁冲突逐渐增加,插入效率下降。
  • 通过存储过程批量进行插入 ,插入速度应该会更高,但在实际高并发应用中使用并不多!
  • 抛开业务,单纯测这个好像没什么意义,一定要结合业务复杂度,性能需求来做测试,做优化。
  • 通过分布式、拆表提高并发量。

不足之处,请各位指正。

数据库是一个 单位或是一个应用领域的通用数据处理系统,它存储的是属于企业和事业部门、 团体和个人的有关数据的 集合。数据库中的数据是从全局观点出发建立的,按一定的 数据模型进行组织、描述和存储。其结构基于数据间的自然联系,从而可提供一切必要的存取 路径,且数据不再针对某一应用,而是面向全组织,具有整体的结构化特征。

赞(13)
踩(0)
分享到:
华为认证网络工程师 HCIE直播课视频教程