Mysql快速产生百万数据

最近在用MySQL做存储,测试中发现插入数据太慢了,插入速度只有20-30 条/秒,后来查资料后,将MySQL的1个参数:innodb_flush_log_at_trx_commit,1改为了0(修改方法,可以直接修改my.ini(windows)/my.cnf(linux)中的对应参数,似乎用命令直接设置没有效果),插入速度就提升到了3000+每S,MySQL的文档中,对这个参数的描述如下:

1、生成思路

利用mysql内存表插入速度快的特点,先利用函数和存储过程在内存表中生成数据,然后再从内存表插入普通表中

2、创建内存表及普通表

[sql]  view plain  copy
  1. CREATE TABLE `vote_record_memory` (  
  2.     `id` INT (11) NOT NULL AUTO_INCREMENT,  
  3.     `user_id` VARCHAR (20) NOT NULL,  
  4.     `vote_id` INT (11) NOT NULL,  
  5.     `group_id` INT (11) NOT NULL,  
  6.     `create_time` datetime NOT NULL,  
  7.     PRIMARY KEY (`id`),  
  8.     KEY `index_id` (`user_id`) USING HASH  
  9. ) ENGINE = MEMORY AUTO_INCREMENT = 1 DEFAULT CHARSET = utf8  

[sql]  view plain  copy
  1. CREATE TABLE `vote_record` (  
  2.     `id` INT (11) NOT NULL AUTO_INCREMENT,  
  3.     `user_id` VARCHAR (20) NOT NULL,  
  4.     `vote_id` INT (11) NOT NULL,  
  5.     `group_id` INT (11) NOT NULL,  
  6.     `create_time` datetime NOT NULL,  
  7.     PRIMARY KEY (`id`),  
  8.     KEY `index_user_id` (`user_id`) USING HASH  
  9. ) ENGINE = INNODB AUTO_INCREMENT = 1 DEFAULT CHARSET = utf8  

3、创建函数及存储过程

[sql]  view plain  copy
  1. CREATE FUNCTION `rand_string`(n INTRETURNS varchar(255) CHARSET latin1  
  2. BEGIN   
  3. DECLARE chars_str varchar(100) DEFAULT 'abcdefghijklmnopqrstuvwxyzABCDEFGHIJKLMNOPQRSTUVWXYZ0123456789';   
  4. DECLARE return_str varchar(255) DEFAULT '' ;  
  5. DECLARE i INT DEFAULT 0;   
  6. WHILE i < n DO   
  7. SET return_str = concat(return_str,substring(chars_str , FLOOR(1 + RAND()*62 ),1));   
  8. SET i = i +1;   
  9. END WHILE;   
  10. RETURN return_str;   
  11. END  

[sql]  view plain  copy
  1. CREATE  PROCEDURE `add_vote_memory`(IN n int)  
  2. BEGIN    
  3.   DECLARE i INT DEFAULT 1;  
  4.     WHILE (i <= n ) DO  
  5.       INSERT into vote_record_memory  (user_id,vote_id,group_id,create_time ) VALUEs (rand_string(20),FLOOR(RAND() * 1000),FLOOR(RAND() * 100) ,now() );  
  6.             set i=i+1;  
  7.     END WHILE;  
  8. END  

4、调用存储过程

[sql]  view plain  copy
  1. CALL add_vote_memory(1000000)  

根据电脑性能不能所花时间不一样,大概时间在小时级别,如果报错内存满了,只在修改max_heap_table_size 个参数即可,win7修改位置如下,linux,修改my.cnf文件,修改后要重启mysql,重启后内存表数据会丢失



5、插入普通表中


[sql]  view plain  copy
  1. INSERT into vote_record SELECT * from  vote_record_memory  


6、结果





猜你喜欢

转载自blog.csdn.net/hero2040407/article/details/79425827
今日推荐