当前位置: 移动技术网 > IT编程>数据库>Mysql > MySQL构建百万级数据

MySQL构建百万级数据

2020年07月30日  | 移动技术网IT编程  | 我要评论
在进行环境测试时,往往会用到可能很庞大的数据量,这个数据量就需要我们自己生成,借助内存表我们可以用以下方式生成。以下操作基于MySQL8.0.15文章目录一、内存表:1.介绍:2.创建内存表:二、构建过程1.创建测试表2.创建随机字符串函数3.创建存储过程4.生成数据一、内存表:1.介绍:  内存表的表结构建立在磁盘里面,数据放在内存里面,当mysql重启之后,内存表的数据会丢失,表结构依旧存在会执行一次truncate操作。内存表的特点:内存表使用hash索引把数据保存在内存中,具有更快的

在进行环境测试时,往往会用到可能很庞大的数据量,这个数据量就需要我们自己生成,借助内存表我们可以用以下方式生成。
以下操作基于MySQL8.0.15

一、内存表:

1.介绍:

  内存表的表结构建立在磁盘里面,数据放在内存里面,当mysql重启之后,内存表的数据会丢失,表结构依旧存在会执行一次truncate操作。
内存表的特点:

  • 内存表使用hash索引把数据保存在内存中,具有更快的速度,可以用来缓存。
  • 内存表对所有的用户连接都是可用的。这就意味着,多个会话连接的内存表名字不能重复,具有唯一性。
  • 内存表如果复制数据进去的话,所有的原有格式都不会存在,需要重新设置
  • 重启造成数据丢失,可以drop表之后重新复制数据等。这是最傻瓜的方法了。
  • 支持简单的操作符>=<这三个,我认为内存表用来缓存的话,应该不会涉及很复杂的操作。
  • 内存表的默认引擎是memory

针对于内存表的这种特性我们可以先在内存表中生成数据然后插入到测试表这样速度相对快一些。而且在重启后会自动释放内存表数据节省空间。

2.创建内存表:
mysql> CREATE TABLE `vote_records_memory` (
    ->     `id` int(10) unsigned NOT NULL AUTO_INCREMENT,
    ->     `user_id` varchar(20) NOT NULL DEFAULT '',
    ->     `vote_num` int(10) unsigned NOT NULL DEFAULT '0',
    ->     `group_id` int(10) unsigned NOT NULL DEFAULT '0',
    ->     `status` tinyint(2) unsigned NOT NULL DEFAULT '1',
    ->     `create_time` datetime NOT NULL DEFAULT '0000-00-00 00:00:00',
    ->     PRIMARY KEY (`id`),
    ->     KEY `index_user_id` (`user_id`) USING HASH
    -> ) ENGINE=MEMORY AUTO_INCREMENT=1 DEFAULT CHARSET=utf8;
##复制
CREATE TABLE `vote_records_memory` (
    `id` int(10) unsigned NOT NULL AUTO_INCREMENT,
    `user_id` varchar(20) NOT NULL DEFAULT '',
    `vote_num` int(10) unsigned NOT NULL DEFAULT '0',
    `group_id` int(10) unsigned NOT NULL DEFAULT '0',
    `status` tinyint(2) unsigned NOT NULL DEFAULT '1',
    `create_time` datetime NOT NULL DEFAULT '0000-00-00 00:00:00', PRIMARY KEY (`id`), KEY `index_user_id` (`user_id`) USING HASH
) ENGINE=MEMORY AUTO_INCREMENT=1 DEFAULT CHARSET=utf8;

二、构建过程

1.创建测试表

创建完成内存表后继续创建测试表

DROP TABLE IF EXISTS `vote_records`;
CREATE TABLE `vote_records` (
    `id` int(10) unsigned NOT NULL AUTO_INCREMENT,
    `user_id` varchar(20) NOT NULL DEFAULT '' COMMENT '用户Id',
    `vote_num` int(10) unsigned NOT NULL DEFAULT '0' COMMENT '投票数',
    `group_id` int(10) unsigned NOT NULL DEFAULT '0' COMMENT '用户组id 0-未激活用户 1-普通用户 2-vip用户 3-管理员用户',
    `status` tinyint(2) unsigned NOT NULL DEFAULT '1' COMMENT '状态 1-正常 2-已删除',
    `create_time` datetime  NOT NULL DEFAULT '1971-01-01 01:01:01' COMMENT '创建时间',
    PRIMARY KEY (`id`),
    KEY `index_user_id` (`user_id`) USING HASH COMMENT '用户ID哈希索引'
) ENGINE=InnoDB DEFAULT CHARSET=utf8 COMMENT='投票记录表';
2.创建随机字符串函数

为了保证数据的随机性创建一个可生成长度为n的随机字符串函数。定义过程如下:

set global log_bin_trust_function_creators=1;#默认不允许创建function。
DELIMITER //
DROP FUNCTION IF EXISTS `rand_strings` //
SET NAMES utf8 //
CREATE FUNCTION `rand_strings` (n INT) RETURNS VARCHAR(255) CHARSET 'utf8'
BEGIN 
    DECLARE char_str varchar(100) DEFAULT 'abcdefghijklmnopqrstuvwxyzABCDEFGHIJKLMNOPQRSTUVWXYZ0123456789';
    DECLARE return_str varchar(255) DEFAULT '';
    DECLARE i INT DEFAULT 0;
    WHILE i < n DO
        SET return_str = concat(return_str, substring(char_str, FLOOR(1 + RAND()*62), 1));
        SET i = i+1;
    END WHILE;
    RETURN return_str;
END //
3.创建存储过程

接下来是数据插入部分建立一个自动插入的存储过程。

DROP PROCEDURE IF EXISTS `insert_vote_recordss_memory`
CREATE PROCEDURE `insert_vote_recordss_memory`(IN n INT)
BEGIN
    DECLARE i INT DEFAULT 1;
    DECLARE vote_num INT DEFAULT 0;
    DECLARE group_id INT DEFAULT 0;
    DECLARE status TINYINT DEFAULT 1;
    WHILE i < n DO
        SET vote_num = FLOOR(1 + RAND() * 10000);
        SET group_id = FLOOR(0 + RAND()*3);
        SET status = FLOOR(1 + RAND()*2);
        INSERT INTO `vote_recordss_memory` VALUES (NULL, rand_strings(20), vote_num, group_id, status, NOW());
        SET i = i + 1;
    END WHILE;
END //
DELIMITER ; #改回默认的';'
4.生成数据

准备工作完成开始生成
调用存储过程 生成1000条数据

CALL insert_vote_recordss_memory(1000);#按需要进行修改。

查询生成的数据量

mysql> select count(*) from vote_records_memory;
+----------+
| count(*) |
+----------+
|      999 |
+----------+
1 row in set (0.00 sec)

把数据从内存表插入到普通表中

INSERT INTO vote_records SELECT * FROM `vote_recordss_memory`;
mysql> select count(*) from vote_records;
+----------+
| count(*) |
+----------+
|     999  |
+----------+
1 row in set (0.00 sec)

本文地址:https://blog.csdn.net/qq_43250333/article/details/107641724

如您对本文有疑问或者有任何想说的,请 点击进行留言回复,万千网友为您解惑!

相关文章:

  • Ubuntu上Vim安装NERDTree插件的详细操作步骤

    Ubuntu上Vim安装NERDTree插件的详细操作步骤

    nerdtree是vim的文件系统浏览器,使用此插件,用户可以直观地浏览复杂的目录层次结构,快速打开文件以进行读取或编辑,以及执行基本的文件系统操作。nerdt... [阅读全文]
  • MySQL 4种常用的主从复制架构

    MySQL 4种常用的主从复制架构

    一主多从复制架构在主库读取请求压力非常大的场景下,可以通过配置一主多从复制架构实现读写分离,把大量的对实时性要求不是特别高的读请求通过负载均衡分部到多个从库上(... [阅读全文]
  • 浅析MySQL 备份与恢复

    1、简介数据无价,mysql作为一个数据库系统,其备份自然也是非常重要且有必要去做。备份的理由千千万,预防故障,安全需求,回滚,审计,删了又改的需求等等,备份的... [阅读全文]
  • 保障MySQL数据安全的一些建议

    数据是企业核心资产,数据对企业而言是最重要的工作之一。稍有不慎,极有可能发生数据无意泄露,甚至被黑客恶意窃取的风险。每年业界都会传出几起大事件,某知名或不知名的... [阅读全文]
  • MySQL如何快速修改表的表结构

    快速修改mysql某张表的表结构--摘录自《mysql管理之道》alter table 表名 modify 列名 数据类型; 这个命令可以修改表结构此外,也可以... [阅读全文]
  • MySQL 行锁和表锁的含义及区别详解

    一、前言对于行锁和表锁的含义区别,在面试中应该是高频出现的,我们应该对mysql中的锁有一个系统的认识,更详细的需要自行查阅资料,本篇为概括性的总结回答。mys... [阅读全文]
  • MySQL 如何查询当前最新事务ID

    写在前面:在个别时候可能需要查看当前最新的事务 id,以便做一些业务逻辑上的判断(例如利用事务 id 变化以及前后时差,统计每次事务的响应时长等用途)。通常地,... [阅读全文]
  • 如何优雅、安全的关闭MySQL进程

    前言本文分析了 mysqld 进程关闭的过程,以及如何安全、缓和地关闭 mysql 实例,对这个过程不甚清楚的同学可以参考下。关闭过程1、发起 shutdown... [阅读全文]
  • 详解MySQL8.0&#8203; 字典表增强

    详解MySQL8.0&#8203; 字典表增强

    mysql中数据字典是数据库重要的组成部分之一,information_schema首次引入于mysql 5.0,作为一种从正在运行的mysql服务器检索元数据... [阅读全文]
  • 简述MySQL InnoDB存储引擎

    前言:存储引擎是数据库的核心,对于 mysql 来说,存储引擎是以插件的形式运行的。虽然 mysql 支持种类繁多的存储引擎,但最常用的当属 innodb 了,... [阅读全文]
验证码:
移动技术网