MongoDB分布式自动分片(Auto-sharding)研究

MongoDB分布式自动分片(Auto-sharding)研究

作者:Crazybaby 2011-07-28 13:24:03

数据库

其他数据库

数据库运维

分布式

MongoDB 跳过理论东西,网上有介绍自动分片的...直接进入配置,有疑问请留言。还是以1000W级数据做测试。

跳过理论东西,网上有介绍自动分片的...直接进入配置,有疑问请留言

还是以1000W级数据做测试

不分片的情况下,插入1000W条数据到一个数据库。

数据存储情况如下:

  
 
 
  1. ^_^[root@:/usr/local/mongodb/data/mongodb/test]#ls -lh 
  2. total 4.0G 
  3. -rw------- 1 root root  64M Jul 25 11:25 test.0 
  4. -rw------- 1 root root 128M Jul 25 11:22 test.1 
  5. -rw------- 1 root root 256M Jul 25 11:23 test.2 
  6. -rw------- 1 root root 512M Jul 25 11:25 test.3 
  7. -rw------- 1 root root 1.0G Jul 25 11:25 test.4 
  8. -rw------- 1 root root 2.0G Jul 25 11:24 test.5 
  9. -rw------- 1 root root  16M Jul 25 11:25 test.ns 

下面进行自动分片配置:

这里我们选择两台Server做测试

测试机IP为:

10.X.X.163

10.X.X.228

分别在163,228服务器上启动Shardsvr进程

  
 
 
  1. ^_^[root@:/usr/local/mongodb/bin]#cat runServerShard.sh  
  2. ./mongod --shardsvr -dbpath=../data/mongodb --logpath=../data/shardsvr_logs.txt --logappend --fork 

在163服务器上启动configsvr 和 mongos路由进程(下面的27019为configsvr的ip,mongos的ip请到log里面去看)

  
 
 
  1. [root@localhost bin]# cat runServerConfig.sh  
  2. ./mongod --configsvr --dbpath=../data/mongodb/config_db/ --logpath=../data/mongodb/log/configsvr_logs.txt --logappend --fork  
  3. [root@localhost bin]# cat runServerMongos.sh  
  4. ./mongos --configdb 10.10.21.163:27019 --logpath=../data/mongodb/log/mongos_logs.txt --logappend --fork 

查看下是否都启动成功:

  
 
 
  1. [root@localhost bin]# ps -ef | grep 'mongo' 
  2. root     17939     1  2 18:47 ?        00:01:26 ./mongod --shardsvr -dbpath=../data/mongodb --logpath=../data/shardsvr_logs.txt --logappend --fork 
  3. root     18250     1  0 19:05 ?        00:00:00 ./mongod --configsvr --dbpath=../data/mongodb/config_db/ --logpath=../data/mongodb/log/configsvr_logs.txt --logappend --fork 
  4. root     18290     1 12 19:08 ?        00:03:35 ./mongos --configdb 10.10.21.163:27019 --logpath=../data/mongodb/log/mongos_logs.txt --logappend --fork 

可见3个服务都已经启动成功。

下面进入配置自动分片:

用mongo连接mongos进程(去log里面看)进行配置管理:

  
 
 
  1. > use admin 
  2. switched to db admin 
  3. > db.runCommand({addshard:"10.10.21.163:27018"}); 
  4. { "ok" : 0, "errmsg" : "host already used" } 
  5. > db.runCommand({addshard:"10.7.3.228:27018"}); 
  6. { "shardAdded" : "shard0001", "ok" : 1 } 
  7. > db.runCommand({enableSharding:"test"}) 
  8. { "ok" : 1 } 
  9. > db.runCommand({shardcollection:"test.users",key:{_id:1}}) 
  10. { "collectionsharded" : "test.users", "ok" : 1 } 

向mongos进程进行插入1000W数据

来看下数据的大小:

163:

  
 
 
  1. ^_^[root@:/usr/local/mongodb/data/mongodb]#ls -lh 
  2. total 2.0G 
  3. -rw-r--r-- 1 root root 1011 Jul 25 12:33 mongodb.log 
  4. -rwxr-xr-x 1 root root    6 Jul 25 12:34 mongod.lock 
  5. drwxr-xr-x 3 root root 4.0K Jul 25 12:39 moveChunk 
  6. -rw------- 1 root root  64M Jul 25 12:42 test.0 
  7. -rw------- 1 root root 128M Jul 25 12:40 test.1 
  8. -rw------- 1 root root 256M Jul 25 12:41 test.2 
  9. -rw------- 1 root root 512M Jul 25 12:42 test.3 
  10. -rw------- 1 root root 1.0G Jul 25 12:41 test.4 
  11. -rw------- 1 root root  16M Jul 25 12:42 test.ns 
  12. drwxr-xr-x 2 root root 4.0K Jul 25 12:38 _tmp 

228:

  
 
 
  1. [root@localhost mongodb]# ls -lh 
  2. 总计 2.0G 
  3. drwxr-xr-x 3 root root 4.0K 07-25 19:39 config_db 
  4. drwxr-xr-x 2 root root 4.0K 07-25 18:51 config_repair_db 
  5. drwxr-xr-x 2 root root 4.0K 07-25 19:39 log 
  6. -rwxr-xr-x 1 root root    6 07-25 19:39 mongod.lock 
  7. drwxr-xr-x 3 root root 4.0K 07-25 19:13 moveChunk 
  8. -rw------- 1 root root  64M 07-25 20:38 test.0 
  9. -rw------- 1 root root 128M 07-25 20:38 test.1 
  10. -rw------- 1 root root 256M 07-25 20:40 test.2 
  11. -rw------- 1 root root 512M 07-25 20:41 test.3 
  12. -rw------- 1 root root 1.0G 07-25 20:42 test.4 
  13. -rw------- 1 root root  16M 07-25 20:38 test.ns 
  14. drwxr-xr-x 2 root root 4.0K 07-25 20:38 _tmp 

自动分片成每个2G。

本文标题:MongoDB分布式自动分片(Auto-sharding)研究
浏览路径:http://www.hantingmc.com/qtweb/news32/438182.html

网站建设、网络推广公司-创新互联,是专注品牌与效果的网站制作,网络营销seo公司;服务项目有等

广告

声明:本网站发布的内容(图片、视频和文字)以用户投稿、用户转载内容为主,如果涉及侵权请尽快告知,我们将会在第一时间删除。文章观点不代表本网站立场,如需处理请联系客服。电话:028-86922220;邮箱:631063699@qq.com。内容未经允许不得转载,或转载时需注明来源: 创新互联