t/10-weighting.t

   1 # -*-perl-*-
   2
   3 use strict;
   4 use warnings;
   5 use Test::More;
   6 use FindBin qw($Bin);
   7 use Time::HiRes qw(sleep);
   8
   9 use MogileFS::Server;
  10
  11 BEGIN {
  12     $ENV{TESTING} = 1;
  13     $ENV{T_FAKE_IO_DEV1} = 95; # Simulating high device load (should get fewer requests).
  14     $ENV{T_FAKE_IO_DEV2} = 5;  # Simulating low device load (should get more requests).
  15 }
  16
  17 use MogileFS::Test;
  18 find_mogclient_or_skip();
  19
  20 # create temp mysql db,
  21 # use mogadm to init it,
  22 # mogstored on temp dir,
  23 # register mogstored temp dir,
  24 # mogilefsd startup,
  25 # add file,
  26 # etc
  27
  28 my $sto = eval { temp_store(); };
  29 if (!$sto) {
  30     plan skip_all => "Can't create temporary test database: $@";
  31     exit 0;
  32 }
  33
  34 my $dbh = $sto->dbh;
  35 my $rv;
  36
  37 use File::Temp;
  38 my %mogroot;
  39 $mogroot{1} = File::Temp::tempdir( CLEANUP => 1 );
  40 $mogroot{2} = File::Temp::tempdir( CLEANUP => 1 );
  41 my $dev2host = { 1 => 1, 2 => 2, };
  42 foreach (sort { $a <=> $b } keys %$dev2host) {
  43     my $root = $mogroot{$dev2host->{$_}};
  44     mkdir("$root/dev$_") or die "Failed to create dev$_ dir: $!";
  45 }
  46
  47 my $ms1 = create_mogstored("127.0.1.1", $mogroot{1});
  48 ok($ms1, "got mogstored1");
  49 my $ms2 = create_mogstored("127.0.1.2", $mogroot{2});
  50 ok($ms1, "got mogstored2");
  51
  52 while (! -e "$mogroot{1}/dev1/usage" &&
  53        ! -e "$mogroot{2}/dev2/usage") {
  54     print "Waiting on usage...\n";
  55     sleep(.25);
  56 }
  57
  58 my $tmptrack = create_temp_tracker($sto);
  59 ok($tmptrack);
  60
  61 my $mogc = MogileFS::Client->new(
  62                                  domain => "testdom",
  63                                  hosts  => [ "127.0.0.1:7001" ],
  64                                  );
  65 my $be = $mogc->{backend}; # gross, reaching inside of MogileFS::Client
  66
  67 # test some basic commands to backend
  68 ok($tmptrack->mogadm("domain", "add", "testdom"), "created test domain");
  69 ok($tmptrack->mogadm("class", "add", "testdom", "2copies", "--mindevcount=2"), "created 2copies class in testdom");
  70
  71 ok($tmptrack->mogadm("host", "add", "hostA", "--ip=127.0.1.1", "--status=alive"), "created hostA");
  72 ok($tmptrack->mogadm("host", "add", "hostB", "--ip=127.0.1.2", "--status=alive"), "created hostB");
  73
  74 ok($tmptrack->mogadm("device", "add", "hostA", 1), "created dev1 on hostA");
  75 ok($tmptrack->mogadm("device", "add", "hostB", 2), "created dev2 on hostB");
  76
  77 # just ensure the "set_weight" command doesn't ERR out
  78 ok($tmptrack->mogadm("device", "modify", "hostA", 1, "--weight=50"), "set dev1 weight=50 on hostA");
  79 ok($tmptrack->mogadm("device", "modify", "hostB", 2, "--weight=50"), "set dev2 weight=50 on hostB");
  80
  81 # wait for monitor
  82 {
  83     my $was = $be->{timeout};  # can't use local on phash :(
  84     $be->{timeout} = 10;
  85     ok($be->do_request("clear_cache", {}), "waited for monitor")
  86         or die "Failed to wait for monitor";
  87     ok($be->do_request("clear_cache", {}), "waited for monitor")
  88         or die "Failed to wait for monitor";
  89     $be->{timeout} = $was;
  90 }
  91
  92 # create one sample file
  93 my $fh = $mogc->new_file("file1", "2copies");
  94 ok($fh, "got filehandle");
  95 unless ($fh) {
  96     die "Error: " . $mogc->errstr;
  97 }
  98
  99 my $data = "My test file.\n" x 1024;
 100 print $fh $data;
 101 ok(close($fh), "closed file");
 102
 103 # wait for it to replicate
 104 my $tries = 1;
 105 my @urls;
 106 while ($tries++ < 40 && (@urls = $mogc->get_paths("file1")) < 2) {
 107     sleep .25;
 108 }
 109 is(scalar @urls, 2, "replicated to 2 paths");
 110 my $to_repl_rows = $dbh->selectrow_array("SELECT COUNT(*) FROM file_to_replicate");
 111 is($to_repl_rows, 0, "no more files to replicate");
 112
 113 my %stats;
 114 for (1..100) {
 115     @urls = $mogc->get_paths("file1");
 116     my ($devno) = $urls[0] =~ m!/dev(\d+)/!;
 117     $stats{$devno}++;
 118 }
 119
 120 ok($stats{1} < 15, "Device 1 should get roughly 5% of traffic, got: $stats{1}");
 121 ok($stats{2} > 80, "Device 2 should get roughly 95% of traffic, got: $stats{2}");
 122
 123 done_testing();