updated

沈斌

2018-01-24 d28e393c134e12e131a26740ef99cb76278ef907

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
var mysql = require('mysql');
var moment = require('moment');
var config = require('./config');
var mongoClient = require('mongodb').MongoClient;
 
var mysqlClient = mysql.createConnection(config.mysql);
 
mysqlClient.connect(function(error) {
    if (error) return;
    //console.log("connected to MySQL");
});
 
 
var start_date = moment().add(-1, 'days').format('YYYY-MM-DD');//'2017-11-11';
var end_date   = moment().add(-1, 'days').format('YYYY-MM-DD');//'2018-01-02';
 
console.log(moment().format('YYYY-MM-DD HH:mm:ss') + " => sync hourly data from " + start_date + " to " + end_date);
 
var days = moment(end_date).diff(moment(start_date), 'days');
for (var i = 0; i <= days; i++) {
    var date = moment(start_date).add(i, "days");
    for(var j = 0; j < 24; j++) {
        var start = moment(date).add(j, 'hours').format("YYYY-MM-DD HH:00:00");
        var end = moment(date).add(j+1, 'hours').format("YYYY-MM-DD HH:00:00");
 
        //console.log(start + " : " + end);
        fetchDeviceDailyData(start, end);
    }
}
 
mysqlClient.end();
 
function fetchDeviceDailyData(start, end) {
    var devices = {};
    var sql = "SELECT mac, mac_key, avg(mac_value) as mac_value FROM history WHERE time >= '" + start + "' AND time < '" + end + "' GROUP BY mac, mac_key ORDER BY mac";
    //console.log(sql);
    mysqlClient.query(sql, function (error, results, fields) {
        if (error) throw error;
 
        results.forEach(function(data) {
            var mac = data.mac;
            var key = data.mac_key;
            var val = data.mac_value;
            if(devices[mac] == null) {
                devices[mac] = {
                    mac: mac,
                    time: moment(moment(start, 'YYYY-MM-DD HH:00:00').valueOf() + 8*60*60*1000).toDate()
                };
            }
            devices[mac][key] = val;
        });
 
        var device_data = [];
        for(var mac in devices) {
            device_data.push(devices[mac]);
        }
 
        //console.log(device_data);
        if(device_data.length > 0) {
            insertDeviceData(device_data);
        }
    });
}
 
function insertDeviceData(docs) {
    mongoClient.connect(config.mongo, {
        poolSize: 10,
        keepAlive: 300000,
        auto_reconnect: true,
        reconnectTries: 1000,
        reconnectInterval: 5000,
        connectTimeoutMS: 30000
    }, function(err, client) {
        if (err) {
            console.log(err.message);
            return;
        }
        client.db('monitor').collection('data_hourly').insertMany(docs, function(err2, doc2) {
            if (err2) {
                console.log(err2.message);
                return;
            }
            client.close();
        });
    });
}