]> git.sesse.net Git - remoteglot-book/commitdiff
Output some cleaner statistics at end of book building.
authorSteinar H. Gunderson <sgunderson@bigfoot.com>
Sun, 14 Dec 2014 11:06:27 +0000 (12:06 +0100)
committerSteinar H. Gunderson <sgunderson@bigfoot.com>
Sun, 14 Dec 2014 11:10:12 +0000 (12:10 +0100)
build-book.sh

index 67181c68167bdf555bb4157d05fc5c2aa829dbc8..772f3fb567d5f67e65c0d8593e3d2c65239d2d0e 100755 (executable)
@@ -11,6 +11,8 @@ for FILE in "$@"; do
        echo "$FILE" >> pgnnames.txt
 done
 
+TS_BEGIN=$( date +%s%3N )
+
 for X in $( seq 0 39 ); do
        (
                (
@@ -26,9 +28,28 @@ for X in $( seq 0 39 ); do
 done
 wait
 
-parallel -i -j ${PARALLEL_MERGES} bash -c 'X={}; set -x; ./binmerger tmp.mtbl.mapper*.part$( printf %04d $X ).subshard* open.mtbl.part$( printf %04d $X ).new' -- $( seq 0 $(( SHARDS - 1 )) )
+TS_MAPDONE=$( date +%s%3N )
+MAPOUTPUT=$( du -sch tmp.mtbl.mapper* | tail -n 1 | cut -f1 | sed 's/\([^0-9]\)$/ \1/' )
+
+echo "Reducing..."
+
+parallel -i -j ${PARALLEL_MERGES} bash -c 'X={}; ./binmerger tmp.mtbl.mapper*.part$( printf %04d $X ).subshard* open.mtbl.part$( printf %04d $X ).new' -- $( seq 0 $(( SHARDS - 1 )) )
+
+TS_REDUCEDONE=$( date +%s%3N )
+REDUCEOUTPUT=$( du -sch open.mtbl.part*.new | tail -n 1 | cut -f1 | sed 's/\([^0-9]\)$/ \1/' )
 
 for X in $( seq 0 $(( SHARDS - 1 )) ); do
        mv open.mtbl.part$( printf %04d $X ).new open.mtbl.part$( printf %04d $X )
 done
 rm -f tmp.mtbl*
+
+TS_END=$( date +%s%3N )
+
+printf "\n"
+printf "  Map time:       %7d ms\n" $(( TS_MAPDONE - TS_BEGIN ))
+printf "  Reduce time:    %7d ms\n" $(( TS_REDUCEDONE - TS_MAPDONE ))
+printf "  Total time:     %7d ms\n" $(( TS_END - TS_BEGIN ))
+printf "\n"
+printf "  Map output:       %7sB\n" "$MAPOUTPUT"
+printf "  Reduce output:    %7sB\n" "$REDUCEOUTPUT"
+printf "\n"