git.sesse.net Git - remoteglot-book/blob - build-book.sh

   1 #! /bin/bash
   2
   3 set -e
   4
   5 export SHARDS=40
   6 export PARALLEL_MERGES=40
   7
   8 rm -f pgnnames.txt tmp.mtbl* open.mtbl.new open.mtbl.part???? open.mtbl.part????.new 2>/dev/null
   9
  10 for FILE in "$@"; do
  11         echo "$FILE" >> pgnnames.txt
  12 done
  13
  14 TS_BEGIN=$( date +%s%3N )
  15
  16 for X in $( seq 0 39 ); do
  17         (
  18                 (
  19                         PGNNUM=0
  20                         for FILE in "$@"; do
  21                                 START=$( ./find-pgn-split-point.sh "$FILE" $X 40 )
  22                                 END=$( ./find-pgn-split-point.sh "$FILE" $(( X + 1 )) 40 )
  23                                 ~/nmu/pgn-extract/pgn-extract --startpos $START --endpos $END --startfilenum $PGNNUM -e -Wsessebin "$FILE" 2>/dev/null
  24                                 PGNNUM=$(( PGNNUM + 1 ))
  25                         done
  26                 ) | ./binloader - tmp.mtbl.mapper$X $SHARDS 500000
  27         ) &
  28 done
  29 wait
  30
  31 TS_MAPDONE=$( date +%s%3N )
  32 MAPOUTPUT=$( du -sch tmp.mtbl.mapper* | tail -n 1 | cut -f1 | sed 's/\([^0-9]\)$/ \1/' )
  33
  34 echo "Reducing..."
  35
  36 parallel -i -j ${PARALLEL_MERGES} bash -c 'X={}; ./binmerger tmp.mtbl.mapper*.part$( printf %04d $X ).subshard* open.mtbl.part$( printf %04d $X ).new' -- $( seq 0 $(( SHARDS - 1 )) )
  37
  38 TS_REDUCEDONE=$( date +%s%3N )
  39 REDUCEOUTPUT=$( du -sch open.mtbl.part*.new | tail -n 1 | cut -f1 | sed 's/\([^0-9]\)$/ \1/' )
  40
  41 for X in $( seq 0 $(( SHARDS - 1 )) ); do
  42         mv open.mtbl.part$( printf %04d $X ).new open.mtbl.part$( printf %04d $X )
  43 done
  44 rm -f tmp.mtbl*
  45
  46 TS_END=$( date +%s%3N )
  47
  48 printf "\n"
  49 printf "  Map time:       %7d ms\n" $(( TS_MAPDONE - TS_BEGIN ))
  50 printf "  Reduce time:    %7d ms\n" $(( TS_REDUCEDONE - TS_MAPDONE ))
  51 printf "  Total time:     %7d ms\n" $(( TS_END - TS_BEGIN ))
  52 printf "\n"
  53 printf "  Map output:       %7sB\n" "$MAPOUTPUT"
  54 printf "  Reduce output:    %7sB\n" "$REDUCEOUTPUT"
  55 printf "\n"