autogtpのREADME.mdにはMacOSだけ書いてないね
この辺でqt5を落として
http://doc.qt.io/qt-5/osx.html
qmake -qt5
make
cp ../src/leelaz .
./autogtp

で動かね?
leelazのコンパイルは通ってるとして