現状で話されてる二次創作ってキャラクターでは無くてルールの方でしょ？

版権キャラにオリジナルのルール乗せて同人として売り出す分には
版権元のガイドラインに従っていれば問題ない
東方シャドハンの話って事はルールが著作権とかで守られてないからと言って
既存のゲームとほぼ同じルールでパラメーター変えただけの同人ゲームは流石にNGなんだろう
シャドハン以外でも東方物にはそう言うのが良くあるよね