AIでもブラックボックスということはありえない
どのように評定しどのようにコマンドしたかという履歴はその過程も含めて記録として残すのが普通なわけで、ビッグデータとして蓄積されるならなおの事分析は容易い
出力されたAEBの行動を分析するにあたってはAIだろうが単なるアルゴリズムだろうが違いはない
修正時のアプローチも概ね似たような形になる