0820大空の名無しさん (ワッチョイ 1af8-N699)
2022/07/30(土) 23:45:18.51ID:IdS3WWfP0値の範囲をステップ数で割ってそれをprecisionとしてるみたいだけど
本当は電気的熱的ノイズも含めて算出しないとprecisionじゃないからね
ADVの下位1bitや2bitが使い物にならないのは普通だから
あとprecisionが高いからといってaccuracyも高いとは言えないから要注意
ポテンショメータの線形性とかADCの線形性とかメカのガタつきとか