SD7501和DTM0660芯片方案精度对比测试

dayibalang · 发表于 2024-1-27 10:55:39

本帖最后由 dayibalang 于 2024-1-27 10:58 编辑

两块表都没有表现出明显的非线性误差。看前两天有个帖子里一些网友把sd7501/2说得很是不堪。需要像楼主一样实测才有意义。道听途说以讹传讹不好

dayibalang · 发表于 2024-1-27 11:15:04

本帖最后由 dayibalang 于 2024-1-27 11:36 编辑

ut89xd的dcmv档，该档不经分压电阻网络，直接可以看adc的线性。
-4.59083×10^-7 x^2 + 1.00008 x - 0.0998861 二次拟合4.6x10∧-7这个值怎么也不能说是线性不好。
0.999825 x - 0.0875637 线性拟合残差0.4个字。
大约1个字的底数，这个的原因不知，需要进一步分析

dayibalang · 发表于 2024-1-27 11:45:08

本帖最后由 dayibalang 于 2024-1-27 12:50 编辑

ut98xd
dc6v
0.998882 x + 0.00108631

dc60v
0.999629 x + 0.01133

残差都没有超过一个字

账号		自动登录	找回密码
密码			立即注册

[手持表] SD7501和DTM0660芯片方案精度对比测试

本帖子中包含更多资源

本帖子中包含更多资源

浏览过的版块