]> git.baikalelectronics.ru Git - kernel.git/commit
iio: ak8975: Fix calculation formula for convert micro tesla to gauss unit
authorBeomho Seo <beomho.seo@samsung.com>
Wed, 2 Apr 2014 08:15:00 +0000 (09:15 +0100)
committerJonathan Cameron <jic23@kernel.org>
Sat, 8 Feb 2014 10:28:05 +0000 (10:28 +0000)
commitccb1287f797b56a34aae3028ac24a3af13fc6cd5
tree01e79f0cd6e4b5d04e29f8887f858d46b1b2301b
parentc94b5118d6eee950839176236bb1789e1eabdc9d
iio: ak8975: Fix calculation formula for convert micro tesla to gauss unit

This effects the reported scale of the raw values, and thus userspace
applications that use this value.

One micro tesla equal 0.01 gauss. So I have fixed calculation formula And add RAW_TO_GAUSS macro.
ASA is in the range of 0 to 255. If multiply 0.003, calculation result(in_magn_[*]_scale) is
always 0. So multiply 3000 and return and IIO_VAL_INT_PLUS_MICRO.
As a result, read_raw call back function return accurate scale value.

Signed-off-by: Beomho Seo <beomho.seo@samsung.com>
Cc: stable@vger.kernel.org
Signed-off-by: Jonathan Cameron <jic23@kernel.org>
drivers/iio/magnetometer/ak8975.c