]> git.baikalelectronics.ru Git - kernel.git/commit
gpu: ipu-v3: image-convert: fix output seam valid interval
authorPhilipp Zabel <p.zabel@pengutronix.de>
Tue, 13 Aug 2019 12:30:25 +0000 (14:30 +0200)
committerPhilipp Zabel <p.zabel@pengutronix.de>
Mon, 19 Aug 2019 14:24:37 +0000 (16:24 +0200)
commit17fc1ddb5d29400e689e41b7af772cdf5864fe6c
tree6391b3f2a75346c119cbaf4b71ccc3cd8d9e79fb
parent5c1a1857ffb90708f7d4f9e8007088a015bb5bd1
gpu: ipu-v3: image-convert: fix output seam valid interval

This fixes a failure to determine any seam if the output size is
exactly 1024 multiplied by the number of tiles in a given direction.
In that case an empty interval out_start == out_end is being passed
to find_best_seam, which looks for a seam out_start <= x < out_end.

Also reduce the interval for all but the left column / top row, to
avoid returning position 0 as best fit.

Signed-off-by: Philipp Zabel <p.zabel@pengutronix.de>
drivers/gpu/ipu-v3/ipu-image-convert.c