]> git.baikalelectronics.ru Git - kernel.git/commit
drm/vmwgfx: Correctly NULLify dma buffer pointer on failure
authorColin Ian King <colin.king@canonical.com>
Thu, 22 Jan 2015 15:17:07 +0000 (15:17 +0000)
committerThomas Hellstrom <thellstrom@vmware.com>
Wed, 11 Mar 2015 18:47:41 +0000 (11:47 -0700)
commit467a6e171883a2716c93fc0d4ebbfcdf8c408923
treefcf0ac4443d3e1011342714128aa8b5fbea35cf0
parentc8668bfa2b7690ad2c65bcbda1d2ad5c76caa26a
drm/vmwgfx: Correctly NULLify dma buffer pointer on failure

cppcheck on lines 917 and 977 show an ineffective assignment
to the dma buffer pointer:

[drivers/gpu/drm/vmwgfx/vmwgfx_execbuf.c:917]:
[drivers/gpu/drm/vmwgfx/vmwgfx_execbuf.c:977]:
  (warning) Assignment of function parameter has no effect
  outside the function. Did you forget dereferencing it?

On a successful DMA buffer lookup, the dma buffer pointer is
assigned, however, on failure it currently is left in an
undefined state.

The original intention in the error exit path was to nullify
the pointer on an error (which the original code failed to
do properly). This patch fixes this also ensures all failure
paths nullify the buffer pointer on the error return.

Fortunately the callers to vmw_translate_mob_ptr and
vmw_translate_guest_ptr are checking on a return status and not
on the dma buffer pointer, so the original code worked.

Reviewed-by: Thomas Hellstrom <thellstrom@vmware.com>
Signed-off-by: Colin Ian King <colin.king@canonical.com>
drivers/gpu/drm/vmwgfx/vmwgfx_execbuf.c