]> git.baikalelectronics.ru Git - kernel.git/commit
x86/smp: Enhance native_send_call_func_ipi()
authorThomas Gleixner <tglx@linutronix.de>
Mon, 22 Jul 2019 18:47:26 +0000 (20:47 +0200)
committerThomas Gleixner <tglx@linutronix.de>
Thu, 25 Jul 2019 14:12:01 +0000 (16:12 +0200)
commit2138eaccc65f9004bd63fb9fb28433e742a0ac2d
tree72b54a401a69556ad3b226b8e53d2e7611b3a363
parent099d1ba9322883dfec4c1983157c1bcdac3f58b2
x86/smp: Enhance native_send_call_func_ipi()

Nadav noticed that the cpumask allocations in native_send_call_func_ipi()
are noticeable in microbenchmarks.

Use the new cpumask_or_equal() function to simplify the decision whether
the supplied target CPU mask is either equal to cpu_online_mask or equal to
cpu_online_mask except for the CPU on which the function is invoked.

cpumask_or_equal() or's the target mask and the cpumask of the current CPU
together and compares it to cpu_online_mask.

If the result is false, use the mask based IPI function, otherwise check
whether the current CPU is set in the target mask and invoke either the
send_IPI_all() or the send_IPI_allbutselt() APIC callback.

Make the shorthand decision also depend on the static key which enables
shorthand mode. That allows to remove the extra cpumask comparison with
cpu_callout_mask.

Reported-by: Nadav Amit <namit@vmware.com>
Signed-off-by: Thomas Gleixner <tglx@linutronix.de>
Acked-by: Peter Zijlstra (Intel) <peterz@infradead.org>
Link: https://lkml.kernel.org/r/20190722105220.768238809@linutronix.de
arch/x86/kernel/apic/ipi.c