tools: mkimage: make size_inc a signed type
authorRasmus Villemoes <ravi@prevas.dk>
Wed, 9 Jul 2025 08:34:49 +0000 (10:34 +0200)
committerTom Rini <trini@konsulko.com>
Tue, 15 Jul 2025 15:55:41 +0000 (09:55 -0600)
commitf08e29351dcb4c07c940b8a4c6b7b3899b803980
tree0fe8e3e4cbb0c8d1a21efeb05d4cf6c7ba2e0e87
parent9204cae0937c0e26fcff1ee08e51ef37f59844fe
tools: mkimage: make size_inc a signed type

In the Fixes commit, I initialized size_inc from the return value of
the new fit_estimate_hash_sig_size() helper. That helper may fail and
report that by returning a negative value, but I overlooked that
size_inc had type size_t, and hence the error check doesn't work.

Change size_inc to have type int so the error check works.  Inside the
loop, it is passed to another function as a size_t parameter, but
that's fine, because we know it is non-negative, and its value may be
incremented in steps of 1024 and is capped at ~64K, so it will
certainly never overflow an int.

Fixes: 7d4eacb0e68 ("mkimage: do a rough estimate for the size needed for hashes/signatures")
Addresses-Coverity-ID: 569495: Integer handling issues  (NEGATIVE_RETURNS)
Signed-off-by: Rasmus Villemoes <ravi@prevas.dk>
tools/fit_image.c