crypto: hash - Fixed digest size check
authorHerbert Xu <herbert@gondor.apana.org.au>
Mon, 7 Jul 2008 12:23:56 +0000 (20:23 +0800)
committerHerbert Xu <herbert@gondor.apana.org.au>
Thu, 10 Jul 2008 12:35:17 +0000 (20:35 +0800)
The digest size check on hash algorithms is incorrect.  It's
perfectly valid for hash algorithms to have a digest length
longer than their block size.  For example crc32c has a block
size of 1 and a digest size of 4.  Rather than having it lie
about its block size, this patch fixes the checks to do what
they really should which is to bound the digest size so that
code placing the digest on the stack continue to work.

HMAC however still needs to check this as it's only defined
for such algorithms.

Signed-off-by: Herbert Xu <herbert@gondor.apana.org.au>
crypto/ahash.c
crypto/digest.c
crypto/hash.c
crypto/hmac.c

index a83e035..8c1f918 100644 (file)
@@ -68,7 +68,7 @@ static int crypto_init_ahash_ops(struct crypto_tfm *tfm, u32 type, u32 mask)
        struct ahash_alg *alg = &tfm->__crt_alg->cra_ahash;
        struct ahash_tfm *crt   = &tfm->crt_ahash;
 
-       if (alg->digestsize > crypto_tfm_alg_blocksize(tfm))
+       if (alg->digestsize > PAGE_SIZE / 8)
                return -EINVAL;
 
        crt->init = alg->init;
index 025c9ae..d63d5d9 100644 (file)
@@ -141,7 +141,7 @@ int crypto_init_digest_ops(struct crypto_tfm *tfm)
        struct hash_tfm *ops = &tfm->crt_hash;
        struct digest_alg *dalg = &tfm->__crt_alg->cra_digest;
 
-       if (dalg->dia_digestsize > crypto_tfm_alg_blocksize(tfm))
+       if (dalg->dia_digestsize > PAGE_SIZE / 8)
                return -EINVAL;
        
        ops->init       = init;
diff --cc crypto/hash.c
Simple merge
diff --cc crypto/hmac.c
Simple merge