Tenho uma aplicação WEB implantada no servidor Tomcat. Eu me conecto a ele com o navegador Chrome com HTTPS, mas tenho um erro de descriptografia durante o handshake TLS no lado do cliente após o ServerKeyExchange.
Certificados (3 níveis):
Certificado de servidor, assinado por...
Certificado CA, assinado por...
Certificado raiz (autoassinado)
Validei certificados com openssl e eles parecem estar bem (chain.cer contém CA e certificados raiz):
$ openssl verify -verbose -CAfile chain.cer server.cer
servidor.cer: OK
Se eu testar a conexão com OpenSSL, recebo um erro depois que o cliente lê ServerKeyExchange:
openssl.exe s_client -CAfile chain.cer -showcerts -state -msg server.net:8443
saída:
CONNECTED(00000004)
>>> ??? [length 0005]
16 03 01 01 4f
>>> TLS 1.3, Handshake [length 014f], ClientHello
01 00 01 4b 03 03 81 63 a4 15 45 bf 7f 9b 07 8f ...
<<< ??? [length 0005]
16 03 03 09 14
<<< TLS 1.3, Handshake [length 0055], ServerHello
02 00 00 51 03 03 60 ef d0 8b 1c d7 9a 78 2d d4 ...
<<< TLS 1.2, Handshake [length 07ee], Certificate
0b 00 07 ea 00 07 e7 00 07 e4 30 82 07 e0 30 82 ...
depth=2 O = Amadeus IT group SA, CN = amarootca2
verify return:1
depth=1 O = Amadeus IT group SA, CN = amacatech3
verify return:1
depth=0 C = FR, L = Nice, O = Amadeus Data Processing, OU = NIS, CN = nceiptapas04.nce.amadeus.net
verify return:1
<<< TLS 1.2, Handshake [length 00cd], ServerKeyExchange
0c 00 00 c9 03 00 17 41 04 82 07 58 e1 cd 42 40 ...
>>> ??? [length 0005]
15 03 03 00 02
>>> TLS 1.2, Alert [length 0002], fatal decrypt_error
02 33
34359738384:error:04091077:rsa routines:int_rsa_verify:wrong signature length:crypto/rsa/rsa_sign.c:132:
34359738384:error:1416D07B:SSL routines:tls_process_key_exchange:bad signature:ssl/statem/statem_clnt.c:2405:
---
O cliente não consegue descriptografar os parâmetros DH enviados pelo servidor? Por que? Aqui estão os detalhes do Wireshark do ServerKeyExchange:
Algoritmo de assinatura: rsa_pss_rsae_sha256 (0x0804) Comprimento da assinatura: 128
Eu tenho outro aplicativo WEB, mas funcionando corretamente, onde tenho o mesmo algoritmo de assinatura, mas o comprimento da assinatura: 256. Ou esse comprimento é irrelevante?