оставлю это здесь. проверка соответствия ключа сертификату. на выходе должно получиться то, что было в файлике (можно echo):
cat test.txt | openssl smime -encrypt -des3 mycert.pem | openssl smime -decrypt -inkey mykey.pem