Use AES256 and SHA256 by default for the legacy protocol.
[tinc] / src / openssl / cipher.c
1 /*
2     cipher.c -- Symmetric block cipher handling
3     Copyright (C) 2007-2016 Guus Sliepen <guus@tinc-vpn.org>
4
5     This program is free software; you can redistribute it and/or modify
6     it under the terms of the GNU General Public License as published by
7     the Free Software Foundation; either version 2 of the License, or
8     (at your option) any later version.
9
10     This program is distributed in the hope that it will be useful,
11     but WITHOUT ANY WARRANTY; without even the implied warranty of
12     MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
13     GNU General Public License for more details.
14
15     You should have received a copy of the GNU General Public License along
16     with this program; if not, write to the Free Software Foundation, Inc.,
17     51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA.
18 */
19
20 #include "../system.h"
21
22 #include <openssl/rand.h>
23 #include <openssl/err.h>
24 #include <openssl/evp.h>
25
26 #include "../cipher.h"
27 #include "../logger.h"
28 #include "../xalloc.h"
29
30 struct cipher {
31         EVP_CIPHER_CTX *ctx;
32         const EVP_CIPHER *cipher;
33 };
34
35 static cipher_t *cipher_open(const EVP_CIPHER *evp_cipher) {
36         cipher_t *cipher = xzalloc(sizeof *cipher);
37         cipher->cipher = evp_cipher;
38         cipher->ctx = EVP_CIPHER_CTX_new();
39         if(!cipher->ctx)
40                 abort();
41
42         return cipher;
43 }
44
45 cipher_t *cipher_open_by_name(const char *name) {
46         const EVP_CIPHER *evp_cipher = EVP_get_cipherbyname(name);
47         if(!evp_cipher) {
48                 logger(DEBUG_ALWAYS, LOG_ERR, "Unknown cipher name '%s'!", name);
49                 return NULL;
50         }
51
52         return cipher_open(evp_cipher);
53 }
54
55 cipher_t *cipher_open_by_nid(int nid) {
56         const EVP_CIPHER *evp_cipher = EVP_get_cipherbynid(nid);
57         if(!evp_cipher) {
58                 logger(DEBUG_ALWAYS, LOG_ERR, "Unknown cipher nid %d!", nid);
59                 return NULL;
60         }
61
62         return cipher_open(evp_cipher);
63 }
64
65 void cipher_close(cipher_t *cipher) {
66         if(!cipher)
67                 return;
68
69         EVP_CIPHER_CTX_free(cipher->ctx);
70         free(cipher);
71 }
72
73 size_t cipher_keylength(const cipher_t *cipher) {
74         if(!cipher || !cipher->cipher)
75                 return 0;
76
77         return EVP_CIPHER_key_length(cipher->cipher) + EVP_CIPHER_iv_length(cipher->cipher);
78 }
79
80 size_t cipher_blocksize(const cipher_t *cipher) {
81         if(!cipher || !cipher->cipher)
82                 return 1;
83
84         return EVP_CIPHER_block_size(cipher->cipher);
85 }
86
87 bool cipher_set_key(cipher_t *cipher, void *key, bool encrypt) {
88         bool result;
89
90         if(encrypt)
91                 result = EVP_EncryptInit_ex(cipher->ctx, cipher->cipher, NULL, (unsigned char *)key, (unsigned char *)key + EVP_CIPHER_key_length(cipher->cipher));
92         else
93                 result = EVP_DecryptInit_ex(cipher->ctx, cipher->cipher, NULL, (unsigned char *)key, (unsigned char *)key + EVP_CIPHER_key_length(cipher->cipher));
94
95         if(result)
96                 return true;
97
98         logger(DEBUG_ALWAYS, LOG_ERR, "Error while setting key: %s", ERR_error_string(ERR_get_error(), NULL));
99         return false;
100 }
101
102 bool cipher_set_key_from_rsa(cipher_t *cipher, void *key, size_t len, bool encrypt) {
103         bool result;
104
105         if(encrypt)
106                 result = EVP_EncryptInit_ex(cipher->ctx, cipher->cipher, NULL, (unsigned char *)key + len - EVP_CIPHER_key_length(cipher->cipher), (unsigned char *)key + len - EVP_CIPHER_iv_length(cipher->cipher) - EVP_CIPHER_key_length(cipher->cipher));
107         else
108                 result = EVP_DecryptInit_ex(cipher->ctx, cipher->cipher, NULL, (unsigned char *)key + len - EVP_CIPHER_key_length(cipher->cipher), (unsigned char *)key + len - EVP_CIPHER_iv_length(cipher->cipher) - EVP_CIPHER_key_length(cipher->cipher));
109
110         if(result)
111                 return true;
112
113         logger(DEBUG_ALWAYS, LOG_ERR, "Error while setting key: %s", ERR_error_string(ERR_get_error(), NULL));
114         return false;
115 }
116
117 bool cipher_encrypt(cipher_t *cipher, const void *indata, size_t inlen, void *outdata, size_t *outlen, bool oneshot) {
118         if(oneshot) {
119                 int len, pad;
120                 if(EVP_EncryptInit_ex(cipher->ctx, NULL, NULL, NULL, NULL)
121                                 && EVP_EncryptUpdate(cipher->ctx, (unsigned char *)outdata, &len, indata, inlen)
122                                 && EVP_EncryptFinal(cipher->ctx, (unsigned char *)outdata + len, &pad)) {
123                         if(outlen) *outlen = len + pad;
124                         return true;
125                 }
126         } else {
127                 int len;
128                 if(EVP_EncryptUpdate(cipher->ctx, outdata, &len, indata, inlen)) {
129                         if(outlen) *outlen = len;
130                         return true;
131                 }
132         }
133
134         logger(DEBUG_ALWAYS, LOG_ERR, "Error while encrypting: %s", ERR_error_string(ERR_get_error(), NULL));
135         return false;
136 }
137
138 bool cipher_decrypt(cipher_t *cipher, const void *indata, size_t inlen, void *outdata, size_t *outlen, bool oneshot) {
139         if(oneshot) {
140                 int len, pad;
141                 if(EVP_DecryptInit_ex(cipher->ctx, NULL, NULL, NULL, NULL)
142                                 && EVP_DecryptUpdate(cipher->ctx, (unsigned char *)outdata, &len, indata, inlen)
143                                 && EVP_DecryptFinal(cipher->ctx, (unsigned char *)outdata + len, &pad)) {
144                         if(outlen) *outlen = len + pad;
145                         return true;
146                 }
147         } else {
148                 int len;
149                 if(EVP_EncryptUpdate(cipher->ctx, outdata, &len, indata, inlen)) {
150                         if(outlen) *outlen = len;
151                         return true;
152                 }
153         }
154
155         logger(DEBUG_ALWAYS, LOG_ERR, "Error while decrypting: %s", ERR_error_string(ERR_get_error(), NULL));
156         return false;
157 }
158
159 int cipher_get_nid(const cipher_t *cipher) {
160         if(!cipher || !cipher->cipher)
161                 return 0;
162
163         return EVP_CIPHER_nid(cipher->cipher);
164 }
165
166 bool cipher_active(const cipher_t *cipher) {
167         return cipher && cipher->cipher && EVP_CIPHER_nid(cipher->cipher) != 0;
168 }