]> git.cryptolib.org Git - arm-crypto-lib.git/blob - rsa/rsa_oaep.c
works with three tests; contains a lot debug foo
[arm-crypto-lib.git] / rsa / rsa_oaep.c
1
2 /* rsa_oaep.c */
3 /*
4     This file is part of the ARM-Crypto-Lib.
5     Copyright (C) 2006-2012 Daniel Otte (daniel.otte@rub.de)
6
7     This program is free software: you can redistribute it and/or modify
8     it under the terms of the GNU General Public License as published by
9     the Free Software Foundation, either version 3 of the License, or
10     (at your option) any later version.
11
12     This program is distributed in the hope that it will be useful,
13     but WITHOUT ANY WARRANTY; without even the implied warranty of
14     MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
15     GNU General Public License for more details.
16
17     You should have received a copy of the GNU General Public License
18     along with this program.  If not, see <http://www.gnu.org/licenses/>.
19 */
20
21 #include <stdint.h>
22 #include <stdlib.h>
23 #include <string.h>
24 #include "memxor.h"
25 #include "mgf1.h"
26 #include "bigint.h"
27 #include "rsa_basic.h"
28 #include "rsa_oaep.h"
29
30 #include "random_dummy.h"
31
32 #include "hfal/hfal_sha1.h"
33
34 #include "cli.h"
35 #include "uart_lowlevel.h"
36
37 mgf1_parameter_t mgf1_default_parameter = {
38                 &sha1_desc
39 };
40
41 rsa_oaep_parameter_t rsa_oaep_default_parameter = {
42                 mgf1,
43                 &sha1_desc,
44                 &mgf1_default_parameter
45 };
46
47 rsa_label_t rsa_oaep_default_label = {
48                 0, NULL
49 };
50
51 uint8_t rsa_encrypt_oaep(void* dest, uint16_t* out_length,
52                               const void* src, uint16_t length_B,
53                               rsa_publickey_t* key, const rsa_oaep_parameter_t *p,
54                               const rsa_label_t* label, const void* seed){
55
56         if(!p){
57                 p = &rsa_oaep_default_parameter;
58         }
59         if(!label){
60                 label = &rsa_oaep_default_label;
61         }
62         uint16_t hv_len = (hfal_hash_getHashsize(p->hf)+7)/8;
63         if(length_B > bigint_length_B(key->modulus) - 2*hv_len - 2){
64                 /* message too long */
65                 return 1;
66         }
67         uint16_t buffer_len = bigint_length_B(key->modulus);
68         cli_putstr("\r\n buffer_len = ");
69         cli_hexdump_rev(&buffer_len, 2);
70         cli_putstr("\r\n modulus_len = ");
71         cli_hexdump_rev(&key->modulus->length_B, 2);
72         uint8_t* buffer = (uint8_t*)dest;
73         uint8_t off;
74         /* the following needs some explanation:
75          * off is the offset which is used for compensating the effect of
76          * changeendian() when it operates on multi-byte words.
77          * */
78         off = (sizeof(bigint_word_t) -(bigint_get_first_set_bit(key->modulus)/8+1)%(sizeof(bigint_word_t)*8))
79                         % (sizeof(bigint_word_t));
80         buffer += off;
81     buffer_len -= off;
82     cli_putstr("\r\n  off = ");
83     cli_hexdump_byte(off);
84         uint8_t* seed_buffer = buffer + 1;
85         uint16_t db_len = buffer_len - hv_len - 1;
86         uint8_t* db = seed_buffer + hv_len;
87         uint16_t maskbuffer_len = db_len>hv_len?db_len:hv_len;
88         uint8_t maskbuffer[maskbuffer_len];
89         bigint_t x;
90
91         memset(dest, 0, seed_buffer - buffer + off);
92         memset(db + hv_len, 0, db_len - hv_len - length_B -1);
93         hfal_hash_mem(p->hf, db, label->label, label->length_b);
94         db[db_len - length_B - 1] = 0x01;
95         memcpy(db+db_len - length_B, src, length_B);
96         if(seed){
97                 memcpy(seed_buffer, seed, hv_len);
98         }else{
99                 /* generate random seed */
100                 if(!prng_get_byte){
101                         return 2; /* ERROR: no random generator specified */
102                 }
103                 uint16_t i;
104                 for(i=0; i<hv_len; ++i){
105                         seed_buffer[i] = prng_get_byte();
106                 }
107         }
108         cli_putstr("\r\n  msg (raw, pre-feistel):\r\n");
109         cli_hexdump_block(dest, bigint_length_B(key->modulus), 4, 16);
110         p->mgf(maskbuffer, seed_buffer, hv_len, db_len, p->mgf_parameter);
111         memxor(db, maskbuffer, db_len);
112         p->mgf(maskbuffer, db, db_len, hv_len, p->mgf_parameter);
113         memxor(seed_buffer, maskbuffer, hv_len);
114         cli_putstr("\r\n  msg (raw, post-feistel):\r\n");
115         cli_hexdump_block(dest, bigint_length_B(key->modulus), 4, 16);
116
117         x.wordv = dest;
118         x.length_B = key->modulus->length_B;
119         bigint_adjust(&x);
120
121         rsa_os2ip(&x, NULL, bigint_length_B(key->modulus));
122         rsa_enc(&x, key);
123         rsa_i2osp(NULL, &x, out_length);
124         return 0;
125 }
126
127 uint8_t rsa_decrypt_oaep(void* dest, uint16_t* out_length,
128                               const void* src, uint16_t length_B,
129                               rsa_privatekey_t* key, const rsa_oaep_parameter_t *p,
130                               const rsa_label_t* label, void* seed){
131
132         cli_putstr("\r\n -->rsa_decrypt_oaep()"); uart_flush(0);
133         if(!label){
134                 label = &rsa_oaep_default_label;
135         }
136         if(!p){
137                 p = &rsa_oaep_default_parameter;
138         }
139         uint16_t x_len, data_len;
140         bigint_t x;
141         uint16_t hv_len = hfal_hash_getHashsize(p->hf)/8;
142         uint8_t label_hv[hv_len];
143         uint16_t msg_len = bigint_get_first_set_bit(key->modulus) / 8 + 1;
144         uint16_t db_len = msg_len - hv_len - 1;
145         uint8_t maskbuffer[db_len>hv_len?db_len:hv_len];
146
147         uint8_t *seed_buffer = dest;
148         uint8_t *db_buffer = seed_buffer + hv_len;
149
150         x_len = bigint_get_first_set_bit(key->modulus)/8;
151         memset(dest, 0, bigint_length_B(key->modulus) - length_B);
152         memcpy((uint8_t*)dest + bigint_length_B(key->modulus) - length_B, src, length_B);
153
154         cli_putc('a'); uart_flush(0);
155
156         x.wordv = dest;
157         x.length_B = key->modulus->length_B;
158         x.info = 0;
159         bigint_adjust(&x);
160
161
162         cli_putc('b'); uart_flush(0);
163         rsa_os2ip(&x, NULL, bigint_length_B(key->modulus));
164         cli_putc('c'); uart_flush(0);
165         rsa_dec(&x, key);
166         cli_putc('d'); uart_flush(0);
167         rsa_i2osp(NULL, &x, &data_len);
168
169         cli_putstr("\r\n  msg (raw, pre-move):\r\n");
170         cli_hexdump_block(dest, bigint_length_B(key->modulus), 4, 16);
171
172         if(data_len > x_len){
173                 return 7;
174         }
175
176         cli_putstr("\r\n moving some bytes; x_len = ");
177         cli_hexdump_rev(&x_len, 2);
178         cli_putstr("  data_len = ");
179         cli_hexdump_rev(&data_len, 2);
180         uart_flush(0);
181
182         if(x_len != data_len){
183                 memmove((uint8_t*)dest + x_len - data_len, dest, data_len);
184                 cli_putstr("  (oh, not dead yet?!)");
185                 uart_flush(0);
186                 memset(dest, 0, x_len - data_len);
187         }
188
189         hfal_hash_mem(p->hf, label_hv, label->label, label->length_b);
190 /*
191         if(buffer[0] != 0){
192                 return 1;
193         }
194 */
195         cli_putstr("\r\n  msg (raw, pre-feistel):\r\n");
196         cli_hexdump_block(seed_buffer, bigint_length_B(key->modulus), 4, 16);
197
198         uart_flush(0);
199
200         p->mgf(maskbuffer, db_buffer, db_len, hv_len, p->mgf_parameter);
201         memxor(seed_buffer, maskbuffer, hv_len);
202         p->mgf(maskbuffer, seed_buffer, hv_len, db_len, p->mgf_parameter);
203         memxor(db_buffer, maskbuffer, db_len);
204
205         if(memcmp(label_hv, db_buffer, hv_len)){
206                 cli_putstr("\r\nDBG: DB:\r\n");
207                 cli_hexdump_block(db_buffer, db_len, 4, 16);
208                 return 2;
209         }
210
211         uint16_t ps_len=0;
212         while(db_buffer[hv_len + ps_len++] == 0)
213                 ;
214
215         --ps_len;
216         if(db_buffer[hv_len + ps_len] != 1){
217                 return 3;
218         }
219
220         if(seed){
221                 memcpy(seed, seed_buffer, hv_len);
222         }
223
224         msg_len = db_len - hv_len - 1 - ps_len;
225         memmove(dest, db_buffer + hv_len + ps_len + 1, msg_len);
226
227         *out_length = msg_len;
228
229         return 0;
230 }
231
232