Improve performance of edge updates.
[tinc] / src / chacha-poly1305 / poly1305.c
1 /* 
2  * Public Domain poly1305 from Andrew Moon
3  * poly1305-donna-unrolled.c from https://github.com/floodyberry/poly1305-donna
4  */
5
6 #include "../system.h"
7
8 #include "poly1305.h"
9
10 #define mul32x32_64(a,b) ((uint64_t)(a) * (b))
11
12 #define U8TO32_LE(p) \
13         (((uint32_t)((p)[0])) | \
14          ((uint32_t)((p)[1]) <<  8) | \
15          ((uint32_t)((p)[2]) << 16) | \
16          ((uint32_t)((p)[3]) << 24))
17
18 #define U32TO8_LE(p, v) \
19         do { \
20                 (p)[0] = (uint8_t)((v)); \
21                 (p)[1] = (uint8_t)((v) >>  8); \
22                 (p)[2] = (uint8_t)((v) >> 16); \
23                 (p)[3] = (uint8_t)((v) >> 24); \
24         } while (0)
25
26 void
27 poly1305_auth(unsigned char out[POLY1305_TAGLEN], const unsigned char *m, size_t inlen, const unsigned char key[POLY1305_KEYLEN])
28 {
29         uint32_t t0, t1, t2, t3;
30         uint32_t h0, h1, h2, h3, h4;
31         uint32_t r0, r1, r2, r3, r4;
32         uint32_t s1, s2, s3, s4;
33         uint32_t b, nb;
34         size_t j;
35         uint64_t t[5];
36         uint64_t f0, f1, f2, f3;
37         uint32_t g0, g1, g2, g3, g4;
38         uint64_t c;
39         unsigned char mp[16];
40
41         /* clamp key */
42         t0 = U8TO32_LE(key + 0);
43         t1 = U8TO32_LE(key + 4);
44         t2 = U8TO32_LE(key + 8);
45         t3 = U8TO32_LE(key + 12);
46
47         /* precompute multipliers */
48         r0 = t0 & 0x3ffffff;
49         t0 >>= 26;
50         t0 |= t1 << 6;
51         r1 = t0 & 0x3ffff03;
52         t1 >>= 20;
53         t1 |= t2 << 12;
54         r2 = t1 & 0x3ffc0ff;
55         t2 >>= 14;
56         t2 |= t3 << 18;
57         r3 = t2 & 0x3f03fff;
58         t3 >>= 8;
59         r4 = t3 & 0x00fffff;
60
61         s1 = r1 * 5;
62         s2 = r2 * 5;
63         s3 = r3 * 5;
64         s4 = r4 * 5;
65
66         /* init state */
67         h0 = 0;
68         h1 = 0;
69         h2 = 0;
70         h3 = 0;
71         h4 = 0;
72
73         /* full blocks */
74         if (inlen < 16)
75                 goto poly1305_donna_atmost15bytes;
76
77  poly1305_donna_16bytes:
78         m += 16;
79         inlen -= 16;
80
81         t0 = U8TO32_LE(m - 16);
82         t1 = U8TO32_LE(m - 12);
83         t2 = U8TO32_LE(m - 8);
84         t3 = U8TO32_LE(m - 4);
85
86         h0 += t0 & 0x3ffffff;
87         h1 += ((((uint64_t) t1 << 32) | t0) >> 26) & 0x3ffffff;
88         h2 += ((((uint64_t) t2 << 32) | t1) >> 20) & 0x3ffffff;
89         h3 += ((((uint64_t) t3 << 32) | t2) >> 14) & 0x3ffffff;
90         h4 += (t3 >> 8) | (1 << 24);
91
92  poly1305_donna_mul:
93         t[0] = mul32x32_64(h0, r0) + mul32x32_64(h1, s4) + mul32x32_64(h2, s3) + mul32x32_64(h3, s2) + mul32x32_64(h4, s1);
94         t[1] = mul32x32_64(h0, r1) + mul32x32_64(h1, r0) + mul32x32_64(h2, s4) + mul32x32_64(h3, s3) + mul32x32_64(h4, s2);
95         t[2] = mul32x32_64(h0, r2) + mul32x32_64(h1, r1) + mul32x32_64(h2, r0) + mul32x32_64(h3, s4) + mul32x32_64(h4, s3);
96         t[3] = mul32x32_64(h0, r3) + mul32x32_64(h1, r2) + mul32x32_64(h2, r1) + mul32x32_64(h3, r0) + mul32x32_64(h4, s4);
97         t[4] = mul32x32_64(h0, r4) + mul32x32_64(h1, r3) + mul32x32_64(h2, r2) + mul32x32_64(h3, r1) + mul32x32_64(h4, r0);
98
99         h0 = (uint32_t) t[0] & 0x3ffffff;
100         c = (t[0] >> 26);
101         t[1] += c;
102         h1 = (uint32_t) t[1] & 0x3ffffff;
103         b = (uint32_t) (t[1] >> 26);
104         t[2] += b;
105         h2 = (uint32_t) t[2] & 0x3ffffff;
106         b = (uint32_t) (t[2] >> 26);
107         t[3] += b;
108         h3 = (uint32_t) t[3] & 0x3ffffff;
109         b = (uint32_t) (t[3] >> 26);
110         t[4] += b;
111         h4 = (uint32_t) t[4] & 0x3ffffff;
112         b = (uint32_t) (t[4] >> 26);
113         h0 += b * 5;
114
115         if (inlen >= 16)
116                 goto poly1305_donna_16bytes;
117
118         /* final bytes */
119  poly1305_donna_atmost15bytes:
120         if (!inlen)
121                 goto poly1305_donna_finish;
122
123         for (j = 0; j < inlen; j++)
124                 mp[j] = m[j];
125         mp[j++] = 1;
126         for (; j < 16; j++)
127                 mp[j] = 0;
128         inlen = 0;
129
130         t0 = U8TO32_LE(mp + 0);
131         t1 = U8TO32_LE(mp + 4);
132         t2 = U8TO32_LE(mp + 8);
133         t3 = U8TO32_LE(mp + 12);
134
135         h0 += t0 & 0x3ffffff;
136         h1 += ((((uint64_t) t1 << 32) | t0) >> 26) & 0x3ffffff;
137         h2 += ((((uint64_t) t2 << 32) | t1) >> 20) & 0x3ffffff;
138         h3 += ((((uint64_t) t3 << 32) | t2) >> 14) & 0x3ffffff;
139         h4 += (t3 >> 8);
140
141         goto poly1305_donna_mul;
142
143  poly1305_donna_finish:
144         b = h0 >> 26;
145         h0 = h0 & 0x3ffffff;
146         h1 += b;
147         b = h1 >> 26;
148         h1 = h1 & 0x3ffffff;
149         h2 += b;
150         b = h2 >> 26;
151         h2 = h2 & 0x3ffffff;
152         h3 += b;
153         b = h3 >> 26;
154         h3 = h3 & 0x3ffffff;
155         h4 += b;
156         b = h4 >> 26;
157         h4 = h4 & 0x3ffffff;
158         h0 += b * 5;
159         b = h0 >> 26;
160         h0 = h0 & 0x3ffffff;
161         h1 += b;
162
163         g0 = h0 + 5;
164         b = g0 >> 26;
165         g0 &= 0x3ffffff;
166         g1 = h1 + b;
167         b = g1 >> 26;
168         g1 &= 0x3ffffff;
169         g2 = h2 + b;
170         b = g2 >> 26;
171         g2 &= 0x3ffffff;
172         g3 = h3 + b;
173         b = g3 >> 26;
174         g3 &= 0x3ffffff;
175         g4 = h4 + b - (1 << 26);
176
177         b = (g4 >> 31) - 1;
178         nb = ~b;
179         h0 = (h0 & nb) | (g0 & b);
180         h1 = (h1 & nb) | (g1 & b);
181         h2 = (h2 & nb) | (g2 & b);
182         h3 = (h3 & nb) | (g3 & b);
183         h4 = (h4 & nb) | (g4 & b);
184
185         f0 = ((h0) | (h1 << 26)) + (uint64_t) U8TO32_LE(&key[16]);
186         f1 = ((h1 >> 6) | (h2 << 20)) + (uint64_t) U8TO32_LE(&key[20]);
187         f2 = ((h2 >> 12) | (h3 << 14)) + (uint64_t) U8TO32_LE(&key[24]);
188         f3 = ((h3 >> 18) | (h4 << 8)) + (uint64_t) U8TO32_LE(&key[28]);
189
190         U32TO8_LE(&out[0], f0);
191         f1 += (f0 >> 32);
192         U32TO8_LE(&out[4], f1);
193         f2 += (f1 >> 32);
194         U32TO8_LE(&out[8], f2);
195         f3 += (f2 >> 32);
196         U32TO8_LE(&out[12], f3);
197 }