endian-fixes-20060802
[openafs.git] / src / afs / afs_md5.c
1 /*
2  * Copyright (c) 1995 - 2001 Kungliga Tekniska Högskolan
3  * (Royal Institute of Technology, Stockholm, Sweden).
4  * All rights reserved.
5  * 
6  * Redistribution and use in source and binary forms, with or without
7  * modification, are permitted provided that the following conditions
8  * are met:
9  * 
10  * 1. Redistributions of source code must retain the above copyright
11  *    notice, this list of conditions and the following disclaimer.
12  * 
13  * 2. Redistributions in binary form must reproduce the above copyright
14  *    notice, this list of conditions and the following disclaimer in the
15  *    documentation and/or other materials provided with the distribution.
16  * 
17  * 3. Neither the name of the Institute nor the names of its contributors
18  *    may be used to endorse or promote products derived from this software
19  *    without specific prior written permission.
20  * 
21  * THIS SOFTWARE IS PROVIDED BY THE INSTITUTE AND CONTRIBUTORS ``AS IS'' AND
22  * ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
23  * IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE
24  * ARE DISCLAIMED.  IN NO EVENT SHALL THE INSTITUTE OR CONTRIBUTORS BE LIABLE
25  * FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
26  * DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS
27  * OR SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION)
28  * HOWEVER CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT
29  * LIABILITY, OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY
30  * OUT OF THE USE OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF
31  * SUCH DAMAGE.
32  */
33
34 #include <afsconfig.h>
35 #include "afs/param.h"
36 #include "afs/sysincludes.h"
37 #include "afsincludes.h"
38
39
40 RCSID("$Id$");
41
42 #include "afs_md5.h"
43
44 #define A m->counter[0]
45 #define B m->counter[1]
46 #define C m->counter[2]
47 #define D m->counter[3]
48 #define X data
49
50 void
51 AFS_MD5_Init(struct afs_md5 *m)
52 {
53     m->sz[0] = 0;
54     m->sz[1] = 0;
55     D = 0x10325476;
56     C = 0x98badcfe;
57     B = 0xefcdab89;
58     A = 0x67452301;
59 }
60
61 #define F(x,y,z) CRAYFIX((x & y) | (~x & z))
62 #define G(x,y,z) CRAYFIX((x & z) | (y & ~z))
63 #define H(x,y,z) (x ^ y ^ z)
64 #define I(x,y,z) CRAYFIX(y ^ (x | ~z))
65
66 #define DOIT(a,b,c,d,k,s,i,OP) \
67 a = b + cshift(a + OP(b,c,d) + X[k] + (i), s)
68
69 #define DO1(a,b,c,d,k,s,i) DOIT(a,b,c,d,k,s,i,F)
70 #define DO2(a,b,c,d,k,s,i) DOIT(a,b,c,d,k,s,i,G)
71 #define DO3(a,b,c,d,k,s,i) DOIT(a,b,c,d,k,s,i,H)
72 #define DO4(a,b,c,d,k,s,i) DOIT(a,b,c,d,k,s,i,I)
73
74 static inline void
75 calc(struct afs_md5 *m, afs_uint32 * data)
76 {
77     afs_uint32 AA, BB, CC, DD;
78
79     AA = A;
80     BB = B;
81     CC = C;
82     DD = D;
83
84     /* Round 1 */
85
86     DO1(A, B, C, D, 0, 7, 0xd76aa478);
87     DO1(D, A, B, C, 1, 12, 0xe8c7b756);
88     DO1(C, D, A, B, 2, 17, 0x242070db);
89     DO1(B, C, D, A, 3, 22, 0xc1bdceee);
90
91     DO1(A, B, C, D, 4, 7, 0xf57c0faf);
92     DO1(D, A, B, C, 5, 12, 0x4787c62a);
93     DO1(C, D, A, B, 6, 17, 0xa8304613);
94     DO1(B, C, D, A, 7, 22, 0xfd469501);
95
96     DO1(A, B, C, D, 8, 7, 0x698098d8);
97     DO1(D, A, B, C, 9, 12, 0x8b44f7af);
98     DO1(C, D, A, B, 10, 17, 0xffff5bb1);
99     DO1(B, C, D, A, 11, 22, 0x895cd7be);
100
101     DO1(A, B, C, D, 12, 7, 0x6b901122);
102     DO1(D, A, B, C, 13, 12, 0xfd987193);
103     DO1(C, D, A, B, 14, 17, 0xa679438e);
104     DO1(B, C, D, A, 15, 22, 0x49b40821);
105
106     /* Round 2 */
107
108     DO2(A, B, C, D, 1, 5, 0xf61e2562);
109     DO2(D, A, B, C, 6, 9, 0xc040b340);
110     DO2(C, D, A, B, 11, 14, 0x265e5a51);
111     DO2(B, C, D, A, 0, 20, 0xe9b6c7aa);
112
113     DO2(A, B, C, D, 5, 5, 0xd62f105d);
114     DO2(D, A, B, C, 10, 9, 0x2441453);
115     DO2(C, D, A, B, 15, 14, 0xd8a1e681);
116     DO2(B, C, D, A, 4, 20, 0xe7d3fbc8);
117
118     DO2(A, B, C, D, 9, 5, 0x21e1cde6);
119     DO2(D, A, B, C, 14, 9, 0xc33707d6);
120     DO2(C, D, A, B, 3, 14, 0xf4d50d87);
121     DO2(B, C, D, A, 8, 20, 0x455a14ed);
122
123     DO2(A, B, C, D, 13, 5, 0xa9e3e905);
124     DO2(D, A, B, C, 2, 9, 0xfcefa3f8);
125     DO2(C, D, A, B, 7, 14, 0x676f02d9);
126     DO2(B, C, D, A, 12, 20, 0x8d2a4c8a);
127
128     /* Round 3 */
129
130     DO3(A, B, C, D, 5, 4, 0xfffa3942);
131     DO3(D, A, B, C, 8, 11, 0x8771f681);
132     DO3(C, D, A, B, 11, 16, 0x6d9d6122);
133     DO3(B, C, D, A, 14, 23, 0xfde5380c);
134
135     DO3(A, B, C, D, 1, 4, 0xa4beea44);
136     DO3(D, A, B, C, 4, 11, 0x4bdecfa9);
137     DO3(C, D, A, B, 7, 16, 0xf6bb4b60);
138     DO3(B, C, D, A, 10, 23, 0xbebfbc70);
139
140     DO3(A, B, C, D, 13, 4, 0x289b7ec6);
141     DO3(D, A, B, C, 0, 11, 0xeaa127fa);
142     DO3(C, D, A, B, 3, 16, 0xd4ef3085);
143     DO3(B, C, D, A, 6, 23, 0x4881d05);
144
145     DO3(A, B, C, D, 9, 4, 0xd9d4d039);
146     DO3(D, A, B, C, 12, 11, 0xe6db99e5);
147     DO3(C, D, A, B, 15, 16, 0x1fa27cf8);
148     DO3(B, C, D, A, 2, 23, 0xc4ac5665);
149
150     /* Round 4 */
151
152     DO4(A, B, C, D, 0, 6, 0xf4292244);
153     DO4(D, A, B, C, 7, 10, 0x432aff97);
154     DO4(C, D, A, B, 14, 15, 0xab9423a7);
155     DO4(B, C, D, A, 5, 21, 0xfc93a039);
156
157     DO4(A, B, C, D, 12, 6, 0x655b59c3);
158     DO4(D, A, B, C, 3, 10, 0x8f0ccc92);
159     DO4(C, D, A, B, 10, 15, 0xffeff47d);
160     DO4(B, C, D, A, 1, 21, 0x85845dd1);
161
162     DO4(A, B, C, D, 8, 6, 0x6fa87e4f);
163     DO4(D, A, B, C, 15, 10, 0xfe2ce6e0);
164     DO4(C, D, A, B, 6, 15, 0xa3014314);
165     DO4(B, C, D, A, 13, 21, 0x4e0811a1);
166
167     DO4(A, B, C, D, 4, 6, 0xf7537e82);
168     DO4(D, A, B, C, 11, 10, 0xbd3af235);
169     DO4(C, D, A, B, 2, 15, 0x2ad7d2bb);
170     DO4(B, C, D, A, 9, 21, 0xeb86d391);
171
172     A += AA;
173     B += BB;
174     C += CC;
175     D += DD;
176 }
177
178 /*
179  * From `Performance analysis of MD5' by Joseph D. Touch <touch@isi.edu>
180  */
181
182 #if defined(WORDS_BIGENDIAN)
183 static inline afs_uint32
184 swap_afs_uint32(afs_uint32 t)
185 {
186     afs_uint32 temp1, temp2;
187
188     temp1 = cshift(t, 16);
189     temp2 = temp1 >> 8;
190     temp1 &= 0x00ff00ff;
191     temp2 &= 0x00ff00ff;
192     temp1 <<= 8;
193     return temp1 | temp2;
194 }
195 #endif
196
197 struct x32 {
198     unsigned int a:32;
199     unsigned int b:32;
200 };
201
202 void
203 AFS_MD5_Update(struct afs_md5 *m, const void *v, size_t len)
204 {
205     const unsigned char *p = v;
206     size_t old_sz = m->sz[0];
207     size_t offset;
208
209     m->sz[0] += len * 8;
210     if (m->sz[0] < old_sz)
211         ++m->sz[1];
212     offset = (old_sz / 8) % 64;
213     while (len > 0) {
214         size_t l = min(len, 64 - offset);
215         memcpy(m->save + offset, p, l);
216         offset += l;
217         p += l;
218         len -= l;
219         if (offset == 64) {
220 #if defined(WORDS_BIGENDIAN)
221             int i;
222             afs_uint32 cur[16];
223             struct x32 *ui = (struct x32 *)m->save;
224             for (i = 0; i < 8; i++) {
225                 cur[2 * i + 0] = swap_afs_uint32(ui[i].a);
226                 cur[2 * i + 1] = swap_afs_uint32(ui[i].b);
227             }
228             calc(m, cur);
229 #else
230             calc(m, (afs_uint32 *) m->save);
231 #endif
232             offset = 0;
233         }
234     }
235 }
236
237 void
238 AFS_MD5_Final(void *res, struct afs_md5 *m)
239 {
240     static unsigned char zeros[72];
241     unsigned offset = (m->sz[0] / 8) % 64;
242     unsigned int dstart = (120 - offset - 1) % 64 + 1;
243
244     *zeros = 0x80;
245     memset(zeros + 1, 0, sizeof(zeros) - 1);
246     zeros[dstart + 0] = (m->sz[0] >> 0) & 0xff;
247     zeros[dstart + 1] = (m->sz[0] >> 8) & 0xff;
248     zeros[dstart + 2] = (m->sz[0] >> 16) & 0xff;
249     zeros[dstart + 3] = (m->sz[0] >> 24) & 0xff;
250     zeros[dstart + 4] = (m->sz[1] >> 0) & 0xff;
251     zeros[dstart + 5] = (m->sz[1] >> 8) & 0xff;
252     zeros[dstart + 6] = (m->sz[1] >> 16) & 0xff;
253     zeros[dstart + 7] = (m->sz[1] >> 24) & 0xff;
254     AFS_MD5_Update(m, zeros, dstart + 8);
255     {
256         int i;
257         unsigned char *r = (unsigned char *)res;
258
259         for (i = 0; i < 4; ++i) {
260             r[4 * i] = m->counter[i] & 0xFF;
261             r[4 * i + 1] = (m->counter[i] >> 8) & 0xFF;
262             r[4 * i + 2] = (m->counter[i] >> 16) & 0xFF;
263             r[4 * i + 3] = (m->counter[i] >> 24) & 0xFF;
264         }
265     }
266 #if 0
267     {
268         int i;
269         afs_uint32 *r = (afs_uint32 *) res;
270
271         for (i = 0; i < 4; ++i)
272             r[i] = swap_afs_uint32(m->counter[i]);
273     }
274 #endif
275 }
276
277 void
278 AFS_MD5_String(void *res, const void *v, size_t len)
279 {
280     struct afs_md5 m;
281
282     AFS_MD5_Init(&m);
283     AFS_MD5_Update(&m, v, len);
284     AFS_MD5_Final(res, &m);
285 }