source: proto/JSON/json_pablo_template.c @ 1917

Last change on this file since 1917 was 1467, checked in by ksherdy, 8 years ago

Centralized typedefs.

File size: 7.6 KB
Line 
1#include <string.h>
2#include <stdio.h>
3#include <stdlib.h>
4#include <errno.h>
5#include <sys/types.h>
6#include <sys/stat.h>
7
8#include "../lib/lib_simd.h"
9#include "../lib/perflib/perfsec.h"
10#include "../lib/s2p.h"
11#include "../lib/carryQ.h"
12
13#define BLOCK_SIZE (sizeof(SIMD_type) * 8)      /* BLOCK_SIZE           - SIMD register in bits */
14#define BUFFER_SIZE (BLOCK_SIZE * 16)           /* BUFFER_SIZE          - multiple of BLOCK_SIZE */
15#define OVERLAP_BUFSIZE BLOCK_SIZE              /* OVERLAP_BUFSIZE      - SIMD register width in bytes overlap */
16
17#define DEBUG 1
18
19#ifdef BUFFER_PROFILING
20        BOM_Table * perf_timer;
21#elif CODE_CLOCKER
22        #define NUM_EVENTS 1
23        int Events[NUM_EVENTS] = {PAPI_TOT_CYC};
24        //int Events[NUM_EVENTS] = {PAPI_L2_DCM};
25        //int Events[NUM_EVENTS] = {PAPI_TOT_CYC, PAPI_BR_MSP};
26        int cal_size = 20;
27        CC * perf_timer = new CC(Events,NUM_EVENTS,cal_size);
28#else
29        void * perf_timer;
30#endif
31
32@global
33
34void do_process(FILE *infile, FILE *outfile) {
35
36        /* Compiler generated stream variable declarations. */
37        @decl
38
39        // BitBlock error_mask;  // PyBit compiler auto declares this variable
40        BitBlock bit[8];
41        BitBlock EOF_mask = simd_const_1(1);
42
43        /*extras*/
44        parity.Odd = simd_const_2(1);
45        parity.Even = simd_const_2(2);
46
47        BitBlock high_bit_mask = sisd_high_bit_mask;
48        BitBlock high_bit_is_set;
49        // BitBlock ParityMask = simd_const_1(0); // PyBit compiler auto declares this variable
50        BitBlock bitblock_parity_mask;
51
52        /* 8 * sizeof(SIMD_type) bytes. */
53        BytePack U8[8];
54
55        /* Source file data is broken into buffers, buffers are broken into blocks, blocks are SIMD register width. */
56        int buf_pos = 0;
57        int block_pos = 0;
58        int err_col = 0;
59
60        BytePack buf[(OVERLAP_BUFSIZE+BUFFER_SIZE+OVERLAP_BUFSIZE)];
61        char * srcbuf = ((char *) buf) + OVERLAP_BUFSIZE;
62        memset((unsigned char *)srcbuf,0,OVERLAP_BUFSIZE);
63        memset(((unsigned char *)srcbuf)+OVERLAP_BUFSIZE+BUFFER_SIZE,0,OVERLAP_BUFSIZE); /* Zero out first and last sizeof(SIMD_type) bytes. */
64
65        /* File IO */
66        int chars_avail = 0;
67        int chars_read = 0;
68
69        chars_read = fread((void *)srcbuf, 1, BUFFER_SIZE, infile);
70        chars_avail = chars_read;
71        if(ferror(infile)) { fprintf(stderr, "Error: Failed to read input file.\n"); return; }
72        if(chars_avail==0 && feof(infile)) { return; }
73
74        @stream_stmts
75
76        while(1) {
77
78                PERF_SEC_START(perf_timer);
79
80                while (chars_avail >= BLOCK_SIZE) { /* process full blocks */
81
82                        BytePack * U8 = (BytePack *) &srcbuf[block_pos];
83
84                        s2p(U8[0], U8[1], U8[2], U8[3], U8[4], U8[5], U8[6], U8[7],
85                        bit[0], bit[1], bit[2], bit[3], bit[4], bit[5], bit[6], bit[7]);
86
87                        /* generate bitblock_parity_mask */
88
89                        // TODO - Figure out this code - May replace
90                        high_bit_mask = sisd_high_bit_mask;
91                        high_bit_is_set = simd_and(high_bit_mask, bitblock_parity_mask);
92                        bitblock_parity_mask = sisd_add( simd_not(sisd_srl(high_bit_is_set, sisd_from_int(BLOCK_SIZE-1))), sisd_low_bit_mask);
93
94                        @block_stmts
95
96                        /* Generate Parity Mask */
97                        // TODO - Migrate to json_pablo_compilable.py
98                        //parity.ParityMask = bitblock_parallel_prefix_parity(UnescapedDQuotes, bitblock_parity_mask);
99
100                        #ifdef DEBUG
101
102                        print_array_le("Data", &srcbuf[block_pos],BLOCK_SIZE);
103                        print_simd_register("Escape", Escape);
104                        print_simd_register("Unescaped DQuote",UnescapedDQuotes);
105                        /*
106                        print_simd_register("high_bit_is_set", high_bit_is_set);
107                        print_simd_register("high_bit_mask", high_bit_mask);
108                        */
109                        print_simd_register("parity.ParityMask", parity.ParityMask);
110                        print_simd_register("StringMask", StringMask);
111                        print_simd_register("StringSpans", StringSpans);
112
113                        print_simd_register("AtomStarts", AtomStarts);
114                        print_simd_register("StringStarts", StringStarts);
115                        print_simd_register("NumberStarts", NumberStarts);
116                        print_simd_register("TrueStarts", TrueStarts);
117                        print_simd_register("FalseStarts", FalseStarts);
118                        print_simd_register("NullStarts", NullStarts);
119                        print_simd_register("AtomSpans", AtomSpans);
120                        print_simd_register("ErrorMask", error_mask);
121
122                        #endif
123
124                        if (bitblock_has_bit(error_mask)){
125                                err_col = buf_pos + block_pos + count_forward_zeroes(error_mask) + 1;
126                                fprintf(stderr, "Initial error at column %i.\n", err_col);
127                                exit(-1);
128                        }
129
130                        chars_avail -= BLOCK_SIZE;
131                        block_pos += BLOCK_SIZE;
132                }
133
134                if(chars_avail > 0 || @any_carry ) { /* process final partial block */
135                        /* extra */
136                        EOF_mask = sisd_srl(simd_const_1(1),sisd_from_int(BLOCK_SIZE-chars_avail));
137
138                        BytePack * U8 = (BytePack *) &srcbuf[block_pos];
139
140                        s2p(U8[0], U8[1], U8[2], U8[3], U8[4], U8[5], U8[6], U8[7],
141                        bit[0], bit[1], bit[2], bit[3], bit[4], bit[5], bit[6], bit[7]);
142
143                        bit[0] = simd_and(bit[0], EOF_mask);
144                        bit[1] = simd_and(bit[1], EOF_mask);
145                        bit[2] = simd_and(bit[2], EOF_mask);
146                        bit[3] = simd_and(bit[3], EOF_mask);
147                        bit[4] = simd_and(bit[4], EOF_mask);
148                        bit[5] = simd_and(bit[5], EOF_mask);
149                        bit[6] = simd_and(bit[6], EOF_mask);
150                        bit[7] = simd_and(bit[7], EOF_mask);
151
152                        /* generate bitblock_parity_mask */
153                        // TODO - Figure out this code - May replace
154                        high_bit_mask = sisd_srl(sisd_high_bit_mask, sisd_from_int(BLOCK_SIZE-chars_avail));
155                        high_bit_is_set = simd_and(high_bit_mask, bitblock_parity_mask);
156                        bitblock_parity_mask = sisd_add(simd_not(sisd_srl(high_bit_is_set, sisd_from_int(chars_avail-1))), sisd_low_bit_mask);
157
158                        @block_stmts
159
160                        // TODO - Migrate to json_pablo_compilable.py
161                        //parity.ParityMask = bitblock_parallel_prefix_parity(UnescapedDQuotes, bitblock_parity_mask);
162                        // TODO - Re-consider inclusion of 'EOF_mask' in the prototype
163                        //parity.ParityMask = simd_and(parity.ParityMask, EOF_mask);
164
165                        #ifdef DEBUG
166
167                        print_array_le("Data", &srcbuf[block_pos],BLOCK_SIZE);
168                        print_simd_register("Escape", Escape);
169                        print_simd_register("Unescaped DQuote",UnescapedDQuotes);
170                        /*
171                        print_simd_register("high_bit_is_set", high_bit_is_set);
172                        print_simd_register("high_bit_mask", high_bit_mask);
173                        */
174                        print_simd_register("parity.ParityMask", parity.ParityMask);
175                        print_simd_register("StringMask", StringMask);
176                        print_simd_register("StringSpans", StringSpans);
177
178                        print_simd_register("AtomStarts", AtomStarts);
179                        print_simd_register("StringStarts", StringStarts);
180                        print_simd_register("NumberStarts", NumberStarts);
181                        print_simd_register("TrueStarts", TrueStarts);
182                        print_simd_register("FalseStarts", FalseStarts);
183                        print_simd_register("NullStarts", NullStarts);
184                        print_simd_register("AtomSpans", AtomSpans);
185                        print_simd_register("ErrorMask", error_mask);
186
187                        #endif
188
189                        if(bitblock_has_bit(error_mask)) {
190                                err_col = buf_pos + block_pos + count_forward_zeroes(error_mask) + 1;
191                                fprintf(stderr, "Initial error at position %i.\n", err_col);
192                                exit(-1);
193                        }
194                }
195
196                PERF_SEC_END(perf_timer, chars_avail);
197
198                buf_pos += chars_read;
199                block_pos = 0;
200
201                chars_read = fread((void *)srcbuf, 1, BUFFER_SIZE, infile);
202                chars_avail = chars_read;
203                if(ferror(infile)) { fprintf(stderr, "Failed to read input file.\n"); return; }
204                if(chars_avail==0 && feof(infile)) { return; }
205        }
206}
207
208int main(int argc, char * argv[]) {
209        char * infilename, * outfilename;
210        FILE *infile, *outfile;
211        struct stat fileinfo;
212
213        if (argc < 2) {
214                printf("Usage: %s <filename> [<outputfile>]\n", argv[0]);
215                exit(-1);
216        }
217
218        infilename = argv[1];
219        stat(infilename, &fileinfo);
220        infile = fopen(infilename, "rb");
221        if (!infile) {
222                fprintf(stderr, "Error: Cannot open %s for reading.\n", infilename);
223                exit(-1);
224        }
225
226        if (argc < 3) {
227                outfile = stdout;
228        }       else {
229                outfilename = argv[2];
230                outfile = fopen(outfilename, "wb");
231                if (!outfile) {
232                        fprintf(stderr, "Error: Cannot open %s for writing.\n", outfilename);
233                        exit(-1);
234                }
235        }
236
237        // PERF_SEC_BIND(1);
238
239        PERF_SEC_INIT(perf_timer);
240
241        do_process(infile, outfile);
242
243        PERF_SEC_DUMP(perf_timer);
244
245        PERF_SEC_DESTROY(perf_timer);
246
247        fclose(infile);
248        fclose(outfile);
249
250        return(0);
251}
Note: See TracBrowser for help on using the repository browser.