source: proto/JSON/json_pybit_template.c @ 2236

Last change on this file since 2236 was 1467, checked in by ksherdy, 8 years ago

Centralized typedefs.

File size: 7.6 KB
Line 
1/*
2 * IMPORTANT: Manually insert of parity mask generation code prior to compilation.
3 */
4#include <string.h>
5#include <stdio.h>
6#include <stdlib.h>
7#include <errno.h>
8#include <sys/types.h>
9#include <sys/stat.h>
10
11#include "../lib/lib_simd.h"
12#include "../lib/block_carry.h"
13#include "../lib/perflib/perfsec.h"
14#include "../lib/s2p.h"
15
16#define BLOCK_SIZE (sizeof(SIMD_type) * 8)      /* BLOCK_SIZE           - SIMD register in bits */
17#define BUFFER_SIZE (BLOCK_SIZE * 16)           /* BUFFER_SIZE          - multiple of BLOCK_SIZE */
18#define OVERLAP_BUFSIZE BLOCK_SIZE              /* OVERLAP_BUFSIZE      - SIMD register width in bytes overlap */
19
20#define DEBUG 1
21
22#ifdef BUFFER_PROFILING
23        BOM_Table * perf_timer;
24#elif CODE_CLOCKER
25        #define NUM_EVENTS 1
26        int Events[NUM_EVENTS] = {PAPI_TOT_CYC};
27        //int Events[NUM_EVENTS] = {PAPI_L2_DCM};
28        //int Events[NUM_EVENTS] = {PAPI_TOT_CYC, PAPI_BR_MSP};
29        int cal_size = 20;
30        CC * perf_timer = new CC(Events,NUM_EVENTS,cal_size);
31#else
32        void * perf_timer;
33#endif
34
35void do_process(FILE *infile, FILE *outfile) {
36
37        /* Compiler generated stream variable declarations. */
38        @decl
39
40        // BitBlock error_mask;  // PyBit compiler auto declares this variable
41        BitBlock EOF_mask = simd_const_1(1);
42
43        /*extra*/
44        /* parse_escape, do not declare, since the PyBit compiler does so by default*/
45        Odd = simd_const_2(1);
46        Even = simd_const_2(2);
47
48        BitBlock high_bit_mask = sisd_high_bit_mask;
49        BitBlock high_bit_is_set;
50        // BitBlock ParityMask = simd_const_1(0); // PyBit compiler auto declares this variable
51        BitBlock bitblock_parity_mask;
52
53        /* 8 * sizeof(SIMD_type) bytes. */
54        BytePack U8[8];
55
56        /* Source file data is broken into buffers, buffers are broken into blocks, blocks are SIMD register width. */
57        int buf_pos = 0;
58        int block_pos = 0;
59        int err_col = 0;
60
61        BytePack buf[(OVERLAP_BUFSIZE+BUFFER_SIZE+OVERLAP_BUFSIZE)/sizeof(SIMD_type)];
62        char * srcbuf = ((char *) buf) + OVERLAP_BUFSIZE;
63        memset((unsigned char *)srcbuf,0,16);
64        memset(((unsigned char *)srcbuf)+BUFFER_SIZE,0,16); /* Zero out first and last sizeof(SIMD_type) bytes. */
65
66        /* File IO */
67        int chars_avail = 0;
68        int chars_read = 0;
69
70        chars_read = fread((void *)srcbuf, 1, BUFFER_SIZE, infile);
71        chars_avail = chars_read;
72        if(ferror(infile)) { fprintf(stderr, "Error: Failed to read input file.\n"); return; }
73        if(chars_avail==0 && feof(infile)) { return; }
74
75        @stream_stmts
76
77        while(1) {
78
79                PERF_SEC_START(perf_timer);
80
81                while (chars_avail >= BLOCK_SIZE) { /* process full blocks */
82
83                        BytePack * U8 = (BytePack *) &srcbuf[block_pos];
84
85                        s2p(U8[0], U8[1], U8[2], U8[3], U8[4], U8[5], U8[6], U8[7],
86                        array_bit__0_,array_bit__1_,array_bit__2_,array_bit__3_,array_bit__4_,array_bit__5_,array_bit__6_,array_bit__7_);
87
88                        /* bitblock_parity_mask */
89                        high_bit_mask = sisd_high_bit_mask;
90                        high_bit_is_set = simd_and(high_bit_mask, bitblock_parity_mask);
91                        bitblock_parity_mask = sisd_add( simd_not(sisd_srl(high_bit_is_set, sisd_from_int(BLOCK_SIZE-1))) , sisd_low_bit_mask);
92
93                        @block_stmts
94
95                        /* IMPORTANT - Manual insertion required. */
96                        ParityMask = bitblock_parallel_prefix_parity(UnescapedDQuotes, bitblock_parity_mask);
97
98                        #ifdef DEBUG
99
100                        print_array_le("Data", &srcbuf[block_pos],BLOCK_SIZE);
101                        print_simd_register("Escape", Escape);
102                        print_simd_register("Unescaped DQuote",UnescapedDQuotes);
103                        /*
104                        print_simd_register("high_bit_is_set", high_bit_is_set);
105                        print_simd_register("high_bit_mask", high_bit_mask);
106                        */
107                        print_simd_register("ParityMask", ParityMask);
108                        print_simd_register("StringMask", StringMask);
109                        print_simd_register("StringSpans", StringSpans);
110
111                        print_simd_register("AtomStarts", AtomStarts);
112                        print_simd_register("StringStarts", StringStarts);
113                        print_simd_register("NumberStarts", NumberStarts);
114                        print_simd_register("TrueStarts", TrueStarts);
115                        print_simd_register("FalseStarts", FalseStarts);
116                        print_simd_register("NullStarts", NullStarts);
117                        print_simd_register("AtomSpans", AtomSpans);
118                        print_simd_register("ErrorMask", error_mask);
119
120                        #endif
121
122                        if (bitblock_has_bit(error_mask)){
123                                err_col = buf_pos + block_pos + count_forward_zeroes(error_mask) + 1;
124                                fprintf(stderr, "Initial error at column %i.\n", err_col);
125                                exit(-1);
126                        }
127
128                        chars_avail -= BLOCK_SIZE;
129                        block_pos += BLOCK_SIZE;
130                }
131
132                if(chars_avail > 0 /* || any_carry */) { /* process final partial block */
133                        /* extra */
134                        EOF_mask = sisd_srl(simd_const_1(1),sisd_from_int(BLOCK_SIZE-chars_avail));
135
136                        BytePack * U8 = (BytePack *) &srcbuf[block_pos];
137
138                        s2p(U8[0], U8[1], U8[2], U8[3], U8[4], U8[5], U8[6], U8[7],
139                        array_bit__0_,array_bit__1_,array_bit__2_,array_bit__3_,array_bit__4_,array_bit__5_,array_bit__6_,array_bit__7_);
140
141                        array_bit__0_ = simd_and(array_bit__0_, EOF_mask);
142                        array_bit__1_ = simd_and(array_bit__1_, EOF_mask);
143                        array_bit__2_ = simd_and(array_bit__2_, EOF_mask);
144                        array_bit__3_ = simd_and(array_bit__3_, EOF_mask);
145                        array_bit__4_ = simd_and(array_bit__4_, EOF_mask);
146                        array_bit__5_ = simd_and(array_bit__5_, EOF_mask);
147                        array_bit__6_ = simd_and(array_bit__6_, EOF_mask);
148                        array_bit__7_ = simd_and(array_bit__7_, EOF_mask);
149
150                        /* bitblock_parity_mask */
151                        high_bit_mask = sisd_srl(sisd_high_bit_mask, sisd_from_int(BLOCK_SIZE-chars_avail));
152                        high_bit_is_set = simd_and(high_bit_mask, bitblock_parity_mask);
153                        bitblock_parity_mask = sisd_add(simd_not(sisd_srl(high_bit_is_set, sisd_from_int(chars_avail-1))) , sisd_low_bit_mask);
154
155                        @block_stmts
156
157                        /* IMPORTANT - Manual insertion required. */
158                        ParityMask = bitblock_parallel_prefix_parity(UnescapedDQuotes, bitblock_parity_mask);
159                        ParityMask = simd_and(ParityMask, EOF_mask);
160
161                        #ifdef DEBUG
162
163                        print_array_le("Data", &srcbuf[block_pos],BLOCK_SIZE);
164                        print_simd_register("Escape", Escape);
165                        print_simd_register("Unescaped DQuote",UnescapedDQuotes);
166                        /*
167                        print_simd_register("high_bit_is_set", high_bit_is_set);
168                        print_simd_register("high_bit_mask", high_bit_mask);
169                        */
170                        print_simd_register("ParityMask", ParityMask);
171                        print_simd_register("StringMask", StringMask);
172                        print_simd_register("StringSpans", StringSpans);
173
174                        print_simd_register("AtomStarts", AtomStarts);
175                        print_simd_register("StringStarts", StringStarts);
176                        print_simd_register("NumberStarts", NumberStarts);
177                        print_simd_register("TrueStarts", TrueStarts);
178                        print_simd_register("FalseStarts", FalseStarts);
179                        print_simd_register("NullStarts", NullStarts);
180                        print_simd_register("AtomSpans", AtomSpans);
181                        print_simd_register("ErrorMask", error_mask);
182
183                        #endif
184
185                        if(bitblock_has_bit(error_mask)) {
186                                err_col = buf_pos + block_pos + count_forward_zeroes(error_mask) + 1;
187                                fprintf(stderr, "Initial error at position %i.\n", err_col);
188                                exit(-1);
189                        }
190                }
191
192                PERF_SEC_END(perf_timer, chars_avail);
193
194                buf_pos += chars_read;
195                block_pos = 0;
196
197                chars_read = fread((void *)srcbuf, 1, BUFFER_SIZE, infile);
198                chars_avail = chars_read;
199                if(ferror(infile)) { fprintf(stderr, "Failed to read input file.\n"); return; }
200                if(chars_avail==0 && feof(infile)) { return; }
201        }
202}
203
204int main(int argc, char * argv[]) {
205        char * infilename, * outfilename;
206        FILE *infile, *outfile;
207        struct stat fileinfo;
208
209        if (argc < 2) {
210                printf("Usage: %s <filename> [<outputfile>]\n", argv[0]);
211                exit(-1);
212        }
213
214        infilename = argv[1];
215        stat(infilename, &fileinfo);
216        infile = fopen(infilename, "rb");
217        if (!infile) {
218                fprintf(stderr, "Error: Cannot open %s for reading.\n", infilename);
219                exit(-1);
220        }
221
222        if (argc < 3) {
223                outfile = stdout;
224        }       else {
225                outfilename = argv[2];
226                outfile = fopen(outfilename, "wb");
227                if (!outfile) {
228                        fprintf(stderr, "Error: Cannot open %s for writing.\n", outfilename);
229                        exit(-1);
230                }
231        }
232
233        // PERF_SEC_BIND(1);
234
235        PERF_SEC_INIT(perf_timer);
236
237        do_process(infile, outfile);
238
239        PERF_SEC_DUMP(perf_timer);
240
241        PERF_SEC_DESTROY(perf_timer);
242
243        fclose(infile);
244        fclose(outfile);
245
246        return(0);
247}
Note: See TracBrowser for help on using the repository browser.