source: proto/PDF/pdf.py @ 2558

Last change on this file since 2558 was 2558, checked in by bhull, 7 years ago

python prototype

File size: 12.7 KB
Line 
1import sys
2import pablo
3
4class Basis_bits():     
5        bit_0 = 0
6        bit_1 = 0
7        bit_2 = 0
8        bit_3 = 0
9        bit_4 = 0
10        bit_5 = 0
11        bit_6 = 0
12        bit_7 = 0
13
14class Lex ():
15        LParen = 0
16        RParen = 0
17        Backslash = 0
18        Percent = 0
19        Slash=0
20        Regular=0
21        Delimiter=0
22        LAngle=0
23        RAngle=0
24        Hex=0
25        WS=0
26        Digit=0
27        Sign=0
28        Period=0
29        EOL=0
30        RBracket=0
31        LBracket=0
32       
33class Escaped_Callouts ():
34        UELParen = 0
35        UERParen = 0
36
37class Comments_Callouts() :
38        mask=0
39class LiteralStrings_Callouts() :
40        starts=0
41        ends=0
42        mask=0
43        error = 0
44
45class Marker() :
46        mask=0
47
48class Names_Callouts() :
49        starts = 0
50        ends = 0
51
52class HexStrings_Callouts() :
53        starts = 0
54        ends = 0
55        error = 0
56
57class Numeric_Callouts() :
58        starts = 0
59        follows = 0
60        error = 0
61
62class Keywords_Callouts() :
63        starts = 0
64        ends = 0
65       
66class Arrays_Callouts() :
67        starts = 0
68        ends = 0
69
70
71def Classify_bytes(basis_bits, lex): 
72        temp1 = (basis_bits.bit_0 | basis_bits.bit_1)
73        temp2 = (basis_bits.bit_2 &~ basis_bits.bit_3)
74        temp3 = (temp2 &~ temp1)
75        temp4 = (basis_bits.bit_4 &~ basis_bits.bit_5)
76        temp5 = (basis_bits.bit_6 | basis_bits.bit_7)
77        temp6 = (temp4 &~ temp5)
78        lex.LParen = (temp3 & temp6)
79        temp7 = (basis_bits.bit_7 &~ basis_bits.bit_6)
80        temp8 = (temp4 & temp7)
81        lex.RParen = (temp3 & temp8)
82        temp9 = (basis_bits.bit_1 &~ basis_bits.bit_0)
83        temp10 = (basis_bits.bit_3 &~ basis_bits.bit_2)
84        temp11 = (temp9 & temp10)
85        temp12 = (basis_bits.bit_4 & basis_bits.bit_5)
86        temp13 = (temp12 &~ temp5)
87        lex.Backslash = (temp11 & temp13)
88        temp14 = (temp5 &~ temp7)
89        temp15 = (temp4 &~ temp14)
90        temp16 = (temp3 & temp15)
91        temp17 = (basis_bits.bit_2 & basis_bits.bit_3)
92        temp18 = (temp17 &~ temp1)
93        temp19 = (temp18 & temp13)
94        temp20 = (temp16 | temp19)
95        temp21 = (basis_bits.bit_6 &~ basis_bits.bit_7)
96        temp22 = (temp12 & temp21)
97        temp23 = (temp18 & temp22)
98        temp24 = (temp20 | temp23)
99        temp25 = (basis_bits.bit_6 & basis_bits.bit_7)
100        temp26 = (temp4 & temp25)
101        temp27 = (temp11 & temp26)
102        temp28 = (temp24 | temp27)
103        temp29 = (temp12 & temp7)
104        temp30 = (temp11 & temp29)
105        temp31 = (temp28 | temp30)
106        temp32 = (temp9 & temp17)
107        temp33 = (temp32 & temp26)
108        temp34 = (temp31 | temp33)
109        temp35 = (temp32 & temp29)
110        temp36 = (temp34 | temp35)
111        temp37 = (basis_bits.bit_5 &~ basis_bits.bit_4)
112        temp38 = (temp37 & temp7)
113        temp39 = (temp3 & temp38)
114        temp40 = (temp36 | temp39)
115        temp41 = (temp12 & temp25)
116        temp42 = (temp3 & temp41)
117        lex.Delimiter = (temp40 | temp42)
118        lex.Percent = (temp3 & temp38)
119        lex.Period = (temp3 & temp22)
120        lex.LAngle = (temp18 & temp13)
121        lex.RAngle = (temp18 & temp22)
122        lex.LBracket = (temp11 & temp26)
123        lex.RBracket = (temp11 & temp29)
124        lex.Slash = (temp3 & temp41)
125        temp43 = (basis_bits.bit_2 | basis_bits.bit_3)
126        temp44 = (temp1 | temp43)
127        temp45 = (temp4 & temp21)
128        temp46 = (temp29 | temp45)
129        lex.EOL = (temp46 &~ temp44)
130        temp47 = (basis_bits.bit_4 | basis_bits.bit_5)
131        temp48 = (temp47 | temp5)
132        temp49 = (temp44 | temp48)
133        temp50 = (temp13 &~ temp44)
134        temp51 = (temp49 &~ temp50)
135        temp52 = (temp29 &~ temp44)
136        temp53 = (temp51 &~ temp52)
137        temp54 = (temp45 &~ temp44)
138        temp55 = (temp53 &~ temp54)
139        temp56 = (temp8 &~ temp44)
140        temp57 = (temp55 &~ temp56)
141        temp58 = (temp3 &~ temp48)
142        temp59 = (temp57 &~ temp58)
143        lex.WS = (~temp59)
144        temp60 = (basis_bits.bit_5 | basis_bits.bit_6)
145        temp61 = (basis_bits.bit_4 & temp60)
146        lex.Digit = (temp18 &~ temp61)
147        temp62 = (temp29 | temp26)
148        lex.Sign = (temp3 & temp62)
149        temp63 = (temp9 &~ temp43)
150        temp64 = (temp63 &~ basis_bits.bit_4)
151        temp65 = (~temp25)
152        temp66 = ((basis_bits.bit_5 & temp65)|(~(basis_bits.bit_5) & temp5))
153        temp67 = (temp64 & temp66)
154        temp68 = (lex.Digit | temp67)
155        temp69 = (temp9 & temp2)
156        temp70 = (temp69 &~ basis_bits.bit_4)
157        temp71 = (temp70 & temp66)
158        lex.Hex = (temp68 | temp71)
159        lex.Regular = ~lex.Delimiter&~lex.WS
160
161
162def GetEven(input):
163        #ugly temporary version
164        even = 2
165        while (even <=input*2):
166                        even = even * 4 + 2
167        return even
168
169def GetOdd(input):
170        #ugly temporary version
171        odd = 1
172        while (odd <=input*2):
173                        odd = odd * 4 + 1
174        return odd
175
176
177def Parse_Escaped(lex, Escaped_Callouts):
178        odd = GetOdd(lex.Backslash)
179        even = GetEven(lex.Backslash)
180                   
181        start = lex.Backslash &~ pablo.Advance(lex.Backslash)
182        even_start = start & even
183       
184        even_final = pablo.ScanThru(even_start, lex.Backslash) 
185        escape = even_final & odd
186   
187        odd_start = start & odd
188        odd_final = pablo.ScanThru(odd_start, lex.Backslash)
189        escape = escape | (odd_final & even)
190                   
191        Escaped_Callouts.UELParen = lex.LParen &~ escape
192        Escaped_Callouts.UERParen = lex.RParen &~ escape
193
194               
195# Parallel version
196# def Parse_LiteralStrings(LParen, RParen, LiteralStrings_Callouts):
197        # unmatched = RParen
198        # pscan = {}
199        # qscan = {}
200        # LiteralStrings_Callouts.closed={}
201        # i = 0
202        # pscan[0] = pablo.ScanTo(pablo.Advance(LParen), LParen | RParen)
203        # qscan[0] = pablo.ScanTo(pablo.Advance(RParen), LParen | RParen)
204        # LiteralStrings_Callouts.mask = (pscan[0] - (LParen)) | pscan[0]
205       
206        # LiteralStrings_Callouts.closed[i] = pscan[i] & RParen
207        # unclosed = pscan[i] & LParen | qscan[i] & RParen
208        # LiteralStrings_Callouts.error = pscan[i] &~ pablo.EOF_mask
209        # all_closed = LiteralStrings_Callouts.closed[i]
210        # while unclosed:
211                # i += 1
212                # pscan[i] = pablo.ScanTo(pablo.Advance(unclosed & LParen), unclosed)
213                # qscan[i] = pablo.ScanTo(pablo.Advance(unclosed & RParen), unclosed)
214                # LiteralStrings_Callouts.mask|=(pscan[i]-(unclosed & LParen)) | pscan[i]
215                # LiteralStrings_Callouts.closed[i] = pscan[i] & RParen #| qscan[i] & LParen
216                # unclosed = pscan[i] & LParen | qscan[i] & RParen
217                # all_closed |= LiteralStrings_Callouts.closed[i]
218                # LiteralStrings_Callouts.error |= pscan[i] &~ pablo.EOF_mask #| ~pablo.atEOF(qscan[i])
219       
220        # LiteralStrings_Callouts.error |= RParen &~ all_closed
221# def Parse_Comments(Percent, lex, Comments_Callouts) :
222        # end = Pablo.ScanTo(Percent, lex.EOL)
223        # Comments_Callouts.mask = end-Percent
224# def Parse_CommentsLiteralStrings(lex, Escaped_Callouts, Marker, Comments_Callouts, LiteralStrings_Callouts) :
225        # Parse_LiteralStrings(Escaped_Callouts.UELParen, Escaped_Callouts.UERParen, LiteralStrings_Callouts)
226        # while (lex.Percent &~ (LiteralStrings_Callouts.mask | Comments_Callouts.mask)) :
227                # Parse_Comments(lex.Percent&~LiteralStrings_Callouts.mask, lex, Comments_Callouts)
228                # if (LiteralStrings_Callouts.mask & Comments_Callouts.mask) :
229                        # Parse_LiteralStrings(Escaped_Callouts.UELP &~ Comments_Callouts.mask, Escaped_Callouts.UERP &~ Comments_Callouts.mask, LiteralStrings_Callouts)
230                # else :
231                        # break
232        # Marker.mask = Comments_Callouts.mask | LiteralStrings_Callouts.mask
233
234
235
236def Parse_CommentsLiteralStrings(lex, Escaped_Callouts, Marker, Comments_Callouts, LiteralStrings_Callouts) :
237        #not entirely sure this code is correct once compiled
238        depth = 0
239        comment_starts=0
240        comment_ends=0
241        scan_characters = Escaped_Callouts.UELParen |Escaped_Callouts.UERParen | lex.Percent
242        cursor = pablo.ScanToFirst(scan_characters)
243        while cursor & pablo.EOF_mask :
244                comment_cursor = cursor & lex.Percent
245                string_cursor = cursor & (Escaped_Callouts.UELParen|Escaped_Callouts.UERParen)
246                if comment_cursor :
247                        comment_starts |=comment_cursor
248                        comment_cursor = pablo.ScanTo(comment_cursor, lex.EOL)
249                        comment_ends |=comment_cursor
250                        cursor = pablo.ScanTo(pablo.Advance(comment_cursor), scan_characters)
251               
252                if string_cursor :
253                        if (string_cursor & Escaped_Callouts.UELParen) :
254                                if depth==0:
255                                        LiteralStrings_Callouts.starts|=string_cursor
256                                depth+=1
257                                cursor = pablo.ScanTo(pablo.Advance(string_cursor), Escaped_Callouts.UELParen | Escaped_Callouts.UERParen)
258                        if (string_cursor & Escaped_Callouts.UERParen) :
259                                depth-=1
260                                if depth==0:
261                                        LiteralStrings_Callouts.ends|=string_cursor
262                                        cursor = pablo.ScanTo(pablo.Advance(string_cursor), scan_characters)
263                                elif depth==-1:
264                                        LiteralStrings_Callouts.error|=string_cursor
265                                        cursor = pablo.ScanTo(pablo.Advance(string_cursor), scan_characters)
266                                else:
267                                        cursor = pablo.ScanTo(pablo.Advance(string_cursor), Escaped_Callouts.UELParen | Escaped_Callouts.UERParen)
268                                       
269               
270               
271        #if (depth>0):
272                #error
273        Comments_Callouts.mask = (comment_ends - comment_starts) | comment_ends
274        LiteralStrings_Callouts.mask = (LiteralStrings_Callouts.ends-LiteralStrings_Callouts.starts) | LiteralStrings_Callouts.ends
275        Marker.mask = Comments_Callouts.mask | LiteralStrings_Callouts.mask
276
277
278def Parse_Names(lex, Marker, Names_Callouts) :
279        Names_Callouts.starts = pablo.Advance(lex.Slash&~Marker.mask)
280        Names_Callouts.follows = pablo.ScanThru(Names_Callouts.starts, lex.Regular)
281        Marker.mask |=Names_Callouts.starts
282
283def Parse_HexStrings(lex, Marker, HexStrings_Callouts) :
284        #Haven't confirmed that this is the correct behaviour with bad input
285        HexStrings_Callouts.starts = lex.LAngle &~Marker.mask
286        HexStrings_Callouts.ends = pablo.ScanThru(pablo.Advance(HexStrings_Callouts.starts),lex.Hex|lex.WS)
287        HexStrings_Callouts.error = HexStrings_Callouts.ends &~ lex.RAngle
288        Marker.mask |= HexStrings_Callouts.ends - HexStrings_Callouts.starts
289
290def Parse_Numeric(lex, Marker, Numeric_Callouts) :
291        numeric_characters = (lex.Digit | lex.Period | lex.Sign)
292        Numeric_Callouts.starts =(numeric_characters &~ pablo.Advance(lex.Regular)) &~ Marker.mask
293        Numeric_Callouts.follows =pablo.ScanThru(Numeric_Callouts.starts, lex.Regular)
294       
295        # aftersign = pablo.Advance(Numeric_Callouts.starts & lex.Sign) | (Numeric_Callouts.starts &~ lex.Sign)
296        # temp = pablo.ScanThru(aftersign, lex.Digit)
297        # afterperiod = pablo.Advance(temp & lex.Period) | (temp &~ lex.Period)
298        # Numeric_Callouts.ends = pablo.ScanThru(afterperiod, lex.Digit)
299        # Numeric_Callouts.error = Numeric_Callouts.ends &~ (lex.WS | lex.Delimiter)
300        # Marker.mask |= Numeric_Callouts.starts
301
302def Parse_Keywords(lex, Marker, Keywords_Callouts) :
303        Keywords_Callouts.starts = (lex.Regular &~ pablo.Advance(lex.Regular)) &~ Marker.mask
304        Keywords_Callouts.ends = pablo.ScanThru(Keywords_Callouts.starts, lex.Regular)
305       
306def Parse_Arrays(lex, Marker, Arrays_Callouts) :
307        Arrays_Callouts.starts = lex.LBracket &~ Marker.mask
308        Arrays_Callouts.ends = lex.RBracket &~ Marker.mask
309       
310basis_bits = Basis_bits()
311lex = Lex()
312LiteralStrings_Callouts = LiteralStrings_Callouts()
313Escaped_Callouts = Escaped_Callouts()
314Comments_Callouts = Comments_Callouts()
315Names_Callouts = Names_Callouts()
316HexStrings_Callouts = HexStrings_Callouts()
317Numeric_Callouts = Numeric_Callouts()
318Keywords_Callouts = Keywords_Callouts()
319Arrays_Callouts = Arrays_Callouts()
320Marker = Marker()
321
322if __name__ == "__main__":
323        if len(sys.argv) > 1:
324                u8data = pablo.readfile(sys.argv[1])
325                lgth = len(u8data)
326                pablo.EOF_mask = pablo.transpose_streams(u8data, basis_bits)
327                Classify_bytes(basis_bits, lex)
328                Parse_Escaped(lex, Escaped_Callouts)
329                Parse_CommentsLiteralStrings(lex, Escaped_Callouts, Marker, Comments_Callouts, LiteralStrings_Callouts)
330                Parse_Names(lex, Marker, Names_Callouts)
331                Parse_HexStrings(lex, Marker, HexStrings_Callouts)
332                Parse_Numeric(lex, Marker, Numeric_Callouts)
333                Parse_Keywords(lex, Marker, Keywords_Callouts)
334                Parse_Arrays(lex, Marker, Arrays_Callouts)
335               
336                print "data:" + " "*(16-5) + u8data
337                print "literal mask" + " "*(16-12) + pablo.bitstream2string(LiteralStrings_Callouts.mask, lgth+1)
338                print "literal starts" + " "*(16-14) + pablo.bitstream2string(LiteralStrings_Callouts.starts, lgth+1)
339                print "comment mask"+ " "*(16-12) + pablo.bitstream2string(Comments_Callouts.mask, lgth+1)
340                print "names starts"+ " "*(16-12) + pablo.bitstream2string(Names_Callouts.starts, lgth+1)
341                print "names follows"+ " "*(16-13) + pablo.bitstream2string(Names_Callouts.follows, lgth+1)
342                print "hex starts"+ " "*(16-10) + pablo.bitstream2string(HexStrings_Callouts.starts, lgth+1)
343                print "hex ends"+ " "*(16-8) + pablo.bitstream2string(HexStrings_Callouts.ends, lgth+1)
344                print "num starts"+ " "*(16-10) + pablo.bitstream2string(Numeric_Callouts.starts, lgth+1)
345                print "num follows"+ " "*(16-11) + pablo.bitstream2string(Numeric_Callouts.follows, lgth+1)
346                print "key starts"+ " "*(16-10) + pablo.bitstream2string(Keywords_Callouts.starts, lgth+1)
347                print "key ends"+ " "*(16-8) + pablo.bitstream2string(Keywords_Callouts.ends, lgth+1)
348                print "array starts"+ " "*(16-12) + pablo.bitstream2string(Arrays_Callouts.starts, lgth+1) 
349                print "array ends"+ " "*(16-10) + pablo.bitstream2string(Arrays_Callouts.ends, lgth+1) 
350                print "regular"+ " "*(16-7) + pablo.bitstream2string(lex.Regular, lgth+1)
351               
352
353               
354                print "errors" + " "*(16-6) + pablo.bitstream2string(LiteralStrings_Callouts.error|HexStrings_Callouts.error | Numeric_Callouts.error, lgth+1)
355               
356        else:
357                print("Usage: python pdf.py <file>")
358       
359
Note: See TracBrowser for help on using the repository browser.