source: proto/Compiler/pablo.py @ 2264

Last change on this file since 2264 was 2264, checked in by cameron, 7 years ago

Record the last stmt processed during CarryIntro?

File size: 38.8 KB
Line 
1#
2# Pablo.py - parallel bitstream to bitblock
3#  2nd generation compiler
4#
5# Copyright 2010, 2011, Robert D. Cameron, Kenneth S. Herdy
6# All rights reserved.
7#
8import ast, copy, sys
9import Cgen
10
11name_substitution_map = {}
12do_block_inline_decorator = 'IDISA_INLINE '
13do_final_block_inline_decorator = ''
14error_routine = 'raise_assert'
15
16
17def is_BuiltIn_Call(fncall, builtin_fnname, builtin_arg_cnt, builtin_fnmod_noprefix='pablo'):
18        if isinstance(fncall.func, ast.Name): iscall = fncall.func.id == builtin_fnname
19        elif isinstance(fncall.func, ast.Attribute) and isinstance(fncall.func.value, ast.Name):
20                 iscall = fncall.func.value.id == builtin_fnmod_noprefix and fncall.func.attr == builtin_fnname
21        return iscall and len(fncall.args) == builtin_arg_cnt
22
23def dump_Call(fncall):
24        if isinstance(fncall.func, ast.Name): print "fn_name = %s\n" % fncall.func.id
25        elif isinstance(fncall.func, ast.Attribute) and isinstance(fncall.func.value, ast.Name):
26                print "fn_name = %s.%s\n" % (fncall.func.value.id, fncall.func.attr)
27        print "len(fncall.args) = %s\n" % len(fncall.args)
28
29def is_simd_not(e):
30  return isinstance(e, ast.Call) and isinstance(e.func, ast.Name) and e.func.id == 'simd_not'
31
32def mkQname(obj, field):
33  return ast.Attribute(ast.Name(obj, ast.Load()), field, ast.Load())
34
35def mkCall(fn_name, args):
36  if isinstance(fn_name, str): 
37        if name_substitution_map.has_key(fn_name): fn_name = name_substitution_map[fn_name]
38        fn_name = ast.Name(fn_name, ast.Load())
39  return ast.Call(fn_name, args, [], None, None)
40
41def mkCallStmt(fn_name, args):
42  if isinstance(fn_name, str): fn_name = ast.Name(fn_name, ast.Load())
43  return ast.Expr(ast.Call(fn_name, args, [], None, None))
44
45#
46# Reducing AugAssign, e.g.  x |= y becomes x = x | y
47#
48class AugAssignRemoval(ast.NodeTransformer):
49  def xfrm(self, t):
50    return self.generic_visit(t)
51  def visit_AugAssign(self, e):
52    self.generic_visit(e)
53    return ast.Assign([e.target], ast.BinOp(e.target, e.op, e.value))
54#
55# pablo.Advance(pablo.Advance(x, n)) => pablo.Advance(x, n+1)
56#
57class AdvanceCombiner(ast.NodeTransformer):
58  def xfrm(self, t):
59    return self.generic_visit(t)
60  def visit_if(self, ifNode):
61    return IfNode
62  def visit_While(self, whileNode):
63    return whileNode
64  def visit_Call(self, callnode):
65    self.generic_visit(callnode)
66    if len(callnode.args) == 0: return callnode
67    if not isinstance(callnode.args[0], ast.Call): return callnode
68    if is_BuiltIn_Call(callnode,'Advance', 1):
69        if is_BuiltIn_Call(callnode.args[0],'Advance', 1):
70          callnode.args = [callnode.args[0].args[0], ast.Num(2)]
71        elif is_BuiltIn_Call(callnode.args[0], 'Advance', 2):
72          if isinstance(callnode.args[0].args[1], ast.Num):
73            callnode.args = [callnode.args[0].args[0], ast.Num(callnode.args[0].args[1].n + 1)]
74          else:
75            callnode.args = [callnode.args[0].args[0], ast.BinOp(callnode.args[0].args[1], ast.Add(), ast.Num(1))]
76    return callnode
77
78
79#
80#  Translating pablo.match(marker, str)
81#  Incremental character match with lookahead
82#
83CharNameMap = {'[' : 'LBrak', ']' : 'RBrak', '{' : 'LBrace', '}' : 'LBrace', '(' : 'LParen', ')' : 'RParen', \
84              '!' : 'Exclam', '"' : 'DQuote', '#' : 'Hash', '$' : 'Dollar', '%' : 'PerCent', '&': 'RefStart', \
85              "'" : 'SQuote', '*': 'Star', '+' : 'Plus', ',' : 'Comma', '-' : 'Hyphen', '.' : 'Dot', '/' : 'Slash', \
86              ':' : 'Colon', ';' : 'Semicolon', '=' : 'Equals', '?' : 'QMark', '@' : 'AtSign', '\\' : 'BackSlash', \
87              '^' : 'Caret', '_' : 'Underscore', '|' : 'VBar', '~' : 'Tilde', ' ' : 'SP', '\t' : 'HT', '\m' : 'CR', '\n' : 'LF'}
88
89def GetCharName(char):
90        if char >= 'a' and char <= 'z' or char >= 'A' and char <= 'Z': return 'letter_' + char
91        elif char >= '0' and char <= '9': return 'digit_' + char
92        else: return CharNameMap[char]
93
94def MkCharStream(char):
95        return mkQname('lex', GetCharName(char))
96
97def MkLookAheadExpr(v, i):
98        return mkCall(mkQname('pablo', 'LookAhead'), [v, ast.Num(i)])
99
100def CompileMatch(match_var, string_to_match):
101        expr = mkCall('simd_and', [match_var, MkCharStream(string_to_match[0])])
102        for i in range(1, len(string_to_match)):
103                expr = mkCall('simd_and', [expr, MkLookAheadExpr(MkCharStream(string_to_match[i]), i)])
104        return expr
105
106class StringMatchCompiler(ast.NodeTransformer):
107  def xfrm(self, t):
108    return self.generic_visit(t)
109  def visit_Call(self, callnode):
110    if is_BuiltIn_Call(callnode,'match', 2):
111        ast.dump(callnode)
112        assert isinstance(callnode.args[0], ast.Str)
113        string_to_match = callnode.args[0].s
114        match_var = callnode.args[1]
115        expr = mkCall('simd_and', [match_var, MkCharStream(string_to_match[0])])
116        for i in range(1, len(string_to_match)):
117                expr = mkCall('simd_and', [expr, MkLookAheadExpr(MkCharStream(string_to_match[i]), i)])
118        return expr
119    else: return callnode
120
121
122
123#
124# Introducing BitBlock logical operations
125#
126class Bitwise_to_SIMD(ast.NodeTransformer):
127  """
128  Make the following substitutions:
129     x & y => simd_and(x, y)
130     x & ~y => simd_andc(x, y)
131     x | y => simd_or(x, y)
132     x ^ y => simd_xor(x, y)
133     ~x    => simd_not(x)
134     0     => simd_const_1(0)
135     -1    => simd_const_1(1)
136     if x: => if bitblock::any(x):
137  while x: => while bitblock::any(x):
138  >>> ast_show(Bitwise_to_SIMD().xfrm(ast.parse("pfx = bit0 & bit1; sfx = bit0 &~ bit1")))
139 
140  pfx = simd_and(bit0, bit1)
141  sfx = simd_and(bit0, simd_not(bit1))
142  >>>
143  """
144  def xfrm(self, t):
145    return self.generic_visit(t)
146  def visit_UnaryOp(self, t):
147    self.generic_visit(t)
148    if isinstance(t.op, ast.Invert):
149      return mkCall('simd_not', [t.operand])
150    else: return t
151  def visit_BinOp(self, t):
152    self.generic_visit(t)
153    if isinstance(t.op, ast.BitOr):
154      return mkCall('simd_or', [t.left, t.right])
155    elif isinstance(t.op, ast.BitAnd):
156      if is_simd_not(t.right): return mkCall('simd_andc', [t.left, t.right.args[0]])
157      elif is_simd_not(t.left): return mkCall('simd_andc', [t.right, t.left.args[0]])
158      else: return mkCall('simd_and', [t.left, t.right])
159    elif isinstance(t.op, ast.BitXor):
160      return mkCall('simd_xor', [t.left, t.right])
161    else: return t
162  def visit_Num(self, numnode):
163    n = numnode.n
164    if n == 0: return mkCall('simd<1>::constant<0>', [])
165    elif n == -1: return mkCall('simd<1>::constant<1>', [])
166    else: return numnode
167  def visit_If(self, ifNode):
168    self.generic_visit(ifNode)
169    ifNode.test = mkCall('bitblock::any', [ifNode.test])
170    return ifNode
171  def visit_While(self, whileNode):
172    self.generic_visit(whileNode)
173    whileNode.test = mkCall('bitblock::any', [whileNode.test])
174    return whileNode
175  def visit_Subscript(self, numnode):
176    return numnode  # no recursive modifications of index expressions
177
178#
179#  Generating BitBlock declarations for Local Variables
180#
181class FunctionVars(ast.NodeVisitor):
182  def __init__(self,node):
183        self.params = []
184        self.stores = []
185        self.generic_visit(node)
186  def visit_Name(self, nm):
187    if isinstance(nm.ctx, ast.Param):
188      self.params.append(nm.id)
189    if isinstance(nm.ctx, ast.Store):
190      if nm.id not in self.stores: self.stores.append(nm.id)
191  def getLocals(self): 
192    return [v for v in self.stores if not v in self.params]
193
194MAX_LINE_LENGTH = 80
195
196def BitBlock_decls_from_vars(varlist):
197  global MAX_LINE_LENGTH
198  decls =  ""
199  if not len(varlist) == 0:
200          decls = "             BitBlock"
201          pending = ""
202          linelgth = 10
203          for v in varlist:
204            if linelgth + len(v) + 2 <= MAX_LINE_LENGTH:
205              decls += pending + " " + v
206              linelgth += len(pending + v) + 1
207            else:
208              decls += ";\n             BitBlock " + v
209              linelgth = 11 + len(v)
210            pending = ","
211          decls += ";"
212  return decls
213
214def BitBlock_decls_of_fn(fndef):
215  return BitBlock_decls_from_vars(FunctionVars(fndef).getLocals())
216
217def BitBlock_header_of_fn(fndef):
218  Ccode = "static inline void " + fndef.name + "("
219  pending = ""
220  for arg in fndef.args.args:
221    if isinstance(arg, ast.Name):
222      Ccode += pending + arg.id.upper()[0] + arg.id[1:] + " & " + arg.id
223      pending = ", "
224  if CarryCounter().count(fndef) > 0:
225    Ccode += pending + " CarryQtype & carryQ"
226  Ccode += ")"
227  return Ccode
228
229
230
231#
232#  Stream Initialization Statement Extraction
233#
234#  streamvar = 1 ==> streamvar = sisd_from_int(1) initially.
235class StreamInitializations(ast.NodeTransformer):
236  def xfrm(self, node):
237    self.stream_stmts = []
238    self.loop_post_inits = []
239    self.generic_visit(node)
240    return Cgen.py2C().gen(self.stream_stmts)
241  def visit_Assign(self, node):
242    if isinstance(node.value, ast.Num):
243      if node.value.n == 0: return node
244      elif node.value.n == -1: return node
245      else: 
246        stream_init = copy.deepcopy(node)
247        stream_init.value = mkCall('sisd_from_int', [node.value])
248        loop_init = copy.deepcopy(node)
249        loop_init.value.n = 0
250        self.stream_stmts.append(stream_init)
251        self.loop_post_inits.append(loop_init)
252        return None
253    else: return node
254  def visit_FunctionDef(self, node):
255    self.generic_visit(node)
256    node.body = node.body + self.loop_post_inits
257    return node
258
259
260
261#
262# Carry Introduction Transformation
263#
264class CarryCounter(ast.NodeVisitor):
265  def visit_Call(self, callnode):
266    self.generic_visit(callnode)
267    if is_BuiltIn_Call(callnode,'Advance', 1) or is_BuiltIn_Call(callnode,'ScanThru', 2) or is_BuiltIn_Call(callnode,'ScanTo', 2) or is_BuiltIn_Call(callnode,'ScanToFirst', 1) or is_BuiltIn_Call(callnode,'AdvanceThenScanThru', 2) or is_BuiltIn_Call(callnode,'AdvanceThenScanTo', 2) or is_BuiltIn_Call(callnode,'SpanUpTo', 2) or  is_BuiltIn_Call(callnode,'InclusiveSpan', 2) or is_BuiltIn_Call(callnode,'ExclusiveSpan', 2):         
268      self.carry_count += 1
269  def visit_BinOp(self, exprnode):
270    self.generic_visit(exprnode)
271    if isinstance(exprnode.op, ast.Sub):
272      self.carry_count += 1
273    if isinstance(exprnode.op, ast.Add):
274      self.carry_count += 1
275  def count(self, nodeToVisit):
276    self.carry_count = 0
277    self.generic_visit(nodeToVisit)
278    return self.carry_count
279
280#
281# Carry Initialization:  Aug. 4, 2012
282# - Carry variables are initialized to 0 by default
283# - However, the scan_to_first routine should ideally use
284#   initialization with 1.
285
286#
287class CarryInitToOneList(ast.NodeVisitor):
288  def visit_Call(self, callnode):
289    self.generic_visit(callnode)
290    if is_BuiltIn_Call(callnode,'Advance', 1) or is_BuiltIn_Call(callnode,'ScanThru', 2) or is_BuiltIn_Call(callnode,'ScanTo', 2) or is_BuiltIn_Call(callnode,'AdvanceThenScanThru', 2) or is_BuiltIn_Call(callnode,'AdvanceThenScanTo', 2) or is_BuiltIn_Call(callnode,'SpanUpTo', 2) or  is_BuiltIn_Call(callnode,'InclusiveSpan', 2) or is_BuiltIn_Call(callnode,'ExclusiveSpan', 2):       
291      self.carry_count += 1
292    elif is_BuiltIn_Call(callnode,'ScanToFirst', 1):
293      self.init_to_one_list.append(self.carry_count)
294      self.carry_count += 1
295  def visit_BinOp(self, exprnode):
296    self.generic_visit(exprnode)
297    if isinstance(exprnode.op, ast.Sub):
298      self.carry_count += 1
299    if isinstance(exprnode.op, ast.Add):
300      self.carry_count += 1
301  def count(self, nodeToVisit):
302    self.carry_count = 0
303    self.init_to_one_list = []
304    self.generic_visit(nodeToVisit)
305    return self.init_to_one_list
306
307class adv_nCounter(ast.NodeVisitor):
308  def visit_Call(self, callnode):
309    self.generic_visit(callnode)
310    if is_BuiltIn_Call(callnode,'Advance32', 1):       
311      self.adv_n_count += 1
312    if is_BuiltIn_Call(callnode,'Advance', 2):         
313      self.adv_n_count += 1
314  def count(self, nodeToVisit):
315    self.adv_n_count = 0
316    self.generic_visit(nodeToVisit)
317    return self.adv_n_count
318
319class CarryIntro(ast.NodeTransformer):
320  def __init__(self, carryvar="carryQ", carryin = "_ci", carryout = "_co"):
321    self.carryvar = ast.Name(carryvar, ast.Load())
322    self.carryin = carryin
323    self.carryout = carryout
324  def xfrm_fndef(self, fndef):
325    self.current_carry = 0
326    self.current_adv_n = 0
327    carry_count = CarryCounter().count(fndef)
328    if carry_count == 0: return fndef
329    self.generic_visit(fndef)
330#   
331#    fndef.body.insert(0, mkCallStmt('CarryDeclare', [self.carryvar, ast.Num(carry_count)]))
332    return fndef
333  def generic_xfrm(self, node):
334    self.current_carry = 0
335    self.current_adv_n = 0
336    self.last_stmt = None
337    carry_count = CarryCounter().count(node)
338    adv_n_count = adv_nCounter().count(node)
339    if carry_count == 0 and adv_n_count == 0: return node
340    self.generic_visit(node)
341    return node
342  def visit_Call(self, callnode):
343    self.generic_visit(callnode)
344    #CARRYSET
345    #carry_args = [ast.Num(self.current_carry)]
346    #adv_n_args = [ast.Subscript(ast.Name(self.carryvar.id + '.pending64', ast.Load()), ast.Num(self.current_adv_n), ast.Load())]
347    #adv_n_pending = ast.Subscript(ast.Name(self.carryvar.id + '.pending64', ast.Load()), ast.Num(self.current_adv_n), ast.Load())
348    if self.carryin == "_ci":
349        carry_args = [mkCall(self.carryvar.id + "." + 'get_carry_in', [ast.Num(self.current_carry)]), ast.Num(self.current_carry)]
350        adv_n_args = [mkCall(self.carryvar.id + "." + 'get_pending64', [ast.Num(self.current_adv_n)]), ast.Num(self.current_adv_n)]
351    else: 
352        carry_args = [mkCall('simd<1>::constant<0>', []), ast.Num(self.current_carry)]
353        adv_n_args = [mkCall('simd<1>::constant<0>', []), ast.Num(self.current_adv_n)]
354
355    if is_BuiltIn_Call(callnode, 'Advance', 2):         
356      #CARRYSET
357      rtn = self.carryvar.id + "." + "BitBlock_advance_n_<%i>" % callnode.args[1].n
358      c = mkCall(rtn, [callnode.args[0]] + adv_n_args)
359      self.current_adv_n += 1
360      return c
361    if is_BuiltIn_Call(callnode, 'Advance', 1):         
362      #CARRYSET
363      rtn = self.carryvar.id + "." + "BitBlock_advance_ci_co"
364      c = mkCall(rtn, callnode.args + carry_args)
365      self.current_carry += 1
366      return c
367    elif is_BuiltIn_Call(callnode, 'Advance32', 1):     
368      #CARRYSET
369      rtn = self.carryvar.id + "." + "BitBlock_advance_n_<32>"
370      c = mkCall(rtn, callnode.args + adv_n_args)
371      self.current_adv_n += 1
372      return c
373    elif is_BuiltIn_Call(callnode, 'ScanThru', 2):
374      #CARRYSET
375      rtn = self.carryvar.id + "." + "BitBlock_scanthru_ci_co"
376      c = mkCall(rtn, callnode.args + carry_args)
377      self.current_carry += 1
378      return c
379    elif is_BuiltIn_Call(callnode, 'AdvanceThenScanThru', 2):
380      #CARRYSET
381      rtn = self.carryvar.id + "." + "BitBlock_advance_then_scanthru"
382      c = mkCall(rtn, callnode.args + carry_args)
383      self.current_carry += 1
384      return c
385    elif is_BuiltIn_Call(callnode, 'AdvanceThenScanTo', 2):
386      #CARRYSET
387      rtn = self.carryvar.id + "." + "BitBlock_advance_then_scanthru" 
388      if self.carryout == "":  scanclass = mkCall('simd_andc', [ast.Name('EOF_mask', ast.Load()), callnode.args[1]])
389      else: scanclass = mkCall('simd_not', [callnode.args[1]])
390      c = mkCall(rtn, [callnode.args[0], scanclass] + carry_args)
391      self.current_carry += 1
392      return c
393    elif is_BuiltIn_Call(callnode, 'SpanUpTo', 2):
394      #CARRYSET
395      rtn = self.carryvar.id + "." + "BitBlock_span_upto"
396      c = mkCall(rtn, callnode.args + carry_args)
397      self.current_carry += 1
398      return c
399    elif is_BuiltIn_Call(callnode, 'InclusiveSpan', 2):
400      #CARRYSET
401#      rtn = self.carryvar.id + "." + "BitBlock_span_upto"
402#      c = mkCall('simd_or', [mkCall(rtn, callnode.args + carry_args), callnode.args[1]])
403      rtn = self.carryvar.id + "." + "BitBlock_inclusive_span"
404      c = mkCall(rtn, callnode.args + carry_args)
405      self.current_carry += 1
406      return c
407    elif is_BuiltIn_Call(callnode, 'ExclusiveSpan', 2):
408      #CARRYSET
409#      rtn = self.carryvar.id + "." + "BitBlock_span_upto"
410#      c = mkCall('simd_andc', [mkCall(rtn, callnode.args + carry_args), callnode.args[0]])
411      rtn = self.carryvar.id + "." + "BitBlock_exclusive_span"
412      c = mkCall(rtn, callnode.args + carry_args)
413      self.current_carry += 1
414      return c
415    elif is_BuiltIn_Call(callnode, 'ScanTo', 2):
416      # Modified Oct. 9, 2011 to directly use BitBlock_scanthru, eliminating duplication
417      # in having a separate BitBlock_scanto routine.
418      #CARRYSET
419      rtn = self.carryvar.id + "." + "BitBlock_scanthru_ci_co" 
420      if self.carryout == "":  scanclass = mkCall('simd_andc', [ast.Name('EOF_mask', ast.Load()), callnode.args[1]])
421      else: scanclass = mkCall('simd_not', [callnode.args[1]])
422      c = mkCall(rtn, [callnode.args[0], scanclass] + carry_args)
423      self.current_carry += 1
424      return c
425    elif is_BuiltIn_Call(callnode, 'ScanToFirst', 1):
426      #CARRYSET
427      rtn = self.carryvar.id + "." + "BitBlock_scantofirst"
428      #if self.carryout == "":  carry_args = [ast.Name('EOF_mask', ast.Load())] + carry_args
429      c = mkCall(rtn, callnode.args + carry_args)
430      self.current_carry += 1
431      return c
432    elif is_BuiltIn_Call(callnode, 'atEOF', 1):
433      if self.carryout != "": 
434        # Non final block: atEOF(x) = 0.
435        return mkCall('simd<1>::constant<0>', [])
436      else: return mkCall('simd_andc', [callnode.args[0], ast.Name('EOF_mask', ast.Load())])
437    elif is_BuiltIn_Call(callnode, 'inFile', 1):
438      if self.carryout != "": 
439        # Non final block: inFile(x) = x.
440        return callnode.args[0]
441      else: return mkCall('simd_and', [callnode.args[0], ast.Name('EOF_mask', ast.Load())])
442    elif is_BuiltIn_Call(callnode, 'StreamScan', 2):
443      rtn = "StreamScan"           
444      c = mkCall(rtn, [ast.Name('(ScanBlock *) &' + callnode.args[0].id, ast.Load()), 
445                                           ast.Name('sizeof(BitBlock)/sizeof(ScanBlock)', ast.Load()),
446                                           ast.Name(callnode.args[1].id, ast.Load())])
447      return c
448    else:
449      #dump_Call(callnode)
450      return callnode
451  def visit_BinOp(self, exprnode):
452    self.generic_visit(exprnode)
453    carry_args = [ast.Num(self.current_carry)]
454    if self.carryin == "_ci":
455        carry_args = [mkCall(self.carryvar.id + "." + 'get_carry_in', [ast.Num(self.current_carry)]), ast.Num(self.current_carry)]
456    else: 
457        carry_args = [mkCall('simd<1>::constant<0>', []), ast.Num(self.current_carry)]
458    if isinstance(exprnode.op, ast.Sub):
459      #CARRYSET
460      rtn = self.carryvar.id + "." + "BitBlock_sub_ci_co"
461      c = mkCall(rtn, [exprnode.left, exprnode.right] + carry_args)
462      self.current_carry += 1
463      return c
464    elif isinstance(exprnode.op, ast.Add):
465      #CARRYSET
466      rtn = self.carryvar.id + "." + "BitBlock_add_ci_co"
467      c = mkCall(rtn, [exprnode.left, exprnode.right] + carry_args)
468      self.current_carry += 1
469      return c
470    else: return exprnode
471  def visit_Assign(self, assignode):
472      self.generic_visit(assignode)
473      self.last_stmt = assignode
474      return assignode
475
476  def visit_If(self, ifNode):
477    carry_base = self.current_carry
478    carries = CarryCounter().count(ifNode)
479    assert adv_nCounter().count(ifNode) == 0, "Advance(x,n) within if: illegal\n"
480    self.generic_visit(ifNode)
481    if carries == 0 or self.carryin == "": 
482      self.last_stmt = ifNode
483      return ifNode
484    #CARRYSET
485    carry_arglist = [ast.Num(carry_base), ast.Num(carries)]
486    new_test = ast.BoolOp(ast.Or(), [ifNode.test, mkCall(ast.Attribute(self.carryvar, 'CarryTest', ast.Load()), carry_arglist)])
487    new_else_part = ifNode.orelse + [mkCallStmt(ast.Attribute(self.carryvar, 'CarryDequeueEnqueue', ast.Load()), carry_arglist)]
488    newIf = ast.If(new_test, ifNode.body, new_else_part)
489    self.last_stmt = newIf
490    return newIf
491
492  def visit_While(self, whileNode):
493    if self.carryout == '':
494      whileNode.test.args[0] = mkCall("simd_and", [whileNode.test.args[0], ast.Name('EOF_mask', ast.Load())])
495    carry_base = self.current_carry
496    assert adv_nCounter().count(whileNode) == 0, "Advance(x,n) within while: illegal\n"
497    carries = CarryCounter().count(whileNode)
498    #CARRYSET
499    if carries == 0: return whileNode
500    carry_arglist = [ast.Num(carry_base), ast.Num(carries)]
501    local_carryvar = 'sub' + self.carryvar.id
502    inner_while = CarryIntro(local_carryvar, '', self.carryout).generic_xfrm(copy.deepcopy(whileNode))
503    self.generic_visit(whileNode)
504    local_carry_decl = mkCallStmt('LocalCarryDeclare', [ast.Name(local_carryvar, ast.Load()), ast.Num(carries)])
505    inner_while.body.insert(0, local_carry_decl)
506    final_combine = mkCallStmt(ast.Attribute(self.carryvar, 'CarryCombine', ast.Load()), [ast.Attribute(ast.Name(local_carryvar, ast.Load()), 'cq', ast.Load()),ast.Num(carry_base), ast.Num(carries)])
507    inner_while.body.append(final_combine)
508    #CARRYSET
509    if self.carryin == '': new_test = whileNode.test
510    else: new_test = ast.BoolOp(ast.Or(), [whileNode.test, mkCall(ast.Attribute(self.carryvar, 'CarryTest', ast.Load()), carry_arglist)])
511    else_part = [mkCallStmt(ast.Attribute(self.carryvar, 'CarryDequeueEnqueue', ast.Load()), carry_arglist)]   
512    newIf = ast.If(new_test, whileNode.body + [inner_while], else_part)
513    self.last_stmt = newIf
514    return newIf
515
516class StreamStructGen(ast.NodeVisitor):
517  """
518  Given a BitStreamSet subclass, generate the equivalent C struct.
519  >>> obj = ast.parse(r'''
520  ... class S1(BitStreamSet):
521  ...   a1 = 0
522  ...   a2 = 0
523  ...   a3 = 0
524  ...
525  ... class S2(BitStreamSet):
526  ...   x1 = 0
527  ...   x2 = 0
528  ... ''')
529  >>> print StreamStructGen().gen(obj)
530  struct S1 {
531    BitBlock a1;
532    BitBlock a2;
533    BitBlock a3;
534  }    self.current_adv_n = 0
535
536 
537  struct S2 {
538    BitBlock x1;
539    BitBlock x2;
540  }
541  """
542  def __init__(self, asType=False):
543    self.asType = asType
544  def gen(self, tree):
545    self.Ccode=""
546    self.generic_visit(tree)
547    return self.Ccode
548  def gen_struct_types(self, tree):
549    self.asType = True
550    self.Ccode=""
551    self.generic_visit(tree)
552    return self.Ccode
553  def gen_struct_vars(self, tree):
554    self.asType = False
555    self.Ccode=""
556    self.generic_visit(tree)
557    return self.Ccode
558  def visit_ClassDef(self, node):
559    class_name = node.name[0].upper() + node.name[1:]
560    instance_name = node.name[0].lower() + node.name[1:]
561    self.Ccode += "  struct " + class_name
562    if self.asType:
563            self.Ccode += " {\n"
564            for stmt in node.body:
565              if isinstance(stmt, ast.Assign):
566                for v in stmt.targets:
567                  if isinstance(v, ast.Name):
568                    self.Ccode += "  BitBlock " + v.id + ";\n"
569            self.Ccode += "}" 
570    else: self.Ccode += " " + instance_name
571    self.Ccode += ";\n\n"
572 
573class StreamFunctionDecl(ast.NodeVisitor):
574  def __init__(self):
575    pass
576  def gen(self, tree):
577    self.Ccode=""
578    self.generic_visit(tree)
579    return self.Ccode
580  def visit_FunctionDef(self, node):
581    self.Ccode += "static inline void " + node.name + "("
582    pending = ""
583    for arg in node.args.args:
584      if isinstance(arg, ast.Name):
585        self.Ccode += pending + arg.id.upper()[0] + arg.id[1:] + " & " + arg.id
586        pending = ", "
587    self.Ccode += ");\n"
588
589class AssertCompiler(ast.NodeTransformer):
590  def __init__(self):
591    self.assert_routine = ast.parse(error_routine).body[0].value
592  def xfrm(self, t):
593    return self.generic_visit(t)
594  def visit_Expr(self, node):
595    if isinstance(node.value, ast.Call):
596        if is_BuiltIn_Call(node.value, "assert_0", 2):
597                err_stream = node.value.args[0]
598                err_code = node.value.args[1]
599                return ast.If(err_stream,
600                              [ast.Expr(mkCall(self.assert_routine, [err_code, err_stream]))],
601                              [])
602        else: return node
603    else: return node
604       
605#
606# Adding Debugging Statements
607#
608class Add_SIMD_Register_Dump(ast.NodeTransformer):
609  def xfrm(self, t):
610    return self.generic_visit(t)
611  def visit_Assign(self, t):
612    self.generic_visit(t)
613    v = t.targets[0]
614    dump_stmt = mkCallStmt(' print_register<BitBlock>', [ast.Str(Cgen.py2C().gen(v)), v])
615    return [t, dump_stmt]
616
617#
618# Adding ASSERT_BITBLOCK_ALIGN macros
619#
620class Add_Assert_BitBlock_Align(ast.NodeTransformer):
621    def xfrm(self, t):
622      return self.generic_visit(t)
623    def visit_Assign(self, t):
624      self.generic_visit(t)
625      v = t.targets[0]
626      dump_stmt = mkCallStmt(' ASSERT_BITBLOCK_ALIGN', [v])
627      return [t, dump_stmt]
628
629class StreamFunctionCarryCounter(ast.NodeVisitor):
630  def __init__(self):
631        self.carry_count = {}
632       
633  def count(self, node):
634        self.generic_visit(node)
635        return self.carry_count
636                                   
637  def visit_FunctionDef(self, node):   
638        type_name = node.name[0].upper() + node.name[1:]                       
639        self.carry_count[type_name] = CarryCounter().count(node)
640     
641class StreamFunctionCallXlator(ast.NodeTransformer):
642  def __init__(self, xlate_type="normal"):
643        self.stream_function_type_names = []
644        self.xlate_type = xlate_type
645
646  def xfrm(self, node, stream_function_type_names, C_syntax):
647        self.stream_function_type_names = stream_function_type_names
648        self.C_syntax = C_syntax
649        self.generic_visit(node)
650       
651  def visit_Call(self, node):   
652        self.generic_visit(node)
653
654        if isinstance(node, ast.Call) and isinstance(node.func, ast.Name):# and node.func.id in self.stream_function_type_names:
655             name = lower1(node.func.id)
656             node.func.id = name + ("_" if self.C_syntax else ".") + ("do_final_block" if self.xlate_type == "final" else "do_block")
657             if self.C_syntax:
658                     node.args = [ast.Name(lower1(name), ast.Load())] + node.args
659             if self.xlate_type == "final":
660                   node.args = node.args + [ast.Name("EOF_mask", ast.Load())]
661                     
662        return node     
663               
664class StreamFunctionVisitor(ast.NodeVisitor):
665        def __init__(self,node):
666                self.stream_function_node = {}
667                self.generic_visit(node)
668                                                             
669        def visit_FunctionDef(self, node):                     
670                key = node.name[0].upper() + node.name[1:]
671                self.stream_function_node[key] = node
672
673
674               
675class StreamFunction():
676        def __init__(self):
677                self.carry_count = 0 
678                self.init_to_one_list = [] 
679                self.adv_n_count = 0 
680                self.type_name = ""
681                self.instance_name = "" 
682                self.parameters = ""
683                self.declarations = "" 
684                self.initializations = "" 
685#
686# TODO Consolidate *all* C code generation into the Emitter class.   Medium priority.
687# TODO Implement 'pretty print' indentation.   Low priority.
688# TODO Migrate Emiter() class to Emitter module.  Medium priority.
689
690def lower1(name):
691    return name[0].lower() + name[1:]
692def upper1(name):
693    return name[0].upper() + name[1:]
694
695def escape_newlines(str):
696  return str.replace('\n', '\\\n')
697
698class Emitter():
699        def __init__(self, use_C_syntax):
700                self.use_C_syntax = use_C_syntax
701
702        def definition(self, stream_function, icount=0):
703               
704                constructor = ""
705                carry_declaration = ""
706                self.type_name = stream_function.type_name
707               
708                if stream_function.carry_count > 0 or stream_function.adv_n_count > 0:
709                        constructor = self.constructor(stream_function.type_name, stream_function.carry_count, stream_function.init_to_one_list, stream_function.adv_n_count)
710                        carry_declaration = self.carry_declare('carryQ', stream_function.carry_count, stream_function.adv_n_count)
711
712                do_block_function = self.do_block(self.do_block_parameters(stream_function.parameters), 
713                                                stream_function.declarations, 
714                                                stream_function.initializations, 
715                                                stream_function.statements)             
716
717                do_final_block_function = self.do_final_block(self.do_final_block_parameters(stream_function.parameters), 
718                                                stream_function.declarations, 
719                                                stream_function.initializations, 
720                                                stream_function.final_block_statements)                 
721
722                do_segment_function = self.do_segment(self.do_segment_parameters(stream_function.parameters), 
723                                                self.do_segment_args(stream_function.parameters))       
724
725                if self.use_C_syntax:
726                        return self.indent(icount) + "struct " + stream_function.type_name + " {" \
727                               + "\n" + self.indent(icount) + carry_declaration \
728                               + "\n" + self.indent(icount) + "};\n" \
729                               + "\n" + self.indent(icount) + do_block_function \
730                               + "\n" + self.indent(icount) + do_final_block_function \
731                               + "\n" + self.indent(icount) + do_segment_function + "\n\n"
732                               
733                return self.indent(icount) + "struct " + stream_function.type_name + " {" \
734                + "\n" + self.indent(icount) + constructor \
735                + "\n" + self.indent(icount) + do_block_function \
736                + "\n" + self.indent(icount) + do_final_block_function \
737                + "\n" + self.indent(icount) + do_segment_function \
738                + "\n" + self.indent(icount) + carry_declaration \
739                + "\n" + self.indent(icount) + "};\n\n"
740
741        def constructor(self, type_name, carry_count, init_to_one_list, adv_n_count, icount=0):
742                one_inits = ""
743                for v in init_to_one_list:
744                        one_inits += "  carryQ.cq[%s] = carryQ.carry_flip(carryQ.cq[%s]);\n" % (v, v)
745                adv_n_decl = ""
746                #for i in range(adv_n_count): adv_n_decl += self.indent(icount+2) + "pending64[%s] = simd<1>::constant<0>();\n" % i     
747                return self.indent(icount) + "%s() { ""\n" % (type_name) + adv_n_decl + self.carry_init(carry_count) + one_inits + " }" 
748                       
749        def do_block(self, parameters, declarations, initializations, statements, icount=0):
750                pfx = (lower1(self.type_name) + "_" if self.use_C_syntax else "")
751                if self.use_C_syntax:
752                        return "#define " + pfx + "do_block(" + parameters + ")\\\n do {" \
753                        + "\\\n" + self.indent(icount) + escape_newlines(declarations) \
754                        + "\\\n" + self.indent(icount) + escape_newlines(initializations) \
755                        + "\\\n" + self.indent(icount) + escape_newlines(statements) \
756                        + "\\\n" + self.indent(icount + 2) + "} while (0)" 
757                return self.indent(icount) + do_block_inline_decorator + "void " + pfx + "do_block(" + parameters + ") {" \
758                + "\n" + self.indent(icount) + declarations \
759                + "\n" + self.indent(icount) + initializations \
760                + "\n" + self.indent(icount) + statements \
761                + "\n" + self.indent(icount + 2) + "}" 
762
763
764
765
766        def do_final_block(self, parameters, declarations, initializations, statements, icount=0):
767                pfx = (lower1(self.type_name) + "_" if self.use_C_syntax else "")
768                if self.use_C_syntax:
769                        return "#define " + pfx + "do_final_block(" + parameters + ")\\\n do {" \
770                        + "\\\n" + self.indent(icount) + escape_newlines(declarations) \
771                        + "\\\n" + self.indent(icount) + escape_newlines(initializations) \
772                        + "\\\n" + self.indent(icount) + escape_newlines(statements) \
773                        + "\\\n" + self.indent(icount + 2) + "} while (0)" 
774                return self.indent(icount) + do_final_block_inline_decorator + "void " + pfx + "do_final_block(" + parameters + ") {" \
775                + "\n" + self.indent(icount) + declarations \
776                + "\n" + self.indent(icount) + initializations \
777                + "\n" + self.indent(icount) + statements \
778                + "\n" + self.indent(icount + 2) + "}" 
779
780        def do_segment(self, parameters, do_block_call_args, icount=0):
781                pfx = (lower1(self.type_name) + "_" if self.use_C_syntax else "")
782                if self.use_C_syntax:
783                        return "#define " + pfx + "do_segment(" + parameters + ")\\\n do {" \
784                        + "\\\n" + self.indent(icount) + "  int i;" \
785                        + "\\\n" + self.indent(icount) + "  for (i = 0; i < segment_blocks; i++)" \
786                        + "\\\n" + self.indent(icount) + "    " + pfx + "do_block(" + do_block_call_args + ");" \
787                        + "\\\n" + self.indent(icount + 2) + "} while (0)" 
788                return self.indent(icount) + "void " + pfx + "do_segment(" + parameters + ") {" \
789                + "\n" + self.indent(icount) + "  int i;" \
790                + "\n" + self.indent(icount) + "  for (i = 0; i < segment_blocks; i++)" \
791                + "\n" + self.indent(icount) + "    " + pfx + "do_block(" + do_block_call_args + ");" \
792                + "\n" + self.indent(icount + 2) + "}" 
793
794        def declaration(self, type_name, instance_name, icount=0):
795                if self.use_C_syntax: return self.indent(icount) + "struct " + type_name + " " + instance_name + ";\n"
796                return self.indent(icount) + type_name + " " + instance_name + ";\n"
797               
798        def carry_init(self, carry_count, icount=0):   
799                #CARRY SET
800                return ""
801               
802        def carry_declare(self, carry_variable, carry_count, adv_n_count=0, icount=0):
803                adv_n_decl = ""
804                #if adv_n_count > 0:
805                #       adv_n_decl = "\n" + self.indent(icount) + "BitBlock pending64[%s];" % adv_n_count
806                #CARRY SET
807                return self.indent(icount) + "CarryArray<%i, %i> %s;" % (carry_count, adv_n_count, carry_variable)
808
809        def carry_test(self, carry_variable, carry_count, icount=0):
810                #CARRY SET
811                return self.indent(icount) + "carryQ.CarryTest(0, %i)" % (carry_count)         
812               
813        def indent(self, icount):
814                s = ""
815                for i in range(0,icount): s += " "
816                return s       
817               
818        def do_block_parameters(self, parameters):
819                if self.use_C_syntax:
820                        #return ", ".join([self.type_name + " * " + self.instance_name] + [upper1(p) + " * " + lower1(p) for p in parameters])
821                        return ", ".join([lower1(self.type_name)] + [lower1(p) for p in parameters])
822                else: return ", ".join([upper1(p) + " & " + lower1(p) for p in parameters])
823               
824        def do_final_block_parameters(self, parameters):
825                if self.use_C_syntax:
826                        #return ", ".join([self.type_name + " * " + self.instance_name] + [upper1(p) + " * " + lower1(p) for p in parameters]+ ["BitBlock EOF_mask"])
827                        return ", ".join([lower1(self.type_name)] + [lower1(p) for p in parameters]+ ["EOF_mask"])
828                else: return ", ".join([upper1(p) + " & " + lower1(p) for p in parameters]+ ["BitBlock EOF_mask"])
829               
830        def do_segment_parameters(self, parameters):
831                if self.use_C_syntax:
832                        #return ", ".join([self.type_name + " * " + + self.instance_name] + [upper1(p) + " " + lower1(p) + "[]" for p in parameters])
833                        return ", ".join([lower1(self.type_name)] + [lower1(p) for p in parameters] + ["segment_blocks"])
834                else: return ", ".join([upper1(p) + " " + lower1(p) + "[]" for p in parameters] + ["int segment_blocks"])
835
836        def do_segment_args(self, parameters):
837                if self.use_C_syntax:
838                        return ", ".join([lower1(self.type_name)] + [lower1(p) + "[i]" for p in parameters])
839                else: return ", ".join([lower1(p) + "[i]" for p in parameters])
840
841def main(infilename, outfile = sys.stdout):
842  t = ast.parse(file(infilename).read())
843  outfile.write(StreamStructGen(True).gen(t))
844  outfile.write(FunctionXlator().xlat(t))
845
846#
847#  Routines for compatibility with the old compiler/template.
848#  Quick and dirty hacks for now - Dec. 2010.
849#
850
851class MainLoopTransformer:
852  def __init__(self, main_module, C_syntax=False, add_dump_stmts=False, add_assert_bitblock_align=False, main_node_id='Main'):
853       
854    self.main_module = main_module
855    self.main_node_id = main_node_id
856    self.use_C_syntax = C_syntax
857    self.add_dump_stmts = add_dump_stmts
858    self.add_assert_bitblock_align = add_assert_bitblock_align
859   
860        # Gather and partition function definition nodes.
861    stream_function_visitor = StreamFunctionVisitor(self.main_module)
862    self.stream_function_node = stream_function_visitor.stream_function_node
863    for key, node in self.stream_function_node.iteritems():
864                AdvanceCombiner().xfrm(node)
865    self.main_node = self.stream_function_node[main_node_id]
866    self.main_carry_count = CarryCounter().count(self.main_node)
867    self.main_adv_n_count = adv_nCounter().count(self.main_node)
868    assert self.main_adv_n_count == 0, "Advance32() in main not supported.\n"
869    del self.stream_function_node[self.main_node_id]
870   
871    self.stream_functions = {}
872    for key, node in self.stream_function_node.iteritems():
873                stream_function = StreamFunction()
874                stream_function.carry_count = CarryCounter().count(node)
875                stream_function.init_to_one_list = CarryInitToOneList().count(node)
876                stream_function.adv_n_count = adv_nCounter().count(node)
877                stream_function.type_name = node.name[0].upper() + node.name[1:]
878                stream_function.instance_name = node.name[0].lower() + node.name[1:]
879                stream_function.parameters = FunctionVars(node).params
880                stream_function.declarations = BitBlock_decls_of_fn(node)
881                stream_function.initializations = StreamInitializations().xfrm(node) 
882               
883                StringMatchCompiler().xfrm(node)
884                AssertCompiler().xfrm(node)
885                AugAssignRemoval().xfrm(node)
886                Bitwise_to_SIMD().xfrm(node)
887                final_block_node = copy.deepcopy(node)
888                if self.use_C_syntax:
889                        carryQname = stream_function.instance_name + ".carryQ"
890                else: carryQname = "carryQ"
891                CarryIntro(carryQname).xfrm_fndef(node)
892                CarryIntro(carryQname, "_ci", "").xfrm_fndef(final_block_node)
893
894                if self.add_dump_stmts: 
895                        Add_SIMD_Register_Dump().xfrm(node)
896                        Add_SIMD_Register_Dump().xfrm(final_block_node)
897
898                if self.add_assert_bitblock_align:
899                        Add_Assert_BitBlock_Align().xfrm(node)
900                        Add_Assert_BitBlock_Align().xfrm(final_block_node)
901
902                if stream_function.carry_count > 0:
903                        node.body += [mkCallStmt('carryQ.CarryQ_Adjust', [ast.Num(stream_function.carry_count)])]
904               
905                stream_function.statements = Cgen.py2C(4).gen(node.body)
906                stream_function.final_block_statements = Cgen.py2C(4).gen(final_block_node.body)
907                self.stream_functions[stream_function.type_name] = stream_function
908       
909    self.emitter = Emitter(self.use_C_syntax)
910   
911  def any_carry_expr(self):
912       
913        carry_test = []
914       
915        if self.main_carry_count > 0:
916                        carry_test.append(self.emitter.carry_test('carryQ', self.main_carry_count)) 
917                        carry_test.append(" || ")
918
919        for key in self.stream_functions.keys():               
920                if self.stream_functions[key].carry_count > 0:
921                        carry_test.append(self.stream_functions[key].instance_name + "." + self.emitter.carry_test('carryQ',self.stream_functions[key].carry_count))# TODO Update self.emitter.carry_test
922                        carry_test.append(" || ")
923
924        if len(carry_test) > 0:
925                carry_test.pop()
926                return "".join(carry_test)
927        return "1"
928
929  def gen_globals(self):
930    self.Cglobals = StreamStructGen().gen_struct_types(self.main_module)
931    for key in self.stream_functions.keys():
932                self.Cglobals += Emitter(self.use_C_syntax).definition(self.stream_functions[key],2)       
933                       
934  def gen_declarations(self): 
935    self.Cdecls = StreamStructGen().gen_struct_vars(self.main_module)
936    self.Cdecls += BitBlock_decls_of_fn(self.main_node)
937    if self.main_carry_count > 0: 
938        self.Cdecls += self.emitter.carry_declare('carryQ', self.main_carry_count)
939               
940  def gen_initializations(self):
941    self.Cinits = ""
942    if self.main_carry_count > 0: 
943        self.Cinits += self.emitter.carry_init(self.main_carry_count)
944    self.Cinits += StreamInitializations().xfrm(self.main_module)
945    if self.use_C_syntax:
946                for key in self.stream_functions.keys():
947                        if self.stream_functions[key].carry_count == 0: continue
948                        self.Cinits += self.emitter.declaration(self.stream_functions[key].type_name, self.stream_functions[key].instance_name, 2)
949                        self.Cinits += "CarryInit(" + self.stream_functions[key].instance_name + ".carryQ, %i);\n" % (self.stream_functions[key].carry_count)
950    else:
951                for key in self.stream_functions.keys():
952                        self.Cinits += self.emitter.declaration(self.stream_functions[key].type_name, self.stream_functions[key].instance_name, 2)
953
954                       
955  def xfrm_block_stmts(self):
956    StringMatchCompiler().xfrm(self.main_node)
957    AugAssignRemoval().xfrm(self.main_node)
958    Bitwise_to_SIMD().xfrm(self.main_node)
959    Bitwise_to_SIMD().xfrm(self.main_node)
960    AssertCompiler().xfrm(self.main_node)
961    final_block_main = copy.deepcopy(self.main_node)
962    CarryIntro().xfrm_fndef(self.main_node)
963    CarryIntro('carryQ', '_ci', '').xfrm_fndef(final_block_main)
964    if self.add_dump_stmts: 
965        Add_SIMD_Register_Dump().xfrm(self.main_node)
966        Add_SIMD_Register_Dump().xfrm(final_block_main)
967               
968    if self.add_assert_bitblock_align:
969        print "add_assert_bitblock_align"
970        Add_Assert_BitBlock_Align().xfrm(self.main_node)
971        Add_Assert_BitBlock_Align().xfrm(final_block_main)
972
973    StreamFunctionCallXlator().xfrm(self.main_node, self.stream_function_node.keys(), self.use_C_syntax)
974    StreamFunctionCallXlator('final').xfrm(final_block_main, self.stream_function_node.keys(), self.use_C_syntax)
975   
976    if self.main_carry_count > 0:
977                #self.main_node.body += [mkCallStmt('CarryQ_Adjust', [ast.Name('carryQ', ast.Load()), ast.Num(self.main_carry_count)])]
978                self.main_node.body += [mkCallStmt('carryQ.CarryQ_Adjust', [ast.Num(self.main_carry_count)])]
979   
980   
981       
982    self.Cstmts = Cgen.py2C().gen(self.main_node.body)
983    self.Cfinal_stmts = Cgen.py2C().gen(final_block_main.body)
984   
985if __name__ == "__main__":
986                import doctest
987                doctest.testmod()
Note: See TracBrowser for help on using the repository browser.