source: proto/Compiler/pablo.py @ 2798

Last change on this file since 2798 was 2792, checked in by cameron, 7 years ago

Taking out the garbage ...

File size: 40.5 KB
Line 
1#
2# Pablo.py - parallel bitstream to bitblock
3#  2nd generation compiler
4#
5# Copyright 2010, 2011, Robert D. Cameron, Kenneth S. Herdy
6# All rights reserved.
7#
8import ast, copy, sys
9import Cgen
10from carryInfo import *
11import CCGO
12import CCGO_HMCPS
13
14name_substitution_map = {}
15do_block_inline_decorator = 'IDISA_INLINE '
16do_final_block_inline_decorator = ''
17error_routine = 'raise_assert'
18experimentalMode=False
19
20
21def dump_Call(fncall):
22        if isinstance(fncall.func, ast.Name): print "fn_name = %s\n" % fncall.func.id
23        elif isinstance(fncall.func, ast.Attribute) and isinstance(fncall.func.value, ast.Name):
24                print "fn_name = %s.%s\n" % (fncall.func.value.id, fncall.func.attr)
25        print "len(fncall.args) = %s\n" % len(fncall.args)
26
27def is_simd_not(e):
28  return isinstance(e, ast.Call) and isinstance(e.func, ast.Name) and e.func.id == 'simd_not'
29
30def mkQname(obj, field):
31  return ast.Attribute(ast.Name(obj, ast.Load()), field, ast.Load())
32
33def mkCall(fn_name, args):
34  if isinstance(fn_name, str): 
35        if name_substitution_map.has_key(fn_name): fn_name = name_substitution_map[fn_name]
36        fn_name = ast.Name(fn_name, ast.Load())
37  return ast.Call(fn_name, args, [], None, None)
38
39def mkCallStmt(fn_name, args):
40  if isinstance(fn_name, str): fn_name = ast.Name(fn_name, ast.Load())
41  return ast.Expr(ast.Call(fn_name, args, [], None, None))
42 
43 
44
45#
46# Reducing AugAssign, e.g.  x |= y becomes x = x | y
47#
48class AugAssignRemoval(ast.NodeTransformer):
49  def xfrm(self, t):
50    return self.generic_visit(t)
51  def visit_AugAssign(self, e):
52    self.generic_visit(e)
53    return ast.Assign([e.target], ast.BinOp(e.target, e.op, e.value))
54#
55# pablo.Advance(pablo.Advance(x, n)) => pablo.Advance(x, n+1)
56#
57class AdvanceCombiner(ast.NodeTransformer):
58  def xfrm(self, t):
59    return self.generic_visit(t)
60  def visit_if(self, ifNode):
61    return IfNode
62  def visit_While(self, whileNode):
63    return whileNode
64  def visit_Call(self, callnode):
65    self.generic_visit(callnode)
66    if len(callnode.args) == 0: return callnode
67    if not isinstance(callnode.args[0], ast.Call): return callnode
68    if is_BuiltIn_Call(callnode,'Advance', 1):
69        if is_BuiltIn_Call(callnode.args[0],'Advance', 1):
70          callnode.args = [callnode.args[0].args[0], ast.Num(2)]
71        elif is_BuiltIn_Call(callnode.args[0], 'Advance', 2):
72          if isinstance(callnode.args[0].args[1], ast.Num):
73            callnode.args = [callnode.args[0].args[0], ast.Num(callnode.args[0].args[1].n + 1)]
74          else:
75            callnode.args = [callnode.args[0].args[0], ast.BinOp(callnode.args[0].args[1], ast.Add(), ast.Num(1))]
76    return callnode
77
78
79#
80#  Translating pablo.match(marker, str)
81#  Incremental character match with lookahead
82#
83CharNameMap = {'[' : 'LBrak', ']' : 'RBrak', '{' : 'LBrace', '}' : 'LBrace', '(' : 'LParen', ')' : 'RParen', \
84              '!' : 'Exclam', '"' : 'DQuote', '#' : 'Hash', '$' : 'Dollar', '%' : 'PerCent', '&': 'RefStart', \
85              "'" : 'SQuote', '*': 'Star', '+' : 'Plus', ',' : 'Comma', '-' : 'Hyphen', '.' : 'Dot', '/' : 'Slash', \
86              ':' : 'Colon', ';' : 'Semicolon', '=' : 'Equals', '?' : 'QMark', '@' : 'AtSign', '\\' : 'BackSlash', \
87              '^' : 'Caret', '_' : 'Underscore', '|' : 'VBar', '~' : 'Tilde', ' ' : 'SP', '\t' : 'HT', '\m' : 'CR', '\n' : 'LF'}
88
89def GetCharName(char):
90        if char >= 'a' and char <= 'z' or char >= 'A' and char <= 'Z': return 'letter_' + char
91        elif char >= '0' and char <= '9': return 'digit_' + char
92        else: return CharNameMap[char]
93
94def MkCharStream(char):
95        return mkQname('lex', GetCharName(char))
96
97def MkLookAheadExpr(v, i):
98        return mkCall(mkQname('pablo', 'LookAhead'), [v, ast.Num(i)])
99
100def CompileMatch(match_var, string_to_match):
101        expr = mkCall('simd_and', [match_var, MkCharStream(string_to_match[0])])
102        for i in range(1, len(string_to_match)):
103                expr = mkCall('simd_and', [expr, MkLookAheadExpr(MkCharStream(string_to_match[i]), i)])
104        return expr
105
106class StringMatchCompiler(ast.NodeTransformer):
107  def xfrm(self, t):
108    return self.generic_visit(t)
109  def visit_Call(self, callnode):
110    if is_BuiltIn_Call(callnode,'match', 2):
111        ast.dump(callnode)
112        assert isinstance(callnode.args[0], ast.Str)
113        string_to_match = callnode.args[0].s
114        match_var = callnode.args[1]
115        expr = mkCall('simd_and', [match_var, MkCharStream(string_to_match[0])])
116        for i in range(1, len(string_to_match)):
117                expr = mkCall('simd_and', [expr, MkLookAheadExpr(MkCharStream(string_to_match[i]), i)])
118        return expr
119    else: return callnode
120
121
122
123#
124#  Converting expressions involving built-ins to compiled form. 
125#  Apply before carry variable insertion.
126#
127class TempifyBuiltins(ast.NodeTransformer):
128    def __init__(self, tempVarpfx = "tempvar"):
129      self.tempVarCount = 0
130      self.newTempList = []
131      self.tempVarPrefix = tempVarpfx
132    def genVar(self):
133      newTemp = self.tempVarPrefix + repr(self.tempVarCount)
134      self.newTempList.append(newTemp)
135      self.tempVarCount += 1
136      return newTemp
137    def tempVars(self):
138      return self.newTempList
139    def xfrm(self, t):
140      self.setUpStmts = []
141      self.assigNode = None
142      return self.generic_visit(t)
143    def is_Assign_value(self, node):
144      return self.assigNode != None and self.assigNode.value == node
145    def visit_If(self, ifNode):
146      self.setUpStmts = []
147      self.generic_visit(ifNode.test)
148      ifSetUpStmts = self.setUpStmts
149      self.generic_visit(ifNode)
150      if ifSetUpStmts == []: return ifNode
151      else: return ifSetUpStmts + [ifNode]
152    def visit_While(self, whileNode):
153      self.setUpStmts = []
154      self.generic_visit(whileNode.test)
155      whileSetUpStmts = self.setUpStmts
156      self.generic_visit(whileNode)
157      whileNode.body = whileNode.body + whileSetUpStmts
158      return whileSetUpStmts + [whileNode]
159    def visit_Assign(self, node):
160      self.assigNode = node
161      self.setUpStmts = []
162      self.generic_visit(node)
163      return self.setUpStmts + [node]
164    def visit_AugAssign(self, node):
165      self.setUpStmts = []
166      self.generic_visit(node)
167      return self.setUpStmts + [node]
168    def visit_Call(self, callnode):     
169        self.generic_visit(callnode)
170        if CheckForBuiltin(callnode) and not self.is_Assign_value(callnode):
171        #if not self.is_Assign_value(callnode):
172            tempVar = ast.Name(self.genVar(), ast.Load())
173            self.setUpStmts.append(ast.Assign([tempVar], callnode))
174            return tempVar
175        else: return callnode
176
177
178
179
180
181#
182# Introducing BitBlock logical operations
183#
184class Bitwise_to_SIMD(ast.NodeTransformer):
185  """
186  Make the following substitutions:
187     x & y => simd_and(x, y)
188     x & ~y => simd_andc(x, y)
189     x | y => simd_or(x, y)
190     x ^ y => simd_xor(x, y)
191     ~x    => simd_not(x)
192     0     => simd_const_1(0)
193     -1    => simd_const_1(1)
194     if x: => if bitblock::any(x):
195  while x: => while bitblock::any(x):
196  >>> ast_show(Bitwise_to_SIMD().xfrm(ast.parse("pfx = bit0 & bit1; sfx = bit0 &~ bit1")))
197 
198  pfx = simd_and(bit0, bit1)
199  sfx = simd_and(bit0, simd_not(bit1))
200  >>>
201  """
202  def xfrm(self, t):
203    return self.generic_visit(t)
204  def visit_UnaryOp(self, t):
205    self.generic_visit(t)
206    if isinstance(t.op, ast.Invert):
207      return mkCall('simd_not', [t.operand])
208    else: return t
209  def visit_BinOp(self, t):
210    self.generic_visit(t)
211    if isinstance(t.op, ast.BitOr):
212      return mkCall('simd_or', [t.left, t.right])
213    elif isinstance(t.op, ast.BitAnd):
214      if is_simd_not(t.right): return mkCall('simd_andc', [t.left, t.right.args[0]])
215      elif is_simd_not(t.left): return mkCall('simd_andc', [t.right, t.left.args[0]])
216      else: return mkCall('simd_and', [t.left, t.right])
217    elif isinstance(t.op, ast.BitXor):
218      return mkCall('simd_xor', [t.left, t.right])
219    else: return t
220  def visit_Num(self, numnode):
221    n = numnode.n
222    if n == 0: return mkCall('simd<1>::constant<0>', [])
223    elif n == -1: return mkCall('simd<1>::constant<1>', [])
224    else: return numnode
225  def visit_If(self, ifNode):
226    self.generic_visit(ifNode)
227    ifNode.test = mkCall('bitblock::any', [ifNode.test])
228    return ifNode
229  def visit_While(self, whileNode):
230    self.generic_visit(whileNode)
231    whileNode.test = mkCall('bitblock::any', [whileNode.test])
232    return whileNode
233  def visit_Subscript(self, numnode):
234    return numnode  # no recursive modifications of index expressions
235
236#
237#  Generating BitBlock declarations for Local Variables
238#
239class FunctionVars(ast.NodeVisitor):
240  def __init__(self,node):
241        self.params = []
242        self.stores = []
243        self.generic_visit(node)
244  def visit_Name(self, nm):
245    if isinstance(nm.ctx, ast.Param):
246      self.params.append(nm.id)
247    if isinstance(nm.ctx, ast.Store):
248      if nm.id not in self.stores: self.stores.append(nm.id)
249  def getLocals(self): 
250    return [v for v in self.stores if not v in self.params]
251
252MAX_LINE_LENGTH = 80
253
254def BitBlock_decls_from_vars(varlist):
255  global MAX_LINE_LENGTH
256  decls =  ""
257  if not len(varlist) == 0:
258          decls = "             BitBlock"
259          pending = ""
260          linelgth = 10
261          for v in varlist:
262            if linelgth + len(v) + 2 <= MAX_LINE_LENGTH:
263              decls += pending + " " + v
264              linelgth += len(pending + v) + 1
265            else:
266              decls += ";\n             BitBlock " + v
267              linelgth = 11 + len(v)
268            pending = ","
269          decls += ";"
270  return decls
271
272def BitBlock_decls_of_fn(fndef):
273  return BitBlock_decls_from_vars(FunctionVars(fndef).getLocals())
274
275def BitBlock_header_of_fn(fndef):
276  Ccode = "static inline void " + fndef.name + "("
277  pending = ""
278  for arg in fndef.args.args:
279    if isinstance(arg, ast.Name):
280      Ccode += pending + arg.id.upper()[0] + arg.id[1:] + " & " + arg.id
281      pending = ", "
282  if CarryCounter().count(fndef) > 0:
283    Ccode += pending + " CarryQtype & carryQ"
284  Ccode += ")"
285  return Ccode
286
287
288
289#
290#  Stream Initialization Statement Extraction
291#
292#  streamvar = 1 ==> streamvar = sisd_from_int(1) initially.
293class StreamInitializations(ast.NodeTransformer):
294  def xfrm(self, node):
295    self.stream_stmts = []
296    self.loop_post_inits = []
297    self.generic_visit(node)
298    return Cgen.py2C().gen(self.stream_stmts)
299  def visit_Assign(self, node):
300    if isinstance(node.value, ast.Num):
301      if node.value.n == 0: return node
302      elif node.value.n == -1: return node
303      else: 
304        stream_init = copy.deepcopy(node)
305        stream_init.value = mkCall('sisd_from_int', [node.value])
306        loop_init = copy.deepcopy(node)
307        loop_init.value.n = 0
308        self.stream_stmts.append(stream_init)
309        self.loop_post_inits.append(loop_init)
310        return None
311    else: return node
312  def visit_FunctionDef(self, node):
313    self.generic_visit(node)
314    node.body = node.body + self.loop_post_inits
315    return node
316
317
318
319#
320# Carry Introduction Transformation
321#
322
323def Strategic_CCGO_Factory(carryInfoSet):
324  if experimentalMode:
325    ops = carryInfoSet.operation_count
326    if ops == 0: ccgo = CCGO.CCGO()
327    elif ops <= 2: ccgo = CCGO_HMCPS.HMCPS_CCGO2(64, carryInfoSet, 'carryG', '__c')
328    elif ops <= 4: ccgo = CCGO_HMCPS.HMCPS_CCGO2(32, carryInfoSet, 'carryG', '__c')
329    #elif ops <= 8: ccgo = CCGO_HMCPS.HMCPS_CCGO(16, carryInfoSet, 'carryG', '__c')
330    #else: ccgo = CCGO_HMCPS.HMCPS_CCGO(8, carryInfoSet, 'carryG', '__c')
331    else: ccgo = CCGO_HMCPS.HMCPS_CCGO2(16, carryInfoSet, 'carryG', '__c')
332  else:
333    ccgo = CCGO.testCCGO(carryInfoSet, 'carryQ')
334  return ccgo
335
336
337class CarryIntro(ast.NodeTransformer):
338  def __init__(self, ccgo, carryvar="carryQ", carryin = "_ci", carryout = "_co"):
339    self.carryvar = ast.Name(carryvar, ast.Load())
340    self.carryin = carryin
341    self.carryout = carryout
342    self.ccgo = ccgo
343  def xfrm_fndef(self, fndef):
344    self.block_no = 0
345    self.operation_count = 0
346    self.current_carry = 0
347    self.current_adv_n = 0
348    self.generic_visit(fndef)
349  def xfrm_fndef_final(self, fndef):
350    self.block_no = 0
351    self.operation_count = 0
352    self.carryout = ""
353    self.current_carry = 0
354    self.current_adv_n = 0
355    self.generic_visit(fndef)
356    return fndef
357  def generic_xfrm(self, node):
358    self.block_no = 0
359    self.operation_count = 0
360    self.current_carry = 0
361    self.current_adv_n = 0
362    self.last_stmt = None
363    self.last_stmt_carries = 0
364    self.generic_visit(node)
365    return node
366   
367  def local_while_xfrm(self, local_carryvar, whileNode):
368    saved_state = (self.block_no, self.operation_count, self.carryvar, self.carryin, self.carryout, self.current_carry, self.current_adv_n)
369    (self.carryvar, self.carryin, self.current_carry, self.current_adv_n) = (local_carryvar, '', 0, 0)
370    #(self.carryvar, self.carryin) = (local_carryvar, '')
371    self.ccgo.EnterLocalWhileBlock(self.operation_count);
372    inner_while = self.generic_visit(whileNode)
373    self.ccgo.ExitLocalWhileBlock();
374    (self.block_no, self.operation_count, self.carryvar, self.carryin, self.carryout, self.current_carry, self.current_adv_n) = saved_state
375    return inner_while
376   
377  def visit_Call(self, callnode):
378    self.generic_visit(callnode)
379    if is_BuiltIn_Call(callnode, 'atEOF', 1):
380      if self.carryout != "": 
381        # Non final block: atEOF(x) = 0.
382        return mkCall('simd<1>::constant<0>', [])
383      else: return mkCall('simd_andc', [callnode.args[0], ast.Name('EOF_mask', ast.Load())])
384    elif is_BuiltIn_Call(callnode, 'inFile', 1):
385      if self.carryout != "": 
386        # Non final block: inFile(x) = x.
387        return callnode.args[0]
388      else: return mkCall('simd_and', [callnode.args[0], ast.Name('EOF_mask', ast.Load())])
389    elif is_BuiltIn_Call(callnode, 'StreamScan', 2):
390      rtn = "StreamScan"           
391      c = mkCall(rtn, [ast.Name('(ScanBlock *) &' + callnode.args[0].id, ast.Load()), 
392                                           ast.Name('sizeof(BitBlock)/sizeof(ScanBlock)', ast.Load()),
393                                           ast.Name(callnode.args[1].id, ast.Load())])
394      return c
395    else:
396      #dump_Call(callnode)
397      return callnode
398  def visit_BinOp(self, exprnode):
399    self.generic_visit(exprnode)
400    carry_args = [ast.Num(self.current_carry)]
401    if self.carryin == "_ci":
402        carry_args = [mkCall(self.carryvar.id + "." + 'get_carry_in', [ast.Num(self.current_carry)]), ast.Num(self.current_carry)]
403    else: 
404        carry_args = [mkCall('simd<1>::constant<0>', []), ast.Num(self.current_carry)]
405    if isinstance(exprnode.op, ast.Sub):
406      assert False, "Subtraction no longer supported - use pablo.SpanUpTo ..."
407    elif isinstance(exprnode.op, ast.Add):
408      assert False, "Addition no longer supported - use pablo.Scan ..."
409    else: return exprnode
410  def visit_Assign(self, assigNode):
411    self.last_stmt_carries = CarryCounter().count(assigNode)
412    f = CheckForBuiltin(assigNode.value)
413    if f == None: 
414            self.generic_visit(assigNode)
415            self.last_stmt = assigNode
416            return assigNode
417    elif isCarryGenerating(f) or (isAdvance(f) and ((len(assigNode.value.args) == 1) or (assigNode.value.args[1].n==1))):
418    # We have an assignment v = pablo.SomeCarryGeneratingFunction()
419            if self.carryin == "_ci":
420                carry_in_expr = self.ccgo.GenerateCarryInAccess(self.operation_count)
421            else: 
422                carry_in_expr = mkCall('simd<1>::constant<0>', [])
423            callnode = assigNode.value
424            if isAdvance(f):
425               pablo_routine_call = mkCall('pablo_blk_' + f, [assigNode.value.args[0], carry_in_expr, assigNode.targets[0]])
426            elif f in ['ScanTo', 'AdvanceThenScanTo']:
427               if self.carryout == "":  scanclass = mkCall('simd_andc', [ast.Name('EOF_mask', ast.Load()), callnode.args[1]])
428               else: scanclass = mkCall('simd_not', [callnode.args[1]])
429               pablo_routine_call = mkCall('pablo_blk_' +f[:-2] + 'Thru', [callnode.args[0], scanclass, carry_in_expr, assigNode.targets[0]])
430            else:
431               pablo_routine_call = mkCall('pablo_blk_' + f, assigNode.value.args + [carry_in_expr, assigNode.targets[0]])
432            self.last_stmt = pablo_routine_call
433            compiled = self.ccgo.GenerateCarryOutStore(self.operation_count, pablo_routine_call)
434            self.operation_count += 1
435            self.current_carry += 1
436            return compiled
437    elif isAdvance(f):
438            if self.carryin == "_ci":
439                carry_in_expr = self.ccgo.GenerateAdvanceInAccess(self.operation_count)
440            else: 
441                carry_in_expr = mkCall('simd<1>::constant<0>', [])
442            callnode = assigNode.value
443            pablo_routine_call = mkCall('pablo_blk_Advance_n_<%i>' %  assigNode.value.args[1].n, [assigNode.value.args[0], carry_in_expr, assigNode.targets[0]])
444            self.last_stmt = pablo_routine_call
445            compiled = self.ccgo.GenerateAdvanceOutStore(self.operation_count, pablo_routine_call)
446            self.operation_count += 1
447            self.current_adv_n += 1
448            return compiled
449
450    else:
451            self.generic_visit(assigNode)
452            self.last_stmt = assigNode
453            self.operation_count += 1
454            return assigNode
455           
456           
457  def visit_If(self, ifNode):
458    self.block_no += 1
459    this_block = self.block_no
460    carry_base = self.current_carry
461    carries = CarryCounter().count(ifNode)
462    assert adv_nCounter().count(ifNode) == 0, "Advance(x,n) within if: illegal\n"
463    self.generic_visit(ifNode)
464    if carries == 0: # or self.carryin == "":
465      self.last_stmt = ifNode
466      return ifNode
467    #CARRYSET
468    carry_arglist = [ast.Num(carry_base), ast.Num(carries)]
469    #new_test = ast.BoolOp(ast.Or(), [ifNode.test, mkCall(ast.Attribute(self.carryvar, 'CarryTest', ast.Load()), carry_arglist)])
470    #new_else_part = ifNode.orelse + [mkCallStmt(ast.Attribute(self.carryvar, 'CarryDequeueEnqueue', ast.Load()), carry_arglist)]
471    if self.carryin == "": new_test = ifNode.test
472    else: new_test = self.ccgo.GenerateCarryIfTest(this_block, ifNode.test)
473    new_else_part = ifNode.orelse + self.ccgo.GenerateCarryElseFinalization(this_block)
474    newIf = ast.If(new_test, ifNode.body, new_else_part)
475    self.last_stmt = newIf
476    self.last_stmt_carries = carries
477    return newIf
478
479
480  def is_while_special_case(self, whileNode):
481    #
482    # Special case optimization for pattern:
483    #   m=pablo.scan...()
484    #   while m:
485    #      S
486    #      m=pablo.scan...()
487    #
488    # Determine the original test expression, now encloded in bitblock::any()
489    original_test_expr = whileNode.test.args[0]
490    if not isinstance(original_test_expr, ast.Name): return False
491    test_var = original_test_expr.id
492    if not isinstance(self.last_stmt, ast.Assign): return False
493    if not isinstance(whileNode.body[-1], ast.Assign): return False
494    if len(self.last_stmt.targets) != 1: return False
495    if len(whileNode.body[-1].targets) != 1: return False
496    if not isinstance(self.last_stmt.targets[0], ast.Name): return False
497    if not isinstance(whileNode.body[-1].targets[0], ast.Name): return False
498    if self.last_stmt.targets[0].id != test_var: return False
499    if whileNode.body[-1].targets[0].id != test_var: return False
500    if self.last_stmt_carries != 1: return False
501    if CarryCounter().count(whileNode.body[-1]) != 1: return False
502    return True
503
504  def visit_While(self, whileNode):
505    # Determine the original test expression, now encloded in bitblock::any()
506    self.block_no += 1
507    this_block = self.block_no
508    original_test_expr = whileNode.test.args[0]
509    if self.carryout == '':
510      whileNode.test.args[0] = mkCall("simd_and", [original_test_expr, ast.Name('EOF_mask', ast.Load())])
511    carry_base = self.current_carry
512    assert adv_nCounter().count(whileNode) == 0, "Advance(x,n) within while: illegal\n"
513    carries = CarryCounter().count(whileNode)
514#   Special Case Recognition
515    is_special = self.is_while_special_case(whileNode)
516    #CARRYSET
517    if carries == 0: return whileNode
518    local_carryvar = ast.Name('sub' + self.carryvar.id, ast.Load())
519    inner_while = self.local_while_xfrm(local_carryvar, copy.deepcopy(whileNode))
520    self.generic_visit(whileNode)
521    local_carry_decl = self.ccgo.GenerateLocalDeclare(this_block)
522    #local_carry_decl = []
523    #local_carry_decl = mkCallStmt('LocalCarryDeclare', [local_carryvar, ast.Num(carries)])
524    inner_while.body = local_carry_decl + inner_while.body
525    #final_combine = mkCallStmt(ast.Attribute(self.carryvar, 'CarryCombine', ast.Load()), [ast.Attribute(local_carryvar, 'cq', ast.Load()),ast.Num(carry_base), ast.Num(carries)])
526    final_combine = self.ccgo.GenerateCarryWhileFinalization(this_block)
527    inner_while.body += final_combine
528    #CARRYSET
529
530#   Special Case Optimization
531    if is_special:
532      # We combine the final carry into the one preceeding the loop.
533      combine1 = mkCallStmt(ast.Attribute(self.carryvar, 'CarryCombine1', ast.Load()), [ast.Num(carry_base-1), ast.Num(carry_base+carries-1)])
534      while_body_extend = [inner_while, combine1]
535      # The carry test can skip the final case.
536      carry_test_arglist = [ast.Num(carry_base), ast.Num(carries-1)]
537    else: 
538      carry_test_arglist = [ast.Num(carry_base), ast.Num(carries)]
539      while_body_extend = [inner_while]
540
541    if self.carryin == '': new_test = whileNode.test
542    else: new_test = self.ccgo.GenerateCarryWhileTest(this_block, whileNode.test)
543    else_part = [self.ccgo.GenerateCarryElseFinalization(this_block)]   
544    newIf = ast.If(new_test, whileNode.body + while_body_extend, else_part)
545    self.last_stmt = newIf
546    self.last_stmt_carries = carries
547    return newIf
548
549class StreamStructGen(ast.NodeVisitor):
550  """
551  Given a BitStreamSet subclass, generate the equivalent C struct.
552  >>> obj = ast.parse(r'''
553  ... class S1(BitStreamSet):
554  ...   a1 = 0
555  ...   a2 = 0
556  ...   a3 = 0
557  ...
558  ... class S2(BitStreamSet):
559  ...   x1 = 0
560  ...   x2 = 0
561  ... ''')
562  >>> print StreamStructGen().gen(obj)
563  struct S1 {
564    BitBlock a1;
565    BitBlock a2;
566    BitBlock a3;
567  }    self.current_adv_n = 0
568
569 
570  struct S2 {
571    BitBlock x1;
572    BitBlock x2;
573  }
574  """
575  def __init__(self, asType=False):
576    self.asType = asType
577  def gen(self, tree):
578    self.Ccode=""
579    self.generic_visit(tree)
580    return self.Ccode
581  def gen_struct_types(self, tree):
582    self.asType = True
583    self.Ccode=""
584    self.generic_visit(tree)
585    return self.Ccode
586  def gen_struct_vars(self, tree):
587    self.asType = False
588    self.Ccode=""
589    self.generic_visit(tree)
590    return self.Ccode
591  def visit_ClassDef(self, node):
592    class_name = node.name[0].upper() + node.name[1:]
593    instance_name = node.name[0].lower() + node.name[1:]
594    self.Ccode += "  struct " + class_name
595    if self.asType:
596            self.Ccode += " {\n"
597            for stmt in node.body:
598              if isinstance(stmt, ast.Assign):
599                for v in stmt.targets:
600                  if isinstance(v, ast.Name):
601                    self.Ccode += "  BitBlock " + v.id + ";\n"
602            self.Ccode += "}" 
603    else: self.Ccode += " " + instance_name
604    self.Ccode += ";\n\n"
605 
606class StreamFunctionDecl(ast.NodeVisitor):
607  def __init__(self):
608    pass
609  def gen(self, tree):
610    self.Ccode=""
611    self.generic_visit(tree)
612    return self.Ccode
613  def visit_FunctionDef(self, node):
614    self.Ccode += "static inline void " + node.name + "("
615    pending = ""
616    for arg in node.args.args:
617      if isinstance(arg, ast.Name):
618        self.Ccode += pending + arg.id.upper()[0] + arg.id[1:] + " & " + arg.id
619        pending = ", "
620    self.Ccode += ");\n"
621
622class AssertCompiler(ast.NodeTransformer):
623  def __init__(self):
624    self.assert_routine = ast.parse(error_routine).body[0].value
625  def xfrm(self, t):
626    return self.generic_visit(t)
627  def visit_Expr(self, node):
628    if isinstance(node.value, ast.Call):
629        if is_BuiltIn_Call(node.value, "assert_0", 2):
630                err_stream = node.value.args[0]
631                err_code = node.value.args[1]
632                return ast.If(mkCall('bitblock::any', [err_stream]),
633                              [ast.Expr(mkCall(self.assert_routine, [err_code, err_stream]))],
634                              [])
635        else: return node
636    else: return node
637       
638#
639# Adding Debugging Statements
640#
641class Add_SIMD_Register_Dump(ast.NodeTransformer):
642  def xfrm(self, t):
643    return self.generic_visit(t)
644  def visit_Assign(self, t):
645    self.generic_visit(t)
646    v = t.targets[0]
647    dump_stmt = mkCallStmt(' print_register<BitBlock>', [ast.Str(Cgen.py2C().gen(v)), v])
648    return [t, dump_stmt]
649
650#
651# Adding ASSERT_BITBLOCK_ALIGN macros
652#
653class Add_Assert_BitBlock_Align(ast.NodeTransformer):
654    def xfrm(self, t):
655      return self.generic_visit(t)
656    def visit_Assign(self, t):
657      self.generic_visit(t)
658      v = t.targets[0]
659      dump_stmt = mkCallStmt(' ASSERT_BITBLOCK_ALIGN', [v])
660      return [t, dump_stmt]
661
662class StreamFunctionCarryCounter(ast.NodeVisitor):
663  def __init__(self):
664        self.carry_count = {}
665       
666  def count(self, node):
667        self.generic_visit(node)
668        return self.carry_count
669                                   
670  def visit_FunctionDef(self, node):   
671        type_name = node.name[0].upper() + node.name[1:]                       
672        self.carry_count[type_name] = CarryCounter().count(node)
673     
674class StreamFunctionCallXlator(ast.NodeTransformer):
675  def __init__(self, xlate_type="normal"):
676        self.stream_function_type_names = []
677        self.xlate_type = xlate_type
678
679  def xfrm(self, node, stream_function_type_names, C_syntax):
680        self.stream_function_type_names = stream_function_type_names
681        self.C_syntax = C_syntax
682        self.generic_visit(node)
683       
684  def visit_Call(self, node):   
685        self.generic_visit(node)
686
687        if isinstance(node, ast.Call) and isinstance(node.func, ast.Name):# and node.func.id in self.stream_function_type_names:
688             name = lower1(node.func.id)
689             node.func.id = name + ("_" if self.C_syntax else ".") + ("do_final_block" if self.xlate_type == "final" else "do_block")
690             if self.C_syntax:
691                     node.args = [ast.Name(lower1(name), ast.Load())] + node.args
692             if self.xlate_type == "final":
693                   node.args = node.args + [ast.Name("EOF_mask", ast.Load())]
694                     
695        return node     
696               
697class StreamFunctionVisitor(ast.NodeVisitor):
698        def __init__(self,node):
699                self.stream_function_node = {}
700                self.generic_visit(node)
701                                                             
702        def visit_FunctionDef(self, node):                     
703                key = node.name[0].upper() + node.name[1:]
704                self.stream_function_node[key] = node
705
706
707               
708class StreamFunction():
709        def __init__(self):
710                self.carry_count = 0 
711                self.init_to_one_list = [] 
712                self.adv_n_count = 0 
713                self.type_name = ""
714                self.instance_name = "" 
715                self.parameters = ""
716                self.declarations = "" 
717                self.initializations = "" 
718       
719        def dump(self):
720                print "%s" % (self.type_name)
721                print "%s=%s" % ("Carry Count", str(self.carry_count))
722                print "%s=[%s]" % ("Init to One List" , ','.join(map(str,self.init_to_one_list)))
723                print "%s=%s" % ("Adv n Count", str(self.adv_n_count)) 
724        #print "Instance Name:"     #+ self.instance_name = ""
725        #print "Parameters:"        #+ self.parameters = ""
726        #print "Declarations:"           #+ self.declarations = ""
727        #print "Initializations:"   # + self.initializations = ""
728   
729#
730# TODO Consolidate *all* C code generation into the Emitter class.   Medium priority.
731# TODO Implement 'pretty print' indentation.   Low priority.
732# TODO Migrate Emiter() class to Emitter module.  Medium priority.
733
734def lower1(name):
735    return name[0].lower() + name[1:]
736def upper1(name):
737    return name[0].upper() + name[1:]
738
739def escape_newlines(str):
740  return str.replace('\n', '\\\n')
741
742class Emitter():
743        def __init__(self, use_C_syntax, ccgo):
744                self.use_C_syntax = use_C_syntax
745                self.ccgo = ccgo
746
747        def definition(self, stream_function, icount=0):
748               
749                constructor = ""
750                carry_declaration = ""
751                self.type_name = stream_function.type_name
752               
753                if stream_function.carry_count > 0 or stream_function.adv_n_count > 0:
754                        constructor = self.constructor(stream_function.type_name, stream_function.carry_count, stream_function.init_to_one_list, stream_function.adv_n_count)
755                        carry_declaration = self.carry_declare('carryQ', stream_function.carry_count, stream_function.adv_n_count)
756
757                do_block_function = self.do_block(self.do_block_parameters(stream_function.parameters), 
758                                                stream_function.declarations, 
759                                                stream_function.initializations, 
760                                                stream_function.statements)             
761
762                do_final_block_function = self.do_final_block(self.do_final_block_parameters(stream_function.parameters), 
763                                                stream_function.declarations, 
764                                                stream_function.initializations, 
765                                                stream_function.final_block_statements)                 
766
767                do_segment_function = self.do_segment(self.do_segment_parameters(stream_function.parameters), 
768                                                self.do_segment_args(stream_function.parameters))       
769
770                if self.use_C_syntax:
771                        return self.indent(icount) + "struct " + stream_function.type_name + " {" \
772                               + "\n" + self.indent(icount) + carry_declaration \
773                               + "\n" + self.indent(icount) + "};\n" \
774                               + "\n" + self.indent(icount) + do_block_function \
775                               + "\n" + self.indent(icount) + do_final_block_function \
776                               + "\n" + self.indent(icount) + do_segment_function + "\n\n"
777                               
778                return self.indent(icount) + "struct " + stream_function.type_name + " {" \
779                + "\n" + self.indent(icount) + constructor \
780                + "\n" + self.indent(icount) + do_block_function \
781                + "\n" + self.indent(icount) + do_final_block_function \
782                + "\n" + self.indent(icount) + do_segment_function \
783                + "\n" + self.indent(icount) + carry_declaration \
784                + "\n" + self.indent(icount) + "};\n\n"
785
786        def constructor(self, type_name, carry_count, init_to_one_list, adv_n_count, icount=0):
787                one_inits = self.ccgo.GenerateInitializations()
788                #one_inits = ""
789                #for v in init_to_one_list:
790                #       one_inits += "  carryQ.cq[%s] = carryQ.carry_flip(carryQ.cq[%s]);\n" % (v, v)
791                adv_n_decl = ""
792                #for i in range(adv_n_count): adv_n_decl += self.indent(icount+2) + "pending64[%s] = simd<1>::constant<0>();\n" % i     
793                return self.indent(icount) + "%s() { ""\n" % (type_name) + adv_n_decl + self.carry_init(carry_count) + one_inits + " }" 
794                       
795        def do_block(self, parameters, declarations, initializations, statements, icount=0):
796                pfx = (lower1(self.type_name) + "_" if self.use_C_syntax else "")
797                if self.use_C_syntax:
798                        return "#define " + pfx + "do_block(" + parameters + ")\\\n do {" \
799                        + "\\\n" + self.indent(icount) + escape_newlines(declarations) \
800                        + "\\\n" + self.indent(icount) + escape_newlines(initializations) \
801                        + "\\\n" + self.indent(icount) + escape_newlines(statements) \
802                        + "\\\n" + self.indent(icount + 2) + "} while (0)" 
803                return self.indent(icount) + do_block_inline_decorator + "void " + pfx + "do_block(" + parameters + ") {" \
804                + "\n" + self.indent(icount) + declarations \
805                + "\n" + self.indent(icount) + initializations \
806                + "\n" + self.indent(icount) + statements \
807                + "\n" + self.indent(icount + 2) + "}" 
808
809
810
811
812        def do_final_block(self, parameters, declarations, initializations, statements, icount=0):
813                pfx = (lower1(self.type_name) + "_" if self.use_C_syntax else "")
814                if self.use_C_syntax:
815                        return "#define " + pfx + "do_final_block(" + parameters + ")\\\n do {" \
816                        + "\\\n" + self.indent(icount) + escape_newlines(declarations) \
817                        + "\\\n" + self.indent(icount) + escape_newlines(initializations) \
818                        + "\\\n" + self.indent(icount) + escape_newlines(statements) \
819                        + "\\\n" + self.indent(icount + 2) + "} while (0)" 
820                return self.indent(icount) + do_final_block_inline_decorator + "void " + pfx + "do_final_block(" + parameters + ") {" \
821                + "\n" + self.indent(icount) + declarations \
822                + "\n" + self.indent(icount) + initializations \
823                + "\n" + self.indent(icount) + statements \
824                + "\n" + self.indent(icount + 2) + "}" 
825
826        def do_segment(self, parameters, do_block_call_args, icount=0):
827                pfx = (lower1(self.type_name) + "_" if self.use_C_syntax else "")
828                if self.use_C_syntax:
829                        return "#define " + pfx + "do_segment(" + parameters + ")\\\n do {" \
830                        + "\\\n" + self.indent(icount) + "  int i;" \
831                        + "\\\n" + self.indent(icount) + "  for (i = 0; i < segment_blocks; i++)" \
832                        + "\\\n" + self.indent(icount) + "    " + pfx + "do_block(" + do_block_call_args + ");" \
833                        + "\\\n" + self.indent(icount + 2) + "} while (0)" 
834                return self.indent(icount) + "void " + pfx + "do_segment(" + parameters + ") {" \
835                + "\n" + self.indent(icount) + "  int i;" \
836                + "\n" + self.indent(icount) + "  for (i = 0; i < segment_blocks; i++)" \
837                + "\n" + self.indent(icount) + "    " + pfx + "do_block(" + do_block_call_args + ");" \
838                + "\n" + self.indent(icount + 2) + "}" 
839
840        def declaration(self, type_name, instance_name, icount=0):
841                if self.use_C_syntax: return self.indent(icount) + "struct " + type_name + " " + instance_name + ";\n"
842                return self.indent(icount) + type_name + " " + instance_name + ";\n"
843               
844        def carry_init(self, carry_count, icount=0):   
845                #CARRY SET
846                return ""
847               
848        def carry_declare(self, carry_variable, carry_count, adv_n_count=0, icount=0):
849                adv_n_decl = ""
850                #if adv_n_count > 0:
851                #       adv_n_decl = "\n" + self.indent(icount) + "BitBlock pending64[%s];" % adv_n_count
852                #CARRY SET
853                return self.indent(icount) + self.ccgo.GenerateCarryDecls()
854
855        def carry_test(self, carry_variable, carry_count, icount=0):
856                #CARRY SET
857                return self.indent(icount) + "carryQ.CarryTest(0, %i)" % (carry_count)         
858               
859        def indent(self, icount):
860                s = ""
861                for i in range(0,icount): s += " "
862                return s       
863               
864        def do_block_parameters(self, parameters):
865                if self.use_C_syntax:
866                        #return ", ".join([self.type_name + " * " + self.instance_name] + [upper1(p) + " * " + lower1(p) for p in parameters])
867                        return ", ".join([lower1(self.type_name)] + [lower1(p) for p in parameters])
868                else: return ", ".join([upper1(p) + " & " + lower1(p) for p in parameters])
869               
870        def do_final_block_parameters(self, parameters):
871                if self.use_C_syntax:
872                        #return ", ".join([self.type_name + " * " + self.instance_name] + [upper1(p) + " * " + lower1(p) for p in parameters]+ ["BitBlock EOF_mask"])
873                        return ", ".join([lower1(self.type_name)] + [lower1(p) for p in parameters]+ ["EOF_mask"])
874                else: return ", ".join([upper1(p) + " & " + lower1(p) for p in parameters]+ ["BitBlock EOF_mask"])
875               
876        def do_segment_parameters(self, parameters):
877                if self.use_C_syntax:
878                        #return ", ".join([self.type_name + " * " + + self.instance_name] + [upper1(p) + " " + lower1(p) + "[]" for p in parameters])
879                        return ", ".join([lower1(self.type_name)] + [lower1(p) for p in parameters] + ["segment_blocks"])
880                else: return ", ".join([upper1(p) + " " + lower1(p) + "[]" for p in parameters] + ["int segment_blocks"])
881
882        def do_segment_args(self, parameters):
883                if self.use_C_syntax:
884                        return ", ".join([lower1(self.type_name)] + [lower1(p) + "[i]" for p in parameters])
885                else: return ", ".join([lower1(p) + "[i]" for p in parameters])
886
887def main(infilename, outfile = sys.stdout):
888  t = ast.parse(file(infilename).read())
889  outfile.write(StreamStructGen(True).gen(t))
890  outfile.write(FunctionXlator().xlat(t))
891
892#
893#  Routines for compatibility with the old compiler/template.
894#  Quick and dirty hacks for now - Dec. 2010.
895#
896
897class MainLoopTransformer:
898  def __init__(self, main_module, C_syntax=False, add_dump_stmts=False, add_assert_bitblock_align=False, dump_func_data=False, main_node_id='Main'):
899       
900    self.main_module = main_module
901    self.main_node_id = main_node_id
902    self.use_C_syntax = C_syntax
903    self.add_dump_stmts = add_dump_stmts
904    self.add_assert_bitblock_align = add_assert_bitblock_align
905    self.dump_func_data = dump_func_data
906   
907        # Gather and partition function definition nodes.
908    stream_function_visitor = StreamFunctionVisitor(self.main_module)
909    self.stream_function_node = stream_function_visitor.stream_function_node
910    for key, node in self.stream_function_node.iteritems():
911                AdvanceCombiner().xfrm(node)
912    self.main_node = self.stream_function_node[main_node_id]
913    self.main_carry_count = CarryCounter().count(self.main_node)
914    self.main_adv_n_count = adv_nCounter().count(self.main_node)
915    self.main_carry_info_set = CarryInfoSetVisitor(self.main_node)
916    self.main_ccgo = Strategic_CCGO_Factory(self.main_carry_info_set)
917    assert self.main_adv_n_count == 0, "Advance32() in main not supported.\n"
918    del self.stream_function_node[self.main_node_id]
919   
920    self.stream_functions = {}
921    for key, node in self.stream_function_node.iteritems():
922                stream_function = StreamFunction()
923                stream_function.carry_count = CarryCounter().count(node)
924                stream_function.init_to_one_list = CarryInitToOneList().count(node)
925                stream_function.adv_n_count = adv_nCounter().count(node)
926                carry_info_set = CarryInfoSetVisitor(node)
927                stream_function.ccgo = Strategic_CCGO_Factory(carry_info_set)
928                stream_function.type_name = node.name[0].upper() + node.name[1:]
929                stream_function.instance_name = node.name[0].lower() + node.name[1:]
930                stream_function.parameters = FunctionVars(node).params
931                stream_function.declarations = BitBlock_decls_of_fn(node)
932                stream_function.declarations += "\n" + stream_function.ccgo.GenerateStreamFunctionDecls()
933                stream_function.initializations = StreamInitializations().xfrm(node) 
934               
935                if self.add_dump_stmts: 
936                        Add_SIMD_Register_Dump().xfrm(node)
937                t = TempifyBuiltins()
938                t.xfrm(node)
939                stream_function.declarations += "\n" + BitBlock_decls_from_vars(t.tempVars())
940
941                StringMatchCompiler().xfrm(node)
942                AugAssignRemoval().xfrm(node)
943
944               
945                Bitwise_to_SIMD().xfrm(node)
946                final_block_node = copy.deepcopy(node)
947                if self.use_C_syntax:
948                        carryQname = stream_function.instance_name + ".carryQ"
949                else: carryQname = "carryQ"
950                CarryIntroVisitor = CarryIntro(stream_function.ccgo, carryQname)
951                CarryIntroVisitor.xfrm_fndef(node)
952                CarryIntroVisitor.xfrm_fndef_final(final_block_node)
953                #
954                # Compile asserts after carry intro so that generated if-statements
955                # are ignored.
956                AssertCompiler().xfrm(node)
957                AssertCompiler().xfrm(final_block_node)
958
959                if self.add_assert_bitblock_align:
960                        Add_Assert_BitBlock_Align().xfrm(node)
961                        Add_Assert_BitBlock_Align().xfrm(final_block_node)
962
963                #if stream_function.carry_count > 0:
964                #       node.body += [mkCallStmt('carryQ.CarryQ_Adjust', [ast.Num(stream_function.carry_count)])]
965                node.body += stream_function.ccgo.GenerateStreamFunctionFinalization()
966
967               
968                stream_function.statements = Cgen.py2C(4).gen(node.body)
969                stream_function.final_block_statements = Cgen.py2C(4).gen(final_block_node.body)
970                self.stream_functions[stream_function.type_name] = stream_function
971               
972    if self.dump_func_data:     
973        for key, value in self.stream_functions.iteritems():
974                        value.dump()
975        sys.exit()
976               
977    self.emitter = Emitter(self.use_C_syntax, stream_function.ccgo)
978   
979  def any_carry_expr(self):
980
981        tests = [self.stream_functions[key].ccgo.GenerateTestAll(self.stream_functions[key].instance_name) for key in self.stream_functions.keys()]
982        return " || ".join([Cgen.py2C().gen(t) for t in tests])
983
984  def gen_globals(self):
985    self.Cglobals = StreamStructGen().gen_struct_types(self.main_module)
986    for key in self.stream_functions.keys():
987                sf = self.stream_functions[key]
988                self.Cglobals += Emitter(self.use_C_syntax, sf.ccgo).definition(sf, 2)     
989                       
990  def gen_declarations(self): 
991    self.Cdecls = StreamStructGen().gen_struct_vars(self.main_module)
992    self.Cdecls += BitBlock_decls_of_fn(self.main_node) + "\n" + self.main_ccgo.GenerateStreamFunctionDecls()
993    if self.main_carry_count > 0: 
994        self.Cdecls += self.emitter.carry_declare('carryQ', self.main_carry_count)
995               
996  def gen_initializations(self):
997    self.Cinits = ""
998    if self.main_carry_count > 0: 
999        self.Cinits += self.emitter.carry_init(self.main_carry_count)
1000    self.Cinits += StreamInitializations().xfrm(self.main_module)
1001    if self.use_C_syntax:
1002                for key in self.stream_functions.keys():
1003                        if self.stream_functions[key].carry_count == 0: continue
1004                        self.Cinits += self.emitter.declaration(self.stream_functions[key].type_name, self.stream_functions[key].instance_name, 2)
1005                        self.Cinits += "CarryInit(" + self.stream_functions[key].instance_name + ".carryQ, %i);\n" % (self.stream_functions[key].carry_count)
1006    else:
1007                for key in self.stream_functions.keys():
1008                        self.Cinits += self.emitter.declaration(self.stream_functions[key].type_name, self.stream_functions[key].instance_name, 2)
1009
1010                       
1011  def xfrm_block_stmts(self):
1012    StringMatchCompiler().xfrm(self.main_node)
1013    AugAssignRemoval().xfrm(self.main_node)
1014    Bitwise_to_SIMD().xfrm(self.main_node)
1015    Bitwise_to_SIMD().xfrm(self.main_node)
1016    final_block_main = copy.deepcopy(self.main_node)
1017    carry_info_set = CarryInfoSetVisitor(self.main_node)
1018    #ccgo = Strategic_CCGO_Factory(carry_info_set)
1019    #CarryIntroVisitor = CarryIntro(ccgo)
1020    #CarryIntroVisitor.xfrm_fndef(self.main_node)
1021    #CarryIntroVisitor.xfrm_fndef_final(final_block_main)
1022    AssertCompiler().xfrm(self.main_node)
1023    if self.add_dump_stmts: 
1024        Add_SIMD_Register_Dump().xfrm(self.main_node)
1025        Add_SIMD_Register_Dump().xfrm(final_block_main)
1026               
1027    if self.add_assert_bitblock_align:
1028        print "add_assert_bitblock_align"
1029        Add_Assert_BitBlock_Align().xfrm(self.main_node)
1030        Add_Assert_BitBlock_Align().xfrm(final_block_main)
1031
1032    StreamFunctionCallXlator().xfrm(self.main_node, self.stream_function_node.keys(), self.use_C_syntax)
1033    StreamFunctionCallXlator('final').xfrm(final_block_main, self.stream_function_node.keys(), self.use_C_syntax)
1034   
1035    #if self.main_carry_count > 0:
1036                #self.main_node.body += [mkCallStmt('CarryQ_Adjust', [ast.Name('carryQ', ast.Load()), ast.Num(self.main_carry_count)])]
1037    #self.main_node.body += ccgo.GenerateStreamFunctionFinalization()
1038   
1039   
1040       
1041    self.Cstmts = Cgen.py2C().gen(self.main_node.body)
1042    self.Cfinal_stmts = Cgen.py2C().gen(final_block_main.body)
1043   
1044if __name__ == "__main__":
1045                import doctest
1046                doctest.testmod()
Note: See TracBrowser for help on using the repository browser.