source: icGREP/icgrep-devel/icgrep/cc/cc_compiler.cpp @ 4671

Last change on this file since 4671 was 4671, checked in by nmedfort, 4 years ago

Moved responsibility of handling 'special cases of Unicode TR #18' and 'compatibility properties of UTR #18 Annex C' into RE_Parser.

File size: 9.3 KB
Line 
1/*
2 *  Copyright (c) 2014 International Characters.
3 *  This software is licensed to the public under the Open Software License 3.0.
4 *  icgrep is a trademark of International Characters.
5 */
6
7#include "cc_compiler.h"
8#include "utf_encoding.h"
9
10//Pablo Expressions
11#include <re/re_alt.h>
12#include <re/re_cc.h>
13#include <re/re_seq.h>
14#include <re/re_rep.h>
15#include <re/re_name.h>
16#include <re/re_diff.h>
17#include <re/re_intersect.h>
18#include <re/re_assertion.h>
19#include <cc/cc_namemap.hpp>
20#include <pablo/codegenstate.h>
21#include <pablo/builder.hpp>
22#include <pablo/function.h>
23#include <stdexcept>
24
25using namespace re;
26using namespace pablo;
27
28namespace cc {
29
30CC_Compiler::CC_Compiler(PabloFunction & function, const Encoding & encoding, const std::string prefix)
31: mBuilder(function.getEntryBlock())
32, mBasisBit(encoding.getBits())
33, mEncoding(encoding) {
34    for (unsigned i = 0; i != encoding.getBits(); i++) {
35        Var * var = mBuilder.createVar(prefix + std::to_string(i));
36        function.addParameter(var);
37        mBasisBit[encoding.getBits() - i - 1] = var;
38    }
39}
40
41Assign * CC_Compiler::compileCC(const std::string && canonicalName, const CC *cc, PabloBlock & block) {
42    return block.createAssign(std::move(canonicalName), charset_expr(cc, block));
43}
44
45Assign * CC_Compiler::compileCC(const std::string && canonicalName, const CC *cc, PabloBuilder & builder) {
46    return builder.createAssign(std::move(canonicalName), charset_expr(cc, builder));
47}
48
49void CC_Compiler::compileByteClasses(RE * re) {
50    if (Alt * alt = dyn_cast<Alt>(re)) {
51        for (auto i = alt->begin(); i != alt->end(); ++i) {
52            compileByteClasses(*i);
53        }
54    }
55    else if (Seq * seq = dyn_cast<Seq>(re)) {
56        for (auto i = seq->begin(); i != seq->end(); ++i) {
57            compileByteClasses(*i);
58        }
59    }
60    else if (Rep * rep = dyn_cast<Rep>(re)) {
61        compileByteClasses(rep->getRE());
62    }
63    else if (Assertion * a = dyn_cast<Assertion>(re)) {
64        compileByteClasses(a->getAsserted());
65    }
66    else if (Diff * diff = dyn_cast<Diff>(re)) {
67        compileByteClasses(diff->getRH());
68        compileByteClasses(diff->getLH());
69    }
70    else if (Intersect * e = dyn_cast<Intersect>(re)) {
71        compileByteClasses(e->getRH());
72        compileByteClasses(e->getLH());
73    }
74    else if (Name * name = dyn_cast<Name>(re)) {
75        RE * def = name->getDefinition();
76        if (def) {
77            if (!isa<CC>(def)) {
78                compileByteClasses(def);
79            }
80            else if (name->getCompiled() == nullptr) {
81                name->setCompiled(compileCC(cast<CC>(def)));
82            }
83        }
84    }
85    else if (isa<CC>(re)) {
86        throw std::runtime_error("icgrep internal error: unexpected CC object \"" + Printer_RE::PrintRE(re) + "\" found in compileByteClasses.");
87    }
88}
89
90template<typename PabloBlockOrBuilder>
91PabloAST * CC_Compiler::charset_expr(const CC * cc, PabloBlockOrBuilder & pb) {
92    if (cc->empty()) {
93        return pb.createZeroes();
94    }
95    if (cc->size() > 2) {
96        bool combine = true;
97        for (const interval_t & i : *cc) {
98            if (lo_codepoint(i) != hi_codepoint(i)) {
99                combine = false;
100                break;
101            }
102        }
103        if (combine) {
104            auto i = cc->cbegin();
105            for (auto j = i; ++j != cc->cend(); i = j) {
106                if ((lo_codepoint(i) + 2) != lo_codepoint(j)) {
107                    combine  = false;
108                    break;
109                }
110            }
111            if (combine) {
112                codepoint_t lo = lo_codepoint(cc->front());
113                codepoint_t hi = lo_codepoint(cc->back());
114                const codepoint_t mask = mEncoding.getMask();
115                lo &= (mask - 1);
116                hi |= (mask ^ (mask - 1));
117                PabloAST * expr = make_range(lo, hi, pb);
118                PabloAST * bit0 = getBasisVar(0);
119                if ((lo & 1) == 0) {
120                    bit0 = pb.createNot(bit0);
121                }
122                return pb.createAnd(expr, bit0);
123            }
124        }
125    }
126    PabloAST * expr = nullptr;
127    for (const interval_t & i : *cc) {
128        PabloAST * temp = char_or_range_expr(lo_codepoint(i), hi_codepoint(i), pb);
129        expr = (expr == nullptr) ? temp : pb.createOr(expr, temp);
130    }
131    return expr;
132}
133
134template<typename PabloBlockOrBuilder>
135PabloAST * CC_Compiler::bit_pattern_expr(const unsigned pattern, unsigned selected_bits, PabloBlockOrBuilder &pb)
136{
137    if (selected_bits == 0) {
138        return pb.createOnes();
139    }
140
141    std::vector<PabloAST*> bit_terms;
142    for (unsigned i = 0; selected_bits; ++i) {
143        unsigned test_bit = static_cast<unsigned>(1) << i;
144        if ((selected_bits & test_bit) != 0) {
145            if ((pattern & test_bit) == 0) {
146                bit_terms.push_back(pb.createNot(getBasisVar(i)));
147            }
148            else {
149                bit_terms.push_back(getBasisVar(i));
150            }
151        }
152        else {
153            bit_terms.push_back(pb.createOnes());
154        }
155        selected_bits &= ~test_bit;
156    }
157
158    if (bit_terms.size() > 1) {
159        //Reduce the list so that all of the expressions are contained within a single expression.
160        std::vector<PabloAST*> new_terms(bit_terms.size() / 2);
161        do
162        {
163            new_terms.clear();
164            for (auto i = 0; i < (bit_terms.size() / 2); i++) {
165                new_terms.push_back(pb.createAnd(bit_terms[(2 * i) + 1], bit_terms[2 * i]));
166            }
167            if (bit_terms.size() % 2 == 1) {
168                new_terms.push_back(bit_terms[bit_terms.size() - 1]);
169            }
170            bit_terms.swap(new_terms);
171        }
172        while (bit_terms.size() > 1);
173    }
174    return bit_terms[0];
175}
176
177template<typename PabloBlockOrBuilder>
178inline PabloAST * CC_Compiler::char_test_expr(const codepoint_t ch, PabloBlockOrBuilder &pb) {
179    return bit_pattern_expr(ch, mEncoding.getMask(), pb);
180}
181
182template<typename PabloBlockOrBuilder>
183PabloAST * CC_Compiler::make_range(const codepoint_t n1, const codepoint_t n2, PabloBlockOrBuilder & pb) {
184    codepoint_t diff_count = 0;
185
186    for (codepoint_t diff_bits = n1 ^ n2; diff_bits; diff_count++, diff_bits >>= 1);
187
188    if ((n2 < n1) || (diff_count > mEncoding.getBits()))
189    {
190        throw std::runtime_error("Bad Range: [" + std::to_string(n1) + "," + std::to_string(n2) + "]");
191    }
192
193    const codepoint_t mask0 = (static_cast<codepoint_t>(1) << diff_count) - 1;
194
195    PabloAST * common = bit_pattern_expr(n1 & ~mask0, mEncoding.getMask() ^ mask0, pb);
196
197    if (diff_count == 0) return common;
198
199    const codepoint_t mask1 = (static_cast<codepoint_t>(1) << (diff_count - 1)) - 1;
200
201    PabloAST* lo_test = GE_Range(diff_count - 1, n1 & mask1, pb);
202    PabloAST* hi_test = LE_Range(diff_count - 1, n2 & mask1, pb);
203
204    return pb.createAnd(common, pb.createSel(getBasisVar(diff_count - 1), hi_test, lo_test));
205}
206
207template<typename PabloBlockOrBuilder>
208PabloAST * CC_Compiler::GE_Range(const unsigned N, const unsigned n, PabloBlockOrBuilder &pb) {
209    if (N == 0) {
210        return pb.createOnes(); //Return a true literal.
211    }
212    else if (((N % 2) == 0) && ((n >> (N - 2)) == 0)) {
213        return pb.createOr(pb.createOr(getBasisVar(N - 1), getBasisVar(N - 2)), GE_Range(N - 2, n, pb));
214    }
215    else if (((N % 2) == 0) && ((n >> (N - 2)) == 3)) {
216        return pb.createAnd(pb.createAnd(getBasisVar(N - 1), getBasisVar(N - 2)), GE_Range(N - 2, n - (3 << (N - 2)), pb));
217    }
218    else if (N >= 1)
219    {
220        int hi_bit = n & (1 << (N - 1));
221        int lo_bits = n - hi_bit;
222        PabloAST * lo_range = GE_Range(N - 1, lo_bits, pb);
223        if (hi_bit == 0)
224        {
225            /*
226              If the hi_bit of n is not set, then whenever the corresponding bit
227              is set in the target, the target will certaily be >=.  Oterwise,
228              the value of GE_range(N-1), lo_range) is required.
229            */
230            return pb.createOr(getBasisVar(N - 1), lo_range);
231        }
232        else
233        {
234            /*
235              If the hi_bit of n is set, then the corresponding bit must be set
236              in the target for >= and GE_range(N-1, lo_bits) must also be true.
237            */
238            return pb.createAnd(getBasisVar(N - 1), lo_range);
239        }
240    }
241    throw std::runtime_error("Unexpected input given to ge_range: " + std::to_string(N) + ", " + std::to_string(n));
242}
243
244template<typename PabloBlockOrBuilder>
245PabloAST * CC_Compiler::LE_Range(const unsigned N, const unsigned n, PabloBlockOrBuilder &pb)
246{
247    /*
248      If an N-bit pattern is all ones, then it is always true that any n-bit value is LE this pattern.
249      Handling this as a special case avoids an overflow issue with n+1 requiring more than N bits.
250    */
251    if ((n + 1) == (1 << N)) {
252        return pb.createOnes(); //True.
253    }
254    else {
255        return pb.createNot(GE_Range(N, n + 1, pb));
256    }
257}
258
259template<typename PabloBlockOrBuilder>
260inline PabloAST * CC_Compiler::char_or_range_expr(const codepoint_t lo, const codepoint_t hi, PabloBlockOrBuilder &pb) {
261    if (lo == hi) {
262        return char_test_expr(lo, pb);
263    }
264    else if (lo < hi) {
265        return make_range(lo, hi, pb);
266    }
267    throw std::runtime_error(std::string("Invalid Character Set Range: [") + std::to_string(lo) + "," + std::to_string(hi) + "]");
268}
269
270inline Var * CC_Compiler::getBasisVar(const int i) const {
271    return mBasisBit[i];
272}
273
274} // end of namespace cc
Note: See TracBrowser for help on using the repository browser.