source: icGREP/icgrep-devel/icgrep/re/re_compiler.h @ 5555

Last change on this file since 5555 was 5555, checked in by cameron, 2 years ago

Flattening if-hierarchy for bounded repetitions, allowing CCs to pass through to re_compiler

File size: 6.1 KB
Line 
1/*
2 *  Copyright (c) 2014 International Characters.
3 *  This software is licensed to the public under the Open Software License 3.0.
4 *  icgrep is a trademark of International Characters.
5 */
6
7#ifndef RE_TO_PABLO_COMPILER_H
8#define RE_TO_PABLO_COMPILER_H
9
10#include <re/re_seq.h>  // for Seq
11#include <boost/container/flat_map.hpp>
12#include <pablo/builder.hpp>
13#include <vector>       // for vector<>::iterator
14namespace cc { class CC_Compiler; }
15namespace pablo { class PabloAST; }
16namespace pablo { class PabloBuilder; }
17namespace pablo { class PabloKernel; }
18namespace re { class Alt; }
19namespace re { class Assertion; }
20namespace re { class Diff; }
21namespace re { class Intersect; }
22namespace re { class Name; }
23namespace re { class RE; }
24namespace re { class Rep; }
25namespace re { class CC; }
26
27//namespace UCD {
28//class UnicodeSet;
29//}
30
31/*   Marker streams represent the results of matching steps.
32     Three types of marker streams are used internally.
33     FinalMatchUnit markers are used for character classes and
34     other strings identified by a one bit at their final position.
35     InitialPostPositionUnit markers are used to mark matches with
36     a 1 bit immediately after a match.   InitialPostPositionUnit markers
37     are generally required whenever a regular expression element
38     can match the empty string (e.g., * and ? repeated items).
39     FinalPostPositionUnit markers are used for single code unit
40     lookahead assertions. 
41*/
42
43namespace re {
44
45enum MarkerPosition {FinalMatchUnit, FinalPostPositionUnit};
46
47struct MarkerType { 
48    MarkerPosition pos;
49    pablo::PabloAST * stream;
50    MarkerType & operator =(const MarkerType &) = default;
51};
52
53inline MarkerPosition markerPos(const MarkerType & m) {return m.pos; }
54
55inline pablo::PabloAST * markerVar(const MarkerType & m) {return m.stream; }
56
57inline MarkerType makeMarker(MarkerPosition newpos, pablo::PabloAST * strm) {return {newpos, strm};}
58
59
60class RE_Compiler {
61public:
62
63    RE_Compiler(pablo::PabloKernel * kernel, cc::CC_Compiler & ccCompiler);
64    void initializeRequiredStreams(const unsigned encodingBits, pablo::Var * linebreak);
65    void compileUnicodeNames(RE *& re);
66    void compile(RE * re); 
67
68    static LLVM_ATTRIBUTE_NORETURN void UnsupportedRE(std::string errmsg);
69   
70private:
71
72    struct NameMap {
73        NameMap(NameMap * parent = nullptr) : mParent(parent), mMap() {}
74        bool get(const Name * name, MarkerType & marker) const {
75            auto f = mMap.find(name);
76            if (f == mMap.end()) {
77                return mParent ? mParent->get(name, marker) : false;
78            } else {
79                marker = f->second;
80                return true;
81            }
82        }
83        void add(const Name * const name, MarkerType marker) {
84            mMap.emplace(name, std::move(marker));
85        }
86        NameMap * getParent() const { return mParent; }
87    private:
88        NameMap * const mParent;
89        boost::container::flat_map<const Name *, MarkerType> mMap;
90    };
91
92    void initializeRequiredStreams_utf8(pablo::Var * linebreak);
93    void initializeRequiredStreams_utf16(pablo::Var * linebreak);
94    MarkerType compile(RE * re, pablo::PabloBuilder & cg);
95
96    MarkerType process(RE * re, MarkerType marker, pablo::PabloBuilder & pb);
97    MarkerType compileName(Name * name, MarkerType marker, pablo::PabloBuilder & pb);
98    MarkerType compileCC(CC * cc, MarkerType marker, pablo::PabloBuilder & pb);
99    MarkerType compileSeq(Seq * seq, MarkerType marker, pablo::PabloBuilder & pb);
100    MarkerType compileSeqTail(Seq::iterator current, const Seq::iterator end, int matchLenSoFar, MarkerType marker, pablo::PabloBuilder & pb);
101    MarkerType compileAlt(Alt * alt, MarkerType marker, pablo::PabloBuilder & pb);
102    MarkerType compileAssertion(Assertion * a, MarkerType marker, pablo::PabloBuilder & pb);
103    MarkerType compileRep(Rep * rep, MarkerType marker, pablo::PabloBuilder & pb);
104    MarkerType compileDiff(Diff * diff, MarkerType marker, pablo::PabloBuilder & cg);
105    MarkerType compileIntersect(Intersect * x, MarkerType marker, pablo::PabloBuilder & cg);
106    pablo::PabloAST * consecutive_matches(pablo::PabloAST * repeated,  int length, int repeat_count, pablo::PabloBuilder & pb);
107    pablo::PabloAST * reachable(pablo::PabloAST * repeated,  int length, int repeat_count, pablo::PabloBuilder & pb);
108    static bool isFixedLength(RE * regexp);
109    MarkerType processLowerBound(RE * repeated,  int lb, MarkerType marker, int ifGroupSize, pablo::PabloBuilder & pb);
110    MarkerType processUnboundedRep(RE * repeated, MarkerType marker, pablo::PabloBuilder & pb);
111    MarkerType processBoundedRep(RE * repeated, int ub, MarkerType marker, int ifGroupSize,  pablo::PabloBuilder & pb);
112    RE * resolveUnicodeProperties(RE * re);
113
114    MarkerType compileName(Name * name, pablo::PabloBuilder & pb);
115    MarkerType compileAny(const MarkerType m, pablo::PabloBuilder & pb);
116    MarkerType compileStart(const MarkerType marker, pablo::PabloBuilder & pb);
117    MarkerType compileEnd(const MarkerType marker, pablo::PabloBuilder & pb);
118
119    MarkerType AdvanceMarker(MarkerType marker, const MarkerPosition newpos, pablo::PabloBuilder & pb);
120    void AlignMarkers(MarkerType & m1, MarkerType & m2, pablo::PabloBuilder & pb);
121
122private:
123
124    pablo::PabloKernel * const                      mKernel;
125    bool                                            mCountOnly;
126    cc::CC_Compiler &                               mCCCompiler;
127    pablo::PabloAST *                               mLineBreak;
128    pablo::PabloAST *                               mCRLF;
129    pablo::PabloAST *                               mAny;
130    pablo::PabloAST *                               mGraphemeBoundaryRule;
131    pablo::PabloAST *                               mInitial;
132    pablo::PabloAST *                               mNonFinal;
133    pablo::PabloAST *                               mFinal;
134    pablo::PabloAST *                               mWhileTest;
135    int                                             mStarDepth;
136    pablo::PabloBuilder &                           mPB;
137    NameMap *                                       mCompiledName;
138    NameMap                                         mBaseMap;
139};
140
141}
142
143#endif // COMPILER_H
Note: See TracBrowser for help on using the repository browser.