source: icGREP/icgrep-devel/icgrep/re/re_compiler.h @ 5789

Last change on this file since 5789 was 5786, checked in by cameron, 18 months ago

Decouple Unicode property support from re_compiler; initial support for (?-m) flag

File size: 5.7 KB
Line 
1/*
2 *  Copyright (c) 2014 International Characters.
3 *  This software is licensed to the public under the Open Software License 3.0.
4 *  icgrep is a trademark of International Characters.
5 */
6
7#ifndef RE_TO_PABLO_COMPILER_H
8#define RE_TO_PABLO_COMPILER_H
9
10#include <re/re_seq.h>  // for Seq
11#include <boost/container/flat_map.hpp>
12#include <pablo/builder.hpp>
13#include <vector>       // for vector<>::iterator
14namespace cc { class CC_Compiler; }
15namespace pablo { class PabloAST; }
16namespace pablo { class PabloBuilder; }
17namespace pablo { class PabloKernel; }
18namespace re { class Alt; }
19namespace re { class Assertion; }
20namespace re { class Diff; }
21namespace re { class Intersect; }
22namespace re { class Name; }
23namespace re { class RE; }
24namespace re { class Rep; }
25namespace re { class CC; }
26
27//namespace UCD {
28//class UnicodeSet;
29//}
30
31/*   Marker streams represent the results of matching steps.
32     Three types of marker streams are used internally.
33     FinalMatchUnit markers are used for character classes and
34     other strings identified by a one bit at their final position.
35     InitialPostPositionUnit markers are used to mark matches with
36     a 1 bit immediately after a match.   InitialPostPositionUnit markers
37     are generally required whenever a regular expression element
38     can match the empty string (e.g., * and ? repeated items).
39     FinalPostPositionUnit markers are used for single code unit
40     lookahead assertions. 
41*/
42
43namespace re {
44
45enum MarkerPosition {FinalMatchUnit, FinalPostPositionUnit};
46
47struct MarkerType { 
48    MarkerPosition pos;
49    pablo::PabloAST * stream;
50    MarkerType & operator =(const MarkerType &) = default;
51};
52
53inline MarkerPosition markerPos(const MarkerType & m) {return m.pos; }
54
55inline pablo::PabloAST * markerVar(const MarkerType & m) {return m.stream; }
56
57inline MarkerType makeMarker(MarkerPosition newpos, pablo::PabloAST * strm) {return {newpos, strm};}
58
59
60class RE_Compiler {
61public:
62
63    RE_Compiler(pablo::PabloKernel * kernel, cc::CC_Compiler & ccCompiler);
64    pablo::PabloAST * compile(RE * re);
65
66    static LLVM_ATTRIBUTE_NORETURN void UnsupportedRE(std::string errmsg);
67   
68private:
69
70    struct NameMap {
71        NameMap(NameMap * parent = nullptr) : mParent(parent), mMap() {}
72        bool get(const Name * name, MarkerType & marker) const {
73            auto f = mMap.find(name);
74            if (f == mMap.end()) {
75                return mParent ? mParent->get(name, marker) : false;
76            } else {
77                marker = f->second;
78                return true;
79            }
80        }
81        void add(const Name * const name, MarkerType marker) {
82            mMap.emplace(name, std::move(marker));
83        }
84        NameMap * getParent() const { return mParent; }
85    private:
86        NameMap * const mParent;
87        boost::container::flat_map<const Name *, MarkerType> mMap;
88    };
89
90    MarkerType compile(RE * re, pablo::PabloBuilder & cg);
91
92    MarkerType process(RE * re, MarkerType marker, pablo::PabloBuilder & pb);
93    MarkerType compileName(Name * name, MarkerType marker, pablo::PabloBuilder & pb);
94    MarkerType compileCC(CC * cc, MarkerType marker, pablo::PabloBuilder & pb);
95    MarkerType compileSeq(Seq * seq, MarkerType marker, pablo::PabloBuilder & pb);
96    MarkerType compileSeqTail(Seq::iterator current, const Seq::iterator end, int matchLenSoFar, MarkerType marker, pablo::PabloBuilder & pb);
97    MarkerType compileAlt(Alt * alt, MarkerType marker, pablo::PabloBuilder & pb);
98    MarkerType compileAssertion(Assertion * a, MarkerType marker, pablo::PabloBuilder & pb);
99    MarkerType compileRep(Rep * rep, MarkerType marker, pablo::PabloBuilder & pb);
100    MarkerType compileDiff(Diff * diff, MarkerType marker, pablo::PabloBuilder & cg);
101    MarkerType compileIntersect(Intersect * x, MarkerType marker, pablo::PabloBuilder & cg);
102    pablo::PabloAST * consecutive_matches(pablo::PabloAST * repeated_j, int j, int repeat_count, pablo::PabloAST * indexStream, pablo::PabloBuilder & pb);
103    pablo::PabloAST * reachable(pablo::PabloAST * repeated, int length, int repeat_count, pablo::PabloAST * indexStream, pablo::PabloBuilder & pb);
104    static bool isFixedLength(RE * regexp);
105    MarkerType processLowerBound(RE * repeated,  int lb, MarkerType marker, int ifGroupSize, pablo::PabloBuilder & pb);
106    MarkerType processUnboundedRep(RE * repeated, MarkerType marker, pablo::PabloBuilder & pb);
107    MarkerType processBoundedRep(RE * repeated, int ub, MarkerType marker, int ifGroupSize,  pablo::PabloBuilder & pb);
108
109    MarkerType compileName(Name * name, pablo::PabloBuilder & pb);
110    MarkerType compileAny(const MarkerType m, pablo::PabloBuilder & pb);
111    MarkerType compileStart(MarkerType marker, pablo::PabloBuilder & pb);
112    MarkerType compileEnd(MarkerType marker, pablo::PabloBuilder & pb);
113
114    MarkerType AdvanceMarker(MarkerType marker, const MarkerPosition newpos, pablo::PabloBuilder & pb);
115    void AlignMarkers(MarkerType & m1, MarkerType & m2, pablo::PabloBuilder & pb);
116
117private:
118
119    pablo::PabloKernel * const                      mKernel;
120    bool                                            mCountOnly;
121    cc::CC_Compiler &                               mCCCompiler;
122    pablo::PabloAST *                               mLineBreak;
123    pablo::PabloAST *                               mCRLF;
124    pablo::PabloAST *                               mInitial;
125    pablo::PabloAST *                               mNonFinal;
126    pablo::PabloAST *                               mFinal;
127    pablo::PabloAST *                               mWhileTest;
128    int                                             mStarDepth;
129    pablo::PabloBuilder &                           mPB;
130    NameMap *                                       mCompiledName;
131    NameMap                                         mBaseMap;
132};
133
134}
135
136#endif // COMPILER_H
Note: See TracBrowser for help on using the repository browser.