source: icGREP/icgrep-devel/icgrep/re/re_parser.h @ 4831

Last change on this file since 4831 was 4831, checked in by nmedfort, 4 years ago

First attempt at adding grapheme cluster mode to icgrep.

File size: 4.5 KB
Line 
1/*
2 *  Copyright (c) 2014 International Characters.
3 *  This software is licensed to the public under the Open Software License 3.0.
4 *  icgrep is a trademark of International Characters.
5 */
6
7#ifndef RE_PARSER_H
8#define RE_PARSER_H
9
10#include <re/re_re.h>
11#include <re/re_any.h>
12#include <re/re_name.h>
13#include <UCD/resolve_properties.h>
14#include <string>
15#include <list>
16#include <memory>
17#include <map>
18#include <re/re_memoizer.hpp>
19#include <re/parsefailure.h>
20
21namespace re {
22
23enum CharsetOperatorKind
24    {intersectOp, setDiffOp, ampChar, hyphenChar, rangeHyphen, posixPropertyOpener, setOpener, setCloser, backSlash, emptyOperator};
25
26enum ModeFlagType : unsigned {
27    NONE = 0,
28    CASE_INSENSITIVE_MODE_FLAG = 1,
29    MULTILINE_MODE_FLAG = 2,      // not currently implemented
30    DOTALL_MODE_FLAG = 4,         // not currently implemented
31    IGNORE_SPACE_MODE_FLAG = 8,   // not currently implemented
32    UNIX_LINES_MODE_FLAG = 16,    // not currently implemented
33    GRAPHEME_CLUSTER_MODE = 32
34};
35
36const int MAX_REPETITION_LOWER_BOUND = 1024;
37const int MAX_REPETITION_UPPER_BOUND = 2048;
38
39typedef unsigned ModeFlagSet;
40
41class RE_Parser
42{
43public:
44
45    static RE * parse(const std::string &input_string, ModeFlagSet initialFlags);
46
47private:
48
49    using NameMap = std::map<std::pair<std::string, std::string>, re::Name *>;
50
51    using cursor_t = std::string::const_iterator;
52
53    using char_t = const std::string::value_type;
54
55    struct Cursor {
56
57        inline Cursor & operator++() {
58            if (LLVM_UNLIKELY(mCursor == mEnd)) {
59                throw IncompleteRegularExpression();
60            }
61            ++mCursor;
62            return *this;
63        }
64
65        inline Cursor operator++(int) {
66            if (LLVM_UNLIKELY(mCursor == mEnd)) {
67                throw IncompleteRegularExpression();
68            }
69            Cursor tmp(*this);
70            ++mCursor;
71            return tmp;
72        }
73
74        inline const char_t operator*() const {
75            if (LLVM_UNLIKELY(mCursor == mEnd)) {
76                return 0;
77            }
78            return *mCursor;
79        }
80
81        inline bool noMore() const {
82            return mCursor == mEnd;
83        }
84
85        inline bool more() const {
86            return mCursor != mEnd;
87        }
88
89        inline cursor_t::difference_type remaining() const {
90            return mEnd - mCursor;
91        }
92
93        inline cursor_t pos() const {
94            return mCursor;
95        }
96
97        Cursor(const std::string & expression) : mCursor(expression.cbegin()), mEnd(expression.cend()) {}
98        Cursor(const Cursor & cursor) : mCursor(cursor.mCursor), mEnd(cursor.mEnd) {}
99        inline Cursor & operator=(const Cursor & cursor) {
100            mCursor = cursor.mCursor;
101            mEnd = cursor.mEnd;
102            return *this;
103        }
104    private:
105        cursor_t    mCursor;
106        cursor_t    mEnd;
107    };
108
109    RE_Parser(const std::string & regular_expression);
110
111    RE_Parser(const std::string & regular_expression, ModeFlagSet initialFlags);
112
113    RE * parse_RE();
114
115    RE * parse_alt();
116
117    RE * parse_seq();
118
119    RE * parse_next_item();
120
121    RE * parse_group();
122
123    RE * extend_item(RE * re);
124
125    RE * parseGraphemeBoundary(RE * re);
126
127    std::pair<int, int> parse_range_bound();
128
129    unsigned parse_int();
130
131    RE * parse_escaped();
132
133    RE * parseEscapedSet();
134
135    codepoint_t parse_utf8_codepoint();
136
137    RE * parsePropertyExpression();
138
139    RE * parseNamePatternExpression();
140
141    RE * makeComplement(RE * s);
142    RE * makeWordBoundary();
143    RE * makeWordNonBoundary();
144    Name * makeDigitSet();
145    Name * makeAlphaNumeric();
146    Name * makeWhitespaceSet();
147    Name * makeWordSet();
148
149    Name * createName(std::string && value);
150    Name * createName(std::string && prop, std::string && value);
151
152    CharsetOperatorKind getCharsetOperator();
153
154    RE * parse_charset();
155
156    codepoint_t parse_codepoint();
157
158    codepoint_t parse_escaped_codepoint();
159
160    codepoint_t parse_hex_codepoint(int mindigits, int maxdigits);
161
162    codepoint_t parse_octal_codepoint(int mindigits, int maxdigits);
163
164    // CC insertion dependent on case-insensitive flag.
165    Name * createCC(const codepoint_t cp);
166    void insert(CC * cc, const codepoint_t cp);
167    void insert_range(CC * cc, const codepoint_t lo, const codepoint_t hi);
168
169    static std::string canonicalize(const cursor_t begin, const cursor_t end);
170
171private:
172
173    Cursor                      mCursor;
174    ModeFlagSet                 fModeFlagSet;
175    bool                        fNested;
176    NameMap                     mNameMap;
177    Memoizer                    mMemoizer;
178};
179
180}
181
182#endif // RE_PARSER_H
Note: See TracBrowser for help on using the repository browser.