source: icGREP/icgrep-devel/icgrep/icgrep.cpp @ 5964

Last change on this file since 5964 was 5964, checked in by cameron, 12 months ago

Restructuring in preparation for command-line file include/exclude GLOBs

File size: 5.7 KB
Line 
1/*
2 *  Copyright (c) 2014-8 International Characters.
3 *  This software is licensed to the public under the Open Software License 3.0.
4 *  icgrep is a trademark of International Characters.
5 */
6
7#include <cstdio>
8#include <vector>
9#include <llvm/Support/CommandLine.h>
10#include <llvm/Support/ErrorHandling.h>
11#include <llvm/Support/Signals.h>
12#include <llvm/Support/raw_ostream.h>
13#include <re/re_alt.h>
14#include <re/re_seq.h>
15#include <re/re_start.h>
16#include <re/re_end.h>
17#include <re/parsers/parser.h>
18#include <re/re_utility.h>
19#include <grep/grep_engine.h>
20#include <grep_interface.h>
21#include <fstream>
22#include <string>
23#include <toolchain/toolchain.h>
24#include <re/re_toolchain.h>
25#include <pablo/pablo_toolchain.h>
26#include <boost/filesystem.hpp>
27#include <util/file_select.h>
28#include <sys/stat.h>
29#include <fcntl.h>
30
31using namespace llvm;
32
33static cl::list<std::string> inputFiles(cl::Positional, cl::desc("<regex> <input file ...>"), cl::OneOrMore);
34
35static cl::opt<bool> ByteMode("enable-byte-mode", cl::desc("Process regular expressions in byte mode"));
36
37static cl::opt<int> REsPerGroup("re-num", cl::desc("Number of regular expressions processed by each kernel."), cl::init(0));
38
39static re::ModeFlagSet globalFlags = re::MULTILINE_MODE_FLAG;
40
41std::vector<re::RE *> readExpressions() {
42 
43    if (argv::FileFlag != "") {
44        std::ifstream regexFile(argv::FileFlag.c_str());
45        std::string r;
46        if (regexFile.is_open()) {
47            while (std::getline(regexFile, r)) {
48                argv::RegexpVector.push_back(r);
49            }
50            regexFile.close();
51        }
52    }
53   
54    // if there are no regexes specified through -e or -f, the first positional argument
55    // must be a regex, not an input file.
56   
57    if (argv::RegexpVector.size() == 0) {
58        argv::RegexpVector.push_back(inputFiles[0]);
59        inputFiles.erase(inputFiles.begin());
60    }
61    if (argv::IgnoreCaseFlag) {
62        globalFlags |= re::CASE_INSENSITIVE_MODE_FLAG;
63    }
64
65    std::vector<re::RE *> REs;
66    for (unsigned i = 0; i < argv::RegexpVector.size(); i++) {
67        re::RE * re_ast = re::RE_Parser::parse(argv::RegexpVector[i], globalFlags, argv::RegexpSyntax, ByteMode);
68        REs.push_back(re_ast);
69    }
70
71   
72    // If there are multiple REs, combine them into groups.
73    // A separate kernel will be created for each group.
74    if (REs.size() > 1) {
75        codegen::SegmentPipelineParallel = true;
76        if (REsPerGroup == 0) {
77            // If no grouping factor is specified, we use a default formula.
78            REsPerGroup = (REs.size() + codegen::ThreadNum) / (codegen::ThreadNum + 1);
79        }
80        std::vector<re::RE *> groups;
81        auto start = REs.begin();
82        auto end = start + REsPerGroup;
83        while (end < REs.end()) {
84            groups.push_back(re::makeAlt(start, end));
85            start = end;
86            end += REsPerGroup;
87        }
88        if ((REs.end() - start) > 1) {
89            groups.push_back(re::makeAlt(start, REs.end()));
90        } else {
91            groups.push_back(*start);
92        }
93    REs.swap(groups);
94    }
95    for (re::RE *& re_ast : REs) {
96        assert (re_ast);
97        if (argv::WordRegexpFlag) {
98            re_ast = re::makeSeq({re::makeWordBoundary(), re_ast, re::makeWordBoundary()});
99        }
100        if (argv::LineRegexpFlag) {
101            re_ast = re::makeSeq({re::makeStart(), re_ast, re::makeEnd()});
102        }
103    }
104
105    return REs;
106}
107
108namespace fs = boost::filesystem;
109
110int main(int argc, char *argv[]) {
111
112    argv::InitializeCommandLineInterface(argc, argv);
113   
114    auto REs = readExpressions();
115
116    std::vector<fs::path> allFiles = argv::getFullFileList(inputFiles);
117    if (inputFiles.empty()) {
118        argv::UseStdIn = true;
119    }
120    else if ((allFiles.size() > 1) && !argv::NoFilenameFlag) {
121        argv::WithFilenameFlag = true;
122    }
123
124    grep::GrepEngine * grepEngine = nullptr;
125   
126    switch (argv::Mode) {
127        case argv::NormalMode:
128            grepEngine = new grep::EmitMatchesEngine();
129            if (argv::MaxCountFlag) grepEngine->setMaxCount(argv::MaxCountFlag);
130            if (argv::WithFilenameFlag) grepEngine->showFileNames();
131            if (argv::LineNumberFlag) grepEngine->showLineNumbers();
132            if (argv::InitialTabFlag) grepEngine->setInitialTab();
133           break;
134        case argv::CountOnly:
135            grepEngine = new grep::CountOnlyEngine();
136            if (argv::WithFilenameFlag) grepEngine->showFileNames();
137            if (argv::MaxCountFlag) grepEngine->setMaxCount(argv::MaxCountFlag);
138           break;
139        case argv::FilesWithMatch:
140        case argv::FilesWithoutMatch:
141            grepEngine = new grep::MatchOnlyEngine(argv::Mode == argv::FilesWithoutMatch, argv::NullFlag);
142            break;
143        case argv::QuietMode:
144            grepEngine = new grep::QuietModeEngine(); break;
145        default: llvm_unreachable("Invalid grep mode!");
146    }
147    if (argv::IgnoreCaseFlag) grepEngine->setCaseInsensitive();
148    if (argv::InvertMatchFlag) grepEngine->setInvertMatches();
149    if (argv::UnicodeLinesFlag) {
150        grepEngine->setRecordBreak(grep::GrepRecordBreakKind::Unicode);
151    } else if (argv::NullDataFlag) {
152        grepEngine->setRecordBreak(grep::GrepRecordBreakKind::Null);
153    } else {
154        grepEngine->setRecordBreak(grep::GrepRecordBreakKind::LF);
155    }
156    grepEngine->setStdinLabel(argv::LabelFlag);
157    if (argv::UseStdIn) grepEngine->setGrepStdIn();
158    if (argv::NoMessagesFlag) grepEngine->suppressFileMessages();
159    if (argv::MmapFlag) grepEngine->setPreferMMap();
160    grepEngine->initREs(REs);
161    grepEngine->grepCodeGen();
162    grepEngine->initFileResult(allFiles);
163    bool matchFound = grepEngine->searchAllFiles();
164    delete(grepEngine);
165   
166    return matchFound ? argv::MatchFoundExitCode : argv::MatchNotFoundExitCode;
167}
Note: See TracBrowser for help on using the repository browser.