source: icGREP/icgrep-devel/icgrep/icgrep.cpp @ 5476

Last change on this file since 5476 was 5476, checked in by cameron, 2 years ago

Command line interface - systematic support for legacy flags

File size: 8.4 KB
Line 
1/*
2 *  Copyright (c) 2016 International Characters.
3 *  This software is licensed to the public under the Open Software License 3.0.
4 *  icgrep is a trademark of International Characters.
5 */
6
7#include <cstdio>
8#include <vector>
9#include <llvm/Support/CommandLine.h>
10#include <llvm/Support/ErrorHandling.h>
11#include <llvm/Support/Signals.h>
12#include <llvm/Support/raw_ostream.h>
13#include <re/re_alt.h>
14#include <re/re_seq.h>
15#include <re/re_start.h>
16#include <re/re_end.h>
17#include <re/re_parser.h>
18#include <re/re_utility.h>
19#include <grep_engine.h>
20#include <grep_interface.h>
21#include <fstream>
22#include <string>
23#include <toolchain/toolchain.h>
24#include <re/re_toolchain.h>
25#include <pablo/pablo_toolchain.h>
26#include <mutex>
27#include <boost/filesystem.hpp>
28#include <iostream> // MEEE
29#ifdef PRINT_TIMING_INFORMATION
30#include <hrtime.h>
31#include <util/papi_helper.hpp>
32#endif
33#include <sys/stat.h>
34#include <fcntl.h>
35
36using namespace llvm;
37
38static cl::OptionCategory LegacyGrepOptions("A. Standard Grep Options",
39                                       "These are standard grep options intended for compatibility with typical grep usage.");
40
41
42static cl::opt<bool> UTF_16("UTF-16", cl::desc("Regular expressions over the UTF-16 representation of Unicode."), cl::cat(LegacyGrepOptions));
43static cl::OptionCategory EnhancedGrepOptions("B. Enhanced Grep Options",
44                                       "These are additional options for icgrep functionality and performance.");
45
46
47static cl::list<std::string> inputFiles(cl::Positional, cl::desc("<regex> <input file ...>"), cl::OneOrMore);
48
49static cl::list<std::string> regexVector("e", cl::desc("Regular expression"), cl::ZeroOrMore, cl::cat(LegacyGrepOptions));
50static cl::opt<std::string> RegexFilename("f", cl::desc("Take regular expressions (one per line) from a file"), cl::value_desc("regex file"), cl::init(""), cl::cat(LegacyGrepOptions));
51
52static cl::opt<int> Threads("t", cl::desc("Total number of threads."), cl::init(1));
53
54static cl::opt<bool> MultiGrepKernels("enable-multigrep-kernels", cl::desc("Construct separated kernels for each regular expression"), cl::cat(EnhancedGrepOptions));
55static cl::opt<int> REsPerGroup("re-num", cl::desc("Number of regular expressions processed by each kernel."), cl::init(1));
56static std::vector<std::string> allFiles;
57
58static re::ModeFlagSet globalFlags = 0;
59
60std::vector<re::RE *> readExpressions() {
61 
62    if (RegexFilename != "") {
63        std::ifstream regexFile(RegexFilename.c_str());
64        std::string r;
65        if (regexFile.is_open()) {
66            while (std::getline(regexFile, r)) {
67                regexVector.push_back(r);
68            }
69            regexFile.close();
70        }
71    }
72   
73    // if there are no regexes specified through -e or -f, the first positional argument
74    // must be a regex, not an input file.
75   
76    if (regexVector.size() == 0) {
77        regexVector.push_back(inputFiles[0]);
78        inputFiles.erase(inputFiles.begin());
79    }
80    if (grep::IgnoreCaseFlag) {
81        globalFlags |= re::CASE_INSENSITIVE_MODE_FLAG;
82    }
83
84    std::vector<re::RE *> REs;
85    for (unsigned i = 0; i < regexVector.size(); i++) {
86        re::RE * re_ast = re::RE_Parser::parse(regexVector[i], globalFlags, grep::RegexpSyntax);
87        REs.push_back(re_ast);
88    }
89
90    if (MultiGrepKernels) {
91        std::vector<re::RE *> groups;
92        auto start = REs.begin();
93        auto end = start + REsPerGroup;
94        while (end < REs.end()) {
95            groups.push_back(re::makeAlt(start, end));
96            start = end;
97            end += REsPerGroup;
98        }
99        if ((REs.end() - start) > 1) {
100            groups.push_back(re::makeAlt(start, REs.end()));
101        } else {
102            groups.push_back(*start);
103        }
104        REs.swap(groups);
105    } else if (REs.size() > 1) {
106        re::RE * re_ast = re::makeAlt(REs.begin(), REs.end());
107        REs.assign({re_ast});
108    }
109
110    for (re::RE *& re_ast : REs) {
111        if (grep::WordRegexpFlag) {
112            re_ast = re::makeSeq({re::makeWordBoundary(), re_ast, re::makeWordBoundary()});
113        }
114        if (grep::LineRegexpFlag) {
115            re_ast = re::makeSeq({re::makeStart(), re_ast, re::makeEnd()});
116        }
117    }
118
119    return REs;
120}
121
122std::vector<size_t> total_Count;
123std::mutex count_mutex;
124size_t fileCount;
125void *DoGrep(void *args)
126{
127    size_t fileIdx;
128    grep::GrepEngine * grepEngine = (grep::GrepEngine *)args;
129
130    count_mutex.lock();
131    fileIdx = fileCount;
132    fileCount++;
133    count_mutex.unlock();
134
135    while (fileIdx < allFiles.size()) {
136        total_Count[fileIdx] = grepEngine->doGrep(allFiles[fileIdx], fileIdx);
137       
138        count_mutex.lock();
139        fileIdx = fileCount;
140        fileCount++;
141        count_mutex.unlock();
142    }
143
144    pthread_exit(nullptr);
145}
146
147
148// This is a stub, to be expanded later.
149bool excludeDirectory(boost::filesystem::path dirpath) { return dirpath.filename() == ".svn";}
150
151std::vector<std::string> getFullFileList(cl::list<std::string> & inputFiles) {
152    using namespace boost::filesystem;
153    symlink_option follow_symlink = grep::DereferenceRecursiveFlag ? symlink_option::recurse : symlink_option::none;
154    std::vector<std::string> expanded_paths;
155    boost::system::error_code errc;
156    if (grep::DereferenceRecursiveFlag) {
157        grep::RecursiveFlag = true;
158    }
159    for (const std::string & f : inputFiles) {
160//        if (f == "-") {
161//            continue;
162//        }
163        path p(f);
164        if (LLVM_UNLIKELY(grep::RecursiveFlag && is_directory(p))) {
165            if (!excludeDirectory(p)) {
166                recursive_directory_iterator di(p, follow_symlink, errc), end;
167                if (errc) {
168                    // If we cannot enter the directory, keep it in the list of files.
169                    expanded_paths.push_back(f); 
170                    continue;
171                }
172                while (di != end) {
173                    auto & e = di->path();
174                    if (is_directory(e)) {
175                        if (LLVM_UNLIKELY(excludeDirectory(e))) {
176                            di.no_push();
177                        }
178                    } else {
179                        expanded_paths.push_back(e.string());
180                    }
181                    di.increment(errc);
182                    if (errc) {
183                        expanded_paths.push_back(e.string()); 
184                    }
185                }
186            }
187        } else {
188            expanded_paths.push_back(p.string());
189        }
190    }
191    return expanded_paths;
192}
193
194
195int main(int argc, char *argv[]) {
196
197    grep::InitializeCommandLineInterface(argc, argv);
198   
199    const auto REs = readExpressions();
200
201    allFiles = getFullFileList(inputFiles);
202
203    grep::GrepEngine grepEngine;
204
205    if (allFiles.empty()) {
206
207        grepEngine.grepCodeGen(REs, grep::Mode, UTF_16, GrepSource::StdIn);
208        allFiles = { "-" };
209        grep::initFileResult(allFiles);
210        total_Count.resize(1);
211        total_Count[0] = grepEngine.doGrep(STDIN_FILENO, 0);
212
213    } else {
214       
215        setNVPTXOption();
216       
217        if (codegen::NVPTX) {
218            grepEngine.grepCodeGen_nvptx(REs, grep::Mode, UTF_16);
219            for (unsigned i = 0; i != allFiles.size(); ++i) {
220                grepEngine.doGrep(allFiles[i]);
221            }
222            return 0;
223        } else {
224            grepEngine.grepCodeGen(REs, grep::Mode, UTF_16, GrepSource::File);
225        }
226
227        grep::initFileResult(allFiles);
228        total_Count.resize(allFiles.size());
229
230        if (Threads <= 1) {
231            for (unsigned i = 0; i != allFiles.size(); ++i) {
232                total_Count[i] = grepEngine.doGrep(allFiles[i], i);
233            }
234        } else if (Threads > 1) {
235            const unsigned numOfThreads = Threads; // <- convert the command line value into an integer to allow stack allocation
236            pthread_t threads[numOfThreads];
237
238            for(unsigned long i = 0; i < numOfThreads; ++i){
239                const int rc = pthread_create(&threads[i], nullptr, DoGrep, (void *)&grepEngine);
240                if (rc) {
241                    llvm::report_fatal_error("Failed to create thread: code " + std::to_string(rc));
242                }
243            }
244            for(unsigned i = 0; i < numOfThreads; ++i) {
245                void * status = nullptr;
246                const int rc = pthread_join(threads[i], &status);
247                if (rc) {
248                    llvm::report_fatal_error("Failed to join thread: code " + std::to_string(rc));
249                }
250            }
251        }
252
253    }
254   
255    grep::PrintResult(grep::Mode, total_Count);
256   
257    return 0;
258}
Note: See TracBrowser for help on using the repository browser.