SCM

SCM Repository

[tm] Diff of /pkg/R/corpus.R
ViewVC logotype

Diff of /pkg/R/corpus.R

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

trunk/R/trunk/R/textdoccol.R revision 37, Wed Jan 11 17:49:17 2006 UTC trunk/textmin/R/textdoccol.R revision 78, Wed Nov 29 14:56:36 2006 UTC
# Line 1  Line 1 
1  # Author: Ingo Feinerer  # Author: Ingo Feinerer
2    
3  setGeneric("textdoccol", function(object, ...) standardGeneric("textdoccol"))  # The "..." are additional arguments for the function_generator parser
4  setMethod("textdoccol",  setGeneric("TextDocCol", function(object, parser = plaintext_parser, ...) standardGeneric("TextDocCol"))
5            c("character", "character", "logical", "logical"),  setMethod("TextDocCol",
6            function(object, inputType = "CSV", stripWhiteSpace = FALSE, toLower = FALSE) {            signature(object = "Source"),
7                # Add a new type for each unique input source format            function(object, parser = plaintext_parser, ...) {
8                type <- match.arg(inputType,c("CSV","RCV1","REUT21578"))                if (inherits(parser, "function_generator"))
9                switch(type,                    parser <- parser(...)
10                       # Text in a special CSV format  
11                       # For details on the file format see the R documentation file                tdl <- list()
12                       # The first argument is a directory with .csv files                counter <- 1
13                       "CSV" = {                while (!eoi(object)) {
14                           tdl <- sapply(dir(object,                    object <- step_next(object)
15                                             pattern = ".csv",                    elem <- get_elem(object)
16                                             full.names = TRUE),                    # If there is no Load on Demand support
17                                         function(file) {                    # we need to load the corpus into memory at startup
18                                             m <- as.matrix(read.csv(file, header = FALSE))                    if (object@LoDSupport)
19                                             l <- vector("list", dim(m)[1])                        load <- object@Load
20                                             for (i in 1:dim(m)[1]) {                    else
21                                                 author <- ""                        load <- TRUE
22                                                 timestamp <- date()                    tdl <- c(tdl, list(parser(elem, object@LoDSupport, load, as.character(counter))))
23                                                 description <- ""                    counter <- counter + 1
                                                id <- as.integer(m[i,1])  
                                                corpus <- as.character(m[i,2:dim(m)[2]])  
                                                if (stripWhiteSpace)  
                                                    corpus <- gsub("[[:space:]]+", " ", corpus)  
                                                if (toLower)  
                                                    corpus <- tolower(corpus)  
                                                origin <- "CSV"  
                                                heading <- ""  
   
                                                l[[i]] <- new("textdocument", .Data = corpus, author = author, timestamp = timestamp,  
                                                              description = description, id = id, origin = origin, heading = heading)  
24                                             }                                             }
25                                             l  
26                  dmeta.df <- data.frame(MetaID = rep(0, length(tdl)), stringsAsFactors = FALSE)
27                  dcmeta.node <- new("MetaDataNode",
28                                NodeID = 0,
29                                MetaData = list(create_date = date(), creator = Sys.getenv("LOGNAME")),
30                                children = list())
31    
32                  return(new("TextDocCol", .Data = tdl, DMetaData = dmeta.df, DCMetaData = dcmeta.node))
33              })
34    
35    setGeneric("DirSource", function(directory, load = FALSE) standardGeneric("DirSource"))
36    setMethod("DirSource",
37              signature(directory = "character"),
38              function(directory, load = FALSE) {
39                  new("DirSource", LoDSupport = TRUE, FileList = dir(directory, full.names = TRUE),
40                      Position = 0, Load = load)
41              })
42    
43    setGeneric("CSVSource", function(object) standardGeneric("CSVSource"))
44    setMethod("CSVSource",
45              signature(object = "character"),
46              function(object) {
47                  object <- substitute(file(object))
48                  con <- eval(object)
49                  content <- scan(con, what = "character")
50                  close(con)
51                  new("CSVSource", LoDSupport = FALSE, URI = object,
52                      Content = content, Position = 0)
53              })
54    setMethod("CSVSource",
55              signature(object = "ANY"),
56              function(object) {
57                  object <- substitute(object)
58                  con <- eval(object)
59                  content <- scan(con, what = "character")
60                  close(con)
61                  new("CSVSource", LoDSupport = FALSE, URI = object,
62                      Content = content, Position = 0)
63              })
64    
65    setGeneric("ReutersSource", function(object) standardGeneric("ReutersSource"))
66    setMethod("ReutersSource",
67              signature(object = "character"),
68              function(object) {
69                  object <- substitute(file(object))
70                  con <- eval(object)
71                  corpus <- paste(readLines(con), "\n", collapse = "")
72                  close(con)
73                  tree <- xmlTreeParse(corpus, asText = TRUE)
74                  content <- xmlRoot(tree)$children
75    
76                  new("ReutersSource", LoDSupport = FALSE, URI = object,
77                      Content = content, Position = 0)
78              })
79    setMethod("ReutersSource",
80              signature(object = "ANY"),
81              function(object) {
82                  object <- substitute(object)
83                  con <- eval(object)
84                  corpus <- paste(readLines(con), "\n", collapse = "")
85                  close(con)
86                  tree <- xmlTreeParse(corpus, asText = TRUE)
87                  content <- xmlRoot(tree)$children
88    
89                  new("ReutersSource", LoDSupport = FALSE, URI = object,
90                      Content = content, Position = 0)
91              })
92    
93    setGeneric("step_next", function(object) standardGeneric("step_next"))
94    setMethod("step_next",
95              signature(object = "DirSource"),
96              function(object) {
97                  object@Position <- object@Position + 1
98                  object
99              })
100    setMethod("step_next",
101              signature(object = "CSVSource"),
102              function(object) {
103                  object@Position <- object@Position + 1
104                  object
105              })
106    setMethod("step_next",
107              signature(object = "ReutersSource"),
108              function(object) {
109                  object@Position <- object@Position + 1
110                  object
111              })
112    
113    setGeneric("get_elem", function(object) standardGeneric("get_elem"))
114    setMethod("get_elem",
115              signature(object = "DirSource"),
116              function(object) {
117                  filename <- object@FileList[object@Position]
118                  list(content = readLines(filename),
119                       uri = substitute(file(filename)))
120                                         })                                         })
121                           tdcl <- new("textdoccol", .Data = tdl)  setMethod("get_elem",
122                       },            signature(object = "CSVSource"),
123                       # Read in text documents in XML Reuters Corpus Volume 1 (RCV1) format            function(object) {
124                       # The first argument is a directory with the RCV1 XML files                list(content = object@Content[object@Position],
125                       "RCV1" = {                     uri = object@URI)
                          tdl <- sapply(dir(object,  
                                            pattern = ".xml",  
                                            full.names = TRUE),  
                                        function(file) {  
                                            tree <- xmlTreeParse(file)  
                                            xmlApply(xmlRoot(tree), parseNewsItem, stripWhiteSpace, toLower)  
                                        })  
                          tdcl <- new("textdoccol", .Data = tdl)  
                      },  
                      # Read in text documents in Reuters-21578 XML (not SGML) format  
                      # Typically the first argument will be a directory where we can  
                      # find the files reut2-000.xml ... reut2-021.xml  
                      "REUT21578" = {  
                          tdl <- sapply(dir(object,  
                                            pattern = ".xml",  
                                            full.names = TRUE),  
                                        function(file) {  
                                            tree <- xmlTreeParse(file)  
                                            xmlApply(xmlRoot(tree), parseReuters, stripWhiteSpace, toLower)  
126                                         })                                         })
127                           tdcl <- new("textdoccol", .Data = tdl)  setMethod("get_elem",
128              signature(object = "ReutersSource"),
129              function(object) {
130                  # Construct a character representation from the XMLNode
131                  con <- textConnection("virtual.file", "w")
132                  saveXML(object@Content[[object@Position]], con)
133                  close(con)
134    
135                  list(content = virtual.file, uri = object@URI)
136              })
137    
138    setGeneric("eoi", function(object) standardGeneric("eoi"))
139    setMethod("eoi",
140              signature(object = "DirSource"),
141              function(object) {
142                  if (length(object@FileList) <= object@Position)
143                      return(TRUE)
144                  else
145                      return(FALSE)
146              })
147    setMethod("eoi",
148              signature(object = "CSVSource"),
149              function(object) {
150                  if (length(object@Content) <= object@Position)
151                      return(TRUE)
152                  else
153                      return(FALSE)
154                       })                       })
155                tdcl  setMethod("eoi",
156              signature(object = "ReutersSource"),
157              function(object) {
158                  if (length(object@Content) <= object@Position)
159                      return(TRUE)
160                  else
161                      return(FALSE)
162            })            })
163    
164  # TODO: Implement lacking fields as soon I have access to the original RCV1  plaintext_parser <- function(...) {
165        function(elem, lodsupport, load, id) {
166            if (!lodsupport || (lodsupport && load)) {
167                doc <- new("PlainTextDocument", .Data = elem$content, URI = elem$uri, Cached = TRUE,
168                           Author = "", DateTimeStamp = date(), Description = "", ID = id, Origin = "", Heading = "")
169            }
170            else {
171                doc <- new("PlainTextDocument", URI = elem$uri, Cached = FALSE,
172                           Author = "", DateTimeStamp = date(), Description = "", ID = id, Origin = "", Heading = "")
173            }
174    
175            return(doc)
176        }
177    }
178    class(plaintext_parser) <- "function_generator"
179    
180    reut21578xml_parser <- function(...) {
181        function(elem, lodsupport, load, id) {
182            corpus <- paste(elem$content, "\n", collapse = "")
183            tree <- xmlTreeParse(corpus, asText = TRUE)
184            node <- xmlRoot(tree)
185    
186            # Mask as list to bypass S4 checks
187            class(tree) <- "list"
188    
189            # The <AUTHOR></AUTHOR> tag is unfortunately NOT obligatory!
190            if (!is.null(node[["TEXT"]][["AUTHOR"]]))
191                author <- xmlValue(node[["TEXT"]][["AUTHOR"]])
192            else
193                author <- ""
194    
195            datetimestamp <- xmlValue(node[["DATE"]])
196            description <- ""
197            id <- xmlAttrs(node)[["NEWID"]]
198    
199            # The <TITLE></TITLE> tag is unfortunately NOT obligatory!
200            if (!is.null(node[["TEXT"]][["TITLE"]]))
201                heading <- xmlValue(node[["TEXT"]][["TITLE"]])
202            else
203                heading <- ""
204    
205            topics <- unlist(xmlApply(node[["TOPICS"]], function(x) xmlValue(x)), use.names = FALSE)
206    
207            if (!lodsupport || (lodsupport && load)) {
208                doc <- new("XMLTextDocument", .Data = tree, URI = elem$uri, Cached = TRUE, Author = author,
209                           DateTimeStamp = datetimestamp, Description = "", ID = id, Origin = "Reuters-21578 XML",
210                           Heading = heading, LocalMetaData = list(Topics = topics))
211            } else {
212                doc <- new("XMLTextDocument", URI = elem$uri, Cached = FALSE, Author = author,
213                           DateTimeStamp = datetimestamp, Description = "", ID = id, Origin = "Reuters-21578 XML",
214                           Heading = heading, LocalMetaData = list(Topics = topics))
215            }
216    
217            return(doc)
218        }
219    }
220    class(reut21578xml_parser) <- "function_generator"
221    
222    rcv1_parser <- function(...) {
223        function(elem, lodsupport, load, id) {
224            corpus <- paste(elem$content, "\n", collapse = "")
225            tree <- xmlTreeParse(corpus, asText = TRUE)
226            node <- xmlRoot(tree)
227    
228            # Mask as list to bypass S4 checks
229            class(tree) <- "list"
230    
231            datetimestamp <- xmlAttrs(node)[["date"]]
232            id <- xmlAttrs(node)[["itemid"]]
233            heading <- xmlValue(node[["title"]])
234    
235            if (!lodsupport || (lodsupport && load)) {
236                doc <- new("XMLTextDocument", .Data = tree, URI = elem$uri, Cached = TRUE, Author = "",
237                           DateTimeStamp = datetimestamp, Description = "", ID = id, Origin = "Reuters Corpus Volume 1 XML",
238                           Heading = heading)
239            } else {
240                doc <- new("XMLTextDocument", URI = elem$uri, Cached = FALSE, Author = "",
241                           DateTimeStamp = datetimestamp, Description = "", ID = id, Origin = "Reuters Corpus Volume 1 XML",
242                           Heading = heading)
243            }
244    
245            return(doc)
246        }
247    }
248    class(rcv1_parser) <- "function_generator"
249    
250    newsgroup_parser <- function(...) {
251        function(elem, lodsupport, load, id) {
252            mail <- elem$content
253            author <- gsub("From: ", "", grep("^From:", mail, value = TRUE))
254            datetimestamp <- gsub("Date: ", "", grep("^Date:", mail, value = TRUE))
255            origin <- gsub("Path: ", "", grep("^Path:", mail, value = TRUE))
256            heading <- gsub("Subject: ", "", grep("^Subject:", mail, value = TRUE))
257            newsgroup <- gsub("Newsgroups: ", "", grep("^Newsgroups:", mail, value = TRUE))
258    
259            if (!lodsupport || (lodsupport && load)) {
260                # The header is separated from the body by a blank line.
261                # Reference: \url{http://en.wikipedia.org/wiki/E-mail#Internet_e-mail_format}
262                for (index in seq(along = mail)) {
263                    if (mail[index] == "")
264                        break
265                }
266                content <- mail[(index + 1):length(mail)]
267    
268                doc <- new("NewsgroupDocument", .Data = content, URI = elem$uri, Cached = TRUE,
269                           Author = author, DateTimeStamp = datetimestamp,
270                           Description = "", ID = id, Origin = origin,
271                           Heading = heading, Newsgroup = newsgroup)
272            } else {
273                doc <- new("NewsgroupDocument", URI = elem$uri, Cached = FALSE, Author = author, DateTimeStamp = datetimestamp,
274                           Description = "", ID = id, Origin = origin, Heading = heading, Newsgroup = newsgroup)
275            }
276    
277            return(doc)
278        }
279    }
280    class(newsgroup_parser) <- "function_generator"
281    
282  # Parse a <newsitem></newsitem> element from a well-formed RCV1 XML file  # Parse a <newsitem></newsitem> element from a well-formed RCV1 XML file
283  parseNewsItem <- function(node, stripWhiteSpace = FALSE, toLower = FALSE) {  rcv1_to_plain <- function(node, ...) {
284      author <- "Not yet implemented"      datetimestamp <- xmlAttrs(node)[["date"]]
285      timestamp <- xmlAttrs(node)[["date"]]      id <- xmlAttrs(node)[["itemid"]]
     description <- "Not yet implemented"  
     id <- as.integer(xmlAttrs(node)[["itemid"]])  
286      origin <- "Reuters Corpus Volume 1 XML"      origin <- "Reuters Corpus Volume 1 XML"
287      corpus <- unlist(xmlApply(node[["text"]], xmlValue), use.names = FALSE)      corpus <- unlist(xmlApply(node[["text"]], xmlValue), use.names = FALSE)
   
     if (stripWhiteSpace)  
         corpus <- gsub("[[:space:]]+", " ", corpus)  
     if (toLower)  
         corpus <- tolower(corpus)  
   
288      heading <- xmlValue(node[["title"]])      heading <- xmlValue(node[["title"]])
289    
290      new("textdocument", .Data = corpus, author = author, timestamp = timestamp,      new("PlainTextDocument", .Data = corpus, Cached = TRUE, URI = "", Author = "", DateTimeStamp = datetimestamp,
291          description = description, id = id, origin = origin, heading = heading)          Description = "", ID = id, Origin = "Reuters Corpus Volume 1 XML", Heading = heading)
292  }  }
293    
294  # Parse a <REUTERS></REUTERS> element from a well-formed Reuters-21578 XML file  # Parse a <REUTERS></REUTERS> element from a well-formed Reuters-21578 XML file
295  parseReuters <- function(node, stripWhiteSpace = FALSE, toLower = FALSE) {  reut21578xml_to_plain <- function(node, ...) {
296      # The <AUTHOR></AUTHOR> tag is unfortunately NOT obligatory!      # The <AUTHOR></AUTHOR> tag is unfortunately NOT obligatory!
297      if (!is.null(node[["TEXT"]][["AUTHOR"]]))      if (!is.null(node[["TEXT"]][["AUTHOR"]]))
298          author <- xmlValue(node[["TEXT"]][["AUTHOR"]])          author <- xmlValue(node[["TEXT"]][["AUTHOR"]])
299      else      else
300          author <- ""          author <- ""
301    
302      timestamp <- xmlValue(node[["DATE"]])      datetimestamp <- xmlValue(node[["DATE"]])
303      description <- ""      description <- ""
304      id <- as.integer(xmlAttrs(node)[["NEWID"]])      id <- xmlAttrs(node)[["NEWID"]]
305    
306      origin <- "Reuters-21578 XML"      origin <- "Reuters-21578 XML"
307    
# Line 106  Line 311 
311      else      else
312          corpus <- ""          corpus <- ""
313    
     if (stripWhiteSpace)  
         corpus <- gsub("[[:space:]]+", " ", corpus)  
     if (toLower)  
         corpus <- tolower(corpus)  
   
314      # The <TITLE></TITLE> tag is unfortunately NOT obligatory!      # The <TITLE></TITLE> tag is unfortunately NOT obligatory!
315      if (!is.null(node[["TEXT"]][["TITLE"]]))      if (!is.null(node[["TEXT"]][["TITLE"]]))
316          heading <- xmlValue(node[["TEXT"]][["TITLE"]])          heading <- xmlValue(node[["TEXT"]][["TITLE"]])
317      else      else
318          heading <- ""          heading <- ""
319    
320      new("textdocument", .Data = corpus, author = author, timestamp = timestamp,      topics <- unlist(xmlApply(node[["TOPICS"]], function(x) xmlValue(x)), use.names = FALSE)
321          description = description, id = id, origin = origin, heading = heading)  
322        new("PlainTextDocument", .Data = corpus, Cached = TRUE, URI = "", Author = author, DateTimeStamp = datetimestamp,
323            Description = description, ID = id, Origin = origin, Heading = heading, LocalMetaData = list(Topics = topics))
324    }
325    
326    setGeneric("load_doc", function(object, ...) standardGeneric("load_doc"))
327    setMethod("load_doc",
328              signature(object = "PlainTextDocument"),
329              function(object, ...) {
330                  if (!Cached(object)) {
331                      con <- eval(URI(object))
332                      corpus <- readLines(con)
333                      close(con)
334                      Corpus(object) <- corpus
335                      Cached(object) <- TRUE
336                      return(object)
337                  } else {
338                      return(object)
339  }  }
340              })
341    setMethod("load_doc",
342              signature(object =  "XMLTextDocument"),
343              function(object, ...) {
344                  if (!Cached(object)) {
345                      con <- eval(URI(object))
346                      corpus <- paste(readLines(con), "\n", collapse = "")
347                      close(con)
348                      doc <- xmlTreeParse(corpus, asText = TRUE)
349                      class(doc) <- "list"
350                      Corpus(object) <- doc
351                      Cached(object) <- TRUE
352                      return(object)
353                  } else {
354                      return(object)
355                  }
356              })
357    setMethod("load_doc",
358              signature(object = "NewsgroupDocument"),
359              function(object, ...) {
360                  if (!Cached(object)) {
361                      con <- eval(URI(object))
362                      mail <- readLines(con)
363                      close(con)
364                      Cached(object) <- TRUE
365                      for (index in seq(along = mail)) {
366                          if (mail[index] == "")
367                              break
368                      }
369                      Corpus(object) <- mail[(index + 1):length(mail)]
370                      return(object)
371                  } else {
372                      return(object)
373                  }
374              })
375    
376    setGeneric("tm_update", function(object, origin, parser = plaintext_parser, ...) standardGeneric("tm_update"))
377    # Update is only supported for directories
378    # At the moment no other LoD devices are available anyway
379    setMethod("tm_update",
380              signature(object = "TextDocCol", origin = "DirSource"),
381              function(object, origin, parser = plaintext_parser, ...) {
382                  if (inherits(parser, "function_generator"))
383                      parser <- parser(...)
384    
385                  object.filelist <- unlist(lapply(object, function(x) {as.character(URI(x))[2]}))
386                  new.files <- setdiff(origin@FileList, object.filelist)
387    
388                  for (filename in new.files) {
389                      elem <- list(content = readLines(filename),
390                                   uri = substitute(file(filename)))
391                      object <- append_doc(object, parser(elem, TRUE, origin@Load, filename), NA)
392                  }
393    
394                  return(object)
395              })
396    
397    setGeneric("tm_transform", function(object, FUN, ...) standardGeneric("tm_transform"))
398    setMethod("tm_transform",
399              signature(object = "TextDocCol", FUN = "function"),
400              function(object, FUN, ...) {
401                  result <- object
402                  result@.Data <- lapply(object, FUN, ..., DMetaData = DMetaData(object))
403                  return(result)
404              })
405    
406    setGeneric("as.plaintext_doc", function(object, FUN, ...) standardGeneric("as.plaintext_doc"))
407    setMethod("as.plaintext_doc",
408              signature(object = "PlainTextDocument"),
409              function(object, FUN, ...) {
410                  return(object)
411              })
412    setMethod("as.plaintext_doc",
413              signature(object = "XMLTextDocument", FUN = "function"),
414              function(object, FUN, ...) {
415                  if (!Cached(object))
416                      object <- load_doc(object)
417    
418                  corpus <- Corpus(object)
419    
420                  # As XMLDocument is no native S4 class, restore valid information
421                  class(corpus) <- "XMLDocument"
422                  names(corpus) <- c("doc","dtd")
423    
424                  return(FUN(xmlRoot(corpus), ...))
425              })
426    
427    setGeneric("tm_tolower", function(object, ...) standardGeneric("tm_tolower"))
428    setMethod("tm_tolower",
429              signature(object = "PlainTextDocument"),
430              function(object, ...) {
431                  if (!Cached(object))
432                      object <- load_doc(object)
433    
434                  Corpus(object) <- tolower(object)
435                  return(object)
436              })
437    
438    setGeneric("strip_whitespace", function(object, ...) standardGeneric("strip_whitespace"))
439    setMethod("strip_whitespace",
440              signature(object = "PlainTextDocument"),
441              function(object, ...) {
442                  if (!Cached(object))
443                      object <- load_doc(object)
444    
445                  Corpus(object) <- gsub("[[:space:]]+", " ", object)
446                  return(object)
447              })
448    
449    setGeneric("stem_doc", function(object, ...) standardGeneric("stem_doc"))
450    setMethod("stem_doc",
451              signature(object = "PlainTextDocument"),
452              function(object, ...) {
453                  if (!Cached(object))
454                      object <- load_doc(object)
455    
456                  require(Rstem)
457                  splittedCorpus <- unlist(strsplit(object, " ", fixed = TRUE))
458                  stemmedCorpus <- wordStem(splittedCorpus)
459                  Corpus(object) <- paste(stemmedCorpus, collapse = " ")
460                  return(object)
461              })
462    
463    setGeneric("remove_words", function(object, stopwords, ...) standardGeneric("remove_words"))
464    setMethod("remove_words",
465              signature(object = "PlainTextDocument", stopwords = "character"),
466              function(object, stopwords, ...) {
467                  if (!Cached(object))
468                      object <- load_doc(object)
469    
470                  require(Rstem)
471                  splittedCorpus <- unlist(strsplit(object, " ", fixed = TRUE))
472                  noStopwordsCorpus <- splittedCorpus[!splittedCorpus %in% stopwords]
473                  Corpus(object) <- paste(noStopwordsCorpus, collapse = " ")
474                  return(object)
475              })
476    
477    setGeneric("tm_filter", function(object, ..., FUN = s_filter, doclevel = FALSE) standardGeneric("tm_filter"))
478    setMethod("tm_filter",
479              signature(object = "TextDocCol"),
480              function(object, ..., FUN = s_filter, doclevel = FALSE) {
481                  if (doclevel)
482                      return(object[sapply(object, FUN, ..., DMetaData = DMetaData(object))])
483                  else
484                      return(object[FUN(object, ...)])
485              })
486    
487    setGeneric("tm_index", function(object, ..., FUN = s_filter, doclevel = FALSE) standardGeneric("tm_index"))
488    setMethod("tm_index",
489              signature(object = "TextDocCol"),
490              function(object, ..., FUN = s_filter, doclevel = FALSE) {
491                  if (doclevel)
492                      return(sapply(object, FUN, ..., DMetaData = DMetaData(object)))
493                  else
494                      return(FUN(object, ...))
495              })
496    
497    s_filter <- function(object, s, ...) {
498        query.df <- DMetaData(object)
499        con <- textConnection(s)
500        tokens <- scan(con, "character")
501        close(con)
502        local.meta <- lapply(object, LocalMetaData)
503        local.used.meta <- lapply(local.meta, function(x) names(x) %in% tokens)
504        l.meta <- NULL
505        for (i in 1:length(object)) {
506            l.meta <- c(l.meta, list(local.meta[[i]][local.used.meta[[i]]]))
507        }
508        # Load local meta data from text documents into data frame
509        for (i in 1:length(l.meta)) {
510            l.meta[[i]] <- c(l.meta[[i]], list(author = Author(object[[i]])))
511            l.meta[[i]] <- c(l.meta[[i]], list(datetimestamp = DateTimeStamp(object[[i]])))
512            l.meta[[i]] <- c(l.meta[[i]], list(description = Description(object[[i]])))
513            l.meta[[i]] <- c(l.meta[[i]], list(identifier = ID(object[[i]])))
514            l.meta[[i]] <- c(l.meta[[i]], list(origin = Origin(object[[i]])))
515            l.meta[[i]] <- c(l.meta[[i]], list(heading = Heading(object[[i]])))
516        }
517        for (i in 1:length(l.meta)) {
518            for (j in 1:length(l.meta[[i]])) {
519                m <- l.meta[[i]][[j]]
520                m.name <- names(l.meta[[i]][j])
521                if (!(m.name %in% names(query.df))) {
522                    before <- rep(NA, i - 1)
523                    after <- rep(NA, length(l.meta) - i)
524                    if (length(m) > 1) {
525                        nl <- vector("list", length(l.meta))
526                        nl[1:(i-1)] <- before
527                        nl[i] <- list(m)
528                        nl[(i+1):length(l.meta)] <- after
529                        insert <- data.frame(I(nl), stringsAsFactors = FALSE)
530                    }
531                    else
532                        insert <- c(before, m, after)
533                    query.df <- cbind(query.df, insert, stringsAsFactors = FALSE)
534                    names(query.df)[length(query.df)] <- m.name
535                }
536                else {
537                    if (is.null(m))
538                        m <- NA
539                    if (length(m) > 1) {
540                        rl <- query.df[ , m.name]
541                        rl[i] <- list(m)
542                        query.df[ , m.name] <- data.frame(I(rl), stringsAsFactors = FALSE)
543                    }
544                    else
545                        query.df[i, m.name] <- m
546                }
547            }
548        }
549        attach(query.df)
550        try(result <- rownames(query.df) %in% row.names(query.df[eval(parse(text = s)), ]))
551        detach(query.df)
552        return(result)
553    }
554    
555    setGeneric("fulltext_search_filter", function(object, pattern, ...) standardGeneric("fulltext_search_filter"))
556    setMethod("fulltext_search_filter",
557              signature(object = "PlainTextDocument", pattern = "character"),
558              function(object, pattern, ...) {
559                  if (!Cached(object))
560                      object <- load_doc(object)
561    
562                  return(any(grep(pattern, Corpus(object))))
563              })
564    
565    setGeneric("append_elem", function(object, data, meta = NULL) standardGeneric("append_elem"))
566    setMethod("append_elem",
567              signature(object = "TextDocCol", data = "TextDocument"),
568              function(object, data, meta = NULL) {
569                  object@.Data[[length(object)+1]] <- data
570                  object@DMetaData <- rbind(object@DMetaData, c(MetaID = DCMetaData(object)@NodeID, meta))
571                  return(object)
572              })
573    
574    setGeneric("append_meta", function(object, dcmeta = NULL, dmeta = NULL) standardGeneric("append_meta"))
575    setMethod("append_meta",
576              signature(object = "TextDocCol"),
577              function(object, dcmeta = NULL, dmeta = NULL) {
578                  object@DCMetaData@MetaData <- c(object@DCMetaData@MetaData, dcmeta)
579                  if (!is.null(dcmeta))
580                      object@DMetaData <- cbind(object@DMetaData, dmeta)
581                  return(object)
582              })
583    
584    setGeneric("remove_meta", function(object, dcname = NULL, dname = NULL) standardGeneric("remove_meta"))
585    setMethod("remove_meta",
586              signature(object = "TextDocCol"),
587              function(object, dcname = NULL, dname = NULL) {
588                  if (!is.null(dcname)) {
589                      object@DCMetaData@MetaData <- DCMetaData(object)@MetaData[names(DCMetaData(object)@MetaData) != dcname]
590                  }
591                  if (!is.null(dname)) {
592                      object@DMetaData <- DMetaData(object)[names(DMetaData(object)) != dname]
593                  }
594                  return(object)
595              })
596    
597    setGeneric("prescind_meta", function(object, meta) standardGeneric("prescind_meta"))
598    setMethod("prescind_meta",
599              signature(object = "TextDocCol", meta = "character"),
600              function(object, meta) {
601                  for (m in meta) {
602                      if (m %in% c("Author", "DateTimeStamp", "Description", "ID", "Origin", "Heading")) {
603                          local.m <- lapply(object, m)
604                          local.m <- lapply(local.m, function(x) if (is.null(x)) return(NA) else return(x))
605                          local.m <- unlist(local.m)
606                          object@DMetaData <- cbind(DMetaData(object), data.frame(m = local.m), stringsAsFactors = FALSE)
607                          names(object@DMetaData)[length(object@DMetaData)] <- m
608                      }
609                      else {
610                          local.meta <- lapply(object, LocalMetaData)
611                          local.m <- lapply(local.meta, "[[", m)
612                          local.m <- lapply(local.m, function(x) if (is.null(x)) return(NA) else return(x))
613                          if (length(local.m) == length(unlist(local.m)))
614                              local.m <- unlist(local.m)
615                          else
616                              local.m <- I(local.m)
617                          object@DMetaData <- cbind(DMetaData(object), data.frame(m = local.m), stringsAsFactors = FALSE)
618                          names(object@DMetaData)[length(object@DMetaData)] <- m
619                      }
620                  }
621                  return(object)
622              })
623    
624    setMethod("[",
625              signature(x = "TextDocCol", i = "ANY", j = "ANY", drop = "ANY"),
626              function(x, i, j, ... , drop) {
627                  if(missing(i))
628                      return(x)
629    
630                  object <- x
631                  object@.Data <- x@.Data[i, ..., drop = FALSE]
632                  df <- as.data.frame(DMetaData(object)[i, ])
633                  names(df) <- names(DMetaData(object))
634                  object@DMetaData <- df
635                  return(object)
636              })
637    
638    setMethod("[<-",
639              signature(x = "TextDocCol", i = "ANY", j = "ANY", value = "ANY"),
640              function(x, i, j, ... , value) {
641                  object <- x
642                  object@.Data[i, ...] <- value
643                  return(object)
644              })
645    
646    setMethod("[[",
647              signature(x = "TextDocCol", i = "ANY", j = "ANY"),
648              function(x, i, j, ...) {
649                  return(x@.Data[[i, ...]])
650              })
651    
652    setMethod("[[<-",
653              signature(x = "TextDocCol", i = "ANY", j = "ANY", value = "ANY"),
654              function(x, i, j, ..., value) {
655                  object <- x
656                  object@.Data[[i, ...]] <- value
657                  return(object)
658              })
659    
660    # Update \code{NodeID}s of a DCMetaData tree
661    # TODO: Avoid global variables outside of update_id function
662    update_id <- function(object) {
663        id <<- 0
664        mapping <<- left.mapping <<- NULL
665        level <<- 0
666        return(list(root = set_id(object), left.mapping = left.mapping, right.mapping = mapping))
667    }
668    
669    # Traversal of (binary) DCMetaData tree with setup of \code{NodeID}s
670    set_id <- function(object) {
671        object@NodeID <- id
672        id <<- id + 1
673        level <<- level + 1
674    
675        if (length(object@children) > 0) {
676            mapping <<- cbind(mapping, c(object@children[[1]]@NodeID, id))
677            left <- set_id(object@children[[1]])
678            if (level == 1) {
679                left.mapping <<- mapping
680                mapping <<- NULL
681            }
682            mapping <<- cbind(mapping, c(object@children[[2]]@NodeID, id))
683            right <- set_id(object@children[[2]])
684    
685            object@children <- list(left, right)
686        }
687        level <<- level - 1
688    
689        return(object)
690    }
691    
692    setMethod("c",
693              signature(x = "TextDocCol"),
694              function(x, y, ..., meta = list(merge_date = date(), merger = Sys.getenv("LOGNAME")), recursive = TRUE) {
695                  if (!inherits(y, "TextDocCol"))
696                      stop("invalid argument")
697    
698                  object <- x
699                  # Concatenate data slots
700                  object@.Data <- c(as(x, "list"), as(y, "list"))
701    
702                  # Update the DCMetaData tree
703                  dcmeta <- new("MetaDataNode", NodeID = 0, MetaData = meta, children = list(DCMetaData(x), DCMetaData(y)))
704                  update.struct <- update_id(dcmeta)
705                  object@DCMetaData <- update.struct$root
706    
707                  # Find indices to be updated for the left tree
708                  indices.mapping <- NULL
709                  for (m in levels(as.factor(DMetaData(x)$MetaID))) {
710                      indices <- (DMetaData(x)$MetaID == m)
711                      indices.mapping <- c(indices.mapping, list(m = indices))
712                      names(indices.mapping)[length(indices.mapping)] <- m
713                  }
714    
715                  # Update the DMetaData data frames for the left tree
716                  for (i in 1:ncol(update.struct$left.mapping)) {
717                      map <- update.struct$left.mapping[,i]
718                      x@DMetaData$MetaID <- replace(DMetaData(x)$MetaID, indices.mapping[[as.character(map[1])]], map[2])
719                  }
720    
721                  # Find indices to be updated for the right tree
722                  indices.mapping <- NULL
723                  for (m in levels(as.factor(DMetaData(y)$MetaID))) {
724                      indices <- (DMetaData(y)$MetaID == m)
725                      indices.mapping <- c(indices.mapping, list(m = indices))
726                      names(indices.mapping)[length(indices.mapping)] <- m
727                  }
728    
729                  # Update the DMetaData data frames for the right tree
730                  for (i in 1:ncol(update.struct$right.mapping)) {
731                      map <- update.struct$right.mapping[,i]
732                      y@DMetaData$MetaID <- replace(DMetaData(y)$MetaID, indices.mapping[[as.character(map[1])]], map[2])
733                  }
734    
735                  # Merge the DMetaData data frames
736                  labels <- setdiff(names(DMetaData(y)), names(DMetaData(x)))
737                  na.matrix <- matrix(NA, nrow = nrow(DMetaData(x)), ncol = length(labels), dimnames = list(row.names(DMetaData(x)), labels))
738                  x.dmeta.aug <- cbind(DMetaData(x), na.matrix)
739                  labels <- setdiff(names(DMetaData(x)), names(DMetaData(y)))
740                  na.matrix <- matrix(NA, nrow = nrow(DMetaData(y)), ncol = length(labels), dimnames = list(row.names(DMetaData(y)), labels))
741                  y.dmeta.aug <- cbind(DMetaData(y), na.matrix)
742                  object@DMetaData <- rbind(x.dmeta.aug, y.dmeta.aug)
743    
744                  return(object)
745              })
746    setMethod("c",
747              signature(x = "TextDocument"),
748              function(x, ..., recursive = TRUE){
749                  args <- list(...)
750                  if(length(args) == 0)
751                      return(x)
752    
753                  dmeta.df <- data.frame(MetaID = rep(0, length(list(x, ...))), stringsAsFactors = FALSE)
754                  dcmeta.node <- new("MetaDataNode",
755                                NodeID = 0,
756                                MetaData = list(create_date = date(), creator = Sys.getenv("LOGNAME")),
757                                children = list())
758    
759                  return(new("TextDocCol", .Data = list(x, ...), DMetaData = dmeta.df, DCMetaData = dcmeta.node))
760              })
761    
762    setMethod("length",
763              signature(x = "TextDocCol"),
764              function(x){
765                  return(length(as(x, "list")))
766        })
767    
768    setMethod("show",
769              signature(object = "TextDocCol"),
770              function(object){
771                  cat(sprintf(ngettext(length(object),
772                                       "A text document collection with %d text document\n",
773                                       "A text document collection with %d text documents\n"),
774                              length(object)))
775        })
776    
777    setMethod("summary",
778              signature(object = "TextDocCol"),
779              function(object){
780                  show(object)
781                  if (length(DMetaData(object)) > 0) {
782                      cat(sprintf(ngettext(length(DCMetaData(object)@MetaData),
783                                                  "\nThe metadata consists of %d tag-value pair and a data frame\n",
784                                                  "\nThe metadata consists of %d tag-value pairs and a data frame\n"),
785                                           length(DCMetaData(object)@MetaData)))
786                      cat("Available tags are:\n")
787                      cat(names(DCMetaData(object)@MetaData), "\n")
788                      cat("Available variables in the data frame are:\n")
789                      cat(names(DMetaData(object)), "\n")
790                  }
791        })
792    
793    setGeneric("inspect", function(object) standardGeneric("inspect"))
794    setMethod("inspect",
795              signature("TextDocCol"),
796              function(object) {
797                  summary(object)
798                  cat("\n")
799                  show(as(object, "list"))
800              })
801    
802    # No metadata is checked
803    setGeneric("%IN%", function(x, y) standardGeneric("%IN%"))
804    setMethod("%IN%",
805              signature(x = "TextDocument", y = "TextDocCol"),
806              function(x, y) {
807                  x %in% y
808              })

Legend:
Removed from v.37  
changed lines
  Added in v.78

root@r-forge.r-project.org
ViewVC Help
Powered by ViewVC 1.0.0  
Thanks to:
Vienna University of Economics and Business Powered By FusionForge