SCM

SCM Repository

[tm] Annotation of /pkg/R/corpus.R
ViewVC logotype

Annotation of /pkg/R/corpus.R

Parent Directory Parent Directory | Revision Log Revision Log


Revision 78 - (view) (download)
Original Path: trunk/textmin/R/textdoccol.R

1 : feinerer 17 # Author: Ingo Feinerer
2 :    
3 : feinerer 65 # The "..." are additional arguments for the function_generator parser
4 : feinerer 63 setGeneric("TextDocCol", function(object, parser = plaintext_parser, ...) standardGeneric("TextDocCol"))
5 : feinerer 49 setMethod("TextDocCol",
6 : feinerer 63 signature(object = "Source"),
7 : feinerer 67 function(object, parser = plaintext_parser, ...) {
8 : feinerer 63 if (inherits(parser, "function_generator"))
9 :     parser <- parser(...)
10 :    
11 :     tdl <- list()
12 :     counter <- 1
13 :     while (!eoi(object)) {
14 : feinerer 66 object <- step_next(object)
15 :     elem <- get_elem(object)
16 : feinerer 63 # If there is no Load on Demand support
17 :     # we need to load the corpus into memory at startup
18 :     if (object@LoDSupport)
19 :     load <- object@Load
20 :     else
21 :     load <- TRUE
22 :     tdl <- c(tdl, list(parser(elem, object@LoDSupport, load, as.character(counter))))
23 :     counter <- counter + 1
24 :     }
25 :    
26 : feinerer 73 dmeta.df <- data.frame(MetaID = rep(0, length(tdl)), stringsAsFactors = FALSE)
27 : feinerer 71 dcmeta.node <- new("MetaDataNode",
28 :     NodeID = 0,
29 :     MetaData = list(create_date = date(), creator = Sys.getenv("LOGNAME")),
30 :     children = list())
31 :    
32 :     return(new("TextDocCol", .Data = tdl, DMetaData = dmeta.df, DCMetaData = dcmeta.node))
33 : feinerer 21 })
34 :    
35 : feinerer 63 setGeneric("DirSource", function(directory, load = FALSE) standardGeneric("DirSource"))
36 :     setMethod("DirSource",
37 :     signature(directory = "character"),
38 :     function(directory, load = FALSE) {
39 :     new("DirSource", LoDSupport = TRUE, FileList = dir(directory, full.names = TRUE),
40 :     Position = 0, Load = load)
41 :     })
42 : feinerer 60
43 : feinerer 67 setGeneric("CSVSource", function(object) standardGeneric("CSVSource"))
44 : feinerer 63 setMethod("CSVSource",
45 : feinerer 65 signature(object = "character"),
46 : feinerer 67 function(object) {
47 :     object <- substitute(file(object))
48 :     con <- eval(object)
49 : feinerer 65 content <- scan(con, what = "character")
50 :     close(con)
51 :     new("CSVSource", LoDSupport = FALSE, URI = object,
52 :     Content = content, Position = 0)
53 : feinerer 63 })
54 : feinerer 67 setMethod("CSVSource",
55 :     signature(object = "ANY"),
56 :     function(object) {
57 :     object <- substitute(object)
58 :     con <- eval(object)
59 :     content <- scan(con, what = "character")
60 :     close(con)
61 :     new("CSVSource", LoDSupport = FALSE, URI = object,
62 :     Content = content, Position = 0)
63 :     })
64 : feinerer 60
65 : feinerer 67 setGeneric("ReutersSource", function(object) standardGeneric("ReutersSource"))
66 : feinerer 65 setMethod("ReutersSource",
67 :     signature(object = "character"),
68 : feinerer 67 function(object) {
69 :     object <- substitute(file(object))
70 :     con <- eval(object)
71 : feinerer 65 corpus <- paste(readLines(con), "\n", collapse = "")
72 :     close(con)
73 :     tree <- xmlTreeParse(corpus, asText = TRUE)
74 : feinerer 63 content <- xmlRoot(tree)$children
75 : feinerer 65
76 :     new("ReutersSource", LoDSupport = FALSE, URI = object,
77 : feinerer 63 Content = content, Position = 0)
78 :     })
79 : feinerer 67 setMethod("ReutersSource",
80 :     signature(object = "ANY"),
81 :     function(object) {
82 :     object <- substitute(object)
83 :     con <- eval(object)
84 :     corpus <- paste(readLines(con), "\n", collapse = "")
85 :     close(con)
86 :     tree <- xmlTreeParse(corpus, asText = TRUE)
87 :     content <- xmlRoot(tree)$children
88 : feinerer 63
89 : feinerer 67 new("ReutersSource", LoDSupport = FALSE, URI = object,
90 :     Content = content, Position = 0)
91 :     })
92 :    
93 : feinerer 66 setGeneric("step_next", function(object) standardGeneric("step_next"))
94 :     setMethod("step_next",
95 : feinerer 63 signature(object = "DirSource"),
96 :     function(object) {
97 :     object@Position <- object@Position + 1
98 :     object
99 :     })
100 : feinerer 66 setMethod("step_next",
101 : feinerer 63 signature(object = "CSVSource"),
102 :     function(object) {
103 :     object@Position <- object@Position + 1
104 :     object
105 :     })
106 : feinerer 66 setMethod("step_next",
107 : feinerer 65 signature(object = "ReutersSource"),
108 : feinerer 63 function(object) {
109 :     object@Position <- object@Position + 1
110 :     object
111 :     })
112 :    
113 : feinerer 66 setGeneric("get_elem", function(object) standardGeneric("get_elem"))
114 :     setMethod("get_elem",
115 : feinerer 63 signature(object = "DirSource"),
116 :     function(object) {
117 : feinerer 67 filename <- object@FileList[object@Position]
118 : feinerer 72 list(content = readLines(filename),
119 : feinerer 67 uri = substitute(file(filename)))
120 : feinerer 63 })
121 : feinerer 66 setMethod("get_elem",
122 : feinerer 63 signature(object = "CSVSource"),
123 :     function(object) {
124 :     list(content = object@Content[object@Position],
125 : feinerer 65 uri = object@URI)
126 : feinerer 63 })
127 : feinerer 66 setMethod("get_elem",
128 : feinerer 65 signature(object = "ReutersSource"),
129 : feinerer 63 function(object) {
130 : feinerer 65 # Construct a character representation from the XMLNode
131 :     con <- textConnection("virtual.file", "w")
132 :     saveXML(object@Content[[object@Position]], con)
133 :     close(con)
134 :    
135 :     list(content = virtual.file, uri = object@URI)
136 : feinerer 63 })
137 :    
138 :     setGeneric("eoi", function(object) standardGeneric("eoi"))
139 :     setMethod("eoi",
140 :     signature(object = "DirSource"),
141 :     function(object) {
142 :     if (length(object@FileList) <= object@Position)
143 :     return(TRUE)
144 :     else
145 :     return(FALSE)
146 :     })
147 :     setMethod("eoi",
148 :     signature(object = "CSVSource"),
149 :     function(object) {
150 :     if (length(object@Content) <= object@Position)
151 :     return(TRUE)
152 :     else
153 :     return(FALSE)
154 :     })
155 :     setMethod("eoi",
156 : feinerer 65 signature(object = "ReutersSource"),
157 : feinerer 63 function(object) {
158 :     if (length(object@Content) <= object@Position)
159 :     return(TRUE)
160 :     else
161 :     return(FALSE)
162 :     })
163 :    
164 :     plaintext_parser <- function(...) {
165 :     function(elem, lodsupport, load, id) {
166 :     if (!lodsupport || (lodsupport && load)) {
167 : feinerer 65 doc <- new("PlainTextDocument", .Data = elem$content, URI = elem$uri, Cached = TRUE,
168 : feinerer 63 Author = "", DateTimeStamp = date(), Description = "", ID = id, Origin = "", Heading = "")
169 :     }
170 :     else {
171 : feinerer 65 doc <- new("PlainTextDocument", URI = elem$uri, Cached = FALSE,
172 : feinerer 63 Author = "", DateTimeStamp = date(), Description = "", ID = id, Origin = "", Heading = "")
173 :     }
174 :    
175 :     return(doc)
176 : feinerer 60 }
177 :     }
178 : feinerer 63 class(plaintext_parser) <- "function_generator"
179 : feinerer 60
180 : feinerer 66 reut21578xml_parser <- function(...) {
181 : feinerer 63 function(elem, lodsupport, load, id) {
182 : feinerer 65 corpus <- paste(elem$content, "\n", collapse = "")
183 :     tree <- xmlTreeParse(corpus, asText = TRUE)
184 : feinerer 63 node <- xmlRoot(tree)
185 : feinerer 60
186 : feinerer 65 # Mask as list to bypass S4 checks
187 :     class(tree) <- "list"
188 :    
189 : feinerer 63 # The <AUTHOR></AUTHOR> tag is unfortunately NOT obligatory!
190 :     if (!is.null(node[["TEXT"]][["AUTHOR"]]))
191 :     author <- xmlValue(node[["TEXT"]][["AUTHOR"]])
192 :     else
193 :     author <- ""
194 : feinerer 60
195 : feinerer 63 datetimestamp <- xmlValue(node[["DATE"]])
196 :     description <- ""
197 :     id <- xmlAttrs(node)[["NEWID"]]
198 : feinerer 40
199 : feinerer 63 # The <TITLE></TITLE> tag is unfortunately NOT obligatory!
200 :     if (!is.null(node[["TEXT"]][["TITLE"]]))
201 :     heading <- xmlValue(node[["TEXT"]][["TITLE"]])
202 :     else
203 :     heading <- ""
204 : feinerer 41
205 : feinerer 63 topics <- unlist(xmlApply(node[["TOPICS"]], function(x) xmlValue(x)), use.names = FALSE)
206 : feinerer 41
207 : feinerer 63 if (!lodsupport || (lodsupport && load)) {
208 : feinerer 65 doc <- new("XMLTextDocument", .Data = tree, URI = elem$uri, Cached = TRUE, Author = author,
209 : feinerer 63 DateTimeStamp = datetimestamp, Description = "", ID = id, Origin = "Reuters-21578 XML",
210 :     Heading = heading, LocalMetaData = list(Topics = topics))
211 :     } else {
212 : feinerer 65 doc <- new("XMLTextDocument", URI = elem$uri, Cached = FALSE, Author = author,
213 : feinerer 63 DateTimeStamp = datetimestamp, Description = "", ID = id, Origin = "Reuters-21578 XML",
214 :     Heading = heading, LocalMetaData = list(Topics = topics))
215 :     }
216 : feinerer 40
217 : feinerer 63 return(doc)
218 : feinerer 60 }
219 :     }
220 : feinerer 66 class(reut21578xml_parser) <- "function_generator"
221 : feinerer 41
222 : feinerer 63 rcv1_parser <- function(...) {
223 :     function(elem, lodsupport, load, id) {
224 : feinerer 65 corpus <- paste(elem$content, "\n", collapse = "")
225 :     tree <- xmlTreeParse(corpus, asText = TRUE)
226 : feinerer 63 node <- xmlRoot(tree)
227 : feinerer 41
228 : feinerer 65 # Mask as list to bypass S4 checks
229 :     class(tree) <- "list"
230 :    
231 : feinerer 63 datetimestamp <- xmlAttrs(node)[["date"]]
232 :     id <- xmlAttrs(node)[["itemid"]]
233 :     heading <- xmlValue(node[["title"]])
234 : feinerer 40
235 : feinerer 63 if (!lodsupport || (lodsupport && load)) {
236 : feinerer 65 doc <- new("XMLTextDocument", .Data = tree, URI = elem$uri, Cached = TRUE, Author = "",
237 : feinerer 63 DateTimeStamp = datetimestamp, Description = "", ID = id, Origin = "Reuters Corpus Volume 1 XML",
238 :     Heading = heading)
239 :     } else {
240 : feinerer 65 doc <- new("XMLTextDocument", URI = elem$uri, Cached = FALSE, Author = "",
241 : feinerer 63 DateTimeStamp = datetimestamp, Description = "", ID = id, Origin = "Reuters Corpus Volume 1 XML",
242 :     Heading = heading)
243 :     }
244 : feinerer 40
245 : feinerer 63 return(doc)
246 : feinerer 60 }
247 : feinerer 40 }
248 : feinerer 63 class(rcv1_parser) <- "function_generator"
249 : feinerer 40
250 : feinerer 66 newsgroup_parser <- function(...) {
251 : feinerer 63 function(elem, lodsupport, load, id) {
252 : feinerer 65 mail <- elem$content
253 : feinerer 63 author <- gsub("From: ", "", grep("^From:", mail, value = TRUE))
254 :     datetimestamp <- gsub("Date: ", "", grep("^Date:", mail, value = TRUE))
255 :     origin <- gsub("Path: ", "", grep("^Path:", mail, value = TRUE))
256 :     heading <- gsub("Subject: ", "", grep("^Subject:", mail, value = TRUE))
257 :     newsgroup <- gsub("Newsgroups: ", "", grep("^Newsgroups:", mail, value = TRUE))
258 : feinerer 60
259 : feinerer 63 if (!lodsupport || (lodsupport && load)) {
260 : feinerer 65 # The header is separated from the body by a blank line.
261 :     # Reference: \url{http://en.wikipedia.org/wiki/E-mail#Internet_e-mail_format}
262 :     for (index in seq(along = mail)) {
263 :     if (mail[index] == "")
264 :     break
265 :     }
266 : feinerer 63 content <- mail[(index + 1):length(mail)]
267 : feinerer 60
268 : feinerer 65 doc <- new("NewsgroupDocument", .Data = content, URI = elem$uri, Cached = TRUE,
269 : feinerer 63 Author = author, DateTimeStamp = datetimestamp,
270 : feinerer 65 Description = "", ID = id, Origin = origin,
271 : feinerer 63 Heading = heading, Newsgroup = newsgroup)
272 :     } else {
273 : feinerer 65 doc <- new("NewsgroupDocument", URI = elem$uri, Cached = FALSE, Author = author, DateTimeStamp = datetimestamp,
274 :     Description = "", ID = id, Origin = origin, Heading = heading, Newsgroup = newsgroup)
275 : feinerer 63 }
276 :    
277 :     return(doc)
278 : feinerer 60 }
279 :     }
280 : feinerer 66 class(newsgroup_parser) <- "function_generator"
281 : feinerer 60
282 : feinerer 23 # Parse a <newsitem></newsitem> element from a well-formed RCV1 XML file
283 : feinerer 65 rcv1_to_plain <- function(node, ...) {
284 : feinerer 42 datetimestamp <- xmlAttrs(node)[["date"]]
285 : feinerer 60 id <- xmlAttrs(node)[["itemid"]]
286 : feinerer 36 origin <- "Reuters Corpus Volume 1 XML"
287 : feinerer 18 corpus <- unlist(xmlApply(node[["text"]], xmlValue), use.names = FALSE)
288 :     heading <- xmlValue(node[["title"]])
289 : feinerer 17
290 : feinerer 65 new("PlainTextDocument", .Data = corpus, Cached = TRUE, URI = "", Author = "", DateTimeStamp = datetimestamp,
291 : feinerer 60 Description = "", ID = id, Origin = "Reuters Corpus Volume 1 XML", Heading = heading)
292 : feinerer 19 }
293 : feinerer 23
294 :     # Parse a <REUTERS></REUTERS> element from a well-formed Reuters-21578 XML file
295 : feinerer 66 reut21578xml_to_plain <- function(node, ...) {
296 : feinerer 36 # The <AUTHOR></AUTHOR> tag is unfortunately NOT obligatory!
297 :     if (!is.null(node[["TEXT"]][["AUTHOR"]]))
298 :     author <- xmlValue(node[["TEXT"]][["AUTHOR"]])
299 :     else
300 :     author <- ""
301 :    
302 : feinerer 42 datetimestamp <- xmlValue(node[["DATE"]])
303 : feinerer 36 description <- ""
304 : feinerer 60 id <- xmlAttrs(node)[["NEWID"]]
305 : feinerer 23
306 : feinerer 36 origin <- "Reuters-21578 XML"
307 : feinerer 23
308 :     # The <BODY></BODY> tag is unfortunately NOT obligatory!
309 :     if (!is.null(node[["TEXT"]][["BODY"]]))
310 :     corpus <- xmlValue(node[["TEXT"]][["BODY"]])
311 :     else
312 :     corpus <- ""
313 :    
314 :     # The <TITLE></TITLE> tag is unfortunately NOT obligatory!
315 :     if (!is.null(node[["TEXT"]][["TITLE"]]))
316 :     heading <- xmlValue(node[["TEXT"]][["TITLE"]])
317 :     else
318 :     heading <- ""
319 :    
320 : feinerer 49 topics <- unlist(xmlApply(node[["TOPICS"]], function(x) xmlValue(x)), use.names = FALSE)
321 :    
322 : feinerer 65 new("PlainTextDocument", .Data = corpus, Cached = TRUE, URI = "", Author = author, DateTimeStamp = datetimestamp,
323 : feinerer 49 Description = description, ID = id, Origin = origin, Heading = heading, LocalMetaData = list(Topics = topics))
324 : feinerer 23 }
325 : feinerer 49
326 : feinerer 66 setGeneric("load_doc", function(object, ...) standardGeneric("load_doc"))
327 :     setMethod("load_doc",
328 : feinerer 62 signature(object = "PlainTextDocument"),
329 : feinerer 65 function(object, ...) {
330 : feinerer 61 if (!Cached(object)) {
331 : feinerer 67 con <- eval(URI(object))
332 : feinerer 65 corpus <- readLines(con)
333 :     close(con)
334 : feinerer 56 Corpus(object) <- corpus
335 : feinerer 60 Cached(object) <- TRUE
336 : feinerer 56 return(object)
337 :     } else {
338 :     return(object)
339 :     }
340 :     })
341 : feinerer 66 setMethod("load_doc",
342 : feinerer 62 signature(object = "XMLTextDocument"),
343 : feinerer 65 function(object, ...) {
344 : feinerer 61 if (!Cached(object)) {
345 : feinerer 67 con <- eval(URI(object))
346 : feinerer 65 corpus <- paste(readLines(con), "\n", collapse = "")
347 :     close(con)
348 :     doc <- xmlTreeParse(corpus, asText = TRUE)
349 : feinerer 49 class(doc) <- "list"
350 : feinerer 56 Corpus(object) <- doc
351 : feinerer 60 Cached(object) <- TRUE
352 : feinerer 49 return(object)
353 :     } else {
354 :     return(object)
355 :     }
356 :     })
357 : feinerer 66 setMethod("load_doc",
358 : feinerer 62 signature(object = "NewsgroupDocument"),
359 : feinerer 65 function(object, ...) {
360 : feinerer 61 if (!Cached(object)) {
361 : feinerer 67 con <- eval(URI(object))
362 : feinerer 65 mail <- readLines(con)
363 :     close(con)
364 : feinerer 60 Cached(object) <- TRUE
365 : feinerer 65 for (index in seq(along = mail)) {
366 :     if (mail[index] == "")
367 :     break
368 :     }
369 : feinerer 56 Corpus(object) <- mail[(index + 1):length(mail)]
370 :     return(object)
371 :     } else {
372 :     return(object)
373 :     }
374 :     })
375 : feinerer 49
376 : feinerer 72 setGeneric("tm_update", function(object, origin, parser = plaintext_parser, ...) standardGeneric("tm_update"))
377 :     # Update is only supported for directories
378 :     # At the moment no other LoD devices are available anyway
379 :     setMethod("tm_update",
380 :     signature(object = "TextDocCol", origin = "DirSource"),
381 :     function(object, origin, parser = plaintext_parser, ...) {
382 :     if (inherits(parser, "function_generator"))
383 :     parser <- parser(...)
384 :    
385 :     object.filelist <- unlist(lapply(object, function(x) {as.character(URI(x))[2]}))
386 :     new.files <- setdiff(origin@FileList, object.filelist)
387 :    
388 :     for (filename in new.files) {
389 :     elem <- list(content = readLines(filename),
390 :     uri = substitute(file(filename)))
391 :     object <- append_doc(object, parser(elem, TRUE, origin@Load, filename), NA)
392 :     }
393 :    
394 :     return(object)
395 :     })
396 :    
397 : feinerer 54 setGeneric("tm_transform", function(object, FUN, ...) standardGeneric("tm_transform"))
398 :     setMethod("tm_transform",
399 : feinerer 62 signature(object = "TextDocCol", FUN = "function"),
400 : feinerer 49 function(object, FUN, ...) {
401 : feinerer 73 result <- object
402 :     result@.Data <- lapply(object, FUN, ..., DMetaData = DMetaData(object))
403 : feinerer 56 return(result)
404 : feinerer 49 })
405 :    
406 : feinerer 66 setGeneric("as.plaintext_doc", function(object, FUN, ...) standardGeneric("as.plaintext_doc"))
407 :     setMethod("as.plaintext_doc",
408 : feinerer 62 signature(object = "PlainTextDocument"),
409 : feinerer 49 function(object, FUN, ...) {
410 :     return(object)
411 :     })
412 : feinerer 66 setMethod("as.plaintext_doc",
413 : feinerer 62 signature(object = "XMLTextDocument", FUN = "function"),
414 : feinerer 49 function(object, FUN, ...) {
415 : feinerer 61 if (!Cached(object))
416 : feinerer 66 object <- load_doc(object)
417 : feinerer 49
418 : feinerer 56 corpus <- Corpus(object)
419 : feinerer 49
420 :     # As XMLDocument is no native S4 class, restore valid information
421 :     class(corpus) <- "XMLDocument"
422 :     names(corpus) <- c("doc","dtd")
423 :    
424 : feinerer 61 return(FUN(xmlRoot(corpus), ...))
425 : feinerer 49 })
426 :    
427 : feinerer 67 setGeneric("tm_tolower", function(object, ...) standardGeneric("tm_tolower"))
428 :     setMethod("tm_tolower",
429 :     signature(object = "PlainTextDocument"),
430 :     function(object, ...) {
431 :     if (!Cached(object))
432 :     object <- load_doc(object)
433 :    
434 :     Corpus(object) <- tolower(object)
435 :     return(object)
436 :     })
437 :    
438 :     setGeneric("strip_whitespace", function(object, ...) standardGeneric("strip_whitespace"))
439 :     setMethod("strip_whitespace",
440 :     signature(object = "PlainTextDocument"),
441 :     function(object, ...) {
442 :     if (!Cached(object))
443 :     object <- load_doc(object)
444 :    
445 :     Corpus(object) <- gsub("[[:space:]]+", " ", object)
446 :     return(object)
447 :     })
448 :    
449 : feinerer 66 setGeneric("stem_doc", function(object, ...) standardGeneric("stem_doc"))
450 :     setMethod("stem_doc",
451 : feinerer 62 signature(object = "PlainTextDocument"),
452 : feinerer 61 function(object, ...) {
453 :     if (!Cached(object))
454 : feinerer 66 object <- load_doc(object)
455 : feinerer 56
456 : feinerer 49 require(Rstem)
457 :     splittedCorpus <- unlist(strsplit(object, " ", fixed = TRUE))
458 : feinerer 67 stemmedCorpus <- wordStem(splittedCorpus)
459 : feinerer 56 Corpus(object) <- paste(stemmedCorpus, collapse = " ")
460 :     return(object)
461 : feinerer 49 })
462 :    
463 : feinerer 66 setGeneric("remove_words", function(object, stopwords, ...) standardGeneric("remove_words"))
464 :     setMethod("remove_words",
465 : feinerer 60 signature(object = "PlainTextDocument", stopwords = "character"),
466 : feinerer 61 function(object, stopwords, ...) {
467 :     if (!Cached(object))
468 : feinerer 66 object <- load_doc(object)
469 : feinerer 56
470 : feinerer 49 require(Rstem)
471 :     splittedCorpus <- unlist(strsplit(object, " ", fixed = TRUE))
472 :     noStopwordsCorpus <- splittedCorpus[!splittedCorpus %in% stopwords]
473 : feinerer 56 Corpus(object) <- paste(noStopwordsCorpus, collapse = " ")
474 :     return(object)
475 : feinerer 49 })
476 :    
477 : feinerer 73 setGeneric("tm_filter", function(object, ..., FUN = s_filter, doclevel = FALSE) standardGeneric("tm_filter"))
478 : feinerer 54 setMethod("tm_filter",
479 : feinerer 61 signature(object = "TextDocCol"),
480 : feinerer 73 function(object, ..., FUN = s_filter, doclevel = FALSE) {
481 :     if (doclevel)
482 :     return(object[sapply(object, FUN, ..., DMetaData = DMetaData(object))])
483 :     else
484 :     return(object[FUN(object, ...)])
485 : feinerer 61 })
486 :    
487 : feinerer 73 setGeneric("tm_index", function(object, ..., FUN = s_filter, doclevel = FALSE) standardGeneric("tm_index"))
488 : feinerer 61 setMethod("tm_index",
489 :     signature(object = "TextDocCol"),
490 : feinerer 73 function(object, ..., FUN = s_filter, doclevel = FALSE) {
491 :     if (doclevel)
492 :     return(sapply(object, FUN, ..., DMetaData = DMetaData(object)))
493 :     else
494 :     return(FUN(object, ...))
495 : feinerer 49 })
496 :    
497 : feinerer 73 s_filter <- function(object, s, ...) {
498 :     query.df <- DMetaData(object)
499 :     con <- textConnection(s)
500 :     tokens <- scan(con, "character")
501 :     close(con)
502 :     local.meta <- lapply(object, LocalMetaData)
503 :     local.used.meta <- lapply(local.meta, function(x) names(x) %in% tokens)
504 :     l.meta <- NULL
505 :     for (i in 1:length(object)) {
506 :     l.meta <- c(l.meta, list(local.meta[[i]][local.used.meta[[i]]]))
507 :     }
508 : feinerer 74 # Load local meta data from text documents into data frame
509 :     for (i in 1:length(l.meta)) {
510 :     l.meta[[i]] <- c(l.meta[[i]], list(author = Author(object[[i]])))
511 :     l.meta[[i]] <- c(l.meta[[i]], list(datetimestamp = DateTimeStamp(object[[i]])))
512 :     l.meta[[i]] <- c(l.meta[[i]], list(description = Description(object[[i]])))
513 :     l.meta[[i]] <- c(l.meta[[i]], list(identifier = ID(object[[i]])))
514 :     l.meta[[i]] <- c(l.meta[[i]], list(origin = Origin(object[[i]])))
515 :     l.meta[[i]] <- c(l.meta[[i]], list(heading = Heading(object[[i]])))
516 :     }
517 : feinerer 73 for (i in 1:length(l.meta)) {
518 : feinerer 74 for (j in 1:length(l.meta[[i]])) {
519 :     m <- l.meta[[i]][[j]]
520 :     m.name <- names(l.meta[[i]][j])
521 :     if (!(m.name %in% names(query.df))) {
522 : feinerer 73 before <- rep(NA, i - 1)
523 :     after <- rep(NA, length(l.meta) - i)
524 : feinerer 75 if (length(m) > 1) {
525 :     nl <- vector("list", length(l.meta))
526 :     nl[1:(i-1)] <- before
527 :     nl[i] <- list(m)
528 :     nl[(i+1):length(l.meta)] <- after
529 :     insert <- data.frame(I(nl), stringsAsFactors = FALSE)
530 :     }
531 :     else
532 :     insert <- c(before, m, after)
533 : feinerer 73 query.df <- cbind(query.df, insert, stringsAsFactors = FALSE)
534 : feinerer 74 names(query.df)[length(query.df)] <- m.name
535 : feinerer 73 }
536 :     else {
537 :     if (is.null(m))
538 :     m <- NA
539 : feinerer 75 if (length(m) > 1) {
540 :     rl <- query.df[ , m.name]
541 :     rl[i] <- list(m)
542 :     query.df[ , m.name] <- data.frame(I(rl), stringsAsFactors = FALSE)
543 :     }
544 :     else
545 :     query.df[i, m.name] <- m
546 : feinerer 73 }
547 : feinerer 61 }
548 :     }
549 : feinerer 73 attach(query.df)
550 : feinerer 74 try(result <- rownames(query.df) %in% row.names(query.df[eval(parse(text = s)), ]))
551 : feinerer 73 detach(query.df)
552 :     return(result)
553 : feinerer 61 }
554 :    
555 : feinerer 63 setGeneric("fulltext_search_filter", function(object, pattern, ...) standardGeneric("fulltext_search_filter"))
556 :     setMethod("fulltext_search_filter",
557 : feinerer 61 signature(object = "PlainTextDocument", pattern = "character"),
558 :     function(object, pattern, ...) {
559 :     if (!Cached(object))
560 : feinerer 66 object <- load_doc(object)
561 : feinerer 61
562 :     return(any(grep(pattern, Corpus(object))))
563 :     })
564 :    
565 : feinerer 77 setGeneric("append_elem", function(object, data, meta = NULL) standardGeneric("append_elem"))
566 :     setMethod("append_elem",
567 : feinerer 72 signature(object = "TextDocCol", data = "TextDocument"),
568 :     function(object, data, meta = NULL) {
569 : feinerer 77 object@.Data[[length(object)+1]] <- data
570 : feinerer 76 object@DMetaData <- rbind(object@DMetaData, c(MetaID = DCMetaData(object)@NodeID, meta))
571 : feinerer 52 return(object)
572 :     })
573 :    
574 : feinerer 77 setGeneric("append_meta", function(object, dcmeta = NULL, dmeta = NULL) standardGeneric("append_meta"))
575 : feinerer 71 setMethod("append_meta",
576 : feinerer 72 signature(object = "TextDocCol"),
577 : feinerer 77 function(object, dcmeta = NULL, dmeta = NULL) {
578 : feinerer 71 object@DCMetaData@MetaData <- c(object@DCMetaData@MetaData, dcmeta)
579 : feinerer 77 if (!is.null(dcmeta))
580 : feinerer 72 object@DMetaData <- cbind(object@DMetaData, dmeta)
581 : feinerer 52 return(object)
582 :     })
583 : feinerer 53
584 : feinerer 77 setGeneric("remove_meta", function(object, dcname = NULL, dname = NULL) standardGeneric("remove_meta"))
585 :     setMethod("remove_meta",
586 :     signature(object = "TextDocCol"),
587 :     function(object, dcname = NULL, dname = NULL) {
588 :     if (!is.null(dcname)) {
589 :     object@DCMetaData@MetaData <- DCMetaData(object)@MetaData[names(DCMetaData(object)@MetaData) != dcname]
590 :     }
591 :     if (!is.null(dname)) {
592 :     object@DMetaData <- DMetaData(object)[names(DMetaData(object)) != dname]
593 :     }
594 :     return(object)
595 :     })
596 : feinerer 69
597 : feinerer 73 setGeneric("prescind_meta", function(object, meta) standardGeneric("prescind_meta"))
598 :     setMethod("prescind_meta",
599 :     signature(object = "TextDocCol", meta = "character"),
600 :     function(object, meta) {
601 :     for (m in meta) {
602 : feinerer 75 if (m %in% c("Author", "DateTimeStamp", "Description", "ID", "Origin", "Heading")) {
603 :     local.m <- lapply(object, m)
604 :     local.m <- lapply(local.m, function(x) if (is.null(x)) return(NA) else return(x))
605 : feinerer 73 local.m <- unlist(local.m)
606 : feinerer 75 object@DMetaData <- cbind(DMetaData(object), data.frame(m = local.m), stringsAsFactors = FALSE)
607 :     names(object@DMetaData)[length(object@DMetaData)] <- m
608 :     }
609 :     else {
610 :     local.meta <- lapply(object, LocalMetaData)
611 :     local.m <- lapply(local.meta, "[[", m)
612 :     local.m <- lapply(local.m, function(x) if (is.null(x)) return(NA) else return(x))
613 :     if (length(local.m) == length(unlist(local.m)))
614 :     local.m <- unlist(local.m)
615 :     else
616 :     local.m <- I(local.m)
617 :     object@DMetaData <- cbind(DMetaData(object), data.frame(m = local.m), stringsAsFactors = FALSE)
618 :     names(object@DMetaData)[length(object@DMetaData)] <- m
619 :     }
620 : feinerer 73 }
621 :     return(object)
622 :     })
623 :    
624 : feinerer 53 setMethod("[",
625 :     signature(x = "TextDocCol", i = "ANY", j = "ANY", drop = "ANY"),
626 :     function(x, i, j, ... , drop) {
627 :     if(missing(i))
628 :     return(x)
629 :    
630 :     object <- x
631 :     object@.Data <- x@.Data[i, ..., drop = FALSE]
632 : feinerer 76 df <- as.data.frame(DMetaData(object)[i, ])
633 :     names(df) <- names(DMetaData(object))
634 :     object@DMetaData <- df
635 : feinerer 53 return(object)
636 :     })
637 :    
638 : feinerer 63 setMethod("[<-",
639 :     signature(x = "TextDocCol", i = "ANY", j = "ANY", value = "ANY"),
640 :     function(x, i, j, ... , value) {
641 :     object <- x
642 :     object@.Data[i, ...] <- value
643 :     return(object)
644 :     })
645 :    
646 :     setMethod("[[",
647 :     signature(x = "TextDocCol", i = "ANY", j = "ANY"),
648 :     function(x, i, j, ...) {
649 :     return(x@.Data[[i, ...]])
650 :     })
651 :    
652 :     setMethod("[[<-",
653 :     signature(x = "TextDocCol", i = "ANY", j = "ANY", value = "ANY"),
654 :     function(x, i, j, ..., value) {
655 :     object <- x
656 :     object@.Data[[i, ...]] <- value
657 :     return(object)
658 :     })
659 :    
660 : feinerer 71 # Update \code{NodeID}s of a DCMetaData tree
661 :     # TODO: Avoid global variables outside of update_id function
662 :     update_id <- function(object) {
663 :     id <<- 0
664 :     mapping <<- left.mapping <<- NULL
665 :     level <<- 0
666 :     return(list(root = set_id(object), left.mapping = left.mapping, right.mapping = mapping))
667 :     }
668 :    
669 :     # Traversal of (binary) DCMetaData tree with setup of \code{NodeID}s
670 :     set_id <- function(object) {
671 :     object@NodeID <- id
672 :     id <<- id + 1
673 :     level <<- level + 1
674 :    
675 :     if (length(object@children) > 0) {
676 :     mapping <<- cbind(mapping, c(object@children[[1]]@NodeID, id))
677 :     left <- set_id(object@children[[1]])
678 :     if (level == 1) {
679 :     left.mapping <<- mapping
680 :     mapping <<- NULL
681 :     }
682 :     mapping <<- cbind(mapping, c(object@children[[2]]@NodeID, id))
683 :     right <- set_id(object@children[[2]])
684 :    
685 :     object@children <- list(left, right)
686 :     }
687 :     level <<- level - 1
688 :    
689 :     return(object)
690 :     }
691 :    
692 : feinerer 53 setMethod("c",
693 :     signature(x = "TextDocCol"),
694 : feinerer 71 function(x, y, ..., meta = list(merge_date = date(), merger = Sys.getenv("LOGNAME")), recursive = TRUE) {
695 :     if (!inherits(y, "TextDocCol"))
696 :     stop("invalid argument")
697 :    
698 :     object <- x
699 :     # Concatenate data slots
700 :     object@.Data <- c(as(x, "list"), as(y, "list"))
701 :    
702 :     # Update the DCMetaData tree
703 :     dcmeta <- new("MetaDataNode", NodeID = 0, MetaData = meta, children = list(DCMetaData(x), DCMetaData(y)))
704 :     update.struct <- update_id(dcmeta)
705 :     object@DCMetaData <- update.struct$root
706 :    
707 :     # Find indices to be updated for the left tree
708 :     indices.mapping <- NULL
709 :     for (m in levels(as.factor(DMetaData(x)$MetaID))) {
710 :     indices <- (DMetaData(x)$MetaID == m)
711 :     indices.mapping <- c(indices.mapping, list(m = indices))
712 :     names(indices.mapping)[length(indices.mapping)] <- m
713 :     }
714 :    
715 :     # Update the DMetaData data frames for the left tree
716 :     for (i in 1:ncol(update.struct$left.mapping)) {
717 :     map <- update.struct$left.mapping[,i]
718 :     x@DMetaData$MetaID <- replace(DMetaData(x)$MetaID, indices.mapping[[as.character(map[1])]], map[2])
719 :     }
720 :    
721 :     # Find indices to be updated for the right tree
722 :     indices.mapping <- NULL
723 :     for (m in levels(as.factor(DMetaData(y)$MetaID))) {
724 :     indices <- (DMetaData(y)$MetaID == m)
725 :     indices.mapping <- c(indices.mapping, list(m = indices))
726 :     names(indices.mapping)[length(indices.mapping)] <- m
727 :     }
728 :    
729 :     # Update the DMetaData data frames for the right tree
730 :     for (i in 1:ncol(update.struct$right.mapping)) {
731 :     map <- update.struct$right.mapping[,i]
732 :     y@DMetaData$MetaID <- replace(DMetaData(y)$MetaID, indices.mapping[[as.character(map[1])]], map[2])
733 :     }
734 :    
735 :     # Merge the DMetaData data frames
736 :     labels <- setdiff(names(DMetaData(y)), names(DMetaData(x)))
737 :     na.matrix <- matrix(NA, nrow = nrow(DMetaData(x)), ncol = length(labels), dimnames = list(row.names(DMetaData(x)), labels))
738 :     x.dmeta.aug <- cbind(DMetaData(x), na.matrix)
739 :     labels <- setdiff(names(DMetaData(x)), names(DMetaData(y)))
740 :     na.matrix <- matrix(NA, nrow = nrow(DMetaData(y)), ncol = length(labels), dimnames = list(row.names(DMetaData(y)), labels))
741 :     y.dmeta.aug <- cbind(DMetaData(y), na.matrix)
742 :     object@DMetaData <- rbind(x.dmeta.aug, y.dmeta.aug)
743 :    
744 :     return(object)
745 : feinerer 72 })
746 :     setMethod("c",
747 :     signature(x = "TextDocument"),
748 :     function(x, ..., recursive = TRUE){
749 :     args <- list(...)
750 :     if(length(args) == 0)
751 :     return(x)
752 : feinerer 54
753 : feinerer 73 dmeta.df <- data.frame(MetaID = rep(0, length(list(x, ...))), stringsAsFactors = FALSE)
754 : feinerer 72 dcmeta.node <- new("MetaDataNode",
755 :     NodeID = 0,
756 :     MetaData = list(create_date = date(), creator = Sys.getenv("LOGNAME")),
757 :     children = list())
758 :    
759 :     return(new("TextDocCol", .Data = list(x, ...), DMetaData = dmeta.df, DCMetaData = dcmeta.node))
760 :     })
761 :    
762 : feinerer 54 setMethod("length",
763 :     signature(x = "TextDocCol"),
764 :     function(x){
765 :     return(length(as(x, "list")))
766 :     })
767 :    
768 :     setMethod("show",
769 :     signature(object = "TextDocCol"),
770 :     function(object){
771 : feinerer 70 cat(sprintf(ngettext(length(object),
772 :     "A text document collection with %d text document\n",
773 :     "A text document collection with %d text documents\n"),
774 :     length(object)))
775 : feinerer 54 })
776 :    
777 :     setMethod("summary",
778 :     signature(object = "TextDocCol"),
779 :     function(object){
780 :     show(object)
781 : feinerer 71 if (length(DMetaData(object)) > 0) {
782 : feinerer 77 cat(sprintf(ngettext(length(DCMetaData(object)@MetaData),
783 :     "\nThe metadata consists of %d tag-value pair and a data frame\n",
784 :     "\nThe metadata consists of %d tag-value pairs and a data frame\n"),
785 :     length(DCMetaData(object)@MetaData)))
786 : feinerer 54 cat("Available tags are:\n")
787 : feinerer 77 cat(names(DCMetaData(object)@MetaData), "\n")
788 :     cat("Available variables in the data frame are:\n")
789 : feinerer 71 cat(names(DMetaData(object)), "\n")
790 : feinerer 54 }
791 :     })
792 : feinerer 55
793 :     setGeneric("inspect", function(object) standardGeneric("inspect"))
794 :     setMethod("inspect",
795 : feinerer 65 signature("TextDocCol"),
796 : feinerer 55 function(object) {
797 :     summary(object)
798 :     cat("\n")
799 :     show(as(object, "list"))
800 :     })
801 : feinerer 65
802 :     # No metadata is checked
803 :     setGeneric("%IN%", function(x, y) standardGeneric("%IN%"))
804 :     setMethod("%IN%",
805 :     signature(x = "TextDocument", y = "TextDocCol"),
806 :     function(x, y) {
807 :     x %in% y
808 :     })

R-Forge@R-project.org
ViewVC Help
Powered by ViewVC 1.0.0  
Thanks to:
Vienna University of Economics and Business University of Wisconsin - Madison Powered By FusionForge