差分発生行の前後
無視リスト:
更新日時:
2016/03/14 20:01:59 (9 年 前)
更新者:
nori
ログメッセージ:

クローラー結果としてCrawledDataset が扱えるようにの暫定版

パス:
SPARQLBuilderWWW2016/src/java/org/biohackathon/SPARQLBuilder/endpointMetadata
ファイル:
2 変更

凡例:

変更なし
追加
削除
  • SPARQLBuilderWWW2016/src/java/org/biohackathon/SPARQLBuilder/endpointMetadata/MetadataFile.java

    r267 r269  
    55import java.util.Calendar; 
    66 
    7 import jp.riken.accc.db.rdf.crawler.dataStructure.sparql.URICollection; 
     7import jp.riken.accc.db.sparqlBuilderMetadata.crawler.dataStructure.sparql.URICollection; 
    88 
    99import org.apache.jena.riot.RDFDataMgr; 
  • SPARQLBuilderWWW2016/src/java/org/biohackathon/SPARQLBuilder/endpointMetadata/MetadataManager.java

    r267 r269  
    55import java.util.Set; 
    66 
     7import jp.riken.accc.db.sparqlBuilderMetadata.crawler.dataStructure.sparql.crawler.CrawledMetadata; 
     8import jp.riken.accc.db.sparqlBuilderMetadata.crawler.dataStructure.sparql.crawler.CrawledMetadataFileReader; 
     9 
    710public class MetadataManager { 
    811 
    9         HashMap<String,MetadataFile> metadataTable = null; 
     12        HashMap<String,CrawledMetadata> metadataTable = null; 
    1013         
    1114        /* 
     
    2225        }*/      
    2326 
    24         public MetadataFile[] getMetadataFiles(){ 
    25                 return metadataTable.values().toArray(new MetadataFile[0]); 
     27        public CrawledMetadata[] getCrawlerMetadataList(){ 
     28                return metadataTable.values().toArray(new CrawledMetadata[0]); 
    2629        } 
    27         public MetadataFile getMetadataFile(String uri){ 
     30        public CrawledMetadata getCrawledMetadata(String uri){ 
    2831                return metadataTable.get(uri); 
    2932        } 
     
    4144         
    4245        public void init(String metadataDirStr) throws Exception{ 
    43                 metadataTable = new HashMap<String,MetadataFile>(); 
     46                metadataTable = new HashMap<String,CrawledMetadata>(); 
    4447                File metadataDir = new File(metadataDirStr); 
    4548                File[] files = null; 
     
    5861                } 
    5962                for(File file: files){ 
    60                         MetadataFile metadataFile = null; 
     63                        CrawledMetadata crawledMetadata = null; 
    6164                        try{ 
    62                                 metadataFile = new MetadataFile(file); 
    63                                 String uri = metadataFile.getEndpointURI(); 
     65                                crawledMetadata = CrawledMetadataFileReader.readFile(file.getCanonicalPath()); 
     66                                String uri = crawledMetadata.getEndpointURI(); 
    6467                                if( uri != null ){ 
    6568                                        if( metadataTable.containsKey(uri)){ 
    66                                                 MetadataFile tempMF = metadataTable.get(uri); 
    67                                                 if(tempMF.getEndDateTime().before(metadataFile.getEndDateTime()) ){ 
     69                                                CrawledMetadata tempMF = metadataTable.get(uri); 
     70                                                if(tempMF.getDefaultDataset().getCrawlLog().crawlEndTime.before(crawledMetadata.getDefaultDataset().getCrawlLog().crawlEndTime) ){ 
    6871                                                        metadataTable.remove(uri); 
    69                                                         metadataTable.put(uri,  metadataFile); 
     72                                                        metadataTable.put(uri,  crawledMetadata); 
    7073                                                } 
    7174                                        }else{ 
    72                                                 metadataTable.put(uri, metadataFile); 
     75                                                metadataTable.put(uri, crawledMetadata); 
    7376                                        } 
    7477                                }