Java爬虫

一、代码

爬虫的实质就是打开网页源代码进行匹配查找，然后获取查找到的结果。

打开网页：

URL url = new URL("http://www.cnblogs.com/Renyi-Fan/p/6896901.html");

读取网页内容：

BufferedReader bufr = new BufferedReader(new InputStreamReader(url.openStream()));

正则表达式进行匹配：

tring mail_regex = "\\w+@\\w+(\\.\\w+)+";

储存结果：

List<String> list = new ArrayList<String>();

* 获取

* 将正则规则进行对象的封装。

* Pattern p = Pattern.compile("a*b");

* //通过正则对象的matcher方法字符串相关联。获取要对字符串操作的匹配器对象Matcher .

* Matcher m = p.matcher("aaaaab");

* //通过Matcher匹配器对象的方法对字符串进行操作。

* boolean b = m.matches();

import java.io.BufferedReader;import java.io.FileNotFoundException;import java.io.FileReader;import java.io.IOException;import java.io.InputStreamReader;import java.net.URL;import java.util.ArrayList;import java.util.List;import java.util.regex.Matcher;import java.util.regex.Pattern;public class Spider {    public static void main(String[] args) throws IOException {//        List
     
       list = getMails();//        for(String mail : list){//            System.out.println(mail);//        }            List
      
        list = getMailsByWeb();        for(String mail : list){            System.out.println(mail);        }    }    public static List
       
          getMailsByWeb() throws IOException{        //1,读取源文件。        //URL url = new URL("http://192.168.1.100:8080/myweb/mail.html");        //URL url = new URL("http://localhost:8080/SecondWeb/index.jsp");        URL url = new URL("http://www.cnblogs.com/Renyi-Fan/p/6896901.html");        BufferedReader bufr = new BufferedReader(new InputStreamReader(url.openStream()));        //2,对读取的数据进行规则的匹配。从中获取符合规则的数据.        String mail_regex = "\\w+@\\w+(\\.\\w+)+";        List
        
          list = new ArrayList
         
          ();        Pattern p = Pattern.compile(mail_regex);        String line = null;        while((line=bufr.readLine())!=null){            Matcher m = p.matcher(line);            while(m.find()){                //3,将符合规则的数据存储到集合中。                list.add(m.group());            }        }        return list;    }    public static List
          
            getMails() throws IOException{ //1,读取源文件。 BufferedReader bufr = new BufferedReader(new FileReader("c:\\mail.html")); //2,对读取的数据进行规则的匹配。从中获取符合规则的数据. String mail_regex = "\\w+@\\w+(\\.\\w+)+"; List
           
             list = new ArrayList
            
             (); Pattern p = Pattern.compile(mail_regex); String line = null; while((line=bufr.readLine())!=null){ Matcher m = p.matcher(line); while(m.find()){ //3,将符合规则的数据存储到集合中。 list.add(m.group()); } } return list; }}