当前位置: 移动技术网 > IT编程>脚本编程>Go语言 > go语言实现抓取高清图片

go语言实现抓取高清图片

2017年12月08日  | 移动技术网IT编程  | 我要评论
看到有很多python 的,然后写了个go 的,可以抓取高清图片  getp.go 复制代码 代码如下: package main import ( &

看到有很多python 的,然后写了个go 的,可以抓取高清图片

 getp.go

复制代码 代码如下:

package main
import (
    "io/ioutil"
    "log"
    "net/http"
    "os"
    "regexp"
    "strconv"
    "strings"
    "sync"
)
var urlist [4]string
var album chan string
var w sync.waitgroup
var dir string
func main() {
    dir = "tmp/"
    err := os.mkdir(dir, 0777)
    if err != nil {
        isexist := os.isexist(err)
        log.println(isexist)
    }
    album = make(chan string, 200)
    urlist = [4]string{"=", "=", "=", "="}
    for _, v := range urlist {
        for i := 1; i <= 20; i++ {
            url := v + strconv.itoa(i)
            w.add(1)
            go getalbum(url)
            w.wait()
        }
    }
}
func getalbum(url string) {
    data := geturl(url)
    body := string(data)
    part := regexp.mustcompile(`<a class="img" href="(.*)">`)
    match := part.findallstringsubmatch(body, -1)
    for _, v := range match {
        album <- v[1]
        w.add(1)
        go getitem()
    }
    w.done()
}
func getitem() {
    url := <-album
    defer func() {
        ret := recover()
        if ret != nil {
            log.println(ret)
            w.done()
        } else {
            w.done()
        }
    }()
    data := geturl(url)
    if len(data) > 10 {
        body := string(data)
        part := regexp.mustcompile(`bigimgsrc="(.*)"`)
        match := part.findallstringsubmatch(body, -1)
        for _, v := range match {
            str := strings.split(v[1], "/")
            length := len(str)
            source := geturl(v[1])
            name := str[length-1]
            file, err := os.create(dir + name)
            if err != nil {
                panic(err)
            }
            size, err := file.write(source)
            defer file.close()
            if err != nil {
                panic(err)
            }
            log.println(size)
        }
    }
}
func geturl(url string) []byte {
    ret, err := http.get(url)
    if err != nil {
        log.println(url)
        status := map[string]string{}
        status["status"] = "400"
        status["url"] = url
        panic(status)
    }
    body := ret.body
    data, _ := ioutil.readall(body)
    return data
}

以上所述就是本文的全部内容了,希望对大家熟悉go语言能够有所帮助。

如您对本文有疑问或者有任何想说的,请 点击进行留言回复,万千网友为您解惑!

相关文章:

验证码:
移动技术网