国产xxxx99真实实拍_久久不雅视频_高清韩国a级特黄毛片_嗯老师别我我受不了了小说

資訊專欄INFORMATION COLUMN

基于asyncio編寫一個telegram爬蟲機器人

馬忠志 / 2590人閱讀

摘要:而的異步非阻塞特性能夠完美的解決這一問題。爬蟲機器人功能實現我使用編寫的機器人是用來抓取來自游民星空的圖片。也是使用裝飾器進行回調函數注冊,使用進行消息更新。當沒有指令時,會顯示一些能夠查看的圖片類型。

原文鏈接

前言

aiotg 可以通過異步調用telegram api的方式來構建bot,因為決定開發一個爬蟲功能的bot,所以網絡請求阻塞是比較嚴重的性能障礙。而asyncio的異步非阻塞特性能夠完美的解決這一問題。這篇文章在記錄如何使用aiotg進行telegram開發的同時,也會說明一些aiohttp的使用方法,這里是項目源碼。如果你覺得不錯可以幫忙點一下star

https://t.me/fpicturebot 點擊鏈接可以體驗一下這個bot的功能。

如果讀者之前對telegram的bot沒有了解,可以查看這篇寫給開發者的telegram-bots介紹文檔

aiotg簡單教程 1.一個最簡單的bot

你可以先學習如何新建一個機器人

from aiotg import Bot, Chat

config = {
    "api_token": "***********",
    "proxy": "http://127.0.0.1:8118"
}

bot = Bot(**config)

@bot.command(r"/echo (.+)")
def echo(chat: Chat, match):
    return chat.reply(match.group(1))

bot.run()

上面是一個簡單的回復機器人,當你使用指令 /echo+內容時,機器人會自動回復給你發送的內容。這里要注意一點,在我這里沒有采用使用 pipenv ( pip ) 安裝aiotg的方法,因為pip平臺上安裝的是master分支的包,aiotg通過使用aiohttp來調用telegram bot api,在創建一個bot的時候沒有提供proxy選項為aiohttp設置代理,在本地開發的時候會因為國內網絡抽搐出現網絡連接錯誤,所以在這里我使用了aiotg的prxoy分支,直接從github上下載的代碼。在創建Bot對象的時候加入proxy選項就能使用本地代理來進行開發調試了。

后來我在aiotg telegram群里建議作者將proxy合并到主分支,后來作者表示他也有這樣的想法,同時他也吐槽了一下俄羅斯的網絡也有很多審查和限制,現在在aiotg里已經沒有proxy分支了,在aiotg-0.9.9版本中提供proxy選項,所以大家可以繼續使用pipenv下載aiotg包。

2.aiotg異步特性

既然用到aiotg來開發就是看中了他的異步特性,下面就列出一個簡單的例子

import aiohttp
import json
from aiotg import Bot, Chat

with open("token.conf") as f:
    token = json.loads(f.read())

bot = Bot(**token)

@bot.command("/fetch")
async def async_fecth(chat: Chat, match):
    url = "http://www.gamersky.com/ent/111/"
    async with aiohttp.ClientSession() as sesssion:
        async with sesssion.get(url) as resp:
            info = " version: {}
 status :{}
 method: {}
 url: {}
".format(
                resp.version, resp.status, resp.method, resp.url)
            await chat.send_text(info)

bot.run(debug=True)

3. 自定義鍵盤

關于自定義鍵盤的內容可以點擊鏈接查看官方解釋,這里是簡單的中文描述。

category.json

[
    {
        "name": "dynamic",
        "title": "動態圖",
        "url": "http://www.gamersky.com/ent/111/"
    },
    {
        "name": "oops",
        "title": "囧圖",
        "url": "http://www.gamersky.com/ent/147/"
    },
    {
        "name": "beauty",
        "title": "福利圖",
        "url": "http://tag.gamersky.com/news/66.html"
    },
    {
        "name": "easy-moment",
        "title": "輕松一刻",
        "url": "http://www.gamersky.com/ent/20503/"
    },
    {
        "name": "trivia",
        "title": "冷知識",
        "url": "http://www.gamersky.com/ent/198/"
    },
    {
        "name": "cold-tucao",
        "title": "冷吐槽",
        "url": "http://www.gamersky.com/ent/20108/"
    }
]

main.py

import aiohttp
import json
from aiotg import Bot, Chat

with open("token.json") as t, open("category.json") as c:
    token = json.loads(t.read())
    category = json.loads(c.read())

bot = Bot(**token)

@bot.command("/reply")
async def resply(chat: Chat, match):
    kb = [[item["title"]] for item in category]
    keyboard = {
        "keyboard": kb,
        "resize_keyboard": True
    }
    await chat.send_text(text="看看你的鍵盤", reply_markup=json.dumps(keyboard))

bot.run(debug=True)

只需要在調用chat的發送消息函數中,指定 reply_markup 參數,你就能個性化的設定用戶鍵盤, reply_markup 參數需要一個json對象,官方指定為ReplyKeyboardMarkup類型,其中keyboard需要傳遞一個KeyboardButton的數組。

每個keyboard的成員代表著鍵盤中的行,你可以通過修改每行中KeyboardButton的個數來排列你的鍵盤,比如我們讓鍵盤每行顯示兩個KeyboardButton,如下所示

@bot.command("/reply")
async def reply(chat: Chat, match):
    # kb = [[item["title"]] for item in category]
    kb, row = [], -1
    for idx, item in enumerate(category):
        if idx % 2 == 0:
            kb.append([])
            row += 1
        kb[row].append(item["title"])
    keyboard = {
        "keyboard": kb,
        "resize_keyboard": True
    }
    await chat.send_text(text="看看你的鍵盤", reply_markup=json.dumps(keyboard))

4. 內聯鍵盤和消息更新

內聯鍵盤的意思就是附著在消息上的鍵盤,內聯鍵盤由內聯按鈕組成,每個按鈕會附帶一個回調數據,每次點擊按鈕之后會有對應的回調函數處理。

@bot.command("/inline")
async def inlinekeyboard(chat: Chat, match):

    inlinekeyboardmarkup = {
            "type": "InlineKeyboardMarkup",
            "inline_keyboard": [
                [{"type": "InlineKeyboardButton",
                  "text": "上一頁",
                  "callback_data": "page-pre"},
                 {"type": "InlineKeyboardButton",
                  "text": "下一頁",
                  "callback_data": "page-next"}]
                ]
            }

    await chat.send_text("請翻頁", reply_markup=json.dumps(inlinekeyboardmarkup))

@bot.callback(r"page-(w+)")
async def buttonclick(chat, cq, match):
    await chat.send_text("You clicked {}".format(match.group(1)))

有時候我們想修改之前已經發送過的消息內容,例如當用戶點擊了內聯鍵盤,而鍵盤的功能是進行翻頁更新消息的內容。這時候我們可以使用 editMessageText 功能。例如點擊上面內聯鍵盤中的上一頁按鈕,你可以看到消息的內容被更改了。

@bot.callback(r"page-(w+)")
async def buttonclick(chat, cq, match):
    await chat.edit_text(message_id=chat.message["message_id"], text="消息被修改了")

5.內聯請求模式

內聯請求模式感覺更適合在群組中使用,在討論組中輸入@botname + 特定指令,輸入框的上方就會顯示查詢內容,你可以返回給用戶文章類型、圖片類型或者其他類型的查詢信息。官網有更詳細的內容。

@bot.inline
async def inlinemode(iq):
    results = [{
            "type": "article",
            "id": str(index),
            "title": article["title"],
            "input_message_content": { "message_text": article["title"]},
            "description": f"這里是{article["title"]}"
        } for index, article in enumerate(category)]
    await iq.answer(results)

我們設定當用戶輸入內聯指令時,bot返回可以選擇的圖片種類,返回結果的類型是article類型,官方還提供了語音,圖片,gif,視頻,音頻。表情等類型,你可以根據自己的需要進行選擇。

爬蟲機器人功能實現

我使用aiotg編寫的機器人是用來抓取來自游民星空的圖片。

1. 爬蟲功能

爬蟲功能的實現是用aiohttp發送web請求,使用beautifulsoup進行html解析,核心代碼如下

import re
import aiohttp
from bs4 import BeautifulSoup


def aioget(url):
    return aiohttp.request("GET", url)


def filter_img(tag):
    if tag.name != "p":
        return False
    try:
        if tag.attrs["align"] == "center":
            for child in tag.contents:
                if child.name == "img" or child.name == "a":
                    return True
        return False
    except KeyError:
        if "style" in tag.attrs:
            return True
        else:
            return False
            
            
async def fetch_img(url):
    async with aioget(url) as resp:
        resp_text = await resp.text()
        content = BeautifulSoup(resp_text, "lxml")
        imgs = content.find(class_="Mid2L_con").findAll(filter_img)
        results = []
        for img in imgs:
            try:
                results.append({
                    "src":  img.find("img").attrs["src"],
                    "desc": "
".join(list(img.stripped_strings))
                })
            except AttributeError:
                continue
        return results

我將aiohttp的get請求稍微包裝了一下,簡潔一些。html中元素的提取就不在贅述,就是找找html中的規律

2. 指令功能

指令功能實現需要使用aiotg.bot.command裝飾器進行命令注冊,下面列出 /start的功能實現

@bot.command(r"/start")
async def list_category(chat: Chat, match):
    kb, row = [], -1
    for idx, item in enumerate(category["name"]):
        if idx % 2 == 0:
            kb.append([])
            row += 1
        kb[row].append(item)
    keyboard = {
        "keyboard": kb,
        "resize_keyboard": True
    }
    await chat.send_text(text="請選擇你喜歡的圖片類型", reply_markup=json.dumps(keyboard))

關于自定義鍵盤部分在上文中已經講過,讀者可以自己編碼實現

3. callback功能

讀者可以看到在消息上附有頁面切換按鈕,每個按鈕會帶著一個callbackdata,當點擊按鈕會調用相應的callback函數進行處理,這里點擊下一頁時會進行翻頁。

看頁面更新了,關于更新頁面的實現在上面也講到了如何進行消息更新。

@bot.callback(r"page-(?Pw+)-(?Pd+)")
async def change_lists(chat: Chat, cq, match):
    req_name = match.group("name")
    page = match.group("page")
    url = category[req_name]
    text, markup = await format_message(req_name, url, page)
    await chat.edit_text(message_id=chat.message["message_id"], text=text, markup=markup)

也是使用裝飾器進行回調函數注冊,使用chat.edit_text進行消息更新。

callback功能也用在了圖片的更新。點擊下一頁更新圖片。

4.內聯請求模式功能

當用戶在輸入框中輸入@botusername+指令時,會在輸入框上顯示查詢內容。

當沒有指令時,會顯示一些能夠查看的圖片類型。

當輸入對應類型漢字的前幾個字時,bot會匹配你想看的圖片列表,并羅列出來

@bot.inline(r"([u4e00-u9fa5]+)")
async def inline_name(iq, match):
    req = match.group(1)
    req_name = match_category(req.strip(), category["name"])
    ptype = "G" if req_name == "dynamic" else "P"
    if req_name is None:
        return
    results, _ = await fetch_lists(category[req_name])
    c_results = [{
            "type": "article",
            "id": str(index),
            "title": item["title"],
            "input_message_content": {
                "message_text": "/" + ptype + item["date"] + "_" + item["key"]
            },
            "description": item["desc"]
        } for index, item in enumerate(results)]
    await iq.answer(c_results)
redis緩存

當發送給用戶圖片時,telegram會返回一個和圖片對應的file_id, 當再次發送相同的圖片時,只需要在調用send_photo時,將photo參數賦值為file_id即可,所以每次使用爬蟲進行抓取圖片時,將圖片的fild_id存在redis中,用戶請求圖片時,如果圖片之前已經抓取過,這時候只要從redis中取出file_id,再調用send_photo即可。

文章版權歸作者所有,未經允許請勿轉載,若此文章存在違規行為,您可以聯系管理員刪除。

轉載請注明本文地址:http://specialneedsforspecialkids.com/yun/41774.html

相關文章

  • 關于Python爬蟲種類、法律、輪子的一二三

    摘要:一般用進程池維護,的設為數量。多線程爬蟲多線程版本可以在單進程下進行異步采集,但線程間的切換開銷也會隨著線程數的增大而增大。異步協程爬蟲引入了異步協程語法。 Welcome to the D-age 對于網絡上的公開數據,理論上只要由服務端發送到前端都可以由爬蟲獲取到。但是Data-age時代的到來,數據是新的黃金,毫不夸張的說,數據是未來的一切。基于統計學數學模型的各種人工智能的出現...

    lscho 評論0 收藏0
  • Python

    摘要:最近看前端都展開了幾場而我大知乎最熱語言還沒有相關。有關書籍的介紹,大部分截取自是官方介紹。但從開始,標準庫為我們提供了模塊,它提供了和兩個類,實現了對和的進一步抽象,對編寫線程池進程池提供了直接的支持。 《流暢的python》閱讀筆記 《流暢的python》是一本適合python進階的書, 里面介紹的基本都是高級的python用法. 對于初學python的人來說, 基礎大概也就夠用了...

    dailybird 評論0 收藏0
  • 基于 asyncio 的Python異步爬蟲框架

    摘要:輕量異步爬蟲框架,基于,目的是讓編寫單頁面爬蟲更方便更迅速,利用異步特性讓爬蟲更快減少在上的耗時介紹對于單頁面,只要實現框架定義的就可以實現對目標數據的抓取對于頁面目標較多,需要進行深度抓取時,就派上用場了支持的加載類也可以很好的 aspider A web scraping micro-framework based on asyncio. 輕量異步爬蟲框架aspider,基于asy...

    Vultr 評論0 收藏0
  • 談談對Python爬蟲的理解

    摘要:爬蟲也可以稱為爬蟲不知從何時起,這門語言和爬蟲就像一對戀人,二者如膠似漆,形影不離,你中有我我中有你,一提起爬蟲,就會想到,一說起,就會想到人工智能和爬蟲所以,一般說爬蟲的時候,大部分程序員潛意識里都會聯想為爬蟲,為什么會這樣,我覺得有兩個 爬蟲也可以稱為Python爬蟲 不知從何時起,Python這門語言和爬蟲就像一對戀人,二者如膠似漆 ,形影不離,你中有我、我中有你,一提起爬蟲,就...

    Yang_River 評論0 收藏0
  • 基于asyncio、aiohttp、xpath的異步爬蟲

    摘要:今天介紹一下基于和的異步爬蟲的編寫,解析用的是。通過輸入問題,該爬蟲能爬取關于健康方面的數據。先讀取規則,再爬取數據。 今天介紹一下基于asyncio和aiohttp的異步爬蟲的編寫,解析html用的是xpath。 該爬蟲實現了以下功能:1.讀取csv文件中的爬取規則,根據規則爬取數據;代碼中添加了對3個網站的不同提取規則,如有需要,還可以繼續添加;2.將爬取到的數據保存到mysql數...

    ckllj 評論0 收藏0

發表評論

0條評論

最新活動
閱讀需要支付1元查看
<