关注和粉丝信息width的页面结构相同怎么办?
发布时间:2025-05-09 03:27:03 作者:玩站小弟
我要评论

关注和粉丝信息的页面结构相同,所以只要写一个函数就可以完成两个类似的任务。首先剖析URL的特性,打开任意一个移动端网页版微博的关注页和粉丝页。关注URL,有以下两种方式关注:https://weibo刷触手人气手机版。
关注和粉丝信息的关注构相页面结构相同,所以只要写一个函数就可以完成两个类似的和粉任务。首先剖析URL的丝信刷触手人气手机版特性,打开任意一个移动端网页版微博的面结关注页和粉丝页。关注URL,同办有以下两种方式
关注: https://weibo.cn/uid/follow?page=页码 粉丝: https://weibo.cn/uid/fans?page=页码
很容易才能打开相应的关注构相页面。再来看系统容许我们查看多少页
写一个函数获得可以迭代的和粉次数
def getPageNum(soup): """ soup是关注页或粉丝页html的解析的返回结果,BeautifulSoup的丝信实例 """ return int(soup.find(name='input', attrs={ 'name': 'mp'})['value'])
同样地,F12检测
每一个用户的面结主页链接出现两次(红色方框),并且父标签都是同办、属性都是关注构相刷触手人气手机版valign=“top”,所以每位关注(粉丝)用户信息出现两次。和粉获取的丝信方式比较简单,用findAll函数找出所有标签,面结后以step=2挨个提取。同办从蓝色方框中也能看到,用户主页URL不一定包含UID(优先展示个性域名),所以第一步获得UID很重要。其实这儿使用了一种麻烦的方式,因为每条信息都出现两次。观察图中第一个标签,它还有style="width: 52px"属性。还有一个更简单的方案是黄色方框的内容,这个表情是“关注他”按钮的链接,每个用户只出现一次微博粉丝链接,而且链接中早已包含了uid。如果借助这个标签的信息,第一步获取uid就是不必要的。
利用白色方框标签信息代码
def getRelation(person, relation, mobile=False): if not (relation := relation.lower()) in ['focus', 'fans']: raise ValueError('参数必须是 [\'focus\',\'fans\']') if relation == 'focus': pageUrlFunc = focusPageUrl addFunc = person.addFocus else: pageUrlFunc = fansPageUrl addFunc = person.addFans url = pageUrlFunc(person, 1, mobile) soup = getHtml(url=url, headers=header) pageNum = getPageNum(soup) for page in range(1, pageNum+1): url = pageUrlFunc(person, page, mobile) soup = getHtml(url=url, headers=header) blank = ' ' if page < 10 else '' print('正在抓取第', str(page)+blank, '页信息') memberList = soup.findAll(name='td', attrs={ 'valign': 'top'}) for i in range(1, len(memberList), 2): memberInfo = memberList[i].find(name='a') name = memberInfo.text uid = memberInfo['href'].split('/')[-1] addFunc(WeiboUser(name=name, uid=uid)) print(person.name + ': ' + relation + " 信息抓取成功\n-------------------------------------------")
4. 基本链接和HTML
def homepageUrl(person, mobile=False): if mobile: pofix = '' if person.uid: pofix = person.uid elif person.customDomain: pofix = person.customDomain else: raise RuntimeError('缺少必要信息') return 'https://weibo.cn/' + pofix if oid := person.oid: return 'https://www.weibo.com/u/' + oid if pid := person.pageId: return 'https://www.weibo.com/p/' + pid if domain := person.customDomain: return 'https://www.weibo.com/' + domain def focusPageUrl(person, page=1, mobile=False): if mobile: return 'https://weibo.cn/' + person.uid + '/follow?page=' + str(page) return 'https://weibo.com/p/' + person.pageId + '/follow?page=' + str(page)def fansPageUrl(person, page=1, mobile=False): if mobile: return 'https://weibo.cn/' + person.uid + '/fans?page=' + str(page) return 'https://weibo.com/p/' + person.pageId + '/follow?relate=fans&page=' + str(page)def getHtml(url, headers): response = requests.get(url=url, headers=headers) if (html := response.text): return bs(html, 'lxml') print('无内容,正在重新请求') getHtml(url, headers)
getHtml函数接收URL和恳求头,返回经过BeautifulSoup实例。因为不登陆微博,我们看不到用户的关注,所以恳求头里应当包含登入信息,cookie正是包含登入信息的一项。打开浏览器登陆微博,按F12步入开发者工具,选中网路(Network)
把cookie所有内容保存出来。为了模拟浏览器浏览,把user-agent也保存出来。
cookie = '
相关文章
- 0.1元一万快手播放量2025-05-09
- 抖音24小时赞下单平台袁记短视频热门业务教程网现在,随着互联网的快速发展,越来越多的企业开始意识到网路营销的重要性,而SEO优化作为其中特别重要的一环,更是深受关注。在此背景下,抖音24小时赞下单平台2025-05-09
- 收益稳健下降,用户流量达到历史新高袁记短视频热门业务教程网2023Q3集团总收入为人民币279.48万元YoY+20.8%),主要缘于各项核心业务领域收入的下降,包括线上营销服务、电商业务及直播业务。2025-05-09
- 抖音双击神器免费版是一款专为抖音用户设计的辅助工具,它还能帮助用户快速、便捷地降低视频双击数目,提高视频爆光率。该软件操作简单,功能强悍,受到广大抖音用户的喜爱。袁记短视频热门业务教程网【抖音双击神器2025-05-09
qq刷赞网站全网+最低价啊空间赞 - qq刷赞网站全网+最低价啊空间赞免费
qq刷赞网站全网+最低价啊空间赞2025-05-09- 来源:电商报ID:kandianshang)中国电商影响力媒体!袁记短视频热门业务教程网导读:假如说疫情的爆发给了直播带货一次次高频现身和市场普及的时机的话,这么在7月份疫情基本稳定以后,更多的人通过2025-05-09
最新评论