头条系web RPC案例

以头条系某短视频(dy)web页面搜索为例,通过RPC的逻辑实现数据采集。

目前方案通用于头条系web页面。因为其当前产品大都基于XMLHttpRequest的send方法做一些校验,我们可以自启一个浏览器去完成XMLHttpRequest请求,直接获取返回的responseText。

话虽如此,此方案仅是为了配合书中的教程供大家学习,并不代表是最优选择,主要是给大家提供一种思路和方法。

代码逻辑很简单,只有50行代码,有不懂的问题可私信或留言。

更多精彩内容:《爬虫逆向进阶实战》



调试分析

因受版权影响,我会避开关键词。

先找一下其发送逻辑,堆栈第一个点进去。
在这里插入图片描述

断点后调试,可看到t即是XMLHttpRequest。

在这里插入图片描述

查看t对象。

猜你喜欢

转载自blog.csdn.net/weixin_43582101/article/details/125086670
RPC