崗位職責： 1.對指定的網站進行網頁抓取、數據提取、破解反爬策略； 2.負責多平臺信息抽取、數據清洗、入庫、服務化等研發和優化工作； 3.參與開發和設計分布式網絡爬蟲系統，進行信息的抓取和分析工作； 4.研究優化爬蟲算法，提升爬蟲系統的穩定性、可擴展性； 5.獨立解決實際開發過程中碰到的各類產品數據需求和接口問題。 任職資格： 1、本科及以上學歷，計算機相關專業，5年以上工作經驗。 2、精通python編程語言，熟悉scrapy等常用數據抓取框架以及原理，熟悉網頁信息和APP數據抽取，能夠設計分布式爬蟲系統框架； 3、精通 Charles等抓包工具，精通網頁抓取原理及技術，精通正則表達式，熟練從結構化和非結構化的數據中獲取信息； 4、精通 JS debugger、JS逆向; 5、精通 selenium 、DrissionPage 等自動化抓取技術； 6、把握網絡爬蟲核心技術研究方向,研究優化算法,提升爬蟲系統的穩定性、可擴展性; 7、研究爬蟲策略和防屏蔽規則,解決封賬號、封IP、驗證碼、頁面跳轉等難點攻克,提升網頁抓取的效率和質量 8、優先條件,對APP脫殼、APP逆向反編譯或者有快手、抖音數據爬取經驗，或者對機器學習算法有一定了解。