[파이썬] requests 모듈을 사용한 python동적크롤링 따라하기
안녕하세요 종백이입니다😎 최근에 크롤링 관련된 글을 지속적으로 작성 중인데 오늘은 그 3번째 이야기를 해보겠습니다! 이전에는 셀레니움을 이용한 동적 크롤링에 대해 이야기해 보았는데요 사실 셀레니움을 쓰면 크롬 드라이브를 쓰게 되는데 크롤링 행위를 계속하다 보면 크롬드라이브 쓰는데 몇몇 문제가 발생합니다.... 특히 램용량이 8G 밖에 안 되는 제 노트북에서는 그 증상이 더 악화되는데요... 크롬 드라이브를 써서 셀레니움 get을 할 때마다 스택이 되는지 40번 정도 하면 램사용량이 가득 차서 컴퓨터가 맛이 가버리더라고요?! 그래서 저가형 컴퓨터를 위한 크롤링 방식이 뭐가 있을까 하다가 requests로 동적 크롤링을 따라 하는 방법을 찾았습니다...(많은 고수분들은 이미 하고 계셨겠죠?!) 동적 크롤링순..
독학/python
2023. 3. 12. 23:17
반응형
공지사항
최근에 올라온 글
최근에 달린 댓글
- Total
- Today
- Yesterday
링크
TAG
- 상위노출프로그램
- javascript독학
- 그림독학
- CNC업그레이드
- 수부지추천
- 네이버커머스api
- 자바스크립트독학
- selenium
- 브리타정수기
- 주식종목
- 웹앱독학
- 주식분석
- 주식독학
- 파이썬셀레니움
- 눈시림없는선크림
- javascript
- 파이썬독학
- 인플레이션
- 책추천
- flutter네이버커머스api
- 책리뷰
- 경매동향
- 제로이드
- 파이썬
- 프로그래밍독학
- JS독학
- 파이썬실전
- 주식시장거품
- 경매참고자료
- GRBL
일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | |||||
3 | 4 | 5 | 6 | 7 | 8 | 9 |
10 | 11 | 12 | 13 | 14 | 15 | 16 |
17 | 18 | 19 | 20 | 21 | 22 | 23 |
24 | 25 | 26 | 27 | 28 | 29 | 30 |
글 보관함