领导让我用scrapy将数据爬到mongodb上,然后后端让我用mysql数据库,怎么...
1、Scrapy依赖于twisted，所以如果Scrapy能用，twisted肯定是已经安装好了。抓取到的数据，可以直接丢到MySQL，也可以用Django的ORM模型丢到MySQL，方便Django调用。
2、或是后端日志收集分析。考虑到mongodb属于nosql型数据库，sql语句与数据结构不如mysql那么亲和 ，也会有很多时候将mongodb做为辅助mysql而使用的类redis memcache 之类的缓存db来使用。亦或是仅作日志收集分析。
3、你要确保已经安装了go语言的mongodb驱动。然后对查出来的数据进行解析，查出来的数据是类似json的数据，这个解析代码需要相关的库或者你自己写的。
python爬虫需要什么基础
1、python爬虫需要学Python开发基础，Python高级编程和数据库开发，前端开发，WEB框架开发。名词简介：Python由荷兰国家数学与计算机科学研究中心的吉多·范罗苏姆于1990年代初设计，作为一门叫作ABC语言的替代品。
2、学习计算机网络协议基础，了解一个完整的网络请求过程，大致了解网络协议（http协议，tcp-ip协议），了解socket编程，为后期学习爬虫打下扎实的基础。
3、掌握一些前端的知识，如html，css，js等，不管是做爬虫还是做web开发，前端的知识都是要必须掌握的。掌握数据库的基础，这是学任何一门语言都要具备的基本要求。
4、Python爬虫：主要学习python爬虫技术，掌握多线程爬虫技术，分布式爬虫技术。
5、阶段四：WEB框架开发Python全栈开发与人工智能之WEB框架开发学习内容包括：Django框架基础、Django框架进阶、BBSBlog实战项目开发、缓存和队列中间件、Flask框架学习、Tornado框架学习、RestfulAPI等。
6、八爪鱼采集器是一款功能全面、操作简单、适用范围广泛的互联网数据采集器，可以帮助您快速上手Python爬虫技巧。以下是一些Python爬虫上手技巧： 学习基础知识：了解Python的基本语法和常用库，如requests、BeautifulSoup、Scrapy等。
爬虫框架scrapy篇五——其他操作:post翻页请求
1、scrapy框架发送post请求有两种格式 requests发送post请求，传递的参数也分两种格式（data和json）scrapy.Request（）请求与requests.post()请求用法相同，得到的数据也是相同的 。
2、任务处理流程：从Spider的初始爬取请求开始爬取，Engine控制各模块数据流，不间断从Scheduler处获得爬取请求，直至请求为空，最后到Item Pipelines存储数据结束。
3、python爬虫框架讲解：Scrapy Scrapy是一个为了爬取网站数据，提取结构性数据而编写的应用框架。可以应用在包括数据挖掘，信息处理或存储历史数据等一系列的程序中。用这个框架可以轻松爬下来如亚马逊商品信息之类的数据。
关于scrapy存入mongodb和scrapy库使用的介绍到此就结束了，不知道你从中找到你需要的信息了吗 ？如果你还想了解更多这方面的信息，记得收藏关注本站。