• 回答数

    3

  • 浏览数

    180

红豆花花花
首页 > 职称论文 > 能否用爬虫抓取论文参考文献

3个回答 默认排序
  • 默认排序
  • 按时间排序

白羽蓝翎

已采纳

做爬虫,特别是python写说容易挺容易,说难也挺难的,举个栗子 简单的:将上面的所有代码爬下来写个for循环,调用urllib2的几个函数就成了,基本10行到20行以内的代码难度0情景:1.网站服务器很卡,有些页面打不开,urlopen直接就无限卡死在了某些页面上(以后urlopen有了timeout)2.爬下来的网站出现乱码,你得分析网页的编码3.网页用了gzip压缩,你是要在header里面约定好默认不压缩还是页面下载完毕后自己解压4.你的爬虫太快了,被服务器要求停下来喝口茶5.服务器不喜欢被爬虫爬,会对对header头部浏览器信息进行分析,如何伪造6.爬虫整体的设计,用bfs爬还是dfs爬7.如何用有效的数据结构储存url使得爬过的页面不被重复爬到8.比如1024之类的网站(逃,你得登录后才能爬到它的内容,如何获取cookies以上问题都是写爬虫很常见的,由于python强大的库,略微加了一些代码而已难度1情景:1.还是cookies问题,网站肯定会有一个地方是log out,爬虫爬的过程中怎样避免爬到各种Log out导致session失效2.如果有验证码才能爬到的地方,如何绕开或者识别验证码3.嫌速度太慢,开50个线程一起爬网站数据难度2情景:1.对于复杂的页面,如何有效的提取它的链接,需要对正则表达式非常熟练2.有些标签是用Js动态生成的,js本身可以是加密的,甚至奇葩一点是jsfuck,如何爬到这些难度3总之爬虫最重要的还是模拟浏览器的行为,具体程序有多复杂,由你想实现的功能和被爬的网站本身所决定爬虫写得不多,暂时能想到的就这么多,欢迎补充

345 评论

小嘉菜菜子

可能违法。其爬虫下载数据,一般而言都不违法,因为爬虫爬取的数据同行也是网站上用户打开页面能够看到的数据,但是如果符合下列条件的网站进行强行数据采集时,会具有法律风险。可能会造成侵犯隐私权的违法行为。网络爬虫是什么意思?这些“爬虫”按照特定程序,沿着一定的路径,模拟人工操作,从网站、应用程序等终端呈现的平台上去提取和存储数据。随着大数据等技术的发展,网络爬虫的影响力逐渐增加,不仅爬数、甚至于抢票、盗号、供给计算机系统等,也都有爬虫的身影,而使得它渐渐进入公众视野。随之而来的也是关于爬虫技术侵权边界的探讨。爬虫的类型也有很多。举个例子,按照系统结构和实现技术,就能将爬虫分为通用网络爬虫(不讲究优先级,把网络的内容都爬下来)、聚焦网络爬虫(只爬预先设定好的主题相关的页面)、增量式网络爬虫(只爬新的网页,或者发生变化的网页)、深层网络爬虫(访问深层网页)。我们一般见到的爬虫也是爬取数据用的。这类爬虫其实就做了两项工作:1、获取网页源代码;2、从网页源代码中解析和提取所需要的数据。很多反爬技术都是针对的第一项工作,阻止你通过爬虫获取到源代码,而只要获取了源代码,解析和提取数据的方法就非常多样,可以说,拿到源代码时爬数的工作算是完成一大半了。法律依据:《中华人民共和国民法典》 第一百一十条 自然人享有生命权、身体权、健康权、姓名权、肖像权、名誉权、荣誉权、隐私权、婚姻自主权等权利。法人、非法人组织享有名称权、名誉权和荣誉权。

340 评论

今天属于1

你可以使用那些已经存在的爬虫,搜数,前期是免费的

109 评论

相关问答

  • 参考文献能否引用论文

    1、一篇论文,是能够引用另一篇文章的,如果整篇文章没有引用某一篇,那篇论文就没有足够的理论依据。引用是可以进行的,但是,大家要注意,在论文中不要引用太多的内容,

    jingeyijie 3人参与回答 2023-12-09
  • 爬虫抓取论文参考文献

    Sci-Hub是一个检索,免费下载论文的网站。 sci-hub是俄罗斯的一个网站,界面非常简单,只要输入论文的连接或者doi就能够下载论文。 人物事件 2011

    我想说真话 4人参与回答 2023-12-08
  • 论文结论能否用参考文献

    还没见过。结论是文章的总结,总结需要自己组织语言表达,事实依据在正文中应该阐述过了,结论里不需要再引用参考文献。

    夏至迎熙 4人参与回答 2023-12-11
  • 爬虫抓取论文参考文献可以吗

    找一些已经做好的爬虫,复制入想要找的网址,这样收集到的数据更加多,高效,比如说搜数这个你可以试一下,反正前期是免费的

    么么哒狂人 6人参与回答 2023-12-10
  • 论文参考文献能否引用标准字体

    参考文献字体格式要求: 一、论文需报送全文,文稿请用Word录入排版,A4版面,单倍行距,页边距上下各2.5cm、左右各2cm,页眉页脚取默认值,插入页码居中。

    可爱多VS神话 2人参与回答 2023-12-07