99精品伊人亚洲|最近国产中文炮友|九草在线视频支援|AV网站大全最新|美女黄片免费观看|国产精品资源视频|精彩无码视频一区|91大神在线后入|伊人终合在线播放|久草综合久久中文

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

成為高級(jí)爬蟲工程師有哪些要求

工程師人生 ? 來(lái)源:工程師吳畏 ? 2019-03-20 14:49 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

崗位描述1:

1、參與大規(guī)??蚣芟到y(tǒng)的相關(guān)架構(gòu)和開(kāi)發(fā);

2、負(fù)責(zé)框架系統(tǒng)模塊設(shè)計(jì)和開(kāi)發(fā),包括服務(wù)端和客戶端,以及日常升級(jí)和維護(hù)

3、協(xié)助完成需求收集、分析,系統(tǒng)設(shè)計(jì),測(cè)試和部署,編寫開(kāi)發(fā)過(guò)程中涉及的相關(guān)文檔

任職資格

1. 3年以上Java開(kāi)發(fā)經(jīng)驗(yàn),熟悉Java core和開(kāi)源項(xiàng)目,有互聯(lián)網(wǎng)開(kāi)發(fā)經(jīng)驗(yàn)者優(yōu)先

2. 具備面向?qū)ο蟮脑O(shè)計(jì)思路和經(jīng)驗(yàn),熟悉軟件開(kāi)發(fā)流程、體系結(jié)構(gòu),具備較好的文檔能力及良好的編碼風(fēng)格;

3. 具備良好的表達(dá)和溝通能力,能充分理解用戶需求和功能描述,設(shè)計(jì)并開(kāi)發(fā)軟件系統(tǒng);

4、熟悉SOA、Messaging,socket、線程、并發(fā)等開(kāi)發(fā)知識(shí),有后臺(tái)框架開(kāi)發(fā)經(jīng)驗(yàn)者優(yōu)先

5、熟悉應(yīng)用服務(wù)器, 熟悉Tomcat、Netty、Apache的配置及其優(yōu)化

6. 熟悉數(shù)據(jù)庫(kù)知識(shí),具有數(shù)據(jù)庫(kù)設(shè)計(jì)能力,熟悉SQL Server/Oracle/MySql相關(guān)技術(shù)及工具

7熟悉HTTP傳輸協(xié)議,精通網(wǎng)頁(yè)抓取原理及技術(shù),能模擬瀏覽器操作爬蟲;

8、責(zé)任心強(qiáng),熱愛(ài)爬蟲工作,有爬蟲項(xiàng)目經(jīng)驗(yàn)優(yōu)先。

9. 具備極強(qiáng)的團(tuán)隊(duì)精神和合作精神,對(duì)工作有熱情,能夠在一定壓力下工作

10.全日制本科、碩士及以上學(xué)歷,計(jì)算機(jī)、數(shù)學(xué)、物理及其他理工科專業(yè)畢業(yè)。

崗位描述2:

1、參與爬蟲系統(tǒng)的架構(gòu)設(shè)計(jì)與開(kāi)發(fā);

2、具有實(shí)際爬蟲開(kāi)發(fā)、內(nèi)容提取工作經(jīng)驗(yàn)2年以上;

3、負(fù)責(zé)設(shè)計(jì)和開(kāi)發(fā)分布式網(wǎng)絡(luò)爬蟲系統(tǒng),進(jìn)行多平臺(tái)信息的抓取和分析;

4、設(shè)計(jì)爬蟲策略和防屏蔽規(guī)則,提升網(wǎng)頁(yè)抓取的效率和質(zhì)量;

5、能獨(dú)立解決實(shí)際開(kāi)發(fā)過(guò)程碰到的各類問(wèn)題;

崗位要求:

1、熟悉linux平臺(tái)開(kāi)發(fā),3年以上Java、python或C/C++開(kāi)發(fā)經(jīng)驗(yàn);

2、精通信息抓取和整合技術(shù),從結(jié)構(gòu)化的和非結(jié)構(gòu)化的數(shù)據(jù)中獲取信息;

3、熟悉Mysql,redis,mongdb三者至少之一,有過(guò)數(shù)據(jù)庫(kù)調(diào)優(yōu)和海量數(shù)據(jù)存儲(chǔ)經(jīng)驗(yàn)優(yōu)先;

4、具有搜索相關(guān)技術(shù)研發(fā)經(jīng)驗(yàn)者優(yōu)先;

5、具有數(shù)據(jù)挖掘、自然語(yǔ)言處理、信息檢索、機(jī)器學(xué)習(xí)背景者優(yōu)先;

6、有nutch,heritrix抓取經(jīng)驗(yàn)或者分布式抓取經(jīng)驗(yàn)者優(yōu)先;

7、熟悉搜索引擎和個(gè)性化推薦相關(guān)技術(shù),精通主流分詞算法、分類、提取摘要、大規(guī)模網(wǎng)頁(yè)聚類、索引、檢索等相關(guān)開(kāi)發(fā)經(jīng)驗(yàn)者優(yōu)先。

職位描述3:

1、精通爬蟲相關(guān)技術(shù),如:httpClient/jSoup/xpath/正則表達(dá)式/驗(yàn)證碼加密處理/代理池等

2、精通Core Java相關(guān)知識(shí),如:常用集合類/泛型/反射/IO/注解/多線程等

3、掌握常用開(kāi)源框架,如:Spring、MyBatis、Spring Boot等

4、掌握常用數(shù)據(jù)庫(kù)(如:MySQL)及相應(yīng)DDL/DML,熟悉索引及常規(guī)SQL調(diào)優(yōu)

5、掌握常用開(kāi)發(fā)管理工具及應(yīng)用服務(wù)器,如:Eclipser、Maven、Git/SVN、Tomcat、Nginx等

6、熟悉行為驗(yàn)證碼識(shí)別、模擬登陸、數(shù)據(jù)清洗、去重、入庫(kù)等

7、熟悉HTTP協(xié)議,掌握HTML/CSS/JS/JQUERY/AJAX等相關(guān)知識(shí)

8、熟悉MQ、Zookeeper、Redis等分布式和NoSQL技術(shù)

9、了解Linux系統(tǒng)及Linux常用命令

10、了解Hadoop、HBase、HDFS、KAFKA等大數(shù)據(jù)相關(guān)知識(shí)

11、有運(yùn)營(yíng)商網(wǎng)站爬取或逆向經(jīng)驗(yàn)尤佳

職位描述4:

1、參與數(shù)據(jù)層建設(shè),專注于垂直領(lǐng)域數(shù)據(jù)爬取,進(jìn)行多平臺(tái)信息的抓取和分析;

2、參與爬蟲系統(tǒng)的架構(gòu)設(shè)計(jì)與開(kāi)發(fā);

3、實(shí)現(xiàn)數(shù)據(jù)提取、清洗、結(jié)構(gòu)化、入庫(kù)、統(tǒng)計(jì)分析等需求;

4、研究?jī)?yōu)化算法,提升爬蟲系統(tǒng)的穩(wěn)定性、可擴(kuò)展性;

5、設(shè)計(jì)爬蟲策略和防屏蔽規(guī)則,提升網(wǎng)頁(yè)抓取的效率和質(zhì)量;

6、能獨(dú)立解決實(shí)際開(kāi)發(fā)過(guò)程碰到的各類問(wèn)題。

崗位要求:

1、全日制本科以上學(xué)歷,計(jì)算機(jī)等專業(yè);

2、有扎實(shí)的計(jì)算機(jī)基礎(chǔ)、熟悉常用數(shù)據(jù)結(jié)構(gòu),具有實(shí)際爬蟲開(kāi)發(fā)經(jīng)驗(yàn);

3、至少熟練掌握J(rèn)ava/Python其中一種語(yǔ)言,良好的編碼風(fēng)格及編碼能力;

4、熟悉高并發(fā)、高性能的分布式系統(tǒng)的設(shè)計(jì)及應(yīng)用,熟悉常用數(shù)據(jù)存儲(chǔ),各種數(shù)據(jù)處理技術(shù)優(yōu)先;

5、有3年以上編程開(kāi)發(fā)經(jīng)驗(yàn),有豐富的爬蟲和反爬蟲經(jīng)驗(yàn)者優(yōu)先。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 工程師
    +關(guān)注

    關(guān)注

    59

    文章

    1590

    瀏覽量

    69510
  • 爬蟲
    +關(guān)注

    關(guān)注

    0

    文章

    83

    瀏覽量

    7518
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    (仰天長(zhǎng)嘯)為什么受傷的總是硬件工程師...#MDD#MDD辰達(dá)半導(dǎo)體 #電子工程師

    電子工程師
    MDD辰達(dá)半導(dǎo)體
    發(fā)布于 :2025年04月27日 18:21:47

    問(wèn),成為硬件工程師需要幾只手?#硬件工程師 #YXC晶振 #揚(yáng)興科技 #搞笑

    硬件工程師
    揚(yáng)興科技
    發(fā)布于 :2025年04月25日 17:15:37

    如何成為一名合格的KaihongOS北向應(yīng)用開(kāi)發(fā)工程師

    如何成為一名合格的北向應(yīng)用開(kāi)發(fā)工程師 在快速發(fā)展的軟件開(kāi)發(fā)領(lǐng)域,北向應(yīng)用開(kāi)發(fā)工程師是一個(gè)專注于系統(tǒng)級(jí)應(yīng)用開(kāi)發(fā)的高需求職位。 以下是成為一名合格的KaihongOS北向應(yīng)用開(kāi)發(fā)
    發(fā)表于 04-23 06:46

    如何成為一名嵌入式軟件工程師?

    如何成為一名嵌入式軟件工程師? 01明確崗位的角色與定位 嵌入式軟件工程師主要負(fù)責(zé)開(kāi)發(fā)運(yùn)行在特定硬件平臺(tái)上的軟件,這些軟件通常與硬件緊密集成,以實(shí)現(xiàn)特定的功能。 不僅需要精通編程語(yǔ)言(如C/C++
    發(fā)表于 04-15 14:37

    Allegro工程師能力升級(jí)建議 工程師技能如何升級(jí)進(jìn)階

    根據(jù)Cadence認(rèn)證體系及中國(guó)企業(yè)需求,Allegro工程師能力分三級(jí),分別是初級(jí)、中級(jí)、高級(jí)工程師。那么這三種工程師技能如何升級(jí)進(jìn)階? ? 1、初級(jí)工程師(Layout基礎(chǔ)) ①六
    的頭像 發(fā)表于 03-31 11:39 ?681次閱讀

    硬件工程師:回答我!#回答我 #硬件工程師 #YXC晶振 #揚(yáng)興科技

    硬件工程師
    揚(yáng)興科技
    發(fā)布于 :2025年03月25日 18:46:59

    一招拿捏電子工程師#被AI拿捏了 #電子工程師 #電子電工

    電子工程師
    安泰小課堂
    發(fā)布于 :2025年03月25日 17:30:51

    如何成為嵌入式開(kāi)發(fā)工程師?

    如何成為嵌入式開(kāi)發(fā)工程師? 成為嵌入式開(kāi)發(fā)工程師通常需要掌握一系列技能和知識(shí),并且在實(shí)踐中不斷積累經(jīng)驗(yàn)。以下是一些基本步驟和建議: 1. 基礎(chǔ)教育:- 獲取電子
    發(fā)表于 02-19 10:39

    FPGA算法工程師、邏輯工程師、原型驗(yàn)證工程師什么區(qū)別?

    ,共同進(jìn)步。 歡迎加入FPGA技術(shù)微信交流群14群! 交流問(wèn)題(一) Q:FPGA中的FPGA算法工程師、FPGA邏輯工程師、FPGA原型驗(yàn)證工程師三者什么區(qū)別? A:FPGA 算法
    發(fā)表于 09-23 18:26

    正是拼的年紀(jì)|65歲電子工程師上班VLOG #65歲退休 #電子工程師 #搞笑 #上班vlog

    電子工程師
    安泰小課堂
    發(fā)布于 :2024年07月25日 11:31:02