職位描述
工作職責(zé)要求：
1）計(jì)算機(jī)、人工智能等相關(guān)專業(yè)，本科及以上學(xué)歷。 2）8年以上基礎(chǔ)設(shè)施、云原生、智算或算法平臺(tái)架構(gòu)設(shè)計(jì)或研發(fā)經(jīng)驗(yàn)，熟悉云原生、智算平臺(tái)、大模型訓(xùn)練/推理等領(lǐng)域。 3）精通Kubernetes、GPU容器運(yùn)行時(shí)、Device Plugin、Hived、Volcano等云原生技術(shù)，具備大規(guī)模計(jì)算集群的設(shè)計(jì)、部署或運(yùn)維經(jīng)驗(yàn)。熟悉CI/CD流程，熟悉MLOps模型訓(xùn)練及推理的部署流程。 4）有GPU/國(guó)產(chǎn)算力集群的構(gòu)建和優(yōu)化經(jīng)驗(yàn)，能夠分析并解決分布式環(huán)境中的性能瓶頸，熟悉大規(guī)模訓(xùn)練和推理下的運(yùn)維和排障，具備全鏈路可觀測(cè)性設(shè)計(jì)能力和故障定位能力。 5）熟悉大規(guī)模智算集群的網(wǎng)絡(luò)拓?fù)?、通信協(xié)議(RoCE)與通信模式（如RDMA、NVLink、InfiniBand等），熟悉AllReduce、All-to-All等集合通信進(jìn)行性能測(cè)試及調(diào)優(yōu)。 6）有推理引擎設(shè)計(jì)或研發(fā)經(jīng)驗(yàn)，熟悉vLLM、SGlang、TensorRT、Dynamo、MindIE等推理引擎，熟悉PD分離、大EP、AF分離、KVCache等推理加速技術(shù)。 7）出色的溝通能力，善于跨團(tuán)隊(duì)協(xié)作，具有支持多團(tuán)隊(duì)AI項(xiàng)目的經(jīng)驗(yàn)。
任職資格：
1）負(fù)責(zé)智算平臺(tái)規(guī)劃與架構(gòu)設(shè)計(jì)，結(jié)合BU業(yè)務(wù)場(chǎng)景，制定技術(shù)路線，明確智算平臺(tái)、LLM訓(xùn)推及工具生態(tài)的核心功能與技術(shù)架構(gòu)。 2）優(yōu)化并提升模型訓(xùn)練(微調(diào)/強(qiáng)化學(xué)習(xí))、模型推理算力使用率；深入優(yōu)化平臺(tái)資源管理及調(diào)度能力，包括GPU/國(guó)產(chǎn)算力、內(nèi)存/顯存、RDMA網(wǎng)絡(luò)等，提升系統(tǒng)的可靠性、性能和擴(kuò)展性。 3）LLM推理引擎優(yōu)化，通過(guò)PD分離、EP并行、算子調(diào)優(yōu)、網(wǎng)絡(luò)或存儲(chǔ)調(diào)優(yōu)等技術(shù)提高推理引擎性能降低Tokens單位成本。 4）LLM全鏈路性能監(jiān)控，建立性能指標(biāo)體系（吞吐量、時(shí)延、資源利用率），輸出調(diào)優(yōu)方案、標(biāo)準(zhǔn)與自動(dòng)化診斷工具。 5）負(fù)責(zé)LLM基礎(chǔ)模型和配套推理引擎的引入、適配、優(yōu)化及性能基線評(píng)測(cè)，為業(yè)務(wù)提供最優(yōu)性價(jià)比的模型和推理引擎。
1）計(jì)算機(jī)、人工智能等相關(guān)專業(yè)，本科及以上學(xué)歷。 2）8年以上基礎(chǔ)設(shè)施、云原生、智算或算法平臺(tái)架構(gòu)設(shè)計(jì)或研發(fā)經(jīng)驗(yàn)，熟悉云原生、智算平臺(tái)、大模型訓(xùn)練/推理等領(lǐng)域。 3）精通Kubernetes、GPU容器運(yùn)行時(shí)、Device Plugin、Hived、Volcano等云原生技術(shù)，具備大規(guī)模計(jì)算集群的設(shè)計(jì)、部署或運(yùn)維經(jīng)驗(yàn)。熟悉CI/CD流程，熟悉MLOps模型訓(xùn)練及推理的部署流程。 4）有GPU/國(guó)產(chǎn)算力集群的構(gòu)建和優(yōu)化經(jīng)驗(yàn)，能夠分析并解決分布式環(huán)境中的性能瓶頸，熟悉大規(guī)模訓(xùn)練和推理下的運(yùn)維和排障，具備全鏈路可觀測(cè)性設(shè)計(jì)能力和故障定位能力。 5）熟悉大規(guī)模智算集群的網(wǎng)絡(luò)拓?fù)?、通信協(xié)議(RoCE)與通信模式（如RDMA、NVLink、InfiniBand等），熟悉AllReduce、All-to-All等集合通信進(jìn)行性能測(cè)試及調(diào)優(yōu)。 6）有推理引擎設(shè)計(jì)或研發(fā)經(jīng)驗(yàn)，熟悉vLLM、SGlang、TensorRT、Dynamo、MindIE等推理引擎，熟悉PD分離、大EP、AF分離、KVCache等推理加速技術(shù)。 7）出色的溝通能力，善于跨團(tuán)隊(duì)協(xié)作，具有支持多團(tuán)隊(duì)AI項(xiàng)目的經(jīng)驗(yàn)。
任職資格：
1）負(fù)責(zé)智算平臺(tái)規(guī)劃與架構(gòu)設(shè)計(jì)，結(jié)合BU業(yè)務(wù)場(chǎng)景，制定技術(shù)路線，明確智算平臺(tái)、LLM訓(xùn)推及工具生態(tài)的核心功能與技術(shù)架構(gòu)。 2）優(yōu)化并提升模型訓(xùn)練(微調(diào)/強(qiáng)化學(xué)習(xí))、模型推理算力使用率；深入優(yōu)化平臺(tái)資源管理及調(diào)度能力，包括GPU/國(guó)產(chǎn)算力、內(nèi)存/顯存、RDMA網(wǎng)絡(luò)等，提升系統(tǒng)的可靠性、性能和擴(kuò)展性。 3）LLM推理引擎優(yōu)化，通過(guò)PD分離、EP并行、算子調(diào)優(yōu)、網(wǎng)絡(luò)或存儲(chǔ)調(diào)優(yōu)等技術(shù)提高推理引擎性能降低Tokens單位成本。 4）LLM全鏈路性能監(jiān)控，建立性能指標(biāo)體系（吞吐量、時(shí)延、資源利用率），輸出調(diào)優(yōu)方案、標(biāo)準(zhǔn)與自動(dòng)化診斷工具。 5）負(fù)責(zé)LLM基礎(chǔ)模型和配套推理引擎的引入、適配、優(yōu)化及性能基線評(píng)測(cè)，為業(yè)務(wù)提供最優(yōu)性價(jià)比的模型和推理引擎。
工作地點(diǎn)
深圳市南山科技園嘉聯(lián)支付大廈
認(rèn)證資質(zhì)
營(yíng)業(yè)執(zhí)照信息
相似職位
- AI應(yīng)用工程師1.5-3萬(wàn)
深圳 - 南山
芯唐電子科技(深圳)有限公司 - 強(qiáng)化學(xué)習(xí)算法工程師3-4.5萬(wàn)·13薪
深圳 - 光明
廣東瑞德智能科技股份有限公司 深圳
平安科技- 高級(jí)深度學(xué)習(xí)算法工程師2.5-4萬(wàn)
深圳 - 福田
深圳鯤云信息科技有限公司 - 深度學(xué)習(xí)圖像處理算法工程師1-2萬(wàn)
深圳 - 南山
深圳市華漢偉業(yè)科技有限公司 - 人工智能工程師1.5-2.5萬(wàn)
深圳 - 龍崗
深圳前海思佳智能有限公司
熱門公司推薦
- 霸王茶姬招聘
- 肯德基招聘
- 順豐招聘
- 美團(tuán)招聘
- 京東招聘
- 餓了么招聘
- 比亞迪招聘
- 中國(guó)一汽招聘
- 北京汽車招聘
- 蔚來(lái)招聘
- 東風(fēng)汽車招聘
- 長(zhǎng)城汽車招聘
- 奇瑞汽車招聘
- 理想汽車招聘
- 長(zhǎng)鑫存儲(chǔ)招聘
- 天江藥業(yè)招聘
- 藍(lán)月亮招聘
- 安踏招聘
- TCL招聘
- 海信招聘
- 聯(lián)想招聘
- ?？低曊衅?/a>
- 寧德時(shí)代招聘
- 中興招聘
- 新松招聘
- 京東方招聘
- 申通招聘
- 圓通招聘
- 中通招聘
- 百世物流招聘
- 德邦物流招聘
- 麥當(dāng)勞招聘
- 星巴克招聘
- 海底撈招聘
- 蜜雪冰城招聘
- 瑞幸招聘
- 雀巢招聘
- 騰訊招聘
- 百度招聘
- 快手招聘
- 字節(jié)跳動(dòng)招聘
- 新華網(wǎng)招聘
- 小米招聘
- 招商銀行招聘
- 中信銀行招聘
- 北京銀行招聘
- 興業(yè)銀行招聘
- 交通銀行招聘
- 建發(fā)集團(tuán)招聘
- 中國(guó)移動(dòng)招聘
- 中國(guó)聯(lián)通招聘
- 中國(guó)電信招聘
- 中糧集團(tuán)招聘
- 國(guó)藥控股招聘
- 中廣核招聘
- 中國(guó)船舶招聘
- 強(qiáng)生中國(guó)招聘
- 匯豐中國(guó)招聘
- 宜家招聘
- 立邦中國(guó)招聘
- 伊利招聘
- 青島啤酒招聘
- 京港地鐵招聘
- 寶馬招聘
- 小鵬汽車招聘
- 華為招聘
- 特斯拉招聘
- 吉利招聘
- 奔馳招聘
- 海爾招聘
- 美的招聘
- 京東方招聘
- 施耐德電氣招聘
- 德邦物流招聘
職位發(fā)布者
張怡婷/HRBP
三日內(nèi)活躍平安科技平安科技是平安集團(tuán)旗下科技解決方案專家，致力于運(yùn)用人工智能、云計(jì)算等前沿科技賦能金融服務(wù)、醫(yī)療健康、汽車服務(wù)、房產(chǎn)服務(wù)、智慧城市五大生態(tài)圈。平安科技以智慧科技為手段、以“科技無(wú)限”為價(jià)值主張，積極踐行“科技改變生活”的企業(yè)理念，立志成為國(guó)際領(lǐng)先的“AI+云”公司。作為平安集團(tuán)高科技內(nèi)核，科技解決方案已經(jīng)應(yīng)用在超550個(gè)場(chǎng)景中，并積極孵化智慧業(yè)務(wù)，助力建成生態(tài)閉環(huán)；作為IT后臺(tái)綜合管理平臺(tái)，開發(fā)和運(yùn)營(yíng)平安關(guān)鍵平臺(tái)和服務(wù)，支持平安保險(xiǎn)、銀行、投資、互聯(lián)網(wǎng)等業(yè)務(wù)高效協(xié)同發(fā)展；平安科技也是云平臺(tái)的積極構(gòu)建者，平安云作為平安服務(wù)的綜合輸出平臺(tái)，為全行業(yè)提供 IaaS、PaaS、SaaS全棧式云服務(wù)，打造的生態(tài)圈已經(jīng)服務(wù)過(guò)5億用戶，并拓展至海外市場(chǎng)。As a technology solution expert of Ping An Group, Ping An Technology is committed to leveraging AI, cloud and other cutting-edge technologies to enable five ecosystems of finance, healthcare, automobile, real estate and smart city. With“technology unlimited” as its value, Ping An Technology endeavors to practice the corporate philosophy of“Technology Changes Life”, and strives to become a global leading“AI+Cloud” company. As the high-tech core of Ping An Group, Ping An Technology has applied its technology solutions to more than 550 scenarios, incubated smart businesses and developed recurring ecosystems. As an integrated back-end IT management platform, Ping An Technology develops and operates key platforms and services of Ping An Group, and supports the efficient cooperation of Ping An’s insurance, banking, investment, Internet and other businesses. Ping An Technology is also an active cloud platform builder. As a comprehensive output platform for Ping An services, Ping An Cloud provides industry with a full range of cloud services from IaaS, PaaS to SaaS. Our ecosystems have served more than 500 million users and reached overseas markets.
公司主頁(yè)