一句話概括招聘需求?：主導(dǎo)AI大模型高并發(fā)API架構(gòu)重構(gòu)與性能優(yōu)化的核心技術(shù)專家。
【我們是誰】?
國內(nèi)領(lǐng)先的AI大模型接入與調(diào)度服務(wù)商，業(yè)務(wù)處于極速上升期。平臺支撐數(shù)百家分站與下游開發(fā)者，當(dāng)前日請求量級已達(dá)數(shù)億級，年度目標(biāo)直指10億TPM（Tokens Per Minute）。我們正在重構(gòu)核心轉(zhuǎn)發(fā)引擎，需要一位能掌控技術(shù)命脈的架構(gòu)師。
【你將負(fù)責(zé)什么】?
1.主導(dǎo)現(xiàn)有New API/One API架構(gòu)的深度優(yōu)化，將轉(zhuǎn)發(fā)面（Data Plane）與管理面（Control Plane）徹底分離；
2.使用Go或Rust研發(fā)超高性能API網(wǎng)關(guān)，針對SSE（流式傳輸）進(jìn)行極端性能優(yōu)化，挑戰(zhàn)毫秒級首字延遲（TTFT）；
3.設(shè)計(jì)“計(jì)費(fèi)感知型”動態(tài)路由系統(tǒng)，支持根據(jù)分站權(quán)重、成本系數(shù)及實(shí)時成功率進(jìn)行動態(tài)流量分發(fā)；
4.構(gòu)建多機(jī)房（OVH Vint Hill/Hillsboro等）分布式集群，解決全球互聯(lián)背景下的分布式鎖、高性能計(jì)費(fèi)與異步日志存儲問題；
5.優(yōu)化Redis集群、Kafka消息隊(duì)列，解決高并發(fā)下的I/O瓶頸，確保系統(tǒng)在10億TPM沖擊下穩(wěn)如泰山。
【我們需要什么樣的你】?
1.在大型互聯(lián)網(wǎng)公司（云計(jì)算、廣告、量化交易、高并發(fā)網(wǎng)關(guān)）有5年以上核心架構(gòu)設(shè)計(jì)經(jīng)驗(yàn)，曾處理過百萬級QPS或億級并發(fā)場景；
2.精通Go或Rust，能編寫高性能、內(nèi)存友好的核心組件；
3.深度理解Nginx/OpenResty模塊開發(fā)，熟悉網(wǎng)絡(luò)協(xié)議棧優(yōu)化；
4.精通分布式系統(tǒng)設(shè)計(jì)，對緩存穿透、雪崩、數(shù)據(jù)最終一致性有成熟解決方案；
5.對大模型流式接口（SSE）、長連接維護(hù)及多供應(yīng)商API調(diào)度有實(shí)戰(zhàn)經(jīng)驗(yàn)者優(yōu)先；
6.能從0到1建立監(jiān)控指標(biāo)，并在系統(tǒng)故障時快速定位內(nèi)核或網(wǎng)絡(luò)層的性能瓶頸。
【加分項(xiàng)】?
1.有自研高性能網(wǎng)關(guān)（如對標(biāo)Kong, APISIX, Traefik）經(jīng)驗(yàn)；
2.對OVHcloud基礎(chǔ)設(shè)施（vRack、Anycast、IPLB）有深度調(diào)優(yōu)經(jīng)驗(yàn)；
3.有開源社區(qū)貢獻(xiàn)（如Kubernetes、Go-core、OneAPI等核心貢獻(xiàn)者）。
【我們能給你什么】?
1.絕對的技術(shù)主權(quán)?：你就是技術(shù)靈魂，地基怎么打你說了算；
2.豐厚的激勵?：30K-50K·16薪 + 業(yè)務(wù)利潤分紅（具體面議）；
3.純粹的團(tuán)隊(duì)?：40人團(tuán)隊(duì)，拒絕大廠政治，一切以“性能和穩(wěn)定”為最高準(zhǔn)則。
【工作地點(diǎn)】
白云區(qū)黃邊愿景中心大廈(黃邊地鐵站A口)