崗位職責(zé):
基于FastAPI構(gòu)建高性能生物大模型服務(wù)中臺,深度集成ToolUniverse工具生態(tài),實(shí)現(xiàn)AlphaFold/ESM等生物模型的生產(chǎn)級Docker封裝、分布式調(diào)度與全鏈路服務(wù)治理。
任職要求:
1、FastAPI實(shí)戰(zhàn)經(jīng)驗(yàn):2年+ 生產(chǎn)級FastAPI服務(wù)開發(fā)(需提供GitHub項(xiàng)目或PR證明)
2、大模型部署:熟悉vLLM/TensorRT-LLM/Triton至少一種,解決過GPU OOM、推理延遲高等問題
3、Docker深度用戶:能獨(dú)立優(yōu)化鏡像體積,熟悉docker buildx多架構(gòu)構(gòu)建
4、Kubernetes進(jìn)階:編寫過Operator/CRD,理解Informer機(jī)制與控制器模式