国产精品又长又粗又爽又黄的毛片, 国产AV无码专区亚洲AV毛片搜, 丰满人妻被猛烈进入中文字幕四川, 国产精品一区二区三区国产女人喷,亚洲国产欧美日韩图片在线人,潘娇娇337p人艺体艺术,成人免费无码大片a毛片古装,一本到高清视频免费,人妻在线视频免费看

更新于 12月15日

大模型安全工程師(智能體安全方向)

2.8-3.5萬(wàn)·14薪
  • 合肥蜀山區(qū)
  • 經(jīng)驗(yàn)不限
  • 碩士
  • 全職
  • 招1人

職位描述

大模型智能體機(jī)器學(xué)習(xí)
工作職責(zé)
1. 自主/多智能體行為安全
研究智能體(包括多智能體系統(tǒng)MAS)在執(zhí)行任務(wù)、協(xié)作交互、決策過(guò)程中的不安全行為類別、演化風(fēng)險(xiǎn)、異常行為模式;設(shè)計(jì)代理系統(tǒng)模擬環(huán)境、構(gòu)建多代理仿真實(shí)驗(yàn),評(píng)估智能體在復(fù)雜場(chǎng)景(含協(xié)作、競(jìng)爭(zhēng)、資源爭(zhēng)奪)中的安全性與可控性。
2. 工具鏈與環(huán)境交互安全
分析智能體訪問(wèn)工具(API、操作系統(tǒng)、數(shù)據(jù)庫(kù)、Web 接口、腳本)與環(huán)境交互的安全邊界與風(fēng)險(xiǎn)點(diǎn);針對(duì)Agent與人類用戶、系統(tǒng)操作人員的交互界面、安全流程、誤用/誘導(dǎo)風(fēng)險(xiǎn)開(kāi)展研究;根據(jù)公司業(yè)務(wù)需要,參與設(shè)計(jì)或優(yōu)化 Agent 系統(tǒng)中的“最小權(quán)限”、“沙箱隔離”、“工具調(diào)用審計(jì)”策略并推動(dòng)落地。
3. 目標(biāo)對(duì)齊與價(jià)值約束
研究Agent系統(tǒng)的目標(biāo)設(shè)定、價(jià)值約束、漂移檢測(cè)機(jī)制,定義Agent“越界行為”“自演化行為”“目標(biāo)偏離”的識(shí)別指標(biāo);制定Agent價(jià)值?/?目標(biāo)對(duì)齊評(píng)估流程,并在實(shí)際系統(tǒng)中實(shí)施測(cè)試與驗(yàn)證。
4. 安全評(píng)測(cè)能力建設(shè)
構(gòu)建并實(shí)施智能體安全評(píng)測(cè)流程,包括但不限于攻擊場(chǎng)景設(shè)計(jì)、紅隊(duì)測(cè)試、智能體漏洞掃描、行為日志審查、工具調(diào)用審計(jì);設(shè)計(jì)評(píng)測(cè)報(bào)告、輸出可量化安全指標(biāo)、風(fēng)險(xiǎn)等級(jí)、改進(jìn)建議,并配合產(chǎn)品和安全團(tuán)隊(duì)推動(dòng)整改落實(shí)。
5. 技術(shù)調(diào)研、知識(shí)沉淀與傳播
持續(xù)跟蹤國(guó)內(nèi)外智能體安全最新研究成果、攻擊技術(shù)、判別機(jī)制、評(píng)測(cè)體系等;撰寫(xiě)技術(shù)報(bào)告、白皮書(shū)、內(nèi)外部宣講材料,參與專利、標(biāo)準(zhǔn)、學(xué)術(shù)論文或行業(yè)規(guī)范的撰寫(xiě);在團(tuán)隊(duì)內(nèi)部推動(dòng)知識(shí)沉淀與能力傳承,協(xié)助搭建智能體安全能力訓(xùn)練、攻防演練沙盤(pán)、評(píng)測(cè)平臺(tái)。
崗位要求
1. 學(xué)術(shù)背景
計(jì)算機(jī)科學(xué)、人工智能、信息安全、數(shù)據(jù)科學(xué)或相關(guān)專業(yè)碩士/博士研究生優(yōu)先;有大模型(LLMs)、智能體(Agent)系統(tǒng)、機(jī)器學(xué)習(xí)安全、NLP安全或多模態(tài)安全研究經(jīng)驗(yàn)者優(yōu)先。
2. 研究能力
具備獨(dú)立閱讀和理解英文論文的能力,能快速總結(jié)研究方法和結(jié)論;有技術(shù)報(bào)告、白皮書(shū)、或?qū)W術(shù)論文撰寫(xiě)經(jīng)驗(yàn)者優(yōu)先。
3. 技術(shù)能力
具備Python編程能力,熟悉PyTorch、TensorFlow或其他深度學(xué)習(xí)框架;掌握大模型(如 Transformer)架構(gòu)及其安全威脅模型(Prompt Injection、數(shù)據(jù)投毒、后門(mén)攻擊等);悉安全評(píng)測(cè)流程、紅隊(duì)/滲透測(cè)試、日志采集與審計(jì)、權(quán)限控制、工具調(diào)用審計(jì)機(jī)制;具備爬蟲(chóng)、數(shù)據(jù)采集/處理、文本/多模態(tài)數(shù)據(jù)分析者優(yōu)先。
4. 團(tuán)隊(duì)協(xié)作
具備良好的團(tuán)隊(duì)合作能力和溝通能力,能夠高效協(xié)同完成任務(wù);具備較強(qiáng)的自驅(qū)力,能主動(dòng)跟進(jìn)研究進(jìn)展并輸出階段性成果。

工作地點(diǎn)

合肥蜀山區(qū)訊飛小鎮(zhèn)

職位發(fā)布者

鄒雅如/人事經(jīng)理

當(dāng)前在線
立即溝通