在上海浦江AI學(xué)術(shù)年會(huì)上，阿里巴巴與上海人工智能實(shí)驗(yàn)室共同發(fā)布了一份名為《守己利他：智能時(shí)代做負(fù)責(zé)任的技術(shù)》的白皮書。這份文件聚焦于人工智能體在快速發(fā)展過程中面臨的安全挑戰(zhàn)，并提出全行業(yè)需以“守己、利他、合作”為核心理念，共同應(yīng)對(duì)潛在風(fēng)險(xiǎn)。白皮書的發(fā)布標(biāo)志著阿里巴巴連續(xù)第四年在人工智能治理領(lǐng)域分享實(shí)踐成果，展示了其在構(gòu)建安全AI生態(tài)方面的持續(xù)努力。

阿里巴巴人工智能治理與可持續(xù)發(fā)展實(shí)驗(yàn)室主任薛暉在發(fā)布會(huì)上強(qiáng)調(diào)，隨著AI技術(shù)從“能說會(huì)道”向“能干實(shí)事”轉(zhuǎn)型，安全已從可選配置變?yōu)樯鐣?huì)信任的基石。他指出，過去一年中，智能體的普及速度顯著加快，其自主調(diào)度資源、執(zhí)行復(fù)雜任務(wù)的能力不斷提升，但隨之而來的風(fēng)險(xiǎn)也日益凸顯。例如，用戶自行開發(fā)的智能體可能因缺乏內(nèi)置安全機(jī)制而面臨數(shù)據(jù)泄露或惡意攻擊的威脅，而封裝完備的產(chǎn)品則通過多層防護(hù)提供了更可靠的安全保障。

為應(yīng)對(duì)這些挑戰(zhàn)，阿里巴巴依托其全棧AI能力，構(gòu)建了一套覆蓋芯片、云計(jì)算、模型到應(yīng)用的立體化安全防護(hù)體系。該體系的核心策略包括：從源頭提升基礎(chǔ)大模型的內(nèi)生安全能力，并通過構(gòu)筑多層系統(tǒng)級(jí)安全圍欄，實(shí)現(xiàn)對(duì)智能體風(fēng)險(xiǎn)的全鏈路管控。據(jù)介紹，阿里巴巴已將安全基因深度融入AI技術(shù)的各個(gè)環(huán)節(jié)，確保產(chǎn)品從設(shè)計(jì)之初就具備安全屬性。同時(shí)，公司堅(jiān)持開源開放原則，將內(nèi)部驗(yàn)證過的安全技術(shù)作為公共產(chǎn)品向全行業(yè)共享，推動(dòng)“負(fù)責(zé)任的技術(shù)”理念在千行百業(yè)落地。

阿里巴巴通義實(shí)驗(yàn)室安全負(fù)責(zé)人張榮進(jìn)一步解釋了具體實(shí)施路徑。他以用戶DIY智能體與封裝產(chǎn)品的安全性對(duì)比為例，指出前者如同將保險(xiǎn)箱置于家門口，存在被竊取的風(fēng)險(xiǎn)；而后者則通過內(nèi)置安全機(jī)制提供了更強(qiáng)的防護(hù)。針對(duì)智能體運(yùn)行中工具調(diào)用與代碼執(zhí)行環(huán)節(jié)的高風(fēng)險(xiǎn)特性，阿里巴巴將強(qiáng)化千問模型在編程場(chǎng)景下的原生安全能力作為重點(diǎn)。公司依托20余年頂尖安全團(tuán)隊(duì)積累的代碼安全經(jīng)驗(yàn)，基于千萬級(jí)真實(shí)漏洞樣本打造了高質(zhì)量安全訓(xùn)練語料，并通過多輪嚴(yán)格的安全對(duì)齊訓(xùn)練，使千問模型的代碼安全性達(dá)到行業(yè)領(lǐng)先水平。在權(quán)威代碼安全評(píng)測(cè)基準(zhǔn)SecCodeBench中，其生成代碼的安全性穩(wěn)居開源模型首位。