證券時報網(wǎng)
闕福生
2025-02-12 13:51
過去幾天，DeepSeek的持續(xù)火爆也引發(fā)了包含敏感數(shù)據(jù)泄露在內(nèi)的諸多安全風險。作為一種有內(nèi)容生成能力的新型數(shù)字系統(tǒng)，以DeepSeek為代表的AI大模型在實現(xiàn)其科技、生產(chǎn)和社會價值的同時，要如何保障其“原生安全”？
基于AI技術(shù)構(gòu)建的新型數(shù)字系統(tǒng)與傳統(tǒng)系統(tǒng)相比，由于數(shù)字資產(chǎn)類型的復(fù)雜性、用戶交互方式以及業(yè)務(wù)處理流程的變化，使其面臨網(wǎng)絡(luò)與數(shù)據(jù)安全、模型安全、內(nèi)容安全和供應(yīng)鏈安全等風險挑戰(zhàn)。此外，不同于傳統(tǒng)軟件“需求-開發(fā)-測試-發(fā)布”的線性生命周期，AI大模型形成了“數(shù)據(jù)采集-訓(xùn)練-推理-再訓(xùn)練”的動態(tài)生命周期，它自身的持續(xù)進化和迭代也會不斷引入新的風險。
那么有沒有一種全新的模式，來讓AI驅(qū)動的智能原生數(shù)字系統(tǒng)，建立更高效穩(wěn)健的安全能力呢？對此，“原生安全”理念應(yīng)運而生?！霸踩睆娬{(diào)從AI大模型的內(nèi)在架構(gòu)、數(shù)據(jù)處理、算法訓(xùn)練、工作流量等方面進行安全管理，確保安全從模型的源頭就被構(gòu)建起來。
基于這一理念，永信至誠(688244)依托「數(shù)字風洞」產(chǎn)品體系構(gòu)建了針對AI大模型整個生命周期的風險管理機制。該機制以實現(xiàn)AI大模型的原生安全為目的，圍繞AI大模型構(gòu)建、部署到運營的各個階段，開展多維風險測評與驗證，幫助開發(fā)、使用AI智能數(shù)字系統(tǒng)的企業(yè)讓AI大模型及其構(gòu)建的數(shù)字系統(tǒng)具備原生的安全能力。
對此，永信至誠提出通過建立AI大模型資產(chǎn)臺賬、AI大模型全生命周期測試評估、風洞時光機全生命周期管理、威脅情報監(jiān)控與“家庭醫(yī)生”服務(wù)、實時防護的AI智能體內(nèi)容合規(guī)和數(shù)據(jù)隱私的“安全圍欄”等一系列針對不同階段的防護目標與風險特點的「數(shù)字風洞」健康管理方案。
同時，隨著大模型逐步應(yīng)用于各行各業(yè)，確保其合規(guī)性，并具備有效的輸入輸出信息過濾能力，尤其是防止泄露商業(yè)信息、國家機密、個人隱私及敏感社會價值觀等內(nèi)容，已成為關(guān)鍵任務(wù)。以智能體來管理智能體，在每一個AI大模型誕生時，配備原生、獨立的安全“智能體”，能夠協(xié)助迅速識別、過濾并有效阻斷潛在的安全風險，幫助企業(yè)提高AI大模型風險管理準確性和效率，讓AI大模型更高效地賦能業(yè)務(wù)發(fā)展。（燕云）
校對：廖勝超
