♓金沙总站4066♔
齊向東建議,從技術(shù)層面全面排查加固人工智能大模型基礎(chǔ)設(shè)施,構(gòu)建大模型紅域,打造適用于人工智能的縱深防御體系,形成覆蓋終端、應(yīng)用、數(shù)據(jù)、大模型、算力與基礎(chǔ)設(shè)施的多維度核心防護(hù)能力。同時(shí),給予威脅情報(bào)、大網(wǎng)數(shù)據(jù)監(jiān)測(cè)等情報(bào)賦能,有效抵御針對(duì)大模型的新型攻擊和惡意訪問(wèn),實(shí)現(xiàn)“對(duì)外防攻擊、對(duì)內(nèi)防內(nèi)鬼”。
“以數(shù)據(jù)安全挑戰(zhàn)為例,大模型在訓(xùn)練、推理、使用過(guò)程中涉及海量數(shù)據(jù),通過(guò)數(shù)據(jù)投毒、數(shù)據(jù)污染等手段,會(huì)使大模型輸出背離主流價(jià)值觀或包含事實(shí)性錯(cuò)誤的內(nèi)容。一些不法分子還會(huì)借助提示詞注入、劫持、爬蟲(chóng)等手段,竊取大模型用戶(hù)重要信息、敏感數(shù)據(jù)?!饼R向東稱(chēng)。
金沙总站4066齊向東表示,以大模型為核心的人工智能技術(shù)是創(chuàng)新范式變革與產(chǎn)業(yè)升級(jí)的關(guān)鍵引擎,然而技術(shù)躍升與安全風(fēng)險(xiǎn)始終伴生演進(jìn)。人工智能大模型面臨四大安全挑戰(zhàn),包括數(shù)據(jù)安全挑戰(zhàn)、應(yīng)用安全挑戰(zhàn)、基礎(chǔ)環(huán)境安全挑戰(zhàn)和大模型自身安全挑戰(zhàn)。
♕(撰稿:和龍)菜市場(chǎng)里時(shí)興代炒菜
06-05訊遠(yuǎn)♡
未來(lái)十年,我國(guó)教育這么變
06-05詩(shī)凡♢
基層執(zhí)法試水“全周期健康”
06-07技術(shù)裝點(diǎn)♣
十三位亡國(guó)的太后、皇后的結(jié)局
06-06升勝通♤
年度詞匯:關(guān)稅
06-06鐵雙♥
印度忽視了氣候變化對(duì)經(jīng)濟(jì)增長(zhǎng)的拖累
06-05慶磊♦
十年造一車(chē) 黃宏生的最后一擊
06-06銘嘉♧
圖達(dá)通SPAC赴港上市之路或?qū)⑴e步維艱
06-06超鼎夢(mèng)k
萬(wàn)國(guó)數(shù)據(jù)擬一拆三 力爭(zhēng)資本遍地上市
06-06嘉全b
FT社評(píng):為2024年的科學(xué)突破喝彩
06-05長(zhǎng)者風(fēng)采♨