“以數(shù)據(jù)安全挑戰(zhàn)為例，大模型在訓(xùn)練、推理、使用過程中涉及海量數(shù)據(jù)，通過數(shù)據(jù)投毒、數(shù)據(jù)污染等手段，會使大模型輸出背離主流價值觀或包含事實性錯誤的內(nèi)容。一些不法分子還會借助提示詞注入、劫持、爬蟲等手段，竊取大模型用戶重要信息、敏感數(shù)據(jù)?！饼R向東稱。

齊向東建議，從技術(shù)層面全面排查加固人工智能大模型基礎(chǔ)設(shè)施，構(gòu)建大模型紅域，打造適用于人工智能的縱深防御體系，形成覆蓋終端、應(yīng)用、數(shù)據(jù)、大模型、算力與基礎(chǔ)設(shè)施的多維度核心防護能力。同時，給予威脅情報、大網(wǎng)數(shù)據(jù)監(jiān)測等情報賦能，有效抵御針對大模型的新型攻擊和惡意訪問，實現(xiàn)“對外防攻擊、對內(nèi)防內(nèi)鬼”。

十大网赌正规网址排名齊向東表示，以大模型為核心的人工智能技術(shù)是創(chuàng)新范式變革與產(chǎn)業(yè)升級的關(guān)鍵引擎，然而技術(shù)躍升與安全風(fēng)險始終伴生演進(jìn)。人工智能大模型面臨四大安全挑戰(zhàn)，包括數(shù)據(jù)安全挑戰(zhàn)、應(yīng)用安全挑戰(zhàn)、基礎(chǔ)環(huán)境安全挑戰(zhàn)和大模型自身安全挑戰(zhàn)。