AI技術(shù)的蓬勃發(fā)展與廣泛滲透，讓“AI治理”一詞迅速進入傳播視野，成為科技、政策乃至社會倫理領(lǐng)域的熱議焦點。1月29日，中國科技新聞學(xué)會發(fā)布2025年度“十大科技熱詞”，“AI治理”位列榜首。這不僅反映出公眾對AI倫理與安全問題的普遍關(guān)切，也恰如其分地呼應(yīng)了全球科技治理的現(xiàn)實轉(zhuǎn)向。

　　這一結(jié)果并非偶然。它標(biāo)志著全球AI發(fā)展已從早期的“技術(shù)追趕”階段，逐步進入以“規(guī)則塑造”為核心的新時期。如何確保AI技術(shù)“安全、可靠、可控”，正成為國際社會共同面對的核心課題。AI治理并非簡單的技術(shù)管控，而是融合技術(shù)防控、法律法規(guī)、行業(yè)協(xié)同與公眾教育的系統(tǒng)性工程，其本質(zhì)是引導(dǎo)AI朝著符合人類共同利益的方向良性發(fā)展，這也是對“科技向善”根本價值的堅守與實踐。

　　當(dāng)前，各國都在探索AI技術(shù)“發(fā)展與安全并重”的治理路徑。我國以《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》為基礎(chǔ)，逐步構(gòu)建起多層次治理體系，并通過《生成式人工智能服務(wù)管理暫行辦法》《科技倫理審查辦法》等規(guī)章，為行業(yè)劃出紅線、明晰責(zé)任。

　　然而，AI技術(shù)迭代的速度遠快于治理體系的完善進程。進入2026年，AI治理面臨的挑戰(zhàn)愈發(fā)復(fù)雜多元：數(shù)據(jù)中心的高能耗引發(fā)環(huán)境擔(dān)憂與監(jiān)管收緊；“智能體”的普及使網(wǎng)絡(luò)攻擊進入自動化時代，傳統(tǒng)防御體系難以應(yīng)對；AI對入門級崗位的替代效應(yīng)加劇就業(yè)焦慮；過度依賴情感陪伴類AI可能削弱青少年的真實社交能力，影響其人格健康發(fā)展。

　　在安全領(lǐng)域，風(fēng)險尤為突出：惡意AI智能體可偽裝滲透，進行隱蔽性極強的欺詐攻擊；AI驅(qū)動的供應(yīng)鏈攻擊、身份冒充等手法更加精準(zhǔn)高效；自主智能體一旦“失控”，可能引發(fā)大規(guī)模連鎖破壞，成為新型網(wǎng)絡(luò)威脅；自動駕駛、無人機等具身智能系統(tǒng)，存在被環(huán)境中植入的惡意文字“視覺劫持”的漏洞，極易導(dǎo)致危險行為。此外，間接提示詞注入攻擊已出現(xiàn)實際案例，可能造成機密泄露與非法操作系統(tǒng)等問題。

　　更要警惕的是，AI在專業(yè)領(lǐng)域中的“自信錯覺”。近期一項國際研究表明，若完全依賴AI設(shè)計實驗，可能釀成嚴(yán)重事故——有模型竟建議混合爆炸性化學(xué)品，而多個模型識別安全隱患的正確率不足30%，卻往往表現(xiàn)出極高的“自信”。這種“能力幻覺”在真實場景中極具誤導(dǎo)性，尤其對缺乏經(jīng)驗的使用者構(gòu)成潛在威脅。

　　應(yīng)對上述挑戰(zhàn)，“用AI治理AI”或許是一條值得深入探索的路徑。無論是將倫理原則嵌入模型訓(xùn)練的“憲法AI”，還是通過AI相互攻防的對抗測試，又或是如加拿大阿爾伯塔大學(xué)研發(fā)的“Gnosis”自省系統(tǒng)——這類技術(shù)都指向治理范式的轉(zhuǎn)變：從外部干預(yù)轉(zhuǎn)向內(nèi)生反饋，從事后追責(zé)轉(zhuǎn)向?qū)崟r調(diào)節(jié)。在企業(yè)層面，AI安全態(tài)勢管理（AI-SPM）系統(tǒng)與“AI感知型接入架構(gòu)”的部署，也推動安全治理從被動防御轉(zhuǎn)向主動預(yù)警與干預(yù)。

　　當(dāng)然，技術(shù)手段再先進，也不能脫離人的監(jiān)督。“人在回路”（人機互助系統(tǒng)）是不可逾越的底線。我們需要構(gòu)建可解釋、多中心的治理架構(gòu)，防范治理工具自身可能帶來的“二階風(fēng)險”（偏離預(yù)期的風(fēng)險），確保人類始終掌握最終控制權(quán)。

　　AI治理不是技術(shù)發(fā)展的“絆腳石”，而是智能時代行穩(wěn)致遠的“壓艙石”與“導(dǎo)航儀”。它既要以剛性規(guī)則筑牢安全底線，為創(chuàng)新劃定清晰邊界；也要以足夠的彈性與包容，為技術(shù)探索保留合理空間，使其真正服務(wù)于人類的整體福祉。這需要政策制定者、技術(shù)開發(fā)者、研究機構(gòu)與公眾持續(xù)對話、凝聚共識。

　　唯有在發(fā)展中規(guī)范、在規(guī)范中發(fā)展，在嚴(yán)謹(jǐn)?shù)囊?guī)則與靈活的創(chuàng)新之間找到平衡，智能技術(shù)才能真正成為造福全人類的積極力量。而這一切，都始于我們今日對治理的認(rèn)真思考與共同行動。