科技云報(bào)道：大模型引領(lǐng)技術(shù)浪潮，AI安全治理面臨“大考”

科技云報(bào)道原創(chuàng)。

從文生文到文生圖，再到文生視頻，近年來，以ChatGPT、Sora等為代表的大模型引領(lǐng)了全球人工智能技術(shù)與產(chǎn)業(yè)的新一輪浪潮。2024年更是被業(yè)內(nèi)稱為大模型應(yīng)用爆發(fā)元年。

年初，Sora橫空出世驗(yàn)證了Scalling Law在視頻生成方面的有效性。但Sora始終止步于公開的60秒Demo，產(chǎn)品落地計(jì)劃遲遲未公開。

隨后的半年時(shí)間，不少玩家繼續(xù)在AI視頻生成賽道展開角逐。今年6月，快手發(fā)布視頻生成大模型“可靈”。緊隨其后，國外知名3D建模平臺Luma AI也高調(diào)入局，并宣布對所有用戶免費(fèi)開放其文生視頻模型，再掀波瀾。近日，智譜AI也正式上線了AI視頻生成功能清影（Ying），全面入局文生視頻及圖生視頻賽道，生成6秒視頻僅需30秒的時(shí)間。

人工智能技術(shù)的普及應(yīng)用一方面為社會發(fā)展帶來了巨大的技術(shù)紅利，另一方面也帶來了風(fēng)險(xiǎn)挑戰(zhàn)。

哲學(xué)家海德格爾曾反思過現(xiàn)代技術(shù)的危險(xiǎn)性，其認(rèn)為現(xiàn)代技術(shù)強(qiáng)調(diào)效率，在這種效率觀念的促逼下，人類反而被技術(shù)所控制和占有，成為了技術(shù)的奴隸，受到技術(shù)發(fā)展的支配。雖然當(dāng)下加速了發(fā)展進(jìn)程，但是盲目的發(fā)展最終會導(dǎo)致一系列的社會危機(jī)，這是人類不可忽視的問題。

AI繁榮表象下的安全隱

近年來，一些不法分子利用人工智能深度偽造新工具實(shí)施電信詐騙、散布虛假視頻、激化社會矛盾，給安全領(lǐng)域帶來了諸多風(fēng)險(xiǎn)。人工智能深度偽造是一種利用人工智能技術(shù)合成、修改或替換圖像、視頻和音頻內(nèi)容的技術(shù)，可以將一個(gè)人的面部表情、言辭和動(dòng)作應(yīng)用到其他人的圖像或視頻上，使生成的內(nèi)容看似原始內(nèi)容。這項(xiàng)技術(shù)讓假新聞和虛假信息更具迷惑性，嚴(yán)重威脅公眾的信任和社會穩(wěn)定。

此類安全產(chǎn)生的主要原因在于，技術(shù)發(fā)展速度過快而法律法規(guī)和倫理規(guī)范未能及時(shí)跟進(jìn)?，F(xiàn)有的法律框架往往難以適應(yīng)人工智能的快速發(fā)展，導(dǎo)致監(jiān)管滯后。

例如，AI自動(dòng)駕駛汽車的責(zé)任認(rèn)定問題，目前尚無明確的法律規(guī)定。當(dāng)人工智能系統(tǒng)出現(xiàn)故障導(dǎo)致事故時(shí)，如何界定制造商、開發(fā)者和用戶的責(zé)任，成為法律界亟待解決的難題。

同時(shí)，人工智能的決策機(jī)制和數(shù)據(jù)處理方式存在不透明性，可能導(dǎo)致偏見和歧視的擴(kuò)散。例如，面部識別技術(shù)在執(zhí)法中的應(yīng)用可能帶來隱私侵害和種族偏見的問題。經(jīng)濟(jì)基礎(chǔ)決定上層建筑，上層建筑反作用于經(jīng)濟(jì)基礎(chǔ)，當(dāng)上層建筑為適合生產(chǎn)力發(fā)展的經(jīng)濟(jì)基礎(chǔ)服務(wù)時(shí)，它就成為推動(dòng)社會發(fā)展的進(jìn)步力量；反之則成為阻礙社會發(fā)展的力量。當(dāng)前的法律法規(guī)和倫理規(guī)范已經(jīng)落后于人工智能技術(shù)發(fā)展水平，亟需改良進(jìn)步。

受到發(fā)展水平、價(jià)值觀念、文化差異和國家利益等多個(gè)因素的影響，各國推動(dòng)的治理框架和解決方案通常在防范風(fēng)險(xiǎn)、公平公正、隱私保護(hù)和國家安全等方面有不同關(guān)切，而人工智能的發(fā)展趨勢和特征卻要求在全球治理方面構(gòu)建更加包容的框架。

因此，在當(dāng)前形勢下，在推動(dòng)全球人工智能治理框架、標(biāo)準(zhǔn)和規(guī)范形成廣泛共識方面，仍存在諸多挑戰(zhàn)與難題。

**首先，人工智能技術(shù)本身的復(fù)雜性和快速發(fā)展使得全球治理更加困難。**人工智能技術(shù)涉及深度學(xué)習(xí)、自然語言處理、計(jì)算機(jī)視覺等多個(gè)領(lǐng)域，每個(gè)領(lǐng)域都有其獨(dú)特的技術(shù)挑戰(zhàn)和應(yīng)用場景，治理的復(fù)雜性大大增加，并且人工智能技術(shù)更新速度快，傳統(tǒng)的立法和監(jiān)管手段難以跟上技術(shù)進(jìn)步的步伐。即使制定了相關(guān)政策和法規(guī)，也可能很快變得過時(shí)，需要不斷更新和調(diào)整。隨著人工智能應(yīng)用的廣泛普及，數(shù)據(jù)隱私、不公平與歧視性，以及國家安全等風(fēng)險(xiǎn)日益彰顯。人工智能技術(shù)及其引發(fā)的全局性、系統(tǒng)性和國際性風(fēng)險(xiǎn)將成為全球治理合作面臨的挑戰(zhàn)之一。

**其次，人工智能技術(shù)的發(fā)展涉及巨大的經(jīng)濟(jì)利益，各國之間在技術(shù)研發(fā)、市場份額和產(chǎn)業(yè)布局方面存在激烈競爭。**一些國家和科技公司在人工智能領(lǐng)域占據(jù)領(lǐng)先地位，不愿意在國際治理框架中受到限制，擔(dān)心影響自身的競爭優(yōu)勢；人工智能技術(shù)的應(yīng)用涉及廣泛的商業(yè)利益，各國可能會為了保護(hù)本國企業(yè)的市場份額而抵制統(tǒng)一的國際規(guī)范；不同國家在產(chǎn)業(yè)政策上也會有不同的側(cè)重點(diǎn)，一些國家可能會更傾向于保護(hù)本國的人工智能產(chǎn)業(yè)，制定有利于自身發(fā)展的政策，而不是參與全球性的治理框架。

**第三，主體多元將成為制約全球人工智能治理的因素。**當(dāng)前人工智能治理仍以政府為主導(dǎo)，主要表現(xiàn)為中國、歐盟、美國等制定和發(fā)布了一系列人工智能治理倡議、規(guī)劃和立法。然而，私營部門在人工智能技術(shù)發(fā)展中也發(fā)揮著不可忽視的作用，謀求人工智能規(guī)則的話語權(quán)可以增強(qiáng)其影響力。多利益攸關(guān)方以自身利益為中心，可能導(dǎo)致人工智能治理主導(dǎo)權(quán)和規(guī)則制定權(quán)的多方博弈甚至惡性競爭。倘若如此，將嚴(yán)重?fù)p害各方在人工智能全球治理上的合作動(dòng)能。

**第四，人工智能技術(shù)的發(fā)展依賴于大量數(shù)據(jù)的收集和共享，但數(shù)據(jù)隱私和安全問題卻成為全球治理的重要難題。**許多國家對本國數(shù)據(jù)的控制權(quán)有很強(qiáng)的保護(hù)意識，不愿意輕易共享數(shù)據(jù)。而且各國對數(shù)據(jù)隱私保護(hù)的標(biāo)準(zhǔn)和要求不同，一些國家可能對數(shù)據(jù)的跨境流動(dòng)設(shè)置嚴(yán)格的限制。

**第五，少數(shù)科技巨頭公司在人工智能技術(shù)和市場上占據(jù)主導(dǎo)地位，導(dǎo)致全球治理面臨技術(shù)壟斷和不平等問題。**大型科技公司在人工智能技術(shù)研發(fā)和應(yīng)用方面占據(jù)主導(dǎo)地位，擁有巨大的經(jīng)濟(jì)和政治影響力，可能會影響政策的制定和執(zhí)行。

人工智能技術(shù)的發(fā)展還可能加劇全球范圍內(nèi)的經(jīng)濟(jì)不平等，發(fā)展中國家在技術(shù)和資源方面處于劣勢，難以在全球治理中發(fā)揮有效作用。

面對人工智能全球治理的多重挑戰(zhàn)和現(xiàn)實(shí)困境，中國提出推動(dòng)構(gòu)建人類命運(yùn)共同體為愿景的解決方案。在7月舉行的2024世界人工智能大會暨人工智能全球治理高級別會議上，清華大學(xué)蘇世民書院院長、清華大學(xué)人工智能國際治理研究院院長薛瀾曾表示，從全球角度來講，人工智能發(fā)展面臨著很多挑戰(zhàn)。

要把AI發(fā)展和安全作為“一體兩翼”，通過多途徑建立國際交流及防控體系，加強(qiáng)政府間的多邊對話機(jī)制，同時(shí)通過科學(xué)共同體力量助力國際機(jī)制全面完善。

同時(shí)發(fā)揮聯(lián)合國等國際組織的綜合全面協(xié)調(diào)作用，打破各種壁壘，加強(qiáng)國際合作協(xié)議，同時(shí)在產(chǎn)業(yè)、科學(xué)界共同努力下推動(dòng)人工智能合理、健康發(fā)展，為人類和平與發(fā)展作出更大的貢獻(xiàn)。

圖靈獎(jiǎng)得主、中國科學(xué)院院士、清華大學(xué)交叉信息研究院院長姚期智表示，人工智能最有深度、最有意思的風(fēng)險(xiǎn)來自AI生存或者存在的風(fēng)險(xiǎn)。要控制好AI，但又不能破壞它，“正如圖靈所說，這是無法預(yù)測的，預(yù)測不了機(jī)器有了足夠算力之后會做什么?！?/p>

因此，AI風(fēng)險(xiǎn)需要專家來解決，不僅是科學(xué)家，還可能需要政府、律師、經(jīng)濟(jì)學(xué)家來參與，幾乎涉及到每一個(gè)行業(yè)。

上海人工智能實(shí)驗(yàn)室主任、銜遠(yuǎn)科技創(chuàng)始人周伯文認(rèn)為，目前，世界上只有1%的資源投入在對齊或者安全考量上，對AI安全的投入遠(yuǎn)落后于AI性能的投入。人類將遵循“AI-45°平衡律”，沿著可信AGI的“因果之梯”拾級而上，探索人工智能系統(tǒng)安全和能力的系統(tǒng)性平衡之路。

道阻且長，行則將至

全球人工智能治理倡導(dǎo)“以人為本、智能向善、造福人類”的原則，這既代表了人工智能發(fā)展的主線，也代表了治理的宗旨。

7月24日，中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（簡稱“AIIA”）安全治理委員會成果發(fā)布會舉行。會上，AIIA秘書長、中國信息通信研究院院長余曉暉表示，開展人工智能安全治理工作不僅是我國推動(dòng)人工智能發(fā)展和安全的重要工作，也是全人類共同需要對待的重大問題。如何釋放出人工智能最大向善的能力，造福于人類，促進(jìn)經(jīng)濟(jì)社會發(fā)展，需要世界各國共同推動(dòng)。

AIIA秘書長、中國信息通信研究院院長余曉暉

AIIA安全治理委員會主任委員、公安部信息安全等級保護(hù)評估中心原副主任、研究員畢馬寧表示，過去一年，大模型發(fā)展速度之快，賦能范圍之廣，讓業(yè)界看到了通用人工智能的實(shí)現(xiàn)路徑與曙光，但人工智能安全問題的嚴(yán)重性與緊迫性不容忽視。在從不同層面審視人工智能安全問題時(shí)，可以發(fā)現(xiàn)人工智能所帶來的安全挑戰(zhàn)已經(jīng)從技術(shù)本身所帶來的數(shù)據(jù)、算力、系統(tǒng)等傳統(tǒng)安全問題，逐漸向?qū)€(gè)人、組織、國家社會、人類生態(tài)的衍生安全問題蔓延。

AIIA安全治理委員會主任委員、公安部信息安全等級保護(hù)評估中心原副主任、研究員畢馬寧

AIIA總體組組長、中國信通院人工智能研究所所長魏凱表示，世界各國都對人工智能的發(fā)展表示出非常大的期待，不論是發(fā)達(dá)國家或者發(fā)展中國家，普遍認(rèn)為人工智能是一個(gè)巨大的機(jī)遇，同時(shí)也對人工智能的確定性安全和風(fēng)險(xiǎn)挑戰(zhàn)表示擔(dān)憂。

多年來，中國信通院作為國家智庫產(chǎn)業(yè)平臺，不僅聯(lián)合各方在中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟下成立了安全委員會，搭建人工智能安全方面交流合作平臺，同時(shí)聯(lián)合產(chǎn)業(yè)界發(fā)布了《人工智能治理框架》，提出以風(fēng)險(xiǎn)為導(dǎo)向的人工智能研判理論體系，并發(fā)布一系列人工智能安全合規(guī)方面的標(biāo)準(zhǔn)規(guī)范，協(xié)助企業(yè)提升安全能力。

圍繞大模型安全，中國信通院還啟動(dòng)大模型安全基準(zhǔn)測試，為國內(nèi)企業(yè)開展大模型安全防范工作提供參考。此外，與國際組織各國就人工智能的安全治理工作開展雙邊、多邊的討論交流，共同推動(dòng)人工智能在全球的發(fā)展和安全的治理工作。

目前，全球針對人工智能安全已有很多聲明和請?jiān)?，但更重要的是要明確目標(biāo)、投入資源、采取行動(dòng)，攜手結(jié)伴共同應(yīng)對風(fēng)險(xiǎn)。各國和地區(qū)針對人工智能治理正從原則治理走向安全實(shí)踐的新階段。

治理框架方面，各國和地區(qū)基本形成本土治理方案。比如美國推出《人工智能風(fēng)險(xiǎn)管理框架》推動(dòng)基于風(fēng)險(xiǎn)的治理實(shí)踐。歐盟《人工智能法》構(gòu)建了風(fēng)險(xiǎn)分級的治理方案，并即將正式生效。

新加坡在原先治理框架基礎(chǔ)上推出了《生成式人工智能治理模型框架》，提出人工智能評估需考慮的九個(gè)維度。日本發(fā)布《人工智能運(yùn)營商指南》，為開發(fā)者、提供者、使用者制定行為準(zhǔn)則。我國從《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》到《生成式人工智能服務(wù)管理暫行辦法》精準(zhǔn)化治理前沿技術(shù)。

治理工具方面，全球積極推出安全測試評估平臺。美國成立人工智能安全研究所和安全聯(lián)盟以推動(dòng)制定人工智能安全標(biāo)準(zhǔn)和開展安全評測，并于近期啟動(dòng)“評估人工智能的風(fēng)險(xiǎn)和影響”計(jì)劃。英國人工智能安全研究所推出“Inspect”人工智能模型安全評估平臺。新加坡依托“AI Verify”發(fā)布軟件工具包，推動(dòng)新技術(shù)的沙箱測試。我國已有近140個(gè)大模型通過安全評估與備案，形成良好示范效應(yīng)。

可以看出，安全已成為各國人工智能治理的核心關(guān)切，保障安全是人工智能技術(shù)創(chuàng)新發(fā)展的基石，也是推動(dòng)人工智能產(chǎn)業(yè)可持續(xù)發(fā)展的重要前提。

道遠(yuǎn)路長，行則將至。人工智能治理是一個(gè)不容忽視又實(shí)時(shí)更新的問題，未來也許將有超出現(xiàn)有認(rèn)知的挑戰(zhàn)，這就需要國際社會攜手共同努力，為人工智能的發(fā)展把好方向盤，顯然是未來與技術(shù)狂奔向前相伴的另一個(gè)主旋律。讓每一個(gè)人成為人工智能的使用者、受益者，也讓每一個(gè)人成為人工智能的設(shè)計(jì)者、治理者。

【關(guān)于科技云報(bào)道】專注于原創(chuàng)的企業(yè)級內(nèi)容行家——科技云報(bào)道。成立于2015年，是前沿企業(yè)級IT領(lǐng)域Top10媒體。獲工信部權(quán)威認(rèn)可，可信云、數(shù)博會、國家網(wǎng)安周與全球云計(jì)算等大型活動(dòng)的官方指定傳播媒體之一。深入原創(chuàng)報(bào)道云計(jì)算、人工智能、大模型、網(wǎng)絡(luò)安全、大數(shù)據(jù)、區(qū)塊鏈等企業(yè)級科技領(lǐng)域。