版權(quán)歸原作者所有,如有侵權(quán),請聯(lián)系我們

靈魂拷問:人類如何讓機器人“守道德”?

科普江蘇
原創(chuàng)
傳播科學(xué)知識,弘揚科學(xué)精神
收藏

隨著人工智能(AI)技術(shù)突飛猛進的發(fā)展,現(xiàn)在許多無須人工操控的自動化系統(tǒng)如雨后春筍般出現(xiàn),大大豐富和改善了人們的物質(zhì)文化生活。當(dāng)然,這項技術(shù)也不可避免地會進入軍事領(lǐng)域,催生多種自動化武器裝備,如無人駕駛的飛機、艦艇、戰(zhàn)車以及人形超級智能作戰(zhàn)機器人等。這些武器裝備在激活后無須人類干預(yù),即可自動選擇目標(biāo)和采取行動,這就不能不引起人們的憂慮——它們會不分青紅皂白地濫殺無辜,從而改變戰(zhàn)爭的性質(zhì),使人類遭受重大傷害。

于是,一個問題出現(xiàn)了:有沒有辦法讓機器人恪守人類道德?

“殺人機器人”引出的爭論

美國是最早開始研發(fā)和使用這種自動化武器(俗稱“殺人機器人”)的國家,英、日、德、俄、韓和以色列等國家緊隨其后,也相繼研發(fā)出各自的系統(tǒng)。其中數(shù)量最多的,是美國的無人機。

以色列的“哈比”無人機

據(jù)悉,美軍現(xiàn)有各種無人機7 000 架,其型號涵蓋了從手掌大小的微型機到翼展超過波音737的“全球鷹”巨型機,它們普遍配有攝像頭和圖像處理器,可以在沒有任何通信和控制系統(tǒng)的情況下被派去摧毀目標(biāo)。據(jù)報道,美軍曾在阿富汗大量使用無人機,造成許多無辜者傷亡。

美國的大型無人偵察機RQ-4“全球鷹”

2020 年3 月,在利比亞內(nèi)戰(zhàn)的戰(zhàn)場上,一架土耳其生產(chǎn)的自殺型無人機甚至在完全自主模式下,攻擊了一名參戰(zhàn)士兵。聯(lián)合國安理會發(fā)布的相關(guān)報告震撼了國際輿論,更引發(fā)了深刻的道德和法律爭論。支持者認為,戰(zhàn)場機器人如果使用得當(dāng),可以有效降低士兵的傷亡率,挽救生命。但科學(xué)界的普遍看法是,戰(zhàn)場機器人是一種威脅,這不單單是指它具有自主能力,而是指它掌握著生殺大權(quán)。為此,聯(lián)合國發(fā)文呼吁,“殺人機器人”的問世,動搖了關(guān)于戰(zhàn)爭行為的國際公約,必須“凍結(jié)”相關(guān)技術(shù)的研發(fā),最終目標(biāo)是永久性地禁止這種武器的使用,不能把生殺大權(quán)交給一個機器人。

一項有趣的試驗

聯(lián)合國這么呼吁的理由是:機器人無法對自己的行為負責(zé)——它可以判斷對方是人還是機器,但是要識別對方是士兵還是平民,幾乎不可能。士兵可以用常識判斷眼前的女子是懷孕還是身藏炸藥,機器人恐怕不大可能。如果恐怖分子利用“殺人機器人”取代自殺式襲擊,就如同打開了現(xiàn)代“潘多拉魔盒”,后果不堪設(shè)想。

那么,有沒有辦法通過程序設(shè)計,讓機器人具有“道德觀念”和“法律意識”,做一個具有仁愛之心的“好人”呢?或者說,是否可以將機器人的所作所為限定在一個合法的范疇之內(nèi)呢?

這是一個饒有興味的問題,激發(fā)了一批頂尖科學(xué)家的靈感,并有一些人進行了實際試驗。例如,英國布里斯托機器人實驗室的艾倫·溫菲爾德及其同事,為機器人設(shè)計了這樣一個程序:阻止其他擬人機器人掉進洞里。這是根據(jù)美國著名科幻作家艾薩克·阿西莫夫提出的“機器人三定律”設(shè)計的。

試驗一開始,機器人還能順利完成任務(wù):當(dāng)擬人機器人向洞口移動時,機器人會沖上去將其推開,防止其掉進洞里。隨后,研究人員又添加了一個擬人機器人,兩個擬人機器人同時向洞口移動,救人機器人則要被迫進行選擇。有時,它成功地救了其中一“人”,而另一“人”掉進了洞里;有幾次,它甚至想兩個“人”都救。然而,在33 次測試中,它有14 次因為在救哪一個的問題上不知所措而浪費了時間,以致兩個“人”都掉進了洞里。這項試驗公開展示后,得到了世人的高度關(guān)注。事后,溫菲爾德說,雖然根據(jù)設(shè)定的程序,救人機器人是可以對他人施救的,但它根本不理解這種行為背后的原因,因而實際上是一具“道德僵尸”。

隨著機器人日益融入人們的生活,這類問題需要有一個明確的答案。例如,一輛自動駕駛的汽車,某一天或許要在“保證車內(nèi)人員安全”和“給其他駕駛員或行人造成傷害”之間進行權(quán)衡。解決這個問題可能非常困難。然而,可喜的是,某些機器人或許能夠提供一個初步答案:美國佐治亞理工學(xué)院的計算機專家羅納德·阿金專門為一個名為“道德監(jiān)督員”的軍事機器人研發(fā)了一套運算法則,在模擬戰(zhàn)斗測試中,它可以幫助機器人在戰(zhàn)場上作出明智的抉擇。例如,不得在學(xué)校和醫(yī)院等受保護目標(biāo)附近開槍,要盡量減少人員傷亡。不過,這是相對簡單的情形,如果遇到復(fù)雜情況,結(jié)果往往會大不一樣。看來,要回答機器人能否作出道德倫理選擇這個問題,不是短時間內(nèi)能夠做到的,這中間涉及一系列極其尖端復(fù)雜的人工智能技術(shù),要取得實質(zhì)性進展,還有很長的路要走。

讓機器人“講道德”的難度

這是人工智能技術(shù)在發(fā)展過程中遇到的一個重大問題。要正確地回答和解決這個問題,首先要弄清一個關(guān)鍵:需要掌握道德標(biāo)準的是人工智能本身,還是人類?

一個多世紀前,有人曾發(fā)出警告說,電力特別是電報的發(fā)明會對人的智力帶來不利影響,由于人們不停地用電訊傳遞信息而很少有時間思考,因而將削弱人的思考能力,甚至最終會導(dǎo)致大腦癱瘓。100 多年后,也有人對谷歌發(fā)出類似的警告——當(dāng)他們有時看到社交網(wǎng)絡(luò)充斥著大量廢話后,就誤認為上面說的“思考能力的弱化”已經(jīng)成為現(xiàn)實。但是,即便上述情況屬實,而將其原因歸之為電力的發(fā)展,這是不公平的。因為要對大量廢話負主要責(zé)任的,顯然不應(yīng)是電力技術(shù),而應(yīng)是作為行為者的人的本性。

如今,人工智能的發(fā)展也面臨著類似情況:人們一方面在高度評價它給各行各業(yè)帶來的無與倫比的巨大推動作用,同時對它可能存在的某些弊端又不無憂慮,“殺人機器人”的問世便是典型案例之一。

人工智能的巨大威力,主要是通過它那卓越的圖靈識別模式來工作的。例如,在新冠肺炎疫情大流行的背景下,它可以識別出無癥狀感染者,從而避免疾病的傳播;它可以通過皮毛上的斑點來識別和分類瀕危動物,有利于對其進行監(jiān)控,從而降低物種滅絕的風(fēng)險;它還能識別出古代文字的痕跡并確定作者數(shù)量;它甚至能通過智能算法判斷出考場中的異常行為,將作弊者識別出來……

但是,盡管如此,人工智能技術(shù)并非萬能的,當(dāng)它的發(fā)展逐漸接觸到人類的意識、情感、意志和道德層面的問題時,便會相形見絀,有時甚至完全無能為力。這是因為,戰(zhàn)爭法則已有數(shù)千年的歷史,人類往往會受到情感等因素的影響而打破規(guī)矩,機器人則不會。這種情況已成為與哲學(xué)和倫理學(xué)有關(guān)的一部分了。因此,要解決人工智能中的道德倫理問題,不能單純從技術(shù)角度著眼,必須考慮哲學(xué)、倫理學(xué)的因素,這就不可避免地會增加解決問題的難度。

怎樣讓機器人恪守人類道德

這種難度主要可歸納為兩個方面:其一,難以處理一些抽象概念,例如“造成傷害”的概念。殺人顯然是一種傷害,但是接種疫苗也會引起疼痛,個別的甚至?xí)斐伤劳?,那么,達到何種程度才能界定為“傷害”呢?其二,來自對可能傷害的評估,以及必須避免對人類造成傷害。如果一個智能系統(tǒng)遇到兩個具有相同傷害可能性的目標(biāo)就無所適從,不知道該把目標(biāo)鎖定在哪個身上,就不能被認為是一個成熟的系統(tǒng)。

盡管這一問題解決起來難度很大,甚至被認為“根本無法解決”,但是科學(xué)家并未因此放緩探索未知、攻堅克難的步伐。圍繞著怎樣讓機器人恪守人類道德這一目標(biāo),他們費盡心思,提出了許多思路、建議和方案,其中有些已經(jīng)在進行試驗,概括起來就是:

第一,參照科幻大師艾薩克·阿西莫夫提出的“機器人三定律”,嚴格限定智能機器人不能傷害人類,不能因不作為而使人類遭受傷害;如有違反,相關(guān)的研發(fā)人員或機構(gòu)將會受到懲罰。

第二,采取訴諸多數(shù)的觀點。一般而言,大多數(shù)人的利益往往能決定什么是對的、什么是錯的。例如,假設(shè)在涉及行人、立即發(fā)生且不可逆轉(zhuǎn)的事故時,我們必須決定自動駕駛車輛應(yīng)該做什么:到底是救乘員還是救行人?美國曾用一種道德機器來分析這些可能的決定,結(jié)論是如果一種行為能為最大數(shù)量的人帶來最大的幸福度,那它就是一件值得做的好事。在這里,幸福度是一個主要的預(yù)期目標(biāo)。

第三,在未來的戰(zhàn)場上,真正的困境出現(xiàn)在面對未來士兵的時候。要想讓未來士兵具有戰(zhàn)斗力,他們必須在可感知的威脅消滅他們之前把威脅消滅掉。這可以通過編程的方式,讓機器人遵守一些“道德規(guī)則”來實現(xiàn),尤其是涉及戰(zhàn)斗環(huán)境中的士兵時。但指揮員可能會發(fā)現(xiàn),如果為機器人內(nèi)置的“道德”限制將會危及本部隊?wèi)?zhàn)斗人員時,這種編程就會干擾任務(wù)的遂行。例如,人工智能系統(tǒng)會鎖死士兵的槍,以防止平民被殺,而這個平民其實是對方的戰(zhàn)斗人員或恐怖分子。從這個角度講,在城市恐怖事件中,似乎永遠也不可能弄清楚誰是平民、誰不是。因此,這里的編程就是一項極其復(fù)雜的技術(shù),需要各方面的頂尖專家集思廣益、通力合作,才有可能取得突破。

綜上所述,能否讓機器人受道德約束是一個大目標(biāo),實現(xiàn)這個目標(biāo)的根本途徑不是如何使人工智能技術(shù)符合道德規(guī)范,而是人類在研發(fā)和使用人工智能時要遵守道德規(guī)范。如果說有道德的機器人目前還是一個神話,那么,有道德的人卻完全不是。因此,完全有可能和絕對有必要敦促全世界的科學(xué)家、軍事指揮員采取有道德的行動,即只有在自身安全受到傷害的必要情況下才動用自動化武器。在這方面。人類是可以大有作為的。正如人工智能之父阿蘭·麥席森·圖靈所言:“我們的目光所及,只能在不遠的前方,但是可以看到那里有大量需要去做的工作?!币虼耍熬笆枪饷鞯?。

美國的“密集陣”自動武器系統(tǒng)

文/王瑞良

內(nèi)容資源由項目單位提供

評論
坦 蕩 蕩
少師級
隨著人工智能(AI)技術(shù)突飛猛進的發(fā)展,大大豐富和改善了人們的物質(zhì)文化生活。發(fā)展的同時安全問題也不可忽視。
2023-09-17
演繹無限精彩!
大學(xué)士級
與機器相處和諧度,應(yīng)是人類開發(fā)利用人工智能的重要標(biāo)尺。畢竟,人工智能的應(yīng)用,不僅僅是一場科技創(chuàng)新,也可能是影響深遠的社會倫理試驗。
2023-09-17
演繹無限精彩!
大學(xué)士級
科技快速發(fā)展的時代,機器人的道德觀念與倫理標(biāo)準已成為人們不得不面對的問題。隨著機器人日益融入人們的生活,這一問題更加需要明確的答案。
2023-09-17