人工智能的倫理問題

人工智能的倫理問題的研究

西北工業大學

計算機學院

2016302358董正宇

文檔

人工智能的倫理問題研究

董正宇

(西北工業大學計算機學院，西安)

摘要：2016年3月，谷歌基于“深度學習”的圍棋人工智能程序AlphaGo

以總比分4：1戰勝“石佛”李世石，被譽為人類智慧王冠上的最后明珠的圍棋

也被人工智能“攻陷”。引發了全社會對于人工智能發展的空前關注。隨著人工

智能的快速發展，社會將如何應對和接納這一新的社會元素也成為了擺在人們

眼前的重要問題。

本文將首先簡要的介紹人工智能的基本狀況、現今發展情況，再就人工智

能的可能發展做簡要探討，最后重點討論人工智能的倫理問題。

關鍵詞：人工智能、深度學習、倫理

Abstract：March2016，theGoogle’sartificialintelligenceprogramAlphaGobeat

famousgoplayerLeeSe-dolbythetotalscoreof4:1whichabsorbalotattentionto

edevelopmentofartificialintelligence,howtoface

thisnewelementinoursocietyisbecomingmoreandmoreimportant.

Theessaywillfirstlybriefintroducetheartificialintelligenceanditssituation,andthen

y,Iwillmainlyfocuson

theethicofartificialintelligence.

Keywords:artificialintelligence

文檔

1.人工智能技術簡介[1]

人工智能技術簡稱AI(Artificial

Intelligence)，AI作為一門學科，于1956年

問世，是由“人工智能之父”麥卡錫

(McCartney)及一批數學家、信息學家、心

理學家、神經生理學家、計算機科學家在美

國Dartnouth大學召開的會議上首次提出來

的，它是在計算機科學、控制論、信息學、

神經心理學、哲學、語言學等多種學科研究

的基礎上發展起來的一門綜合性的邊緣學

科。不過，關于人工智能技術的定義，至今

還沒有一個統一的表述，而且不同的學科以

及不同學科背景的學者對人工智能技術有

著不同的理解與認識。廣義地講，人工智能

技術是關于人造物的智能行為，這種智能行

為一般包括知覺、學習、推理、交流以及在

復雜環境中的行為(ilsson，1998年)。另外，

從工程的角度來說，人工智能技術就是通

過用人工的方法使機器具有與人類智慧有

關的功能，如判斷、推理、證明、感知、理

解、思考、識別、規劃、設計、學習和問題

求解等思維活動。它是人類智慧在機器上

的實現。

意識，且能夠對這些變化和刺激進行分析、

推理及判斷。強人工智能技術通常分為兩種：

一種是類人的人工智能技術，即這類機器有

著與人類相似的推理能力和思維方式；另

一種是非類人的人工智能技術，即這類機器

具有自己的推理能力和思維方式，并有知覺

和自我意識。強人工智能技術具有極大的智

能可以從其行為方式上得到體現：要么會按

照人預先設定的指令具體去做什么，要么就

根據具體環境的需要去做什么，它通常能夠

主動完成任務，而且其表現出的行為可以不

按照人類事先設計好的程序來執行。

對于弱人工智能技術的倫理討論是沒有意

義的，所以本文要討論的是強人工智能技術

的倫理問題。

1.2另一種人工智能的劃分方式

或者我們可以將人工智能劃分為三個

[2]基本層次以及更高的層次。

1．信息收集輔助與智能篩選

信息收集輔助與智能篩選是最基礎的

人工智能服務，現在已經被廣泛使用。如目

前的各類搜索引擎，其內在都是采用智能化

的搜索機器人算法，在廣域的網絡中不斷讀

取分析，并匯集而來。當用戶在使用搜索引

擎時，根據用戶的搜索習慣，給出相對最有

可能滿足用戶需求的排序結果。不同的個體

在使用同樣的關鍵詞進行檢索時，會得到不

同的結果。因此，從這個意義而言，最基礎

的人工智能早已經進入人類社會中。信息收

集輔助與智能篩選看似是最簡單的人工智

能領域，然而其難度和復雜度并不簡單。關

鍵的難度在于在大數據時代，如何有效地快

速獲取最有價值的信息。因此，如前所述，

大數據時代所產生的海量數據，是促生人工

智能領域的最初和最重要的驅動。在這一層

面，人工智能可以廣泛應用于各類信息獲取

需要的服務和反饋。

2.識別應答接受模糊任務并完成人工智能

的早期使用如搜索數據，其最基礎的命令輸

入依然是要用固定形式的格式化命令來實

1.1弱人工智能技術和強人工智

能技術

一般來說，可以將人工智能技術分為弱

人工智能技術和強人工智能技術。其中，弱

人工智能技術一般賦予機器的是某種既定

的、事先設定好了的程序指令，它只能對特

定的外界刺激做出相應的反應，而不能自己

去改變。弱人工智能技術“根本沒有意向狀

態，它只是受電路和程序支配簡單地來回運

動而已”，故其所表現出的智能及行為通常

能夠被人類控制，對人類并不會造成威脅。

弱人工智能技術不能使機器像人類那樣通

過自我學習來提高自己的智能，且缺乏自我

意識更沒有主動性而言。

強人工智能技術則不同，強人工智能技

術能夠對外界環境的變化與刺激產生自我

文檔

現的。如搜索引擎的“關鍵字+搜索”就是

一種格式化命令。然而人工智能的進一步發

展，是要求機器能夠識別人類相對較為模

糊的自然語言命令并做出有效反應和完成

工作。在接到命令后，可以調動之前的搜索

功能提供信息，或者驅動行為部件實現特

定動作。如人員可以命令“幫我到××信息”，

“幫我提供××方案”等，機器則自動實現有效

信息和動作的反饋。在這一層面上，人工智

能將更廣泛地替代傳統僵化的人與機器的

交互形式，以聲音、圖像、動作等多種交互

手段，并為人類提供更有效的決策與行為方

案參考并根據人的命令指示而完成工作。

3.自主的判斷與決策

人工智能的第三個層面是要實現機器

的自主判斷決策和相應的行為。在這一層面

中，機器可以根據環境條件的變化自主決定

最優的行動方案，從而在更大程度上模擬和

替代人的行為，并形成對前兩個層面能力實

現統合，形成完整的人工智能功能體。目前

廣泛所知的阿爾法狗程序就是在這一層面

的探索，其他如車載自動駕駛，自主無人機

以及更廣泛的人形機器人，都要在一定程度

上實現自主的判斷與決策。

以上就是人工智能的三個最基本的層

次，當然，人工智能最高的層次是實現機器

自主意識的出現。這將遠超機器擁有自主的

判斷與決策能力層面，是否人能夠設計或

者機器將自我演化形成具有類似人的自我

意識乃至情緒、情感、好惡，將依然是一個

極為難以判斷的問題。也將產生更多的社會

影響，包括自主意識的機器智能體是否還是

機器和基本權利問題等等。

2.人工智能的發展現狀

人工智能技術作為一項綜合性很強的

技術，其發展到目前，主要應用領域有：專

家系統、人工生命、模式識別、定理證明、

機器人學、機器學習、自動程序設計、自然

語言處理、問題求解、人工神經網絡、智能

決策系統等。

人工智能正在經歷由弱人工智能向著

強人工智能的轉變。

以谷歌的最新人工智能程序AlphaGO

為例，其依靠兩個“大腦“來進行整個圍棋中

的思維過程：落子選擇器（movepicker）和

棋局評估器（positionevaluator）。落子選擇

器基于大數據和云計算對于落子概率進行

評估，而棋局評估器針對落子選擇器所選擇

的可能結果進行分析評估雙方獲勝的可能

性在反饋給落子選擇器。通過這樣大量的運

算，來確定對自身最為有利的方案來進行棋

局。其本質是利用了云計算的強大計算能力

來進行一種優選后的窮舉運算，這種做法仍

然不足以稱為”思維“，但是優選這一過程無

疑是向著這一方向邁出的重要一步。

總體來說，人工智能存在于現代生活的

方方面面，但是人工智能技術仍然沒有在

“能力“到”智力“的進程上取得突破性進展。

文檔

3.人工智能的未來發展

由于本文需要討論的是人工智能的倫

理問題，所以在這里只探討會產生倫理問題

的強人工智能的發展問題，尤其是使人工智

能擁有類似人類思維能力和情感的人工智

能的發展。

要做到擁有類似人類思維能力的人工

智能，現階段有兩種方式是最為可能的：

其一，是通過大量的電子元器件完全模

擬人類的腦神經網絡，神經的興奮和抑制恰

好可以與電路的高電頻和低電頻對應即其

很好的對應了計算機的以二進制為基礎的

語言。目前，人類已經成功的模擬了小鼠的

大腦使得電子的小鼠腦產生了與實際小鼠

大腦相似的電波。這種方式理論上可以制造

出真正的人造人腦，但是，這種方式的問題

也是明顯的，即這樣的人造人腦在無法自行

建造的情況下，只能使其擁有人類某一特定

狀態的思維能力，沒有直接以神經網絡模擬

的形式來獲取新知識的能力。

其二，是制造可以不斷自我更新自我進

化的人工智能，隨著人工智能的不斷的自我

進化，其可以產生基于機器自身的邏輯體系

和思維方式。這種思維方式會與人類的思維

方式是有區別的，但是由于這種形式的人工

智能是程序不斷自我完善的產物，所以，其

思維模式等特征是較難預估的，這便產生了

人類無法控制人工智能發展的可能性。而且，

零星的偏移就可能產生蝴蝶效應式的巨量

偏移，其對人類社會的存在造成的影響是不

可預知的。

總的來說，擁有人類情感的人工智能是

可能的，但是仍面臨著技術難關和道德倫理

問題。

4.人工智能的道德倫理問題

這部分將就幾個隨著人工智能的發展

可能浮現出的問題進行討論。

4.1思維存在是否人就存在[3]

3D活動模擬圖在結構上與人腦皮層相

同，如果復制后的“電子人腦”能夠產生思維

意識，思維的存在是否就是人的存在呢?

一方面認為思維的存在不等于人的存

在。人是一種自然存在物．自然屬性是人存

在的基本屬性．人的自然性首先是指人對

于生命的擁有。正如馬克思指出：“人直接地

是自然存在物。??而且作為有生命的自然存

在物?！币粋€人如果離開了對于自己生命的

擁有，那么他將不復存在。因此，人的存在

首先是對自身生命和身體的擁有。

其次，在自然存在的前提下，人是一種

社會存在物和精神存在物．社會屬性和精神

屬性是人類特有的屬性。人作為社會動物，

必然在相互交往的過程中發生人與人之間、

人與社會之間的聯系。馬克思說：“人的本質

并不是單個人所固有的抽象物，在其現實性

上，它是一切社會關系的總和。”同時馬克思

實踐唯物主義強調實踐作為人的存在的基

本方式，是實踐創造人本身。人類的思維意

識在實踐活動中得到了豐富，并且實踐使人

的活動具有社會性。人的存在既是人的自然

屬性、社會屬性和精神屬性的統一又是認識

活動、實踐活動的統一。然而，“電子人腦”

僅僅復制的是人腦的承載思維的物質基礎。

沒有了生命和身體，離開自然環境，脫離了

社會環境。即使存在思維意識也將變得孤立，

認識無從談起，實踐無從談起。更不能當作

是人的存在。

另一方面，認為思維的存在即人的存在。

黑格爾認為人的本質是一個能夠“思考自己”，

即具有自我意識的精神實體，是一個能夠擺

脫物質必然性的束縛而實行獨立自決的自

由的精神實體，人即精神，精神即人。宗教

哲學中將人看做是有靈魂的生物，他們認為

每個人都是有靈魂的，靈魂所指就是人類的

思維意識。同樣，在醫學界有著“腦死亡”的

文檔

說法，思維活動的停止標志著生命的完結。

因此，在某種程度上來說，思維意識更是標

志一個人存在而永恒不變的東西，思維的存

在即人的存在。

“電子人腦”即使不能達到與人類相同程

度的思維意識。即使是低一級或者遲鈍的思

維意識，都同樣可以看做強AI研究的成功，

因為思維意識產生規律的發現將使人工智

能逐漸向著人類智能邁進，而且將來為“電

子人腦”安裝各種傳感設備來代替人類感

覺器官是極為容易的事情，接收外界環境的

感知也將不再是難題，那么高級智能的產生

也將僅僅是時間問題。其次，網絡技術的普

及和發展使得網絡對人們的影響不斷加深，

如今人們除了現實存在外，還在虛擬世界里

有著虛擬存在，通過網絡，人們能足不出戶

對客觀世界進行認識與實踐，或者說認識方

式與實踐方式隨著網絡技術的發展而改變。

第一，通過網絡。人們能夠對想要了解

的事物有一個基本的認識。網上交流、聊天

能獲得自己需要的信息，并建立起新的社會

關系。

第二，通過網絡。改變了人類的實踐方

式。人類的實踐活動是一種目的性活動。列

寧曾經簡潔地提出一個公式：“人的實踐=要

求+外部現實性”問。網絡恰好滿足這種“要

求和外部現實性”，為虛擬實踐提供可能。因

此，我們可以設想如果“電子人腦”與網絡相

聯接．即使在缺少自然生命和身體的情況下。

其思維意識同樣能夠與現實社會的人溝通、

交流并在網上進行認識實踐活動，如在網上

實現現實物品的買賣、網絡視頻會議等。而

且認識實踐活動中將逐步建立起相應的社

會關系。其社會屬性和精神屬性都將得到實

現，如果那樣我們還能將這些沒有生命的

“電子人腦”當作機器看待嗎?

4.2有感情有意識的人工智能是

否應該享有人權

假設某一人工智能可以擁有和人類一

樣的情感和意識，那么對于該人工智能體的

界定便面臨了巨大的挑戰。人類是否應該僅

僅作為其創造者的身份與該人工智能相處？

該人工智能是否應該享有同人類相同各種

權利？當這樣的人工智能體的數量極其稀

少時這樣的問題并非明顯，但是一旦擁有自

我意識的人工智能數量達到一定限度時，矛

盾便凸顯了出來。對于擁有自我意識的人工

智能在社會中的地位界定是需要提前進行

的，只有擁有了正確的明確定位后，擁有自

我意識的人工智能體才不會給社會的健康

發展帶來不利影響。

什么才是對于人工智能正確的定位？

絕不是簡單的使其擁有和普通人類完全相

同的人權。做一個極端情況的假設，由于人

工智能在大量領域能力是遠遠超過人類所

具備的能力的，以個體的利己性進行考量，

人工智能體在擇偶市場上可能會擁有超過

大多數人類的競爭力，這種平等，極有可能

對人類自身的生存和發展造成不良的影響。

但是，直接將有情感的人工智能體放在低于

人類的地位上同樣是不可取的。無數的歷史

事實告訴我們，階級的不平等必定帶來反抗。

人類究竟應該如何看待擁有人類情感的人

工智能，人類應該如何與人工智能體共處，

這將是人類在人工智能發展道路上必須要

面對的問題。

文檔

4.3具備自我改造進化能力的人

工智能的危險性

在之前對于人工智能的未來發展的部

分中已經提及了不斷自我進化的的人工智

能的不確定性。這種不確定性是危險的，其

危險性不僅在于在不進行人為干預的條件

下其自我進化的不可預知性，更在于人為對

機器自我進化干預的困難性和不可預知性。

在不進行人為干預下的不可預知性較容易

理解，它是由于在不斷的自我進化中，任何

微小的改變都有可能由于多次的自我改造

而造成巨大的差別。而人為干預的困難性主

要體現在人工智能體可能出現的對人為干

預的改造的抵觸以及其指數增長的進化速

度。而人為干預的不確定性主要在于干預后

人工智能體對于人為干擾的響應不確定性。

5.結語

人工智能技術是人類智慧的體現，如果

應用得當，無疑可以有效的推動人類文明的

發展。但是，在發展人工智能技術時，需要

對其未來可能帶來的問題進行充分考量，這

樣才能更好的讓人工智能服務人類。

文檔

參考文獻：

[1]武漢理工大學李俊平

人工智能的倫理問題及其對策的研究.

[2]何哲人工智能時代的政府適應

與轉型.

[3]武漢科技大學龔園

人工智能的哲學思考.

文檔