艾西莫夫機器人預言Part1:機器人會知道自己被奴役嗎?

7月初,德國汽車大廠福斯(Volkswagen)合作的承包商工廠發生機器人「殺人」事件,一名22歲的年輕技術員不幸身亡,引起巨大關注。原來機器人並非安全無虞,確實有可能危害人類性命。然而它真的「殺人」了嗎?後來查明,這個事件起因於人為操作失當,並非有自主意識的人工智慧機器人因「錯誤判斷」而引起失事。

不過也因為這件事,讓「人工智慧可能對人類造成威脅」的話題再次掀起討論──它已經不再是停留於科幻電影和小說的「假議題」,反而變成很多人實際的擔憂。

圖說明

伊隆.馬斯克(Elon Musk)、比爾.蓋茲(Bill Gates)、史蒂芬.霍金(Stephen Hawking)等都是人工智慧機器人反對派的知名代表,馬斯克甚至曾預言:「人工智慧將比核彈還要危險。」

歡迎來到人機共處的世界

創造出世界上第一個工業用機械手臂的約瑟夫.恩格伯格(Joseph Engelberger),在1950年代末期成立了名為「Unimation」的工業機器人製造公司,從此開創了機器人發展新紀元,恩格伯格也被後人稱為「機械手臂之父」。

恩格伯格會對機器人如此感興趣,起因於他在哥倫比亞大學就學時,無意間讀到了哥倫比亞校友——艾西莫夫的機器人小說,並從此受到啟發,進而動手讓艾西莫夫筆下的機器人來到這個世界。

在艾西莫夫動筆寫下第一篇機器人故事時,他從未想過有生之年會看到筆下的機器人來到這個世界。事實上,傳統的機器人小說分成兩大類:帶有負面形象、威脅人類生存的機器人,和被人類奴役、引發人類同情的機器人。

《艾西莫夫機器人短篇全集》收錄31篇原本散見於七本艾西莫夫選集的機器人短篇小說,寫作年代橫跨1939至1977年,其中包括他1940年發表的第一篇機器人小說《小機》、好萊塢電影《變人》及《機械公敵》的起源故事等。

圖說明

艾西莫夫則打破了人機二元對立公式,創造了第三種中性的機器人形象:由工程師製造、內建安全機制、被用來執行某項工作的工業產品,既不威脅人類,也不帶弱者形象。

艾西莫夫不只啟蒙了一位機械手臂之父,他在小說中使用的自創詞彙「機器人學」(Robotics),也早已是學術期刊常見的通用詞語,甚至變成一門專業學科。而他所創造的「機器人學三大法則」,至今仍然不斷被各種文本引用,甚至成為許多科學家研發人工智慧時的指導原則。

3 Laws of Robotics
機器人學三大法則
1.不得傷害人類,或因不作為使人類受到傷害。
2.除非違背第1法則,必須服從人類命令。
3.在不違背第1及第2法則下,必須保護自己。

艾西莫夫筆下的機器人幾乎都是機器人學三大法則的化身,而這三大法則彼此之間存在的邏輯漏洞,不只成為艾西莫夫機器人小說的題材,更預言了當人工智慧發展到一定程度時,機器人與人類的關係或許終將針鋒相對——設想當人工智慧超越人腦時,機器人為了遵循第一法則,保護人類、使人類不受傷害,是否會反客為主,成為人類的主宰?

艾西莫夫筆下的機器人既然已經成為現實,他所描繪的「人機共處」未來世界或許也不再遙遠,屆時機器人與人類之間的關係又將如何?當機器人成為有意識的個體,是否能被視為生命,甚至擁有公民權?艾西莫夫的小說看似天馬行空,或許更像是一則則警世預言。

故事1:
機器人會不會發現自己是被人類奴役的機器?

在1950年代,艾西莫夫就寫出了一篇關於自動駕駛車的故事,在當時看來是多麼天馬行空。不過對照如今,各大車廠在自動駕駛這一役打得如此火熱,又不禁感嘆艾西莫夫筆下的世界怎麼會遙不可及。

這篇叫《莎莉》的故事中,對自動駕駛車的描繪就與現今各大車廠規劃的產品如出一轍,它大幅降低了人類喪身於車禍的機率,讓瞎眼的老兵、下身麻痺的病患有機會自在上路。

自動駕駛車的聰明絕頂,讓主人公著迷不已,並經營起「退休汽車農莊」,養護起51輛退休、無人看管的自動駕駛車,它們可以自由行走、活動,不需被人類控制。

圖說明

當一位乘著自動駕駛巴士的男人試圖侵入農莊,強搶這些價值連城的車子時,會發生什麼事?農莊內的智慧汽車試圖用它們的方式與那台巴士溝通。於是巴士失控了,不再聽令於男人,他的入侵計畫自然破功,失控的巴士甚至讓他失去了性命。

本來全心愛護著自動駕駛車的主人公,突然對它們感到害怕。這些具備人工智慧的汽車到底交流了什麼內容,讓應該聽令於人類命令的巴士開始反抗?當一台外部的自動駕駛車,發現農莊內的車子與眾不同——永遠沒人駕駛、與人類平等相處,它會意識到原來自己受到「奴役」嗎?

受到人類「虐待」的汽車,會認為所有的汽車都應該像農莊內的汽車那樣自在生活嗎?當一部人工智慧機器可以跟另一部人工智慧機器溝通時,它們就有機會將這樣的訊息逐層往外擴散出去。至於它們交流了什麼樣的內容?你永遠不會知道。

http://www.bnext.com.tw/article/view/id/37412

发表评论

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out / 更改 )

Twitter picture

You are commenting using your Twitter account. Log Out / 更改 )

Facebook photo

You are commenting using your Facebook account. Log Out / 更改 )

Google+ photo

You are commenting using your Google+ account. Log Out / 更改 )

Connecting to %s