本文為大阪大学副専攻プログラム「公共圏における科学技術政策」必修課程《科学技術イノベーション政策概論B》第四、五回課程筆記。
講者為大阪大学先導的学際研究機構（Institute for Open and Transdisciplinary Research Initiatives, OTRI）共生知能システム研究センター（Symbiotic Intelligent Systems Research Center, SISReC）特任助教呉羽真（KUREHA Makoto）。
一、對於AI人工智慧與機器人的擔憂
人們對於人工智慧（Artificial Intelligence, AI）和機器人的擔憂，可以歸納為「科技奇點」（technological singularity，又譯作「科技奇異點」）和造成人們在「技術上失業」兩大類。
科技奇點（technological singularity）
簡單來說，科技奇點可以理解為：當AI人工智慧凌駕於人類之上，造成社會莫大影響的零界點。未來學家雷蒙德·庫茲維爾（Raymond Kurzweil）就曾預言，人們將在 2045年迎接科技奇點。
所以，當AI人工智慧的「智慧凌駕於人類之上」是什麼意思？如果將「智慧」定義為「面對多樣且變動的環境，具有達成目標的能力」，AI人工智慧大概可以比喻為科學上的外星人（alien）。
造成人們技術上失業
悲觀派認為，AI人工智慧的誕生，讓工作、作業自動化，最終會帶來人類的大規模失業。最糟的情況是，工作性質具備創造性或社會性這種，難以靠自動化達成的工作將會消失於這個世界上。
樂觀派則認為，機器人或AI人工智慧的誕生，可以讓簡單、可以預測、自動化的工作都交由機器來做，人們就有更多精力專注在具有創造性或社會性的工作上，達到人類和機器間的專業分工。
不論是悲觀派還是樂觀派，自動化所造成的影響是系統性、制度上的問題（system issue）。當某一個工作自動化之後，並不是只有那一個工作受到影響，而是整個系統、整個產業、整個社會都會受到牽連的全面性問題。
＊生化人／人機合體的機器人（cyborg，又譯為「賽博格」）
如果同意生化人或科幻小說裡的人機合體機器人（cyborg、サイボーグ）是「生物的腦袋搭配非生物的電子迴路，所構成的一種具有心智、可以自行思考與推論的系統」，那麼當人類將身體外的道具（例如：智慧型手機）當成自己的一部分，手機一離身就會渾身不對勁感到焦慮不安，此時重度智慧型裝置使用者（例如：譯為「智慧型喪屍」或「手機喪屍」的phone zombies）是不是生化人的一種？
二、機器人倫理是什麼？
機器人倫理可以分成三大類：機器人（主動）需要遵守的倫理、人們和機器人（機器人是被動的）互動時的倫理，以及人們研發、利用機器人時，人們需要遵守的倫理。
機器人（主動）需要遵守的倫理
在探討「機器人需要主動遵守」的倫理，就是將機器人視為「道德行動者」（moral agent）。然而，「道德行動者」必須要有自律性（autonomy），很明顯地機器人本身並不具有康德（Immanuel Kant）道德哲學當中的自律性。
雖然機器人本身並沒有自律性，但透過人們在設計機器人時加裝在機器人身上的道德價值觀，可以讓機器人依據人們的道德價值觀做出反應。例如，2014年麻省理工學院（MIT）的「道德機器」（Moral Machine），就是為了設計自動駕駛系統的道德判斷準則，而設計的實驗。
科幻小說家以撒·艾西莫夫（Isaac Asimov），在 1950年代提出了《機器人三定律》（Three Laws of Robotics）
第一法則：機器人不得傷害人類，或坐視人類受到傷害；
第二法則：除非違背第一法則，否則機器人必須服從人類命令；
第三法則：除非違背第一或第二法則，否則機器人必須保護自己。
之於機器人（被動）的倫理
一樣從哲學的角度來看，之於機器人的倫理談的是機器人的道德感受性（sensitivity），也就是能感受到快樂、痛苦⋯⋯的感知（sentience）能力。
從這個角度出發，所以機器人沒有情感就可以欺負它嗎（案例：加拿大團隊研發的搭便車機器人hitchBOT，在橫跨美國的旅途中遭人蓄意破壞）？人類又該如何判斷機器人有沒有感知能力？
研發、利用機器人時的倫理
講者（吳羽真）舉了兩個例子，一個是國際政治學者彼得·沃倫·辛格（Peter Warren Singer）在 2010年提出的軍用機器人問題（軍用ロボット問題），一個是溝通型機器人（コミュニケーションロボット）問題。
軍用機器人的問題在於，遠距操作型的無人機和致命自主武器系統（lethal autonomous weapons, LAWs）。辛格指出，遠隔操作無人機的駕駛員比起實在伊拉克作戰的軍人更容易得到創傷後壓力症候群（post-traumatic stress disorder, PTSD）。
而溝通型機器人問題，又可以分成單純的陪伴型機器人（コンパニオン），以及以看護為目的的陪伴型機器人（下述）。
三、溝通型機器人（コミュニケーションロボット）
Softbank的pepper和SONY的機器狗aibo，都屬於有形的溝通型機器人。而 2013年電影《雲端情人》（Her，香港譯為《觸不到的她》）則提供了大家對於無形的「溝通型機器人」的想像。
日本看護現場的溝通型機器人
目前實際應用在日本看護機構的陪伴型機器人有海豹造型的療癒系機器人パロ（PALO），和遠距操作型的テレノイド（Telenoid）。パロ（PALO）屬於自律型（不需要人類操控）的機器人，會隨著人和它的互動（聲音、撫摸等）做出反應。而テレノイド（Telenoid）則是一種媒介，需要背後有工作人員操控之外，實際上當人們和テレノイド（Telenoid）對話時，其實和負責操控テレノイド（Telenoid）的工作人員對話。
不敢和真人說話，卻能向テレノイド說出銀行帳密
據說，實際在テレノイド（Telenoid）應用現場上，真的有原本不太和看護機構的其他人互動、說話的老人家，有了テレノイド（Telenoid）之後敞開心房，不只會和テレノイド（Telenoid）說話、擁抱，甚至把不該說出來的秘密（銀行帳密）都告訴了テレノイド（Telenoid）。
然而，テレノイド（Telenoid）需要有人操控，以看護現場來說，透過テレノイド（Telenoid）可以讓需要照顧的老人家（或患者）敞開心房，對於看護人員來說，透過テレノイド（Telenoid）可以了解當事人的狀況是一件好事。但以說出不該說出來的秘密（講出銀行帳密應該是一般連家人都未必會說出口的秘密）來看，究竟當事人知不知道テレノイド（Telenoid）背後其實有人操控？還是即使當事人知道テレノイド（Telenoid）背後其實就是看護人員，但還是願意把秘密說出來？就是溝通型機器人應用在看護現場的倫理問題。
看護人員將テレノイド（Telenoid）遞給需要看護照顧的老人家（或患者）之前，是否有先向當事人說明テレノイド（Telenoid）的操作方式？據說看護人員是有先向當事人解釋的，接下來的問題就會變成：
- 所以當事人理解到什麼樣的程度？是否能全盤理解看護人員所說明的テレノイド（Telenoid）運作模式？
- 看護人員和當事人解釋到什麼樣的程度？是否有提到テレノイド（Telenoid）背後需要工作人員操控？如果真的和當事人提到這一點，是否會讓當事人對於テレノイド（Telenoid）的信賴程度降低？還是當事人明明知道テレノイド（Telenoid）背後有真人操控，還是願意和テレノイド（Telenoid）敞開心房，講出心中的秘密？
有連線，卻孤單
雪莉‧特克（Sherry Turkle）認為，社交型機器人（social robot）、網路或社群媒體對於人際關係或人類的社交能力有負面影響。當人們對於科技（例如：機器人）有更多期待，人們就會對人際關係越來越不抱希望、對人類越失望。
然而，以看護為目的溝通型機器人對於老人家（或患者）有負面的影響嗎？使用這些溝通型機器人會損害到使用者的尊嚴嗎？是目前外界對於雪莉‧特克論點的反論。
溝通型機器人延伸出來的問題
對於以看護為目的溝通型機器人問題，有三個問題值得思考。
- 為什麼在看護現場不能使用機器人？
目前看起來，多數老人家（或患者）很喜歡和這些機器人對話 - 到底是誰在騙（蒙蔽）誰？
舉例來說，Softbank的pepper廣告詞是「有愛的機器人」（愛のあるロボット），但機器人要如何有愛？
有一假說認為，人們是「不信の宙づり」（Suspension of Disbelief），即使是人型娃娃或機器人，也可以將之視為有生命、有心智的個體。所以，當老人家（或患者）在面對這些機器人時，是將機器人視為機器人，還是將機器人視為人類來對待呢？ - 在看護現場使用機器人，是看護／照顧不可或缺的手段嗎？
重點在於，我們在看護現場使用這些機器人，是要讓機器人「取代」人類的工作，還是單純使用這些機器人來「協助」看護工作？
講者（吳羽真）認為，也許最根本的問題要回歸到人和人面對面的溝通為何如此重要？是因為人們喜歡和他人對話嗎？那如果是透過科技（如社群媒體、聊天軟體或機器人等）進行對話，就沒有辦法達到目的了嗎？
我認為，人和人面對面的溝通之所以重要，就是因為當我們在面對他人的時候，才能看到對方的表情、肢體動作及語調，感受對方的情緒及文字之外的訊息。畢竟有的時候單靠文字訊息，即使加上貼圖或表情符號，總有時候會錯意對方的意思，可能對方沒有在生氣，卻因為對方平鋪直述的文字，而覺得事有蹊蹺等。所以，換成視訊這種以科技當作媒介，但仍看得到對方表情、動作和聲音的溝通方式，問題就解決了嗎？當代科技（包含機器、軟體、機器人⋯⋯）在人際互動中所扮演的角色，可能不是只有「媒介」一詞，就能概括解釋清楚了。
