【東吳大學海量資料分析研究中心訊】

        近年來，AI智慧運輸發展得非常火熱，其中，應用大量通訊技術，不需要駕駛人操作就能夠感測環境及導航的「無人自駕車」更是全世界各國、各車廠積極投入與開發，甚至實際測試的重點。

        台灣目前也已經有數個自駕車系統正在不同地區進行道路實際測試。然而，對於自駕車的控制核心，亦即其中的演算法的運算邏輯，特別是緊急意外發生時，自駕車中的AI人工智慧決策機制會帶著車子何去何從？一直是大家應該關注卻還很少人討論的課題。有鑑於此，台北市交通文教基金會與本校海量資料分析研究中心、AI法制研究中心特別於109年11月12日舉辦了「發展AI智慧運輸應注意的倫理與法律課題」論壇。邀請了南華大學黃昱凱教授、東吳大學王煦棋教授、台灣智慧駕駛公司陳維隆董事長、ISDA台灣資訊安全聯合發展協會何奕甫理事長、以及東吳大學米建國教授一起參與討論。

        台北市交通文教基金會秘書長賈凱傑(東吳大學海量資料分析研究中心主任)表示，此次論壇是一前所未有的創舉，應該是台灣首次邀集創新技術與法律、倫理、商業模式等不同領域的專家能夠面對面交換意見，指出在AI智慧運輸以及自駕車發展過程中，我們人類社會必須思考的問題。

        論壇首先由南華大學文化創意學系黃昱凱教授就AI人工智慧及其在運輸及自駕車的發展現況提出引言。黃昱凱以其今年剛完成的調查發現為例，說明一般大眾其實對於AI人工智慧的發展了解有限；而即使是撰寫人工智慧控制與決策核心演算法的專家，只要是人，就有可能存在「偏見」。這個「偏見」可能來自輸入的資料就有風險，當然，也有可能由於沒弄清楚因果關係，最後，成為一個決策黑箱。我們每天使用這些人工智慧提供的服務，卻很少有人去想在緊要關頭，它會不會對主人忠誠？黃昱凱並且點出發展智慧運輸與自駕車應該注意的道德與法律規範，並請大家注意人類創造了人工智慧，但是人工智慧面對關鍵時刻，它的價值觀是甚麼？符不符合普世價值？不要只見其利，不見其弊。

        東吳大學法學院AI法制研究中心主任王煦棋教授從法制的觀點看智慧運輸與自駕車的發展。王煦棋提到從1968年到2016年維也納道路交通規範對於「駕駛人」定義有趣的改變，目前法律的見解已經逐漸朝向「輔助的無人駕駛也是駕駛」，貼近智慧運輸的發展。但是自駕車系統的隱性風險還是要加以重視，例如：司機與乘客的隱私就是其中一個重要課題，目前在歐盟的通用資料保護規則（GDPR）中已有規範。同時，OECD、UN、WEF、G7都已經開始關切並討論今天論壇討論的課題；IEEE在2019年也提出發展自駕車等智慧運輸服務的倫理設計規範。其中，「偏見」與「惡意使用」是不被允許的重要原則。對於自駕車，目前無人化程度大約還在Level 4，我們真正要進入Level 5之前，可以先緩一下腳步，想一想「我們到底準備好了沒？」

         在智慧運輸實踐方面，實際操盤自駕車發展的台灣智慧駕駛公司陳維隆董事長面對前兩位學者的顧慮，直接表示「法律與倫理課題的確是到目前為止，最讓人困擾的問題。」陳維隆首先撥放了一段該公司目前每晚在信義路公車專用道上試車的自駕巴士系統，讓全場來賓實際看到自駕車營運的狀況。同時有感而發「我們社會準備好接受自駕車了嗎？」最明顯的現象是目前測試中的自駕車行駛一定保持安全距離，維持規定車速，但是也最常被後車抱怨；目前一般駕駛人在路上開車，面對很多狀況人類習慣用「變通」方式處理，但是自駕車是不被允許「變通」的，所以除非是全面自駕或者有自駕車專用道，不然，車與車之間那個「模糊邊界」可能的影響就要考慮清楚，不然，道路行駛可能會不斷產生衝突。

        陳維隆從另一個角度說，大家常常將責任推給製造商，認為製造商理應負起全責，但是以後可能有一種人工智慧車輛可以在出廠後自己持續學習處理各種道路交通狀況，屆時，如果AI在真實世界被帶壞了、「學壞了」怎麼辦？

        ISDA台灣資訊安全聯合發展協會何奕甫理事長則提出資安問題要大家注意，而且要在目前起步階段就納入，否則，以後坐著自駕車出門，被駭客遠端操控劫持了怎麼辦？這種情形並非杞人憂天，而且恐懼一旦發生，對於智慧運輸與自駕車的長期發展都相當不利。

        第一次在台灣跟製造業者以及不同領域學者一起討論智慧運輸的東吳大學哲學系主任米建國教授表示，在國內今天的論壇是一項「創舉」，但是國外這種跨界的討論非常普遍，也的確有必要，哲學可以提出很多問題，讓大家充分思考。米建國特別提出「人文的AI」主張，建議趁著目前還可控的時候，教教AI人工智慧加入人文的因子。米建國從哲學的角度提出對人工智慧的思辨，認為倫理議題的討論是沒有止盡的，而自駕車看來已經是發展的趨勢，所以我們要在到達完全無人化自駕的Level 5之前，回頭想想「為什麼要發展自駕車？目的是甚麼?」然後也想一想以後是要「人控制AI」還是「AI控制AI」？AI要為人所用，還是我們受制於AI。除了注意「坐在車裡的人的權益」，也應該注意「在車外的人的權益」，發展智慧運輸與自駕車時，一定要先讓路人安心。同時，發展智慧運輸也要注意不同地方在地化的問題，特別是不同地方文化價值觀的差異問題。

        米建國建議智慧運輸的發展應具備BEST四項條件，也就是實質福祉（Benefit）、倫理道德（Ethics）、安全（Safety）、與美學品味（Taste），要注意”人的感受”。

        最後，王煦棋從金融科技（Fintech）看台灣人工智慧的發展，對於法律面遲遲未能跟上技術發展，感到憂慮。何奕甫則建議「慎始」，從一開始大家就應該要將安全的議題納入考量，否則，往後付出的代價會更高。陳維隆則提醒大家，目前政府對於很多智慧業者，是當做產業發展在鼓勵；但是要實際上路營運的時候，就一定需要主管機關的協助，智慧化的服務才能落地，為台灣提供服務。而且相關法制規範也要逐步完備，業者才能順利推展智慧創新服務；他並要求大家放心，目前推動的自駕車都有設置安全機制，一旦有異常狀況，就會改由人工介入處理，確保安全無虞。米主任還是再次提醒大家要注意人文因素，如果完全放任智慧化的發展，許多演變將是不可逆的，甚至會改變我們的價值觀。

        經過兩輪的討論，交通文教基金會秘書長賈凱傑做出結論，首先是這種跨界科際整合的研討非常重要，可以從不同人的立場與角度看事情，只要有助於提升交通安全、有助於未來具人文美學品味的智慧運輸的發展，交通文教基金會都會持續舉辦類似的論壇。賈凱傑也指出政府部門一向都是「依法行政」，法有明定可做的事，政府協助推動；但是所有的新創服務，必然還沒有完成相關修法作業；如此一來，公部門多不願意主動支持，避免遭人議論「圖利」。所以在台灣對於新創服務實際發展，從來不算是一個友善的環境。賈凱傑呼籲未來對於法律適用的解釋，可以考慮從以往的「正面表列」改為「負面表列」，列出絕對不能做的項目，除此之外，都可以鼓勵新創服務投入與發展。

註：有關自駕車目前分為5個等級。

Level 1 是駕駛輔助自動化(Automation for driver assistance)，為最初階的汽車自駕化等級，是由系統輔助人類駕駛，但不會接管車輛駕駛權。例如車道偏離警告（LDW）。

Level 2是部分自動駕駛(Partially automated driving)。此階段自駕系統會接管部分行駛控制權，但人類駕駛仍然掌握車輛行駛主導權，例如自動路邊停車。

Level 3為高度自動駕駛(Highly automated driving)。這個等級允許人類駕駛能夠讓自駕系統掌控車輛行駛更長的時間，例如高速公路行駛由自駕系統完成。

Level 4為全自動駕駛(Fully automated driving)。在此階段自駕系統能夠在沒有人類駕駛介入下，負責車輛行駛任務，但仍需要有人類駕駛待在駕駛座監督行駛。

Level 5為完全自動駕駛(Completely automated car)。此階段自駕系統能夠在完全不需要人類駕駛監督下，完全自行駕駛車輛從一個地點移動到另一個地點。

【文圖/東吳大學海量資料分析研究中心】