美國出版商協會PROSE獎「法律和犯罪學」決選
向艾西莫夫「機器人定律」致敬,為了二十一世紀而生的「AI機器人新律」
人類如何在AI時代,避免失去自身利益？
● 無人機因為打擊精準,運用在戰場上比較人道？
● 醫療AI因為被輸入大量資料,比醫師的診斷還可靠？
●當AI客服已經可以發出「嗯」「啊」幾可亂真的回應,
可以解決最單純的餐廳訂位服務,
為什麼會有倫理的問題？
如果我們對AI的想像力只及於將AI自動化當作降低人力成本、替代人類勞動力的方法,我們不只被毫無創意的「成本病」綁架,還失去與AI一起邁向理想社會的契機。是時候該討論如何更積極介入由AI打造的新社會了,而不只是讓演算法黑箱作業。也不能只是批評演算法,而是要在政策、立法和倫理議題上,有具體的原則和作法,建立課責制度,當AI產品違反社會秩序時,我們有完善的制度可以追究責任。
作者巴斯夸利不只在學術領域卓然有成,更在政府部門擔任諮詢委員,提供建議供現下邁向AI社會的指引。於書中,他先向艾西莫夫「機器人定律」致敬,再提出「機器人新律」,作為我們與AI互動的準則。
第一、機器人系統與人工智慧應為補充與輔助專業人士的角色,而非取代專業人士的工作。
第二、機器人系統與AI不應該假冒人性。
第三、機器人系統與AI不得強化零和軍備競賽。
第四、機器人系統與AI必須隨時標示其創造者、控制者及擁有者的身分。
作者從健康照護、教育學習、新聞輿論、法律判決、信用評價、軍事國防等方面,示範如何將這四個原則應用在這些領域。這四個原則背後所揭示的是AI與人類社會的理想關係,不僅能揭露不遵守將帶來的惡果,更能使我們在確認大方向之後,維持人類的尊嚴,保衛我們的民主成果。
專文推薦
王柏堯,中研院資訊科學研究所
邱文聰,中央研究院法律學研究所研究員兼中央研究院智財技轉處處長
劉靜怡 ,台大國家發展研究所
(按筆畫順序)
作者勾勒出對於人類專業智能在人工智慧潮流下應該扮演的角色,嘗試為儼然已經到來的演算法社會,奠定「人之所以為人」的理論基礎。這個「以人為本」的人工智慧原則,也促使像我這樣關心憲法議題的資訊法學者思考,民主憲政的運作所遭遇的另一波嚴峻挑戰。——劉靜怡(台大國家發展研究所教授)
作者使我們思考:在政治與經濟決策中,類似的多目標最佳化問題履見不鮮。這些問題不同於單目標問題,往往沒有最佳的答案,而必須經由社會成員共同討論形成共識……對這些問題,機器人在數學上無法求得最佳解,同時也不應該為社會做決定。如何為機器人訂立律法,以避免機器人對多目標最佳化問題得出不合理的近似解,是我們必須謹慎思考的問題。——王柏堯(中央研究院資訊科學研究所研究員)
艾西莫夫的「機器人三律法」與巴斯夸利的「機器人新律法」,雖然都以機器人的律法為名,但後者更直截了當地點出,真正該受規範的其實並非機器人或人工智慧系統本身,而是開發「機器人」與「AI」、賦予其功能也給予其限制、並加以利用的真實人類。唯有瞭解此一關鍵,人類才可能駕馭當代AI 所應許的美好未來。巴斯夸利的「機器人新律法」則為人類找到一條通抵應許之地的可能路徑。——邱文聰,中央研究院法律學研究所研究員兼中央研究院智財技轉處處長
我們正朝著一個機器統治、人被削弱及被排斥的未來前進。作者透過這本書證明這種AI未來既不是無法避免,也不令人嚮往；相反地,他為我們建構了迫切需要的替代方案,擘劃了科技、公共政策和法律所需的原則和實踐方向,帶領我們走上新的人性數位化未來的道路。無論你是公民還是立法者,我們的未來都需依靠本書的指引。——祖博夫(Shoshana Zuboff),《監控資本主義時代》作者
面對人工智慧在我們社會中所造成的不均與不公平的後果,本書作者是全球最重要的意見領袖之一。在這本書中,他展示了我們可以如何保護勞工,並創造一個無害、無歧視性技術的世界。每位政策制定者都應該好好閱讀這本書,並尋求其洞見。——諾布爾(Safiya Noble),《壓迫的演算法》(Algorithms of Oppression)作者
在作者大膽而人性化的願景中,機器人和人工智慧科技讓我們的生活變得更美好,它與人合作並且為人服務,而不是模仿或取代人類；它促進社會合作而不是無情的競爭；它改善職業實踐而不是瓦解人類的職業。作者從健康、金融、教育、警務和社交媒體的例子,說明他的「機器人新律」將如何讓我們重新思考經濟、知識的利用以及生活方式。——巴金(Jack M. Balkin),耶魯大學法學院「資訊社會計畫」中心主任
作者不僅是當今世上最前瞻的法律學者之一,還是最善良人道的法律學者之一。他這本新書回應了我們迫切的需求,為即將到來的人工智慧和機器人世界制定一個簡單而明智的治理框架──一個科技為人性服務的框架,而不是反其道而行。——福洛荷(Rana Foroohar),《切莫為惡:科技巨頭如何背叛創建初衷和人民》(Don’t Be Evil)作者
引人入勝、極富洞見且不偏頗,本書為我們揭示了日益自動化的時代下所面臨的艱難選擇。作者凸顯了機器人技術和人工智慧背後複雜的誘因與權力的失衡,並提出有力與迫切的論證,呼籲以更民主與公平的方式來監管這個領域。——克勞馥(Kate Crawford),紐約大學AI Now研究所(AI Now Institute)共同創辦人
向艾西莫夫「機器人定律」致敬,為了二十一世紀而生的「AI機器人新律」
人類如何在AI時代,避免失去自身利益？
● 無人機因為打擊精準,運用在戰場上比較人道？
● 醫療AI因為被輸入大量資料,比醫師的診斷還可靠？
●當AI客服已經可以發出「嗯」「啊」幾可亂真的回應,
可以解決最單純的餐廳訂位服務,
為什麼會有倫理的問題？
如果我們對AI的想像力只及於將AI自動化當作降低人力成本、替代人類勞動力的方法,我們不只被毫無創意的「成本病」綁架,還失去與AI一起邁向理想社會的契機。是時候該討論如何更積極介入由AI打造的新社會了,而不只是讓演算法黑箱作業。也不能只是批評演算法,而是要在政策、立法和倫理議題上,有具體的原則和作法,建立課責制度,當AI產品違反社會秩序時,我們有完善的制度可以追究責任。
作者巴斯夸利不只在學術領域卓然有成,更在政府部門擔任諮詢委員,提供建議供現下邁向AI社會的指引。於書中,他先向艾西莫夫「機器人定律」致敬,再提出「機器人新律」,作為我們與AI互動的準則。
第一、機器人系統與人工智慧應為補充與輔助專業人士的角色,而非取代專業人士的工作。
第二、機器人系統與AI不應該假冒人性。
第三、機器人系統與AI不得強化零和軍備競賽。
第四、機器人系統與AI必須隨時標示其創造者、控制者及擁有者的身分。
作者從健康照護、教育學習、新聞輿論、法律判決、信用評價、軍事國防等方面,示範如何將這四個原則應用在這些領域。這四個原則背後所揭示的是AI與人類社會的理想關係,不僅能揭露不遵守將帶來的惡果,更能使我們在確認大方向之後,維持人類的尊嚴,保衛我們的民主成果。
專文推薦
王柏堯,中研院資訊科學研究所
邱文聰,中央研究院法律學研究所研究員兼中央研究院智財技轉處處長
劉靜怡 ,台大國家發展研究所
(按筆畫順序)
作者勾勒出對於人類專業智能在人工智慧潮流下應該扮演的角色,嘗試為儼然已經到來的演算法社會,奠定「人之所以為人」的理論基礎。這個「以人為本」的人工智慧原則,也促使像我這樣關心憲法議題的資訊法學者思考,民主憲政的運作所遭遇的另一波嚴峻挑戰。——劉靜怡(台大國家發展研究所教授)
作者使我們思考:在政治與經濟決策中,類似的多目標最佳化問題履見不鮮。這些問題不同於單目標問題,往往沒有最佳的答案,而必須經由社會成員共同討論形成共識……對這些問題,機器人在數學上無法求得最佳解,同時也不應該為社會做決定。如何為機器人訂立律法,以避免機器人對多目標最佳化問題得出不合理的近似解,是我們必須謹慎思考的問題。——王柏堯(中央研究院資訊科學研究所研究員)
艾西莫夫的「機器人三律法」與巴斯夸利的「機器人新律法」,雖然都以機器人的律法為名,但後者更直截了當地點出,真正該受規範的其實並非機器人或人工智慧系統本身,而是開發「機器人」與「AI」、賦予其功能也給予其限制、並加以利用的真實人類。唯有瞭解此一關鍵,人類才可能駕馭當代AI 所應許的美好未來。巴斯夸利的「機器人新律法」則為人類找到一條通抵應許之地的可能路徑。——邱文聰,中央研究院法律學研究所研究員兼中央研究院智財技轉處處長
我們正朝著一個機器統治、人被削弱及被排斥的未來前進。作者透過這本書證明這種AI未來既不是無法避免,也不令人嚮往；相反地,他為我們建構了迫切需要的替代方案,擘劃了科技、公共政策和法律所需的原則和實踐方向,帶領我們走上新的人性數位化未來的道路。無論你是公民還是立法者,我們的未來都需依靠本書的指引。——祖博夫(Shoshana Zuboff),《監控資本主義時代》作者
面對人工智慧在我們社會中所造成的不均與不公平的後果,本書作者是全球最重要的意見領袖之一。在這本書中,他展示了我們可以如何保護勞工,並創造一個無害、無歧視性技術的世界。每位政策制定者都應該好好閱讀這本書,並尋求其洞見。——諾布爾(Safiya Noble),《壓迫的演算法》(Algorithms of Oppression)作者
在作者大膽而人性化的願景中,機器人和人工智慧科技讓我們的生活變得更美好,它與人合作並且為人服務,而不是模仿或取代人類；它促進社會合作而不是無情的競爭；它改善職業實踐而不是瓦解人類的職業。作者從健康、金融、教育、警務和社交媒體的例子,說明他的「機器人新律」將如何讓我們重新思考經濟、知識的利用以及生活方式。——巴金(Jack M. Balkin),耶魯大學法學院「資訊社會計畫」中心主任
作者不僅是當今世上最前瞻的法律學者之一,還是最善良人道的法律學者之一。他這本新書回應了我們迫切的需求,為即將到來的人工智慧和機器人世界制定一個簡單而明智的治理框架──一個科技為人性服務的框架,而不是反其道而行。——福洛荷(Rana Foroohar),《切莫為惡:科技巨頭如何背叛創建初衷和人民》(Don’t Be Evil)作者
引人入勝、極富洞見且不偏頗,本書為我們揭示了日益自動化的時代下所面臨的艱難選擇。作者凸顯了機器人技術和人工智慧背後複雜的誘因與權力的失衡,並提出有力與迫切的論證,呼籲以更民主與公平的方式來監管這個領域。——克勞馥(Kate Crawford),紐約大學AI Now研究所(AI Now Institute)共同創辦人
