天下文化《連結》作者哈拉瑞 x 葛如鈞對談提問
2024-10-03

hararixko 原始音檔： QmT8rmm1ZichLxVtJFREFzupUMBxK8tQgMTiPNKf8sykja

立法委員葛如鈞指出臺灣在AI發展上緩慢，對政府主權AI的透明性表示擔憂，並呼籲公眾參與。 以色列歷史學家哈拉瑞則強調AI革命不應是善惡競賽，提倡全球合作以確保安全，並建議成立國際機構提供資訊。

  • 如何確保主權AI的發展透明並有公眾參與？
  • 美國社交媒體的快速發展對民主造成了負面影響
  • 需要建立國際機構來共享AI安全的資訊
  • 建立一個無監管權力的國際機構來提供AI資訊

延伸閱讀「哈拉瑞與唐鳳交鋒對談：被駭或不被駭？身分、工作與民主的未來 - 2021」

Picture of the author
葛如鈞委員
你好，我是立法委員葛如鈞。
我是唯一一位科技迷的立法委員。
專門關注臺灣的科技政策制定。
我們都完全意識到，
中國可能會發展出危險的人工智慧，
或是專制的人工智慧，而臺灣在
發展自己的人工智慧方面有點慢。
最近，我們的政府可能會推動
主權人工智慧（Sovereign AI）。
然而，沒有外部監督，他們只有
自我監視，並自認確保
這是安全的。
還有
他們可能會在不久的將來（因應國安）封鎖
某些特定的人工智慧。
所以我想知道，我們如何能夠
確保主權人工智慧的發展
夠透明，並且有公眾
參與，並且
不會變成另一個
專制的人工智慧？
Picture of the author
以色列歷史學家哈拉瑞
嗯。
是的，我認為關於
人工智慧革命的一個關鍵訊息是，不要
認為這是一場壞人和好人之間的競賽。
如果你（有危險），那麼世界各地都有危險，
即使是你認為目前的好人，如果他們行動太快，
如果他們不考慮
安全，這可能會導致災難。
就像你想想社交媒體。
所以你知道，美國在
社交媒體的競賽中獲勝。
美國在十多年前開發了
最強大的社交媒體平臺。
Facebook、YouTube 和
Twitter，早在我們看到
中國社交媒體如 TikTok
在全球擴散之前。
結果是災難性的，
真的破壞了
世界各地的民主，包括美國的，
不是中國的
社交媒體平臺。
而是西方的社交媒體平臺。
所以我認為這是一個
我們應該深思的教訓。
而且，另一方面，至少有一些
潛在的合作領域，全球合作也包括
中國和其他政權，因為正如我之前所說，
關於某些人工智慧安全問題，比如控制問題，
中國人和美國人一樣擔心。
所以，你知道，如果我們如果一方
找到了一種方法，一個理論突破，或技術突破，
如何確保人工智慧的控制，這是應該
與大家分享的。
這不應該是我們這一方的國家機密，
因為如果另一個國家
產生了失控的人工智慧，
對每個人來說都會是壞事。
現在我認為我們最需要的是一個機構，
一個國際機構，這甚至
不一定是一個監管機構。
首先，它是一個資訊性機構。
一個簡單告訴世界各地人們的機構，
在不同國家，告訴不同的
政府，當前人工智慧的
發展狀況以及
潛在的危險。
你知道，如果你把監管想像成牙齒，則我們需要眼睛，
在我們擁有牙齒之前。
否則，我們不知道該咬什麼。
而在當前時刻，世界上大多數人，甚至大多數政府，對於
人工智慧的發展狀況
和危險的認識都非常模糊，甚至根本不清楚。
如果你想想
印尼的政府，或者奈及利亞的，或者阿根廷的，他們應該如何
知道什麼是
人工智慧的前沿
技術以及
潛在的威脅？
因為這些資訊主要掌握在
少數幾家企業手中，
基本上只有兩個國家，美國和中國，而這些政府。
我們需要的首先是
一個值得信賴的
國際
機構，或許可以
透過國際協議建立
並資助，這個機構沒有牙齒，只有眼睛，只有你知道的，足夠的資源來支付
一些世界上最優秀的人才。
以及擁有尖端的
技術，
只是為了告知世界各地的人們發生了什麼，潛在的危險是什麼。
現在再讓我們接著
想想我們需要什麼樣的
監管。
謝謝。