Subscribed unsubscribe Subscribe Subscribe

Re:LieF 〜親愛なるあなたへ〜 攻略日誌 008 (流花編 002)

11/15
[21:35-23:50]
total: 2hr 15min
f:id:TakumiYuki:20161116231833j:plain

因為昨天玩到一半遊戲突然當掉了,就想乾脆把當掉之前的內容打一打吧。所以現時進度是不清楚的,這篇也會是一篇有頭無尾的日誌。

開始交往的隔天,兩人在島上約會,到了島上的咖啡廳,遇到了老師。老師問了一下為何兩人會對司法機械這希罕的資格有興趣,流花就回答了是因為以前國際法律事務所的工作。老師說了以前也曾經受過這種組織的照顧,提到了前職是在海外協力支援機構,所以有時會跟國際法有關。而老師在這組織裡做過許多事,包括了拆除地雷。老師說了用人力來拆除是有極限的,但這時候出現了劃時代的人工智慧技術,就是無人AI,來幫忙這個工作; 而發展這技術的人,姓二上。雖然工作有了戲劇性的進展,但是人工智慧的性能太高了,反而成為了紛爭的火種。

司覺得好像有什麼認識的人在海外協力支援機構工作的印象,而且二上這個姓也是聽過的。所以到了學校,司就問了人工智慧專家的もも,知道了有一個人叫二上響子,她的丈夫就是在海外協力支援機構任職。二上響子是世界第一個發展出擁有感情AI的研究者,對"我"而言是母親。

過了不久,兩人又約會了一次。流花問了司,對於這樣拿到資格模擬考合格的結果,是如何去接受的? 司回答了這準備考試的過程,讓他稍微找到了一點自己。但是這結果是單純自己的努力,還是因為有流花在,就不清楚了。而流花發現自己慢慢開始害怕改變,而這是跟自己剛入學的想法相違背的--她覺得要可以對應環境的變化並追隨的能力是重要的。

於是司帶了流花去找了老師,希望她詳細談談為了拆除地雷而引進人工智慧技術的過程,司想知道的是,該如何去應對引入AI一定會有的反對的聲音。這也是應對變化必經的過程,而且AI跟流花的工作也有些關係。老師提到了,開發者二上是個對AI研究很狂熱的人,會開發這個拆除地雷無人AI,與其說是造福社會不如說是想證明AI很有用。標準的對實際應用沒興趣,再加上太天才所以容易被壞人利用,老師所任職的組織對她有做些牽制,所以老師是認識二上的。

關於引進人工智慧技術這方面,老師的解釋是人工智慧本身是個很難控制的技術,原因在於無法了解它的內部處理。為何會這麼說呢? 因為就算知道它有什麼資料跟過去記錄,但是它的判斷基準跟判斷處理實在太過龐大,已經不是以人類可以理解的程度來「解析」了。

流花也有想到類似的例子,就是在司法上要AI舉出相似案例的應用。如果給予一個案例,希望AI從它自己的資料庫找到類似案例的話,必須要問AI才知道為何它會舉出這些案例。假設現在資料庫有2000萬個案例,問AI一個新的案例,讓它從2000萬案例中找出相似的。如果AI挑出了10個,但是那2000萬案例中有比這10個更接近新案例的案例,我們就會去問它為何不挑? 但是,這裡有個矛盾: 要知道為何AI不判斷此例相似度更高,就得事先知道有這個更相似的案例存在。這就是AI應用的極限: 如果我們人類知道全部的案例那還好,但是實際應用上,AI能記住的案例太多了,而且AI也不可能一個個說明為何自己不挑某個案件。那有沒有可能,有更好的選擇就這樣被埋沒掉了?

會造成這種現象的原因在於,AI不會全部資料從頭到尾搜索,而是有一套評分標準把資料排序。總之,AI不會是完全可信的。

其實blog主覺得,上面所提的"矛盾"的證明,跟halting problem(停機問題)很像。