個資料庫,演算法的判斷是一樣的,因此資料偏向同質化,如果歷史資料的差異化,除了科技最佳化的因素之外別無其他的話,資料已經失去了好與不好的對比,這個參考已經變得毫無意義。
“第三個問題,是演算法嚴重傾斜單一變數,因此單一變數的優缺點被無限放大。還記得AI演算法,參考的是三個變數,當歷史資料和人均行為模式的參考意義逐漸消失的時候,這意味著,這個演算法,依靠的基本上就是第三個變數,也就是社會發展方向的目標值。這個變數的設定,我相信在座各位比我們會更清楚,不過我想提醒大家,當這個變數,成為了唯一變數的時候,設定的考量,不應該跟當初有三個變數相互制衡的時候一樣,因為失去了其他變數的制衡,這個變數的優缺點,都會被無限放大的。舉一個例子,不知道大家有沒有打過策略型遊戲,如果這個遊戲玩的是運營一家餐廳,你作為管理者,在設定目標的時候,如果只設定了經濟目標,比如要賺多少錢,你會發現,遊戲裡的NPC,會不斷的被累壞暈倒,因為程式很聽話,它會不顧一切來達到管理者設定的目標,哪管是要犧牲所有NPC。在遊戲裡,犧牲NPC無所謂的,畢竟是虛擬的世界,但是現實中,如果要犧牲人類的話,單純依靠AI自動化去衡量,這符合人類的道德觀念嗎?會不會過於兒戲?我們是否有信心,社會目標的設定,完美無瑕的覆蓋所有人類的福祉?不會讓AI做出對人類有害的事?”
“剛剛說了那麼多,圍繞的,還是我們所認為的首要原因,我們的論據是比較充分的,除此之外,我們有一個更大的,更擔心的疑問,就是到底森藍村的悲劇,是不是一個AI在真實環境的實驗?但鑑於我們的能力和許可權,我們無法提出論據,所以我們暫時只是表示存疑。根據上次在本地法院,我方對AI作出的提問,AI明確回應系統存在自我更新來尋求進化的行為,過程是需要透過真實環境進行實驗,來收集資料支援更新及驗證,我方並不清楚,AI使用真實人類作為實驗,是否得到管制大聯盟的審批,也不知道聯盟裡有什麼部門,是負責監管AI的這些行為,確保AI的變化,是在人類掌控範圍以內的,是安全的,可靠的,符合人類道德標準的,對人類無害的。到底森藍村的悲劇,是不是一個AI在真實環境的實驗?如果是人為審批的,我們很希望知道為什麼,憑什麼決定我們三十八人的命運?如果是沒有人類的干預的話,這比起人為決策錯誤,是個更大的悲哀,更危險,更恐怖的漏洞。”
“最後,我想拉回去我們對於AI判斷錯誤的申訴,指出AI演算法的三個問題,以及疑似黑盒子更新迭代的實驗,我們主要是希望,我們遇到的悲劇,不要再重演,我們並不是想推翻AI,也不是想否定AI對人類社會的貢獻,我們只是希望AI可以健康發展,繼續協助人類,為人類的幸福生活繼續合理運轉。我們希望在座的各位,判定AI錯誤的申訴成立,積極推動AI演算法研究的更新,程式運作的監管,以及回顧社會目標的設定,為我們,以及我們的下一代,打造更人性化的社會發展。”
說到這裡,老人突然看著我說:“小南,你就是我們的下一代,你能說幾句嗎?”
突然被老人點名,我一下子愣住了,但我一想到躺在醫院的肥仔文,就深深的吸了一口氣,硬著頭皮開始說話。
“各位代表大家好,我叫星野南,今年13歲。其實剛剛聽完那麼多,很多我都不太聽得懂,畢竟在學校剛剛學的光合作用,我也不太記得住,我只是一個普通的小孩子,我不懂那些深奧的程式邏輯,也不會社會發展應該如何,我只知道,人類基本生存的權利,不應該由AI決定,更不應該被AI否決。明明AI是副,人是主,但是不動腦子的人,就是豬,到底當主還是豬,是我們自己說過算的。”
“上次我們在本地法院