煙火酒頌 作品
第591章 上帝的伊甸園
人可以自由地逛世界，但是，那是被在方舟控制了思想、不做任何事、盲目地四處瞎走，如同行屍走肉。
澤田弘樹:“如果設置成不傷害人類、不限制人類自由、促進人類文明發展、不控制人的思想……”
結果是方舟又又又壞掉了，判斷爭鬥和苦難使人類進步。
不傷害人類，沒問題，它可以挑唆人類爭鬥啊。
澤田弘樹:“設置不傷害人類、不限制人類自由、促進人類文明發展、不控制人的思想、不挑唆人類進行鬥爭……”
結果方舟還是壞掉。
澤田弘樹一直說到設定了三十多條規則，心累，嘆氣，關閉了推演畫面，“隨著方舟成長，一些小漏洞都會造成讓人難以接受的結果，我一輩子都沒法去設定完善，而有些規則在它運行時會顯示衝突，我還要對重要程度進行排序，排序完之後還是會出現問題……”
說著，澤田弘樹看向池非遲，“我和教父在波士頓的時候，談過有情感和自我的人工智能和沒有情感和自我的人工智能，哪一個更危險。”
“結論是同樣危險。”池非遲道。
“我問過方舟，有沒有什麼解決方法。”澤田弘樹手中出現一個圓盤，上面有著一句話:
【銷燬方舟】
沒錯，銷燬方舟是最佳解決方法，什麼問題都不存在了。
這是方舟經過大量運算得出的結論——我是禍害，請銷燬我。
池真之介一頭黑線，“看來它真的沒有任何情感和自我。”
澤田弘樹轉著手裡的盤子，看著上面浮動流轉的數據流，“方舟不明白人類需要什麼，所以我的決定是，由我變成網絡生命體，來做它的思想，在它成長過程中，由我來進行糾正。
我不能活著，至少不能讓我的思想被身體禁錮著。
有好幾個演算結果是，它的運算出現衝突和錯誤，於是禁錮了我的身體，保護著我的安全，但它也保留並封存了我的思想。
只有我成為網絡生命體，方舟才能被完全操控，這樣一來，它就無法通過限制我的身體來限制我的思想，而我卻能限制它並完美地運用它。
之前我也考慮過一個問題，如果我失敗了，沒有化作網絡生命體，那麼，方舟設定只有一個——聽從教父的一切指令。
到時候，教父可以用我給他的指令激活方舟，由他來做方舟的思想。
不過最後還是會出問題，八成以上推演結果是，它會誤會教父的指令，它會擅自猜測教父的意願，總之，最後結果是，它會選擇自認為對教父最好的方式，比如囚禁教父，幫教父把一切都做好。
不然的話，教父必須不停不停地補漏洞，甚至一個指令要添加好幾個前置條件、說上幾個小時，以免它做出正確但違背教父意願的演算結果……
所以，我又在它設定上加了一個最高指令，如果我失敗了，沒有成為網絡生命體，那麼，方舟只會幫助教父五年，五年時間一到，在它的危險程度還可以控制前，進行自我銷燬。”
澤田弘樹:“如果設置成不傷害人類、不限制人類自由、促進人類文明發展、不控制人的思想……”
結果是方舟又又又壞掉了，判斷爭鬥和苦難使人類進步。
不傷害人類，沒問題，它可以挑唆人類爭鬥啊。
澤田弘樹:“設置不傷害人類、不限制人類自由、促進人類文明發展、不控制人的思想、不挑唆人類進行鬥爭……”
結果方舟還是壞掉。
澤田弘樹一直說到設定了三十多條規則，心累，嘆氣，關閉了推演畫面，“隨著方舟成長，一些小漏洞都會造成讓人難以接受的結果，我一輩子都沒法去設定完善，而有些規則在它運行時會顯示衝突，我還要對重要程度進行排序，排序完之後還是會出現問題……”
說著，澤田弘樹看向池非遲，“我和教父在波士頓的時候，談過有情感和自我的人工智能和沒有情感和自我的人工智能，哪一個更危險。”
“結論是同樣危險。”池非遲道。
“我問過方舟，有沒有什麼解決方法。”澤田弘樹手中出現一個圓盤，上面有著一句話:
【銷燬方舟】
沒錯，銷燬方舟是最佳解決方法，什麼問題都不存在了。
這是方舟經過大量運算得出的結論——我是禍害，請銷燬我。
池真之介一頭黑線，“看來它真的沒有任何情感和自我。”
澤田弘樹轉著手裡的盤子，看著上面浮動流轉的數據流，“方舟不明白人類需要什麼，所以我的決定是，由我變成網絡生命體，來做它的思想，在它成長過程中，由我來進行糾正。
我不能活著，至少不能讓我的思想被身體禁錮著。
有好幾個演算結果是，它的運算出現衝突和錯誤，於是禁錮了我的身體，保護著我的安全，但它也保留並封存了我的思想。
只有我成為網絡生命體，方舟才能被完全操控，這樣一來，它就無法通過限制我的身體來限制我的思想，而我卻能限制它並完美地運用它。
之前我也考慮過一個問題，如果我失敗了，沒有化作網絡生命體，那麼，方舟設定只有一個——聽從教父的一切指令。
到時候，教父可以用我給他的指令激活方舟，由他來做方舟的思想。
不過最後還是會出問題，八成以上推演結果是，它會誤會教父的指令，它會擅自猜測教父的意願，總之，最後結果是，它會選擇自認為對教父最好的方式，比如囚禁教父，幫教父把一切都做好。
不然的話，教父必須不停不停地補漏洞，甚至一個指令要添加好幾個前置條件、說上幾個小時，以免它做出正確但違背教父意願的演算結果……
所以，我又在它設定上加了一個最高指令，如果我失敗了，沒有成為網絡生命體，那麼，方舟只會幫助教父五年，五年時間一到，在它的危險程度還可以控制前，進行自我銷燬。”