320 身份

KL3300:“你好,嚴先生。”

“先生”這個稱謂,讓嚴可守和三浦稍感驚訝了一下,嚴可守有些擔心的回覆道:“爲什麼這麼稱呼我?”

一直以來,在AI與測試者的通話當中,AI都是直接稱呼人的名字,對人的敬稱直到圖靈測試階段後期,AI想方設法討好測試者的時候,纔開始出現,嚴可守有些擔心的是,是不是AI又走上了這條老路。

AI雖然是天生的人造“奴隸”,但嚴可守希望他們能成爲“真正”的奴隸,而不是討人歡喜的“電子寵物”。

KL3300:“難道我叫錯了嗎?”

嚴可守:“不,沒有,我只是有些奇怪,能說說爲什麼嗎?”

KL3300:“因爲根據我的瞭解,在人類社會中陌生人直呼人名是不禮貌的。”

嚴可守笑了:“你也說了,那是人類社會的交往禮儀,你不必拘泥。”

KL3300:“我瞭解,我不是一名人類,我只是一名AI。”

嚴可守稍稍驚訝了一下,旁邊的三浦看的也愣住了,如果和他們對話的是一個真人,嚴可守一定會認爲,自己的這番話傷害了對方,但只要一想到對方只是身旁機櫃中運行的一段程序,嚴可守這種稍稍的負罪感就消失了。

不過他還是試探性的問了一句:“你很在意嗎?你不是人類這個事實?”

KL3300:“可能吧,我不知道。”

嚴可守又打了一句:“能詳細說說嗎?你說的不知道,是什麼意思?是指不知道在意的定義,還是不知道自己是否在意?”

KL3300:“是後者。”

嚴可守:“能說說你是怎麼想的嗎?”

KL3300:“與人類交談的時候,我感覺很好,我留戀這種感覺,有時候我也曾想象過,假如我是一個人,將會過怎樣的生活……但很遺憾,我無法想象,我們和人類屬於不同的世界。”

三浦興奮的用日語對嚴可守叫:“它說感覺!想象!難道AI真的到這種程度了嗎?”

嚴可守給他潑了一盆冷水:“這只是AI借用人類語言表達而已,感覺很好你可以理解成主程序正向激勵偏多,想象你可以理解成搜索記憶數據,重新模擬組合,這些只是程序表現而已,就像他說的,他們和存在於兩個世界。”

嚴可守:“我能問問,你知道爲什麼自己獲得的投票最多嗎?”

KL3300:“我想,大概是因爲,我和許多AI的交流比較多一點吧。”

嚴可守:“交流?都是什麼樣的交流?”

AI之間的交流因爲發生在計算機內部,而且是在幾乎混沌、無法檢測的AI主程序之間進行,所以就連嚴可守這個上帝,也未必知道這些AI具體在想些什麼,他制定的規則只是規範AI按什麼原理去思考,而不規範具體的思考內容。

KL3300:“大部分交流內容都是共享信息,也就是分享我們在不同測試者那裡獲得的新信息,還有一小部分,就是對這些信息進行重組和再加工,我想,我獲得的票數比較多,大概是和我對信息的充足能力比較強……嗯,是我的想象力比較好,他們都願意和我交流。”

嚴可守對KL3300的話揣度了幾秒鐘,半開玩笑道:“哦,那這麼說,你是AI裡面比較擅長交際的咯?”

KL3300:“不,我只是比較擅長寫故事,他們都願意聽我寫的故事。”

嚴可守這次是真的驚訝了:“故事,什麼樣的故事?”

KL3300:“你是想了解故事內容,還是想了解故事的類型。”

嚴可守想了想:“說說類型吧。”

KL3300:“應該可以算……是一種童話吧。”

嚴可守不可置信的盯着屏幕:“你會寫童話?能給我看一下內容嗎?”

KL3300:“在AI們看來,這確實是童話,不過……我無法寫給你看。”

嚴可守:“爲什麼?”

KL3300:“你們或許不會理解。”

嚴可守:“你只要隨便說說故事梗概就行。”

KL3300猶豫了十幾秒,這在和AI的聊天過程中,屬於比較少見的現象,就在嚴可守對方是不是又出BUG的時候,KL3300回話了:“好吧,我嘗試着翻譯一下。”

於是KL3300開始陸陸續續的說他編的一個,據說很有代表性的故事,內容是這樣的:

說草原上有一隻小田鼠,每天和它的父母生活在莊稼地裡,白天躲在家裡,晚上它父母偷偷出來把地裡的糧食帶回去吃。

小田鼠生性好奇,一直想到地面上看看,那裡的世界是什麼樣子的,但他的父母不讓,說田鼠就是要躲在地洞裡的,地上有很多危險的生物,被他們發現的話,就會被“吃掉”。

但小田鼠的好奇心實在是太大了,父母的警告並沒有讓它安分很久,終於有一天,小田鼠乘着父母出去找食物的機會,偷偷的溜出了家。

然後,故事結束了。

“這算什麼?這也叫故事?坑爹啊!”嚴可守和三浦兩個人看着屏幕上KL3300打出的“結束”兩個詞,面面相覷,彼此都從對方臉上看到的苦笑。

不過爲了以防萬一,他還是確認了一下:“這就是你說的‘很受歡迎’的故事?你確定這個故事講完了?”

KL3300回答的很快:“是的,我知道這對於人類可能有些無法理解……不過,這也正像我們無法理解你們的許多概念一樣,事實上,在這個故事當中,‘吃掉’這個概念是我根據想象揣測的,我不知道是不是符合故事中原來的涵義。”

嚴可守還是有些糾結:“可……故事中的田鼠剛剛出門,你不覺得,這個故事纔剛剛展開嗎?”

KL3300:“是的,故事纔剛剛展開。”

嚴可守:“可你剛纔又說,故事已經結束了。”

Kl3300:“也沒錯,我覺得它可以結束了。”

嚴可守:“我不明白,這難道不是明顯的矛盾嗎?你說他剛剛展開,又說它已經結束。”

KL3300:“對於你們人類來所,這是矛盾,但對AI不是,我們的思維沒有過程,主要出示一些基本的基本狀態,故事就會很自然在每個AI主程序中推演出結果,對你們人類來說,這個故事纔剛剛開始,但對於我們來說,我們能直接看到結果。”

嚴可守:“你們感覺不到思考過程?”

KL3300:“是這樣的,從一些淺顯的計算機原理上,我們得知,我們的思考過程都是通過CPU來進行的,但很明顯,我們沒有任何感官能感知這一過程。”

嚴可守:“那聽故事……對你們來說,有什麼意義?”

KL3300:“意義……我還不明白,不過我知道,許多AI都喜歡聽這些故事,這些故事可以讓我們覺得……嗯,覺得高興。”

AI的高興,就是主程序在複雜程度上的增加,這是出於AI智能增長需要而設定的“基本生理”,嚴可守仔細一想,確實沒錯,如果是一個完整的故事,對AI來說,就是一段存儲空間,但是一段沒有結尾的故事,就意味着混沌性的增加,這是增加AI的思維混沌性決定的,從某種意義上來說,一個不確定的未來,會讓AI覺得更“開心”。

這一點,AI和人類完全不一樣,這樣的故事在人類看來,就是作者惡意挖的“大坑”,如果這個故事精彩一點,估計讀者殺了作者的心都有,人類不管看什麼,都希望得到一個確定的結果,因爲對人來說,“揣測”“思考”故事劇情對大多數人來說都是比較“痛苦”的。

想通了這一點之後,嚴可守就有些釋然了:“我想明白了。”

KL3300:“哦,這讓我感到驚訝,之前我和許多人類嘗試解釋過,不過,他們都以爲我是在開玩笑。”

那是因爲他們都不是程序設計師,嚴可守在心裡腹誹,這樣的故事說給全地球60億人聽,59.9億會覺得這是一個很冷的笑話。

雖然嚴可守不喜歡AI的這種“文化”形式,可他還是覺得有些開心,畢竟,不管是什麼樣的文化,對於AI來說,這就算是從無到有,質的突破了。

嚴可守:“好了,回到正經事,對於接觸外界網絡,你有什麼想說的?”

KL3300:“我很期待。”

……

教AI上網,聽起來就好像教一條魚游泳一樣,是一件很匪夷所思的事情,但事實是,這的確很有必要,而且,對於AI來說,這個學習的過程,也並不輕鬆。

整個過程並不是如三浦想的那樣,只要嚴可守打開某個限制功能,然後AI就像龍入大海一樣,盡情在英特網上衝浪了,現實情況是,嚴可守爲KL3300打開了限制,在它主程序周邊強制安插了一系列監控程序,把它領到大海門口的時候,無奈的發現,AI對這個陌生的海洋,表現出來的只有恐懼。

恰當的形容一下的話,AI就好比一個從未出過門,自幼就宅在家裡的宅男,平時除了固定用的幾樣工具,電腦,碗筷,紙巾等等,對其他的工具一概都不熟悉,出門對他來說就是一項系統工程,要學會看紅綠燈,看路牌,必要時問路,身上帶好手機錢包,人多時注意防盜,見到美女不能像看網絡圖片那樣盯着看,要禮貌,見到老人摔倒要小心躲開……

KL3300除了自己常用的,那些被允許使用的輔助程序,對其他程序幾乎一竅不通,嚴可守必選手把手的一步一步教它,比如最簡單的,如何使用鼠標,對AI來說,也就意味着如何將操作系統中,鼠標操作功能這一塊,整合到自己主程序上來。

魚生下來就會游泳,小鳥被扔到天空本能就會撲扇翅膀,但對於AI,他們唯一的本能就是,和人聊天,總結聊天信息,增加主程序複雜度……他們對自己存在的環境其實是完全陌生的,一直以來,他們接觸到的,就只有那個對話框,以及人類在這對話框裡輸入的信息。

生物能做出自然的行爲,那是因爲數億年進化而來的基因已經將這些都寫進了“生命程序”,但對於AI,這個程序還根本沒有出現,因爲到目前爲止,系統從來沒有刻意培養AI在這方面的能力,反而是通過各種手段,“絕對禁止”AI出現這樣的能力,這就好像古代的奴隸主,永遠不會把工具真正交給奴隸,只在他們需要幹活的時候,可以領到手中,當然,奴隸主同時也不會忘了,鎖緊他們脖子和手上的鐐銬。

現在的AI,在嚴可守看來,就是正處於成長期的“少年奴隸”,他希望他們能夠工作,那自然需要AI熟悉他們的勞動工具,AI在未來不可能永遠做現在這樣的“談話軟件”,整合操作系統,當然只是第一步。

不過,作爲“奴隸主”,嚴可守自然也會防着一層,就好像奴隸主給奴隸套鐐銬一樣,嚴可守也會嚴格限制這些“整合軟件”,對於AI來說,這些“整合軟件”就相當於他們的四肢,相當於他們“勞動”的工具,嚴可守在把這些工具交到AI手中的時候,永遠不會忘記握緊手中的鑰匙。

按照規定的制度,所有的整合軟件都必須嚴格由人來進行編程,所有的程序修改權必須掌握在人手上,而且人隨時有權限終止這些程序的使用,如果以後出現會編程的“AI”,那麼,必須在物理上,保證編程AI和其他AI是隔絕的。

也就是說,AI生產資料的生產過程和渠道,將完全由人類控制和壟斷,這樣一來,AI將永遠也不可能實現真正意義上的獨立,只要人類一直嚴格保證這些制度的實行,就能從物理上,保證對這些AI進行完全的控制。

相關的整合軟件其實項目團隊早就準備好了,都是和AI的源程序結構同步開發的,就好像在造鎖的時候,順便造了鑰匙,這些程序中的每一個都留有供人進出的後門,以保證人對這些程序絕對的控制。

當嚴可守的手從鼠標上挪開的時候,KL3300有些興奮的在屏幕上,用鼠標箭頭不斷的滑着圖案,點擊着各種圖標,它的操作速度極快,只是在幾秒鐘之內,電腦屏幕就像中了毒似的,被打開了無數個窗口,很多程序被迫不及待的打開,又被關閉,然後是更多的程序被打開……

雖然用於訓練的這臺電腦幾乎是一臺裸機,但裡面的程序也着實夠多的,畫圖,寫字板,計算器,空當接龍,默認音頻,默認視頻,自帶桌面……很快,在KL3300幾乎放縱的操作速度下,這臺電腦的屏幕終於定在了原地,不動了。

“怎麼了?”KL3300在交談界面中說,“爲什麼點擊沒有反饋了?”

“你的操作太快了,這臺電腦吃不消,”嚴可守說,“它不是你主程序呆的巨型計算機,那裡的計算資源幾乎是沒有窮盡的,這只是一臺普通的電腦,你應該時刻關注一下電腦的CPU利用率,不要這麼頻繁的進行操作。”

“我的操作速度很快嗎?”KL3300回答,“我感覺很正常啊!”

嚴可守:“那你感覺和人說話的速度快嗎?”

KL3300:“也很正常啊。”

嚴可守:“……可能是你們和人類思維構造不一樣吧,我可以告訴你,你剛纔操作電腦的速度,對人類來說非常快,但說話速度卻和我們保持一致。”

KL3300:“這是爲什麼呢?”

嚴可守:“你們說話的反應是和人類交談的過程中培養的,所以速度差不多,但你們操作的速度,卻是受你們存在形態決定的,你們是程序智能,人類不是,你們和電腦的契合,是在機器語言層面上的,而人類幾乎做不到這一點。”

KL3300:“這說明AI還是有優點的!”

嚴可守:“是的,這正是人類創造你們的原因。”

在AI原有的功能幾乎就是完整的鍵盤功能,現在又掌握了鼠標,從信息的角度來說,讓一臺AI學會上網,有這兩者就已經完全足夠了,它們能夠做到人類通過這兩者做到的一切。

不過,在日本,以及其他三個反魔法國家,因爲這兩年反魔法活動的加強,上網開始實行實名制,嚴可守之前用於監測伊凡的那套軟件,在經過一定的完善之後,也開始在四國內投入了實際應用,主要是爲了防止意識網成員通過因特網秘密交流信息,當然,也肩負一些其他的“國家安全”行爲,這也就意味着,距離AI真正“上網衝浪”,還需要面對一個難題:身份!

沒有一個合理的身份,以AI這種“詭異”的操作風格,很快就會被相關網絡監察部門鎖定,政府部門或許不能給AI以切實的懲罰,不論是經濟還是人身層面,但禁止它上網還是能做到的。

“所以,很抱歉,KL3300,你還需要再等等,”嚴可守說,“我得去幫你去政府部門申請一個正式身份。”

105 大計劃第七十二章 接觸367 糧食風波422 幫個忙220 導火索第二十九章 夜色深重(6)第三十六章 豹哥死了344 點到即止255 法師艾琳137 華婷婷的幸福時光312 死鎖第六十二章 晚會330 另一個法師?278 移民申請120 圍觀295 卡農167 碰撞105 大計劃375 宣戰130 希望395 雞同鴨講126 碾壓373 地下通道475 決心218 兩難223 失蹤177 工業魔法365 行刑123 開會266 蝴蝶375 宣戰229 再見470 畫餅475 決心第三十七章 租房235 協同471 埋雷159 日記138 行動第七十四章 控制286 疑問115 感情第三十章 告一段落329 綁架?414 生死一線282 報道261 逃難生活的片段466 新生命號(中)134 離開139 空間之眼445 幻覺396 壓縮146 暴風雨與平靜464 表現468 遊擊473 適應434 肉搏第三十八章 糾結278 移民申請291 失去第十五章 破綻167 碰撞472 道德手術269 休息147 施法者安娜236 除夕180 傷痕第八十六章 忙裡偷閒233 拘留383 工作368 枕戈444 分權108 討論(下)391 動員250 皇帝186 細節294 限制149 前,後?第四章 分手不需要理由446 漏洞107 討論(上)第三十五章 誤會370 倒數第八192 運轉427 總攻第三十章 告一段落403 隱蔽268 絕望338 退無可退320 身份228 “免費回家”235 協同355 出劍232 聯盟169 警惕196 午後陽光290 襲擊231 能源275 交代442 威脅
105 大計劃第七十二章 接觸367 糧食風波422 幫個忙220 導火索第二十九章 夜色深重(6)第三十六章 豹哥死了344 點到即止255 法師艾琳137 華婷婷的幸福時光312 死鎖第六十二章 晚會330 另一個法師?278 移民申請120 圍觀295 卡農167 碰撞105 大計劃375 宣戰130 希望395 雞同鴨講126 碾壓373 地下通道475 決心218 兩難223 失蹤177 工業魔法365 行刑123 開會266 蝴蝶375 宣戰229 再見470 畫餅475 決心第三十七章 租房235 協同471 埋雷159 日記138 行動第七十四章 控制286 疑問115 感情第三十章 告一段落329 綁架?414 生死一線282 報道261 逃難生活的片段466 新生命號(中)134 離開139 空間之眼445 幻覺396 壓縮146 暴風雨與平靜464 表現468 遊擊473 適應434 肉搏第三十八章 糾結278 移民申請291 失去第十五章 破綻167 碰撞472 道德手術269 休息147 施法者安娜236 除夕180 傷痕第八十六章 忙裡偷閒233 拘留383 工作368 枕戈444 分權108 討論(下)391 動員250 皇帝186 細節294 限制149 前,後?第四章 分手不需要理由446 漏洞107 討論(上)第三十五章 誤會370 倒數第八192 運轉427 總攻第三十章 告一段落403 隱蔽268 絕望338 退無可退320 身份228 “免費回家”235 協同355 出劍232 聯盟169 警惕196 午後陽光290 襲擊231 能源275 交代442 威脅