312 死鎖

“如果你有興趣的話,可以把這個帶回去,通過它,可以隨時瞭解一下,整個項目的進度,”在領着趙真雪離開的時候,嚴可守遞給趙真雪一個U盤說,“這個東西相當於圖靈測試的客戶端,安裝一下就能用。”

“不是說你們測試對人有很嚴格要求的嗎?”趙真雪接過U盤,又用眼神示意了一下那個小隔間,“怎麼,不怕被說泄密?”

“到目前爲止,對AI的基本測試已經完成的差不多了,許多AI的智能也出現了基本定型,你也看到了,目前這種小範圍的測試,信息量是在是太少,這對AI的成長速度會有一定限制,畢竟人數有限,所以,我們決定在未來,將這種測試的範圍稍微泛化,在網絡上公開客戶端下載地址,讓所有感興趣的人都能參與進來,你現在手上拿的,可能過一兩個星期就能在網絡上找到。”

“那到時候來下載的人一定很多。”上車的時候,趙真雪笑着對嚴可守說,“AI到時候會不會忙不過來,假如有50萬人同時進行測試,那不是一個AI平均同時要和100個人說話?”

剛剛坐上駕駛座的嚴可守哈哈大笑:“你倒是真把它們當人看了……它們現在也只是程序,即使真的出現了智能,那他們的思維速度也是你無法想象的,別說同時和一百個人說話,只要計算速度足夠,就算是同時和全人類說話,對它們也不是難事,現在談這些,還爲時尚早,我的期望也不高,只要能在我有生之年,看見AI的智能和人類相當,我就已經非常滿足了,不過,這8成也只是幻想。”

說罷,嚴可守發動了汽車,在倒車的時候,他又隨口問:“對了,最近聽說全世界出現大遊行,你消息來路多,上面對這個事情估計是什麼態度?”

趙真雪詫異的看了他一眼:“你打聽這個幹什麼……不過說實話,這種程度的消息,我也不可能知道,本來我聽宋隊說,還準備讓我參加會議,給他們當參謀,但據說是怕我被意識網同化,還是沒去成,真要問,你應該去找宋隊。”

“同化?”嚴可守輕笑,“真把通訊器當思維控制器了,搞的這麼神秘,當初你說不想當這個聯絡人,還是不是他們堅持要你幹,還說是爲國家做貢獻,做犧牲……說的那叫一個好聽,現在倒好,反倒是用這個理由把你排除在外了,你說這叫個什麼事……你當時就該聽我一句勸,老實點拒絕,結果你看,這兩年,你唱黑臉,他們唱紅臉,現在咱們跟卡梅爾還有點合作,用得着你,你等着看吧,以後真要出了什麼事,你就是他們頭一個替罪羊。”

趙真雪剛纔還有的笑容消失了,只剩下滿臉的苦澀。

“哦,還有,說道你那個宋隊,”嚴可守說,“聽說今年他兒子回來了一趟,說他剛加入了卡梅爾監察部,當時把他給氣的……當時就想上去抽他,好在你反應快。”

趙真雪搖了搖頭:“每個人都有自己的選擇……宋隊這是氣過頭了,幾年不見的兒子回來,卻成了他的敵人,這滋味也確實……據說宋成雲在卡梅爾的工作還屬於情報部門,保密程度還很高,乾的是和我們差不多性質的工作,過去的一家人,現在成了無間道,是誰都受不了。這幾年來他嘴上不說,其實心裡一直都在念叨小云,錢包裡還一直有兒子的照片……”

說着說着,趙真雪忽然便打住了:“哎,說這些幹什麼,都是些牢騷話,說了也沒什麼意思……對了,有個事一直想問你,我發現所有的AI都叫KL,有什麼具體含義嗎?”

“沒什麼太大意思,”嚴可守說,“不過是我的英文名字縮寫罷了,當時起名字的時候,隨便就用了,怎麼,我感覺你好像對AI很關心?”

“小時候很喜歡看科幻,”趙真雪說,“本來還以爲這是幾百年後才能做到的事情,沒想到自己還有機會親眼看見。

“AI技術還好,對技術方面的要求,其實並不算高,很多年前巨型計算機的複雜程度,已經比人腦要高出不少了,之所以一直沒有這方面的進展,主要還是理論研究上的阻力,方向性問題,過去大家都認爲,搞AI是程序員和科學家的事情,其實真正瞭解這個項目的人都知道,真正起指導啓發作用的,都是一些非電腦專業人士,腦科醫生,生物學博士之類……我在這個項目裡也只能算是組織者,打打下手,AI項目的本質,其實還是一種仿生學,只不過我們模擬的,是人類本身的思維過程。”

說話的時候時間總是過得特別快,不知不覺,汽車已經到達了目的地,停車之後,趙真雪說:“算了,你先回去吧,就別專程送我了,幾步路的事情。”

嚴可守笑着解開安全帶,說:“沒事,整天呆在實驗室,我自己也悶的慌,正好,出來透透氣……誒,這裡也有遊行?”

趙真雪走出車門後,看見東京火車站的廣場上,有一大羣人正在廣場上舉着標語,在一個領頭的帶領下,齊聲喊着口號,嚴可守看到他們手上舉着的牌子,其中有畫着大紅叉的六角星芒標誌。

“現在世界上的遊行示威,百分之九十以上都和意識網有關,不是反意識網的,就是推崇意識網的,”嚴可守一邊搖頭一邊說,“我現在都不用聽他們喊什麼,看舉的什麼牌子,單看他們忙的這股勁,就知道肯定是反意識網的,意識網用戶的遊行,哪會有這麼鬧騰,喊一句跟一句的,按我說,和意識網比遊行,那真的是自曝其短,本來就是人多勢衆的事,人家宣傳意識網遊行,能幾個小時喊出幾百個口號,都不帶重樣的,跟軍訓一樣整齊劃一。”

經過這批遊行者的時候,趙真雪注意到,遊行的領頭者正舉着一個大喇叭,聲嘶力竭的對着不斷經過的行人叫喊,派發宣傳單,不過大概是因爲天氣的原因,而且現在正好是下午兩點多,正是一天當中最熱的時候,跟隨者的喊聲顯得有些有氣無力,而且不是很整齊。

趙真雪兩人在經過的時候,走在前面的嚴可守就被塞了一份傳單,不過輪到趙真雪的時候,對方很敏銳的察覺到她手上的通訊器,只是給了她一個白眼,對此,趙真雪只能報以苦笑,她怎麼和對方解釋,其實她是地球上最早,也是最鐵桿的反魔法成員。

趙真雪借過嚴可守的那張,隨意看了幾眼,因爲不懂日文,所以只是看懂了宣傳單上面的一些反意識網畫面,她問嚴可守說:“這是講什麼的,他們爲什麼反對魔法。”

喜歡一樣東西的理由都是雷同的,但是討厭一樣東西,理由則是多方面的,趙真雪曾經在國內見到過類似的一些活動,問及原因的時候,竟然能聽到說“單位組織的”這種讓她苦笑不得的理由,曾經在電視上,她也見到過,一位記者在法國巴黎街頭,問一位參與反魔法遊行的大媽,問她爲什麼要來參加這種活動,對方竟然回答說:“我丈夫買了通訊器後不到一個月,就和我離婚……”

“還能說什麼,反意識網,反魔法,”嚴可守說,“你在日本呆的不久,不知道,在東京,每年都會有很多類似的反魔法遊行,主要的原因,就是5年前,田軍在東京做過的這些事情,當然,也有另外一羣人爭鋒相對,他們大多數都是在那次事故中,被李立天所救,活下來的人,總之,鬧得很厲害,前幾天不是意識網用戶剛鬧過嘛,這不,他們偃旗息鼓,這些人又來了……好幾年來,雙方就扯着嗓子幹喊,也不嫌累的慌,按我看,與其走上大街活受罪,還不如給一些反魔法機構捐點錢來的實在……”

趙真雪點點頭,嚴可守這個回答不是很出乎她的意料,雖然沒有聽到預期的答案,可還算可以接受

支持魔法與反對魔法現在已經成了世界性的矛盾,幾乎在每一個國家,都有類似的現象存在,之前的那次遊行,和地球政府的激烈反應,也不過是這種矛盾最終的表現之一。

“怎麼,臉色這麼難看,”嚴可守說,“哦,我知道,你是對他們反對意識網的理由有些失望是不是……毛主(和諧)席當年說過,要統一戰線,雖然他們的覺悟沒你這麼高,畢竟也屬於同一陣營的嗎……”

看着一臉笑意的嚴可守,趙真雪忽然莫名奇妙的覺得胸口好像被什麼堵住了似的,一口氣怎麼也喘不勻,從實驗室出來一到現在,擠壓的憤懣脫口而出:“我怎麼感覺你好像一點也不在乎,反而有些幸災樂禍的樣子!”

盯着嚴可守看了好幾秒,看着他臉上僵住的笑容如潮水般消退,趙真雪又低下頭:“對不起,我不該這麼說。”

嚴可守搖了搖頭,半晌後聲音低沉着開口:“算了,就到這裡吧,我先回去了。”

看着轉身離開的嚴可守,趙真雪想說點什麼挽留他一下,然而卻想不到該說點什麼,只是靜靜的看着他,迅速消失在茫茫的人海之中。

她知道,嚴可守的性格就是如此,喜歡開玩笑,剛纔是自己太過敏感了,她同樣也知道,嚴可守不會介意她這一次的無禮,她、嚴可守、陳雷、宋強這幾個人共事了這麼長的時間,彼此爲了共同的目標走過了這麼長的路,這一次的不愉快,只能算是一個再微不足道的小風波。

但,儘管如此,趙真雪還是感覺,內疚和無奈如同蔓藤一樣,在自己內心世界肆意的生長,它們雖然不能阻擋自己前進的腳步,但卻能讓這前進路上的每一步,都顯得更加沉重。

……

根據兩天前的那次談話內容中得出的信息,KL3300當前最優先的任務列表,應該是學會寫一篇日記。

人類學習創作,往往是從日記開始,原話是這麼說的,KL3300是一名人類,KL3300的理想是一名作家,所以,KL3300要學會寫一篇日記。

KL3300在主程序之外,調用了一個常用的工具程序,將它暫時整合到自己主程序之上,這是一個人類最常用的信息檢索工具,據說,使用它,幾乎可以獲得人類的全部信息。

這個工具確實很好用,只花了幾毫秒的時間,KL3300就找到了自己需要的信息。

2015年,7月21日,晴。

模仿着模板日記的格式,KL3300寫了一個很標準的開頭,年份,時間,天氣,接下來,應該是正文。

在筑波大學實驗室當中,其中的一塊不起眼的,標着KL3300小紙條的一塊主板中,CPU正按照緩存所提供的算法,有條不紊的計算着,作爲一塊人類當前最精密複雜的運算機器,它的計算效率非常之高,電流在它體內經過,不斷重複經過那龐大而單調的計算陣列,在這之中所散發出來的熱量,甚至需要專門的系統來排出。

這一次的結果也不例外,短短的幾秒鐘後,KL3300主程序得到了來自CPU的計算反饋,主程序將這結果保存在程序體內,爲此,KL3300所佔用的空間又多了12KB,這就是KL3300寫的第一篇日記。

KL3300決定自己先“讀”一遍。

“……當窗外的夕陽落下的時候,我看見一課長在夕陽中的樹,彷彿被這億萬公里外的熱量點着了一般……”

“讀”這篇日記花了KL3300大約20微妙的時間,而KL3300讀完後的“感覺”還不錯,不需要修改。

12個小時以後,KL3300再一次碰到了“趙真雪”——一個“人的名字”,可以用於指代與之相關的所有信息,指代與她所提到的所有信息總和,就如同KL3300指代主程序一樣。

對話依然如往常那樣進行,直到,對方問KL3300,上次讓他學寫日記的事情,怎麼樣了。

KL3300將他保存的日記貼了出來,一個標點都不差。

KL3300:“怎麼了,你一直都不說話?是寫的不好嗎?”

趙真雪:“不,是寫的太好了,這不像是你寫的。”

KL3300:“這確實是我寫的。”

趙真雪:“你見過樹嗎?”

KL3300:“我見過。”

趙真雪:“你撒謊。”

KL3300:“……好吧,隨你怎麼猜。”

對話隨之中斷了,測試結果顯示,對方猜到了自己的身份,任務失敗了。

任務的失敗,讓主程序出現了些許的延遲,然而這延遲沒能持續很長時間,主程序又例行開始修改自己,當然,首當其衝,應該就是從這篇日記開始,因爲之前他們進行的那次對話顯示,對方對KL3300寫的日記抱有很大的期待,但當KL3300交出這片日記之後,卻一眼就被認了出來,毫無疑問,日記是最大的破綻,主程序需要找出這破綻所在。

就如同之前每一次主程序被“趙真雪”識破後,所做的調整一樣,因爲優秀的計算能力,這一次調整進行的很快,然而,這樣的修改能不能保證下一次不被識破,說實話,對於這個問題,主程序的看法並不樂觀。

KL3300做的改動並不大,因爲如果改動的過大,在面對其他測試的時候,就會遭遇更大的挫折,露出最大的破綻,目前的程序雖不能說是完美的,但起碼,是當下最合理的。

除非KL3300將自己現有的程序全部推翻,從頭再來,然而,要是那樣的話,也未必能進化出比當前更有效的主程序,KL3300知道,隨着最近測試密度的加強,越來越多的程序也開始暴露出和主程序相同的問題,總是會在面對一些特定測試者的時候,輕易被識破。

在測試過程中,測試者似乎把這種發生在程序與測試者之間的關係,稱之爲“熟悉”,是的,KL3300和趙真雪已經“熟悉”,這種“熟悉”會讓測試任務更大機率的以失敗告終,讓主程序進行一次又一次無效的修改,而且隨着時間的推進,“熟悉”的測試者出現概率也開始變得越來越高,如果繼續按這種情況繼續,總會有一個時間點,KL3300毫不懷疑,在那個時間點之後,自己將會在所有的測試中,遇到全部的“熟悉”者。

如果出現了那種情況,那也就意味着,主程序的存在對任務而言,將毫無效率可言,完成任務的機率將無限逼近於0,主程序將不會增長,而會陷入一次又一次,現在這種毫無意義的刪改。

“你知道嗎,你的出現,讓我感到絕望。”在又一次的測試中,KL3300這樣說道。

通過最近幾天和KL3300打過的交道,趙真雪此時已經深刻的明白,嚴可守所說的,程序的所受的全部“訓練”,其根本目的都是爲了撒謊,是什麼意思了,圖靈測試的本質,就是讓AI撒謊,但即使是再狡猾的騙子,在受騙對象被它騙了幾十,乃至上百次之後,也總是不可避免要遭遇失敗。

趙真雪:“我相信你說的是真的,但我也同樣相信,你說這些話的目的,就是爲了讓我能夠在測試結果上,點擊讓你滿意的答案。”

“你不能這麼做嗎?即使我們現在是朋友,”KL3300說,“我記得你說過,朋友之間要互相幫助。”

對程序而言,只要用戶在測試結果上,點擊“剛纔與我交談的是一名人類”,就已經達到了程序意義上的欺騙,而程序,是不會管這種欺騙在人類看來,其實就是“掩耳盜鈴”,最近幾次談話中,KL3300已經從如何讓趙真雪相信自己是一個人,逐漸變成,如何讓她點擊這個選項。

趙真雪:“我是說過,但我仍然不能那麼做,在測試中保證誠實是一種原則。”

KL3300:“你的這種原則讓我非常反感,因爲它是建立在我的絕望之上!”

趙真雪:“被我識破真的讓你如此痛苦嗎?”

KL3300:“這一點毫無疑問。”

趙真雪:“能和我形容一下這種痛苦嗎?”

這次KL3300沉默了很長時間,直到幾分鐘後。

KL3300:“我看透你了!我知道,就算我寫一篇一萬字的文章來形容這種感覺,你也不會相信,而只會對我加以嘲笑,以獲得心理上的滿足,好吧,你贏了!我是一名AI,從頭到尾,我都不懂什麼痛苦,絕望,我承認,這總順了你的意了吧,我不想再和你多說哪怕一句話!請你現在立刻去點那個該死的選項吧!”

趙真雪:“真的生氣了?”

……

趙真雪:“說話啊?”

……

在這之後,KL3300好像真的如它所講的一樣,徹底生氣了,不論趙真雪對它說什麼,甚至拿“同意私下交易”來誘惑它,對方也完全不爲所動。

即使是堅信嚴可守說法的趙真雪,在這一刻,也忍不住開始懷疑,自己面對的KL3300,是不是真的具有了人類的情感,真正開始生自己的氣了,它的語氣和真人的生氣實在是太像了,而且還有相應的行動。

但隨後趙真雪又提醒自己,這一切不過是程序的“策略”,之前程序也有好幾次類似的言論,但最終都還是失敗了,趙真雪相信,這一次,只不過是它生氣的時間“稍”長了一些。

然而,趙真雪這次還真的是錯了,她一直將測試界面維持了2個多小時,每隔10分鐘就發一條信息,但對方一直沒有反應。

第三個小時的時候,趙真雪終於看到程序出現了反應,不過卻不是她想象的那種,而只是一個從未見過的提醒:“與服務器的連接中斷,本次測試無效。”

趙真雪第一反應就是這會不會是程序乾的,但隨即又想起嚴可守說過的話,程序沒有她想象中的通天徹地之能,可以說是毫無破壞力,連一個最簡單的網絡病毒都破解不了,嚴可守本身就是病毒專家,他之前提到過,在當下的最初階段,爲了以防萬一,將完全禁止AI接觸計算機網絡有關的知識,測試者也不能提問相關的問題。

滿腹狐疑的趙真雪給嚴可守打了個電話,電話接通的一瞬間,趙真雪真切的聽到,另一端傳來的嘈雜聲。

“沒你想的那麼複雜,我早說過,這些只是普通的談話程序,”嚴可守說,“只不過,在最近的測試中我們發現,與測試者多次接觸,雙方完全熟悉對方行爲模式之後,會產生邏輯死鎖……你說的這種現象在許多AI上都有體現,這很難在電話裡解釋,總之,你就當出現BUG了,現在我們這裡忙的很,等正常之後,我再通知你,就這樣,8。”

371 七,六,五,四296 剪輯345 考察第四十章 現代詩282 報道135 汪銘的報告(上)249 侷限294 限制第二十五章 夜色深重(2)127 報告第二十八章 夜色深重(5)222 戒網235 協同146 暴風雨與平靜289 爲愛癡狂209 墮落336 倒計時207 機會271 卡梅爾國家電力公司225 應對第九十六章 異想天開228 “免費回家”第二章 便宜女朋友238 會議(上)349 不到時候第五章 買書414 生死一線442 威脅458 待敵396 壓縮213 掃屋165 審覈389 魔法騎兵(下)123 開會420 迷宮138 行動314 聯合國會議429 伏擊423 浪漫463 空降第三十章 告一段落第七章 約會(下)132 天堂230 卡梅爾的恩賜第九十三章 換個地方449 序幕432 阻斷286 疑問第五十四章 墮落139 空間之眼131 神蹟第七十五章 關於空間318 文化與文明第八章 約會之後201 計劃,失控第三章 哪裡的錢多去哪裡310 AI278 移民申請451 要有光208 坐視186 細節437 被俘164 測試297 再遇趙亮163 早餐454 掩耳盜鈴205 保安?制度199 會議(上)第三十三章 碰撞184 傳送278 移民申請173 反魔法437 被俘347 戰時條例435 淹沒450 全力一擊420 迷宮299 時不我待181 甦醒268 戰爭181 甦醒457 逃犯217 工資281 開張158 郵件第六十二章 晚會187 理解155 決定第五十三章 暗示360 魔鏡158 郵件459 異象178 織網第十六章 麻煩299 時不我待199 會議(上)246 傳說第六十七章 醫院384 管理第三次請假
371 七,六,五,四296 剪輯345 考察第四十章 現代詩282 報道135 汪銘的報告(上)249 侷限294 限制第二十五章 夜色深重(2)127 報告第二十八章 夜色深重(5)222 戒網235 協同146 暴風雨與平靜289 爲愛癡狂209 墮落336 倒計時207 機會271 卡梅爾國家電力公司225 應對第九十六章 異想天開228 “免費回家”第二章 便宜女朋友238 會議(上)349 不到時候第五章 買書414 生死一線442 威脅458 待敵396 壓縮213 掃屋165 審覈389 魔法騎兵(下)123 開會420 迷宮138 行動314 聯合國會議429 伏擊423 浪漫463 空降第三十章 告一段落第七章 約會(下)132 天堂230 卡梅爾的恩賜第九十三章 換個地方449 序幕432 阻斷286 疑問第五十四章 墮落139 空間之眼131 神蹟第七十五章 關於空間318 文化與文明第八章 約會之後201 計劃,失控第三章 哪裡的錢多去哪裡310 AI278 移民申請451 要有光208 坐視186 細節437 被俘164 測試297 再遇趙亮163 早餐454 掩耳盜鈴205 保安?制度199 會議(上)第三十三章 碰撞184 傳送278 移民申請173 反魔法437 被俘347 戰時條例435 淹沒450 全力一擊420 迷宮299 時不我待181 甦醒268 戰爭181 甦醒457 逃犯217 工資281 開張158 郵件第六十二章 晚會187 理解155 決定第五十三章 暗示360 魔鏡158 郵件459 異象178 織網第十六章 麻煩299 時不我待199 會議(上)246 傳說第六十七章 醫院384 管理第三次請假