但是與此同時，另一種傾向也是存在的，並形成一股潛流。斯大林所推行的政策越來越依靠由他挑選提拔的年輕幹部。老一代布爾什維克黨絕不會有青年一代人那樣，對斯大林的熱情、忠誠、崇拜。
因此斯大林對老一代布爾什維克的輕蔑態度逐漸轉變爲仇恨。他堅信必須把那些不同意或懷疑自己政策的人趕下歷史舞臺。這些人對他所設計的偉大社會主義事業是有害的，起妨礙作用的。
1934年1月聯共（布）第1278章。大會總結了黨在過去一段時期的工作，指出了社會主義在一切經濟和文化部門中都已獲得了決定意義勝利的事實，指出黨的總路線已經獲得全面勝利。所以，第十七次全國代表大會被稱爲“勝利者代表大會”。
以上是蘇聯方面公開的說法，然而據以後透露出來的情況卻是：關於第十七次全國代表大會有了一些新的說法。意大利**記者朱塞佩?博法在一篇文章中寫道：“最可靠的說法是，在黨的第十七次代表大會期間曾召開一次非正式的會議，對國家情況特別是對農業擔憂的代表們出席了這次會議，在舉行秘密投票時，斯大林的名字被勾掉的次數之多，過了其他任何人……有的人甚至說，斯大林根本沒有當選，只是在最後決定增加中央委員的名額時。他才勉強當上中央委員。”
在第十七次全國代表大會上最受代表歡迎的中央領導人是基洛夫，在他言結束的時候，代表們向他鼓掌歡呼，掌聲和“列寧格勒無產階級萬歲”等口號聲持續了數分鐘之久。後來的蘇聯史學界也披露了這件事。
而我們安全部的報告也是說，斯大林的威望在這一次會議上降到了最低點，有相當多的人在反對黨斯大林的**統治，不過沒有多少人是敢於公開地反對他，有的也只能是在私下裡對他有不敬的言論，終究還是害怕他的人多……
隨後生的一件事讓斯大林有了一個可以對全黨、全軍、全國舉起屠刀的藉口，這就是“基洛夫被殺事件”。事情是這樣的：
1934年12月1日是蘇聯**（布）中央政治局委員、列寧格勒州委書記基洛夫的一個照常工作日，他並不知道這也是他生命歷程中最後一天。這也是即將席捲全國鎮壓狂潮掀開序幕的一天。
這一天傍晚，當基洛夫走進在列寧格勒州委機關所在地斯莫爾尼宮，向州委第二書記的辦公室走去。當他在走廊裡停下腳步開門時，一顆罪惡的子彈射中他的脖子，子彈擊中了他的動脈，鮮血馬上就噴射了出來，他搖晃一下，轉了半個身子。就一頭栽倒在鑲木地板上了。
他的帽子被掀落了一半，鮮血從傷口向外冒出來。他的衛隊長鮑利索夫馬上衝了過來把兇手抓住，兇手尼古拉?耶夫本身就是內務部的工作人員。而且有證據表明，在這項謀殺之前。他曾幾次企圖暗殺基洛夫。
謝爾蓋?米洛諾維奇?基洛夫（原姓柯斯特里科夫）他是23年代聯共（布）的主要領導人之一，歷任列寧格勒省委第一書記等職。1934年2月起任聯共（布）中央組織局書記和委員，蘇聯中央執行委員會主席團委員。獲列寧勳章和紅旗勳章各一枚，他是蘇聯政治舞臺上的一顆耀眼的新星。
謝爾蓋?米洛諾維奇?基洛夫喜歡在斯美爾尼宮中散步。尼古拉?也夫仔細地研究了他散步的路線。企圖靠近基洛夫卻被警衛人員逮捕。在他皮包背面有一處開口地方，可以不打開皮包就能抽出手槍，上了子彈的手槍就放在此處。裡面還裝有基洛夫的散步路線圖。尼古拉耶夫被帶到列寧格勒內務人民委員會。審問他的是委員會助理負責人扎波羅熱沃，但不久之後奉內務人民委員雅哥達之令釋放了他。
這引起基洛夫警衛人員的警惕。但內務人民委員會告訴他們：這件事用不着他們去管，這個人在這裡有他自己的任務，並以收繳個別警衛人員黨證相威脅。最後尼古拉?也夫帶着武器潛入斯美爾尼宮，在基洛夫要通過那條走廊時向他開槍，慘案就這樣生了。
更令人奇怪的是當基洛夫的警衛隊長被提交去接受審訊時，他是被用有車棚的大卡車接走的，裡面還有幾個手持鐵棒的契卡人員，一人坐在司機身旁。在沃伊諾夫大街，當汽車駛過一處倉庫的一面高牆時，和司機坐在一起的契卡人員突然轉換了一下方向盤，使汽車朝一座房屋衝去。
司機抓回方向盤矯正了汽車方向，汽車的側面碰到房屋牆上，避免車禍生。但基洛夫的警衛隊長鮑利索夫已被人用鐵棒打死了。在這個事情上我們的特工人員得知，當時醫生作了假鑑定，指鮑利索夫是因車禍而死，他們當中有些人當時說鑑定書是被迫做出的，鮑利索夫是被很重的金屬鐵棒打在頭上致死的。
從這個案件的生，以及整個偵查過程都可以看到有一隻有力的手在指揮整個事件的進行，絕非尼古拉?耶夫的個人行爲。因此無論斯大林是否指使這次謀殺，但他都會最大程度地利用這件事消滅他的對手。
當時基洛夫由於自己的才華，在全國的影響力不斷增長，到1934年成爲黨內僅次於斯大林的人物，享有很高聲望，而且**性強，才能出衆，善於團結工人，堅持自己的觀點不會附和斯大林的意見，並且有時會贏得多數人的支持。這當然要引起斯大林的猜疑與嫉妒。
黨內的一些領導人對日益嚴重的個人崇拜，及經濟建設中的問題感到不安，於是在1934年初的第十七次黨代會上，醞釀選舉基洛夫取代斯大林擔任黨的總書記職務。大會對斯大林不滿反映在黨的**選舉聯共（布）中央的表決上面。
按得票數斯大林在中央委員會名單中是最後一個，在當選委員之中得票最少，缺票27張，而基洛夫卻是隻缺3張。斯大林的死黨卡岡諾維奇命令銷燬反對斯大林的大部分選票，才使這令人驚訝的選舉結果沒有外露。斯大林當然知道這一令他不快的結果，對此感到十分震驚。
所以1934年的斯大林已把謀殺基洛夫變成爲他樹立黨內的絕對權威，以及獨裁統治的一個最重要的步驟。因此他就需要製造輿論，把手中的劍揮向他的敵人一大批黨內、軍內和政府內的優秀領導幹部，以及一批被無辜牽連的人。
而且在以後又把執行他命令的這些兇殘的劊子手處決，以平息轉移一些人的仇恨。斯大林陰險、毒辣、罪惡由此可見一斑。雖然目前沒有直接證明斯大林是這一謀殺行動的主謀，但是他卻充分地利用此事件使基洛夫被謀殺成了大清洗的導火線，成了3年代蘇聯肅反運動的開端。
事當天，斯大林就帶領着自己手下的那一幫領導人趕到出事地點，親自過問這一案件。最初，政府曾經宣佈暗殺是白衛恐怖分子乾的，並處決了14名白衛恐怖分子。半個月後，蘇聯報紙宣佈，暗殺是托洛茨基、季諾維也夫反對派策劃的。
基洛夫被刺事件至今是一個案情撲朔迷離的歷史疑案。兇手尼古拉?也夫雖然當場被捕，並由當天趕到列寧格勒的斯大林親自審問，但審訊記錄始終沒有公佈，尼古拉?耶夫當月即被槍決。無論“基洛夫被殺案”的真相如何，有一點十分清楚，即這個事件給斯大林提供了徹底清洗一切反對派（包括潛在的對手）、鞏固自己權力地位的機會，和採取種種非法手段以達到上述目的的藉口。
基洛夫案件生後，1935年1月18日，聯共布）中央就基洛夫暗殺案一事，向各級黨組織出一封秘密信件。信中說：“必須肅清機會主義的泰然自若，這種態度是從這樣的錯誤假定出的：隨着我們力量的增長，敵人似乎會變得愈來愈馴服和不傷害人。這種假定是根本錯誤的。它是右傾的死灰復燃，它要大家相信，敵人將悄悄地爬進社會主義，他們最後會變成真正的社會主義者。布爾什維克不應當高枕無憂和粗心大意。我們需要的不是泰然自若，而是警惕性，真正布爾什維克的革命警惕性。必須記住，敵人的處境愈是絕望，他們就愈想把極端手段作爲他們反蘇維埃政權鬥爭的垂死掙扎的唯一手段。必須記住這一點，必須保持警惕。”