儘管日軍的防禦態勢已經相當不利，但日軍仍依託工事死戰不退，尤其是陸戰5師面對的是由慄林直接指揮的部隊，遭到的抵抗更爲激烈，陸戰5師的傷亡超過75%，許多戰鬥部隊失去了戰鬥力，師部的文書、司機甚至炊事員等勤雜人員都投入了戰鬥。
3師、4師的傷亡也很嚴重，出於這種情況，陸戰4師師長克利夫頓.凱茲少將向粟林忠道中將和硫磺島日軍中戰鬥力最強的第145聯隊隊長池田增雄大佐發出勸降信，信中首先向他們無畏精神和英勇作戰表示了尊敬，接着說明了無法取勝的處境，最後要求他們指揮所屬部隊停止抵抗，美軍將根據《日內瓦公約》保證投降的日軍受到人道待遇。但勸降信如同石沉大海，沒有迴音。
3月16日，東北部的800餘日軍被殲滅，美軍於當日18:00時宣佈佔領硫磺島，但戰鬥仍在繼續，粟林指揮殘部依然在抵抗，有時戰鬥還相當激烈。敗局已定，同日，慄林中將命令步兵第145聯隊長池田大佐燒燬軍旗，並向東京大本營發出訣別電:“面對數量和質量佔優的陸海空攻擊，卑職已盡全力，然現在險要盡落敵手，卑職萬分抱歉”。然後銷燬密碼，準備實施最後的決死反擊。
3月17日，日軍大本營晉升慄林爲大將軍銜，以表彰他的英勇作戰。同日粟林對殘餘部隊下達總攻擊指令:一、戰局已無可挽回。二、兵團於17日晚上發動總攻擊。(實際上17日晚並沒有發起總進攻，而是等到了26號清晨。)三、各單位於本夜午時，向各方面的敵軍進攻，戰到最後一兵一卒。四、我將一如往常在諸位前頭。
陸戰三師師長厄金斯少將找到兩名日軍戰俘，給了他們很多幹糧，還配備了一部最新式的報話機，然後讓他們給慄林和池田帶去勸降信。這兩名戰俘將勸降信設法交給了池田的傳令兵，但到了規定的時間期限，日軍仍未投降，這兩戰俘爲美軍的人道主義待遇所感動，竟留在日軍防線裡，通過報話機爲美軍炮火指引目標，一直到18日才返回美軍戰線。
從16日美軍宣佈佔領硫磺島後又經過整整一週的激戰，24日美軍纔將殘餘的日軍壓縮在島北部約2100平方米的狹小範圍裡。
3月25日，慄林派人設法通知島上每一個人，於夜間攜帶武器在三號機場附近的山區集合。
3月26日凌晨，慄林忠道親自率領約350名日軍向二號機場的美軍發起了最後反擊，許多美軍在睡夢中被殺，天亮後，美軍組織掃蕩，四處追殺這股殘餘日軍，激戰三小時，將這股日軍大部殲滅，日軍僅遺留在美軍陣地前的屍體就有250具，慄林負傷後在島上剖腹自殺，美軍傷亡172人。
美軍於當天9:00時宣佈硫磺島戰役結束，但殘餘日軍的戰鬥一直持續到4月底。
硫磺島的日軍在殊死抵抗的同時，日本海軍聯合艦隊由於主要的水面艦只在菲律賓萊特灣海戰中損失殆盡，殘餘軍艦因爲燃料不足，也無力組織救援。能夠出動增援的就只有岸基航空兵和潛艇部隊了，但岸基航空兵的第一、第二航空艦隊基本喪失了戰鬥力，第三航空艦隊還在訓練中，而且是準備在本土保衛戰中使用，因此，日軍大本營決定儘量避免損失，只以少量飛機和潛艇實施“特攻作戰”，以最小代價換取最大戰果。
2月19日，日軍在香取基地成立了以自殺飛機爲主體的“第二御盾特別攻擊隊”，專門擔負特攻使命。
2月21日，這支特攻隊轉場至八丈島，於中午加油完畢，分批出擊。17時許，第一攻擊波的6架自殺飛機飛臨美軍在硫磺島西北35海里正準備執行夜間空中巡邏任務的"薩拉託加"號航母上空，日機隨即展開攻擊，有4架被擊落，另2架接連撞上這艘航母，使該艦受傷起火，所幸傷勢不重。
18:50分，"薩拉託加"號的水兵剛把艦上的大火撲滅，日軍第二攻擊波5架自殺飛機就接踵而至，前4架均被擊落，第5架雖被擊傷，仍一頭撞上"薩拉託加"號，在航母甲板上翻滾着落入海中，給母艦造成了多處創傷，被毀飛機42架，艦員陣亡123人，傷192人。只是因爲艦上損管人員搶修得力才倖免沉沒，終因傷勢太重而奉命撤出戰場，隨即回國進塢大修，直到戰爭結束再未能參戰。
與此同時，日軍神風敢死隊的自殺飛機還攻擊了硫磺島以東的美軍艦艇，一架日機撞上了“俾斯麥海”號護航航母的後升降機，並在機庫裡爆炸，立即引爆了機庫裡的飛機，大火迅速蔓延，很快波及到了彈藥艙，引發了大爆炸，艦長見無法挽回，只得下令棄艦。該艦燃燒了足足三小時，才沉入海中。艦上水兵傷亡約350人。
被日軍自殺飛機擊傷的還有"隆加角"號護航航母、477號和809號坦克登陸艦、"基厄卡克"號運輸船。日軍除組織自殺飛機的攻擊外，還以潛艇實施特攻作戰。
2月19日，日寇以伊-368、伊-370、伊-44各攜帶五條、五條和四條人操**，組成代號爲"千草"的特攻隊，於2月20日、21日、22日分別從瀨戶內海的大津島潛艇基地出發，前往攻擊硫磺島海域的美軍艦隊。
2月23日，又命令16日從吳港出發原定前往琉球羣島活動的呂-43號潛艇改往硫磺島攻擊美艦。
2月26日，到達硫磺島海域的伊-368號和呂-43號被美軍艦載機擊沉，伊-370號則被美軍的驅逐艦擊沉。伊-44號多次向美艦接近，都受到美軍反潛艦隻的有力壓制，無法佔據人操**的出發陣位，只好返航，回日本後艇長因未完成任務而被撤職。
2月28日，日軍又以伊-58號和伊-36號潛艇各攜帶四條人操**組成代號爲"神武"的特攻隊，分別於3月1日和2日從吳港出發，但到了3月6日，日軍統帥部見硫磺島大勢已去，這才命令在硫磺島海域活動的潛艇全部撤出。