傳統中國政府由於其天下觀的緣故，沒有現代的世界意識，因爲政府沒有外交概念，自然也就不會設置辦理外交的部門。清朝對於朝貢各國，限定在廣州一城，由兩廣總督負責接待，然後由兩廣總督派人護送到禮部，再由禮部負責招待，安排朝覲之事。朝覲完之後，再原路返回。只有朝鮮一國，可以從東北進京，直接到禮部。西北方面，則由理藩院直接負責接待。所有禮部和理藩院接待的國家使節，都必須承認一個前提，就是清朝皇帝是天下共主，因此朝覲的時候，所有使節都必須向皇帝行三跪九叩的大禮。只有俄羅斯例外。禮部負責對外事務其實是一個象徵，就是說，在對外關係上，中國維持的是一個禮制體系，凡是遵王化的人（接受教化）才能進入到這個體系來，否則就不要來，眼不見爲淨。早在18世紀末，英國馬戛爾尼使團來華，要求建立平等的通商外交關係，雖然由於特殊原因，乾隆還是接見了不肯下跪的英國人，但是依然要求人家自行納入朝貢體系，決不肯建立平等的外交和商務關係，結果雙方不歡而散。在西方強行打開中國大門之前，西方國家只有葡萄牙的使節按照藩屬之禮見過中國皇帝，其他國家派來廣州的代表，由於不肯對兩廣總督施禮，實際上大多數來往文書都由十三行代爲遞交。對外貿易，只限定於特定的港口，最終只有廣州一口開放。但所有貿易都必須通過官方指定的商行（人稱十三行）進行。
鴉片戰爭之後，中國已經開始了被西方強行納入資本主義世界體系的過程，但吃了敗仗簽了城下之盟的清政府，卻硬是不肯承認這個已經壓到頭上的世界體系。雖然開放了五口通商，卻明裡暗裡通過地方官對通商設置障礙，不許民衆購買西方貨物；在體制上，依然把與西方的關係，限制在地方層面上，堅持讓兩廣總督負責五口通商事宜（後改爲兩江總督），而且沒有外交意識，硬是將與外國的關係定在通商上，對國門開放以來到來的諸多問題視而不見。第二次鴉片戰爭，英國和法國聯手，再一次強迫清政府進一步開放國土。這一次，他們安心要讓中國人不僅從實質而且從形式上也必須承認這個世界體系。但是，清朝的咸豐皇帝寧肯多賠款，多開放口岸，也不肯讓外國使節駐節北京。他可以容忍英國人佔領廣州，並在廣州建立一個傀儡政府，實際控制廣州許多年，但卻無法容忍在北京城裡有一個不向他下跪的人存在。由於咸豐的執拗，戰爭升級了，北京被英法聯軍佔領，清朝皇帝的別墅圓明園被搶掠焚燬。
在接下來的談判和妥協中，外國使節駐京的條件清朝不得不接受。由於英國人和法國2人堅持不肯跟禮部和理藩院打交道，一個全然不同於以往政府部門的機構誕生了，這就是“總理各國事務衙門”，簡稱總理衙門或者總署。在外國人眼裡，這個機構就是中國的外交部，然而，在中國人自己的想象中，它只是一個臨時機關，一旦有可能，就把它撤銷，而且，在衙門的名稱上，還保留着文化上的自大，貌似“總理”人家各國的事務，以此求得心理平衡。
由於開始設置的時候就有臨時的打算，所以，總理衙門的機構和人員安排，模仿軍機處，設總理大臣和總理章京，所有人員均從各個部門臨時抽調，讓他們做兼職。總理大臣分爲三等，首席曰管理大臣，由王大臣兼任；其次曰大臣，以軍機大臣兼任；再次曰大臣上行走。內閣大學士和六部堂官，甚至地方大員都可以兼任總理大臣，有到任視事的，也有掛名的。總理大臣沒有定員，多的時候有十幾個。總理章京也分等級，有總辦章京、幫辦章京、章京、額外章京，額外章京中有8人是由軍機處章京兼的。
雖然在清朝政府視線裡，總理衙門是個臨時機構，但自總理衙門成立（1861年1月）之日起，跟洋人打交道就成爲中國政治的主題之一。隨着中國捲入世界體系的程度日益加深，總理衙門不但沒有撤銷的可能，反而管理的事務越來越多，機構越來越龐大。凡諸外交、通商貿易、海關稅收、國防、海防、航運、鐵路、郵電、開礦以及涉及西方的宗教事務等等都歸總理衙門管，就是說，凡是沾點洋人、洋務邊兒的事情，都歸總理衙門負責管理。總理衙門很快就超越六部之上，變成了另一個軍機處。事實上，如果軍機大臣不兼任總理大臣，那麼等於權力小了一多半。在總理衙門存在的多數時間裡，總理衙門最高負責人管理大臣，都是由軍機處首席軍機大臣奕沂兼任的，其他軍機大臣一般也兼總理衙門大臣。總理衙門還有兩個有業務關係的大臣，即直隸總督兼任的北洋通商大臣和兩江總督兼任的南洋通商大臣，都是地方大員。
英國公使威妥瑪曾在使華日記中對總理衙門辦交涉有如下記述：
中國總理衙門其規矩與歐洲各國之外交部迥然不同，凡各國使臣至總理衙門，必具酒果，王大臣以次陪客同坐，一若以飲食爲交涉之要務也者。又中國雖事權不歸一，然大臣仍不敢各抒己見，每使臣發一議論，則各人以目相視，大臣視親王、新入署之大臣又視舊在署之大臣，若王一發言，則各人轟然響應，亦莫非是言。若親王不言，諸大臣必不敢先言也。一日餘至署，諸人相顧無敢先發一語，餘不復能耐，乃先發言日：“今日天氣甚好。”而3諸人尚不敢言，惟沈君某者，似覺不可復默，乃首答曰：“今日天氣果好。”於是王大臣莫不日：“今日天氣果好。”不啻如犬之吠影吠聲雲。
總理衙門下設各個股，分管外交和洋務等事項。其中英國股負責英國和奧斯馬加（奧地利）兩國的交涉事務，還負責掌管與各國的通商關稅事務。法國股負責法國、荷蘭、日斯巴尼亞（西班牙）、巴西等國的交涉事務，兼管在華基督教和招募華工事宜。俄國股負責俄羅斯、日本兩國的交涉事務，並管理陸路的通商、邊防和劃界等事宜。美國股負責美國、德國、秘魯、意大利、瑞典、挪威、比利時、丹麥、葡萄牙等國的交涉事務，併兼管參加各國公會，如博覽會、保護華工等事宜。除了以上類似外國外交部的職能部門外，總理衙門還設有海防股，所管的事務包羅萬象，所有的洋務事業均由其管理。附屬機構有負責雜務的司務廳和清檔房、電報處。此外，總理衙門還有一個重要職能，就是選派駐外使節。自1875年起，中國開始陸續向與中國有外交關係的國家派出常駐使節，一般是侍郎銜，而且待遇十分優厚，雖然開始的時候往往幾個國家派一個使節，但畢竟標誌着中國政府走向了世界，認同了世界體系。
當清朝政府決定要向西方派遣常駐使節的時候，在滿朝文武中，居然找不到一個樂意出國的人。儘管使節的官銜相當高，待遇也十分優厚，幾乎可以隨意報銷自己的開支。最後還是代理過廣東巡撫的郭嵩燾出頭，才解決了這個問題。然而，朝廷卻對這個以講洋務聞名的官員放心不下，於是另派一個級別低得多，主要是爲了撈點好處的頑固派官僚劉錫鴻做郭的副使，到了英國之後，劉的使命就是天天就郭的行蹤向朝廷打小報告。連郭參觀英國炮臺，因風大披了一件英國人大衣，都被視爲有失國體。最後，深受西方尊敬的郭嵩燾被迫卸職回國，從此賦閒在家。回鄉的時候，家鄉湖南到處有人張貼揭貼，罵郭是賣國賊。
總理衙門雖然是一個新機構，辦理的是外交和洋務事業，但很快就染上了舊機構辦事拖沓、推諉和暮氣沉沉的陋習，跟舊機構一樣缺乏效率。
張元濟先生曾經做過總理衙門章京。在戊戌維新期間，有一天他到總理衙門的事務廳辦事，偶爾翻了一下文件，發現有一封俄皇尼古拉二世給光緒皇帝的電報，已經在事務廳裡擱了兩天，既沒有人翻譯，也沒有人彙報。最後還是張元濟找人翻譯了，上報上去。
總理衙門的附屬機構比較著名的有同文館。這是一個清政府辦的語言學校，專門學習外語，爲政府提供外語人才。同文館由4總理大臣中的一人代管，主要事務由提調和幫提調辦理，提調和幫提調由總署中的資深章京選充。同文館下設英、法、俄、德四館，開始只教外語，後來添設西方科學及法政方面的課程。同文館學制分爲三年和五年兩種，大部分教師從國外聘請。同文館開始招生時對象只限於滿人，而且希望舉人進士進館學習，但是，由於頑固派阻撓和反對，加上京城風氣不開，結果是舉人進士根本沒有來報考的，只有那些實在貧窮的滿人子弟才樂意進來學習。他們主要是衝着館內優厚的津貼和吃住待遇來的，加上學校開辦後，由於清廷的官僚作風，幾乎沒有請到什麼像樣的外國教師，學務管理也一塌糊塗，結果這個學校幾乎沒有出過什麼像樣的人才。
跟總理衙門相關的，還有一個機構必須提到，那就是總稅務司。中國原來只有廣州一地可以進出口，所以只設粵海關一個小機構，由內務府直接管理，收入歸皇家。五口通商之後，海關稅收被提上日程，但當時中國對通行於西方的關稅制度和徵收方式不瞭解。幾經周折之後，咸豐四年（1854年），在上海成立江漢關，中國人擔任司稅，請西方人幫同辦理。咸豐八年（1858年）該機構擴大爲稅務司，直接讓西方人擔任正副稅務司。接下來，總理衙門成立後設立總稅務司，算是總理衙門的附屬機構。最初設在上海，在第一任總稅務司李泰國去職後不久（1865年），遷到了北京。
總稅務司負責全國的海關稅收和海關的行政事務。設正副總稅務司各一人，均由英國人擔任。正副總稅務司之下，設稅務司4人，副稅務司6人。其組織結構分爲五科三處，即總務、機要、統計、漢文、銓敘五科。銓敘相當於人事科，負責內部的人員升遷，漢文科負責草擬對清政府的報告，處理與政府的往來文書。三處是內債基金處、造冊處和設於倫敦的駐外辦事處。
總稅務司下轄各個海關，每個海關設稅務司和副稅務司，機構有總務、秘書、會計、監察、查驗五科。在習慣上分爲內班、外班和海班，分管徵稅業務、檢查和緝私。
總稅務司和各個海關，科處主任以上的官員均由洋員擔任，漢人最高只能當到幫辦（類似於主管），各個海關雖然也設有漢人的稅務監督，但往往無事可做。總稅務司的人員升遷、組織調整，清政府一般不能過問，基本上是一個國中之國。
英國人赫德擔任總稅務司達40多年，跟朝中諸多大員，如奕訴、文祥、李鴻章等人關係甚深。他不僅負責總稅務司工作，還經常參與中國的洋務和海防事業，實際上等於是清朝政府的外籍顧問5。總稅務司雖然等於是一個承包給西方人的政府機構，儘管有很多的問題，但成立以來的成就還是非常可觀的。此前，中國的財政收入主要是田賦，海關稅收只是一個微不足道的數目，然而，到了1885年，海關關稅收入已經達到1450萬兩，佔政府的財政收入的20%強。許多中國的新興事業，諸如海軍的興辦、新式教育和洋務工業都得到關稅的支持。（參見［美］費正清編：《劍橋中國晚清史》，553～554頁。）
總的說來，雖然總理衙門是中國第一個新式的行政機構，但舊式的官場陋習很快就浸潤其中，辦事拖沓、推諉的毛病日見其重，只是因爲總是要跟洋人打交道，在外國人的逼迫和催促下，往往不得不提高一點效率。小說.中國政治制度史導論（第2版）