太元18年(公元393年)，陶淵明時年已經29歲，受江洲刺史王凝之之聘，擔任了洲府別駕祭酒。當時的尋陽，機構混亂，吏治腐敗，王凝之年老昏庸，不問政事，而且信奉五鬥米道。他聘用陶淵明的用意並非看重他的才能，以治理好江洲的事務，而是將他當成一塊金字招牌，想利用他的聲名以抬高自己的威望，從而博得求賢若渴的美譽。所以，陶淵明名義上雖然是洲府的首席幕僚，實際並未握有實權，更使他不能容忍的是，王凝之還誘迫他參加五鬥米道，陶淵明執意不從，所以這次在江洲祭酒的任上，他隻勉強度過了一個多月，就自願離任，結束了他生平第一次短暫的仕宦生涯。
晉安帝隆安元年(公元397年)，龐遵帶著荊洲刺史桓玄的親筆信，來到上京裏，禮聘淵明到桓玄軍中任職。這次淵明距離初次出仕已有四個年頭，這些年來，他可歎自己命運坎坷，遭逢昏朝，奸臣當道，得不到展示才能的機會，而且家裏境況也是一日不如一日，自從續弦翟氏進門以後，他那傷痛累累的身心才得到了慰藉，而今他不忍心讓翟氏也去重蹈陳氏的覆轍，跟著自己去挨窮受苦。在龐遵的再三勸說下，他帶著一線希望，接受了桓玄的禮聘,在尋陽江口乘上龐遵來時所乘的官船，逆著滾滾東流而去的江水而上，前往桓玄的駐地，開始了他人生旅途中新的曆程。在荊洲府地江陵，陶淵明接受了桓玄任命他為軍府參軍，並在這裏供職一年多時間。後來由於上京麵見堂叔，通過分析桓玄的篡權野心,使他認識到屈身桓玄，有悖他複興晉室，重正朝綱的願望，而恰在這時，又傳來了老母病逝的噩耗，於是他遞上辭呈，迅即回到了家鄉上京裏，結束了這段仕宦生涯。
元興三年(公元404年)，建威將軍、江洲刺史劉敬宣突然來訪，他帶來了駐紮建康城北石頭城的鎮軍將軍、南徐洲刺史、八洲都督劉裕的親筆信，禮聘陶淵明到京就職。兩天以後，淵明告別了嬌妻弱子，登上劉敬宣專門為他派遣的官船,離開上京舊居，開始了他的又一次仕宦生涯。在擔任了幾個月鎮軍參軍之後，他又被派回到尋陽，擔任了劉敬宣的建威參軍，成了劉敬宣可以信任和出謀劃策的得力助手，時間有2年多。晉安帝義熙元年正月，劉裕在徹底平定桓玄叛亂之後，迎晉安帝回到京都複位，按照慣例，各個地區的軍政首腦都必須派遣使者攜帶表章和禮品前往京都慶賀，劉敬宣將這個任務交給了淵明，同時還交給他另一項重要使命，為自己上表請求解職，以避開政敵劉毅的鋒芒。淵明接受這個任務後,日夜兼程，來到京都，呈送了表章賀禮和劉敬宣的奏折，並再一次拜見了堂叔,表露了自己厭棄官場生活，堅持回鄉隱居的想法，堂叔陶夔在稍稍思索後對他說：“你再去歸隱田園，固然很好，可是你想過沒有，你年齡已大，又不善理財、孩子尚小，家境貧困，這往後的生活又該如何去維持？我的看法你不如走一條中隱之路”。何為中隱？指的是做地方上的小官。淵明思索再三，在麵見劉裕時提出了自己的要求。晉安帝義熙元年六月，朝廷特使來到尋陽，宣讀免去劉敬宣江洲刺史，等待交割的聖旨。接著，特使又向劉敬宣遞交了一封劉裕給他的私人信件，要劉敬宣在離任前任命淵明為彭澤縣令。一個月後，淵明辭別家人,來到了彭澤縣的任上，做了八十多天的縣令，後來由於督郵發難，憤然掛印彭澤，離開了官場，真正走上了回鄉隱居之路。
彭澤是個在藉人口隻有2萬多人的小縣，這裏水網稠密，沼澤湖泊星羅棋布，氣溫冷熱適中，土地肥沃，非常適宜農作物的生長。因此物產豐富,各種資源繁多，人民的生活也較為安定。陶淵明來到彭澤任職，開始心裏是很滿意的，因為這裏離家不遠，隻要從彭澤乘船，僅二天時間就可抵達上京裏附近的內河渡口；按照當時一條不成文的規定，每個縣令可以擁有三百畝公田收支的支配權，收入也歸縣令所有，足以維持家裏生活。同時,憑他的才能，治理一個小小彭澤縣，他也是躊躇滿誌,信心十足的。他憧憬自己到了彭澤縣，一定要體恤民情，愛護人民，盡自己的所能，使百姓能夠安居樂業，生活幸福。
當時彭澤縣，自從孝武帝太元年間起，由於實行了每個成年男丁收租米五石的口稅製以後，出現了兩種現象，一是一般農民的負擔大大增加，農民們不願意更多的擁有土地。一些荒蕪的山林沼澤地也無人願意開墾，甚至有的農戶還將一些貧瘠的土地丟棄，拋荒不種。二是隱匿人口情況嚴重，出現了在藉人口遠遠少於實際人口的怪現象，導致了政府稅收減少，官府負擔轉嫁到了普通農民身上。麵臨這種情況，陶淵明上任後所要做的第一件事就是清查戶口。
清查戶口在彭澤縣已有十幾年沒有開展過了，原因是前幾任的地方官員，有的不深入民間探訪民情，對其中內情不甚了解,故而熟視無睹，聽之任之。有的是看出了問題，也抓了，但由於種種幹擾而中途夭折。其主要幹擾者有兩種人，一是財大氣粗的大地主，因為有錢，就用錢賄賂清查的衙役，幫他們隱瞞人口；二是當地的土豪劣紳，或與執法人員胡攪蠻纏，使其無法清查，或利用家族中有人在洲衙做官，以勢壓人，使清查人員不敢進行正常工作，隻是象征性的登記完事。例如城北的何泰，有良田數百頃，家中成年奴仆有幾百人。因為何泰的弟弟何隆長期擔任尋陽郡的郡丞，是太守的副職，所以曆任縣令都對何家格外優待，隻登記在藉男丁20名，與實際數字懸殊很大。所以其它大地主也效而仿之，清查人口工作隻能半途而廢。而陶淵明在這次清查人口工作中，卻是“擒賊先擒王”，敢啃硬骨頭，第一下子就從何家開刀，他通過突然拜會何泰,帶領衙役進何府，當場責成何泰管家拿出花名冊，逐一核對，共查出何泰家隱瞞成年男丁200餘名，一舉震動了全縣，僅半個月的時間就清查出被財主豪紳隱瞞的成年男丁3000多名。初戰告捷之後，他又布告周知各地，宣布從次年開始，每個成年男丁所繳納的稅米由原來的五石減少為三石，縣民齊聲歡呼，紛紛讚揚新縣令的英明和愛民如子的美德。
而陶淵明就因為這次清查戶口，得罪了尋陽郡丞何隆。何隆為出胸中一口惡氣，便設計利用督郵劉雲的手去懲戒一下陶淵明，督郵是郡中的屬官，負責具體監察和考核郡中所屬各縣官員的政績，對各縣官員的升降任免有著直接的影響。尋陽郡的督郵劉雲，以凶狠貪婪聞名遠近，每年冬夏二季，他都要巡視各縣，稱作行部，而每次行部，都是滿載而歸。劉雲受何隆之命，依計來到彭澤，他事先沒有行文通知，而是突然闖進縣衙，以便給陶淵明一個措手不及。恰在這時，陶淵明正和幾個幕僚喝酒閑聊，聽說何雲駕到，立即撤席出迎，不料劉雲卻怒氣衝衝，不僅不還禮,還喝斥道：“本官行部來到貴縣，你等衣冠不整，形態懶散，是何道理？目前國家正是多事之秋，你等不思國恩，勵精圖治，為民造福，反而白日聚眾豪飲，不理政事，朝庭要你等濫官汙吏何用？”說罷揚長而去，給了陶淵明一個下馬威。劉雲走後，淵明問眾“督郵今日發怒，不知究竟為了何事？”一幕僚答：“督郵一向貪婪，照卑職看來，他不過是借題發揮，索要賄賂罷了”。淵明聽後憤然道：“我豈能為五鬥米折腰，向鄉裏小人！索要賄賂，他是找錯人了”。
恰在這天的晚上,武昌來人報喪。陶淵明的妹妹不幸突發疾病去世，淵明心中頓時升起了一種莫名的悲哀。他回想白天所發生的一切，以及官場爾虞我詐的黑暗現狀，又進而聯想多年以來自己所追求的歸隱田園的願望始終未能真正實現，不由得使他最終下定了退出官場、歸隱田園的決心，遂即吩咐陶興到城外找來船隻，自己收拾了一下行李，又獨自一人踏進了縣衙大門，望著“明鏡高懸”的金匾，冷笑了幾聲，接著將大印放在案桌上,大步走出了縣衙，向著江邊碼頭走去，乘著溶溶月色，與陶興乘船回到了上京裏。
池洲地處長江南岸，自古是“千載詩人地，蓮花佛國鄉”。陶淵明曾兩次駐足這裏，留下了錢溪賦詩和東流藝菊的千古佳話。