สํานักงานเลขานุการกรมได้ก่อตั้งขึ้นมาพร้อมกับกรมพัฒนาที่ดิน จากเมื่อวันที่ 22 พฤษภาคม 2506 ได้มีประกาศ ในราชกิจจานุเบกษาให้ใช้ พระราชบัญญัติ 3 ฉบับ คือ พระราชบัญญัติปรับปรุงกระทรวง ทบวง กรม พ.ศ.2506 พระราชบัญญัติ โอนกิจการบริหาร ของกระทรวง ทบวง กรม พ.ศ.2506 และพระราชบัญญัติจัดระเบียบสํานักนายกรั ฐมนตรี พ.ศ. 2506 ใช้บังคับตั้งแต่วันที่ 23 พฤษภาคม 2506 มีผลเป็นการตั้งกระทรวงพัฒนาการ แห่งชาติขึ้นใหม่โดย รวมงาน ของกระทรวงสหกรณ์ ที่มีอยู่เดิมเข้าอยู่ ใน กระทรวงใหม่นี้ด้วย โดยมี หน่วยงานในสังกัดทั้งหมด 13 หน่วยงาน ซึ่ง กรมพัฒนาที่ดิน เป็นกรมหนึ่ง ที่ได้รับการจัดตั้งใน ครั้งนี้ด้วย โดยมีหน่วยงานจํานวน 5 กอง คือ สํานักงา นเลขานุการกรม กองจําแนกดิน กองบริรักษ์ที่ดิน กองนโยบายที่ดิน และกองปฏิบัติการสนามสํารวจที่ดิน พร้อมกันนั้นได้มี ประกาศสํานักนายกรัฐมนตรีเรื่องแต่งตั้ง ข้าราชการ พลเรือน เมื่อวันที่ 23 พฤษภาคม 2506 แต่งตั้งให้ นายบรรเจิด พลางกูร ผู้เชี่ยวชาญทางดินและปุ๋ย กรมกสิกรรม ดํารงตําแหน่ง อธิบดีกรมพัฒนาที่ดิน เป็นคนแรก
1. นายวรสิทธิ์ สุคนธสิทธิ์ พ.ศ. 2506 – 2519
2. นายสกูล รัตตานนท์ พ.ศ. 2519 – 2526
3. นายจรัล สงวนพงษ์ พ.ศ. 2526 – 2537
4. นายอุทัย สมโสภณ พ.ศ. 2537 – 2538
5. นางมัทนี โอมะคุปต์ พ.ศ. 2538 – 2544
6. นายประสาท ริมชลา พ.ศ. 2544 – 2546
7. นายชวิน เจิมสุวรรณ พ.ศ. 2546 – 2546
8. นายพงศ์ปิยะ ปิยสิรานนท์ พ.ศ. 2546 – 2546
9. นางศิริอร จินดาลัทธ พ.ศ. 2546 – 2547
10. นายชวิน เจิมสุวรรณ พ.ศ. 2547 – 2549
11. นายประเสริฐ เทพนรประไพ พ.ศ. 2549 - 2551
12. นางตุลญา จงสกุล พ.ศ.2551- 2553
13. น.ส.เบญจพร ชาครานนท์ พ.ศ.2553-2554
14. น.ส.ภัทราภรณ์ โสเจยยะ พ.ย.2554 - ธ.ค.2554
15. นางเพ็ญศรี หมื่นสังข์ ธ.ค.2554 - ต.ค.2558
16. นางสาวภัทรภรณ์ โสเจยยะ ม.ค.2559 - ต.ค.2560
17. นายสุจินต์ นิลประดับแก้ว ก.ย.2560 - ต.ค.2561
18. นายฆนนาท ภู่กรรณ์ ก.ย.2561 - ปัจจุบัน