ในปี พ.ศ. 2418 พระบาทสมเด็จพระจุลจอมเกล้าเจ้าอยู่หัว รัชกาลที่ 5 ทรงพระกรุณาโปรดเกล้าฯ ให้ปรับปรุงระบบบริหารราชการแผ่นดิน โดยตั้งกรมต่าง ๆ ขึ้นรับผิดชอบบริหารราชการรวม 12 กรม แทนการปกครองแบบจตุสดมภ์ ซึ่งเคยใช้มาแต่โบราณ โดยมีกรมพระคลังมหาสมบัติเป็นกรม 1 ใน 12 กรม พร้อมกับโปรดเกล้าฯ ให้ตรา "พระราชบัญญัติสำหรับกรมพระคลังมหาสมบัติแลว่าด้วยกรมต่าง ๆ ซึ่งจะเบิกเงินส่งเงิน " เพื่อรับผิดชอบว่าการบรรดาภาษีอากร และเงินที่จะรับจะจ่ายในแผ่นดินทั้งสิ้น และบัญญัติกำหนดอำนาจหน้าที่ของปลัดบาญชีกลางในหมวดมาตราที่ 3 ของพระราชบัญญัติดังกล่าว สำหรับเป็นพนักงานที่จะว่าภาษีอากรและรักษาสมุดบัญชีเงินของแผ่นดิน

           ปี พ.ศ. 2433 กรมพระคลังมหาสมบัติได้รับการยกฐานะเป็นกระทรวงตามพระราชบัญญัติพระธรรมนูญการปกครองแผ่นดินกิจการบ้านเมืองในระยะนั้นก็เจริญก้าวหน้ามากขึ้น จึงทรงพระกรุณาโปรดเกล้าฯ ให้ตราพระราชบัญญัติพระธรรมนูญหน้าที่ราชการในกระทรวงพระคลังมหาสมบัติขึ้นเมื่อวันที่ 7 ตุลาคม ร.ศ.109 (พ.ศ.2433) กำหนดให้กระทรวงพระคลังมหาสมบัติมีหน้าที่สำหรับรับ สำหรับจ่ายและรักษาเงินแผ่นดินทั้งสรรพราชสมบัติพัสดุทั้งปวงกับถือบัญชีพระราชทรัพย์สำหรับแผ่นดินทั้งสิ้น และเก็บภาษีอากรเงินขึ้นแผ่นดินตลอดทั่วพระราชอาณาจักรเสนาบดีรับผิดชอบบังคับราชการในกระทรวงสิทธิขาดนับเป็นกรมเจ้ากระทรวงและกรมขึ้น รวมเป็นกรมใหญ่ 13 กรม

           กรมสารบาญชี เป็นกรมเจ้ากระทรวงกรมหนึ่ง มีหน้าที่สำหรับจ่ายเงินแผ่นดินและถือสารบาญชีพระราชทรัพย์ทั้งสิ้น โดยผลแห่งพระราชบัญญัติพระธรรมนูญหน้าที่ราชการในกระทรวงพระคลังมหาสมบัติ วันที่ 7 ตุลาคม 2433 จึงนับเป็นวันก่อตั้งกรม และในปีเดียวกันนั้น พระบาทสมเด็จพระจุลจอมเกล้าเจ้าอยู่หัว ทรงพระราชดำริว่า พระราชบัญญัติพระธรรมนูญกำหนดหน้าที่ราชการในกระทรวงพระคลังมหาสมบัติกำหนดหน้าที่และแบ่งส่วนราชการในกรมสารบัญชีไว้กว้าง ๆ มิได้แยกออกเป็นกองให้เป็นสัดส่วนเพียงพอกับประมาณงานที่ขยายตัวเพิ่มขึ้น จึงโปรดเกล้าฯ ให้ตราพระราชบัญญัติกรมสารบาญชีขึ้นเมื่อวันที่ 13 ธันวาคม ร.ศ. 109 (พ.ศ. 2433) กำหนดหน้าที่และแบ่งกรมสารบาญชีออกเป็น 3 กอง คือ กองบาญชีกลาง กองรับ และกองจ่าย กับที่นายเวร 4 คือ เวรรับ เวรจ่าย เวรเกณฑ ์ และเวรบาญชี

           ปี พ.ศ. 2458 พระบาทสมเด็จพระมงกุฎเกล้าเจ้าอยู่หัว รัชกาลที่ 6 โปรดเกล้าฯ ได้กำหนดหน้าที่ใหม่และให้ชื่อ กรมบาญชีกลาง เมื่อวันที่ 18 กันยายน พ.ศ.2458 จนถึงสมัยเปลี่ยนแปลงการปกครอง จากระบบสมบูรณาญาสิทธิราชย์เป็นระบบรัฐธรรมนูญ คณะกรรมการราษฎรจึงปรับปรุงกระทรวง ทบวง กรมต่าง ๆ และประกาศพระราชกฤษฎีกาจัดวางระเบียบกรมในกระทรวงการคลัง เมื่อวันที่ 23 พฤษภาคม พ.ศ.2476 ระบุนามกรมบาญชีกลางเป็น "กรมบัญชีกลาง" ตั้งแต่บัดนั้นจนถึง พ.ศ. 2475 ซึ่งเป็นปีที่มีการเปลี่ยนแปลงระบอบการปกครอง คณะกรรมการราษฎรได้ปรับปรุงงานของกระทรวง ทบวง กรมต่าง ๆ ใหม่ สำหรับงานในหน้าที่ของกรมบัญชีกลางนั้น มีพระราชกฤษฎีกาการจัดวางระเบียบกรมในกระทรวงการคลัง เปลี่ยนชื่อเป็นกรมบัญชีกลาง แบ่งส่วนราชการ ของกรมเป็นราชการบริหารส่วนกลางและส่วนภูมิภาค รับผิดชอบตรวจสอบควบคุมการับจ่ายเงินของส่วนราชการต่าง ๆ ทั้งในส่วนกลางและส่วนภูมิภาค โดยแบ่งราชการบริหารส่วนกลางออกเป็น 4 กอง คือ กองกลาง กองเงินเดือน กองค่าใช้สอยและการจร และกองประมวลบัญชี เพื่อรับผิดชอบงานหลักของกรมที่เหลืออยู่ในขณะนั้น คือ การควบคุมงบประมาณ การตรวจจ่ายเงินประเภทต่าง ๆ รวมทั้งควบคุมการรับเงินรายได้แผ่นดิน การทำบัญชีและรายงาน ตลอดจนการให้บริการด้านแนะนำและวางรูปบัญชีแก่ส่วนราชการ

           สำหรับราชการบริหารส่วนภูมิภาค ตั้งคลังจังหวัดรับผิดชอบควบคุมการรับและจ่ายเงิน ตลอดจนทำบัญชีและรายงานต่าง ๆ เสนอกรม และในปี พ.ศ. 2516 ได้เปลี่ยนชื่อคลังจังหวัด เป็น "สำนักงานคลังจังหวัด"

           “คลังจังหวัดกระบี่” จัดตั้งขึ้นใน พ.ศ. 2443 ที่ศาลากลางจังหวัดหลังแรก   ปี พ.ศ. 2474 – 2475 ย้ายไปอยู่ที่ศาลากลางจังหวัดหลังที่สอง   ปี พ.ศ. 2476 – 2556 ย้ายไปอยู่ที่ศาลากลางจังหวัดหลังที่สาม เพื่อควบคุมการรับและจ่ายเงินทั่วแผ่นดิน สนองความจำเป็นในการบริหารการใช้จ่ายเงินแผ่นดินที่สูงขึ้นของรัฐบาล ตุลาคม พ.ศ. 2556 ย้ายมาศาลากลางจังหวัด (หลังใหม่) ในสมัยของนายประสิทธิ์ โอสถานนท์ เป็นผู้ว่าราชการจังหวัดกระบี่ และได้ปรับปรุงสำนักงานคลังจังหวัดกระบี่ จัดสร้างตามสัญญาเลขที่ 119/2559 ลงวันที่ 22 มกราคม 2559   โดยบริษัท ไตรมิตรเอ็นจิเนียริ่งแอนด์คอนสตรัคชั่น จำกัด วงเงินงบประมาณ 2,678,000.00 บาท ลงนามในสัญญาวันที่ 22 มกราคม 2559 ระยะเวลาสิ้นสุดวันที่ 20 มิถุนายน 2559 สำนักงานคลังจังหวัดกระบี่สังกัดสำนักงานคลังเขต 8 จังหวัดสุราษฎร์ธานี