본관은 안동(安東). 자는 중원(仲遠), 호는 해사(海士). 판서 김온순(金蘊淳)의 아들이다. 1862년 정시문과에 병과로 급제하였다. 이후 예문관검열에서 홍문관제학 등을 거쳐 1883년 전라도관찰사가 되었다. 1888년 이후 공조·형조·이조·예조 등 각 판서직을 두루 거쳤다.
1894년 개화파정권 성립 이후 관직에서 물러났다가 1898년 궁내부특진관으로 다시 등용되어 1900년에는 의정부참정, 1902년에는 탁지부대신이 되었다. 1883년 전라감사로 있을 때에는 독직혐의로 탄핵을 받기도 하였으나 곧 방면되었다.
의정부참정으로 있을 때인 1900년에는 친일파이며 을미사변 때의 군부대신 안경수(安駉壽)를 규탄하는 상소를 올리기도 하였으며, 일본에 도망가 있는 유길준(兪吉濬) 등을 체포해와서 처벌할 것도 주장하였다.
또, 1905년에는 탁지부 고문으로 온 일본인 메카다[目賀田種太郎]가 이미 탁지부대신에서 물러나 있는 자신에게 지난날의 재정운용에 관하여 문책을 해오자, 이는 외국인이 내국인을 강핍하는 것이라고 항의하는 상소를 올리기도 하였다. 서예에 뛰어났고 필체는 미남궁체(米南宮體)로서, 유작으로는 사공도(司空圖)의 「시품(詩品)」 중 제1항을 쓴 「시품」이 성균관대학교박물관에 소장되어 있고, 『근역서화징』에도 글씨가 전한다.
그러나 1910년 일제의 국권침탈 때에는 일제에 의하여 자작이 수여되었다. 또한 1911년 한일합병에 대한 공로로 일본정부로부터 5만원의 은사공채를 수령하였고, 1912년에는 한국병합기념장을 받기도 하였으며, 그의 사후인 1919년 11월에 종3위로 추서되기도 하였다.

출처/한국민족문화대백과, 한국학중앙연구원