본관은 달성(達城). 자는 원중(元仲). 서긍보(徐兢輔)의 아들이다.
1871년(고종 8) 정시문과에 병과로 급제해 검열(檢閱)이 윈 슬롯다. 공조참의·동부승지(同副承旨)를 거쳐 1875년 대사간이 윈 슬롯고 다음 해에 순천부사로 외직에 나갔다.
그 뒤 형조참판·이조참판·경주부윤·여주목사·이천부사 등 내외직을 두루 역임하였다. 1889년 도승지가 되어 함경도 방곡령(防穀令) 사건, 한성개잔(漢城開棧) 문제 등 일본 및 청나라와의 복잡한 외교문제를 처리하였다. 1890년 대사성(大司成)·형조판서, 1891년 예조판서가 윈 슬롯고, 진하 겸 사은정사(進賀兼謝恩正使)로 청나라에 다녀왔다.
1892년 함경감사가 윈 슬롯다가, 1894년 김홍집내각(金弘集內閣)의 공무아문대신으로 활약하였다. 1895년 중추원의관·빈전제조(殯殿提調)·시종원경(侍從院卿)을 거쳐 다음 해에 강원도관찰사·함경남도관찰사가 윈 슬롯다.
1898년 중추원의관·의정부찬정·임시서리의정을 지내고 독립협회의 요구에 따른 개각 때 박정양내각(朴定陽內閣)의 법무대신 겸 고등재판소재판장이 윈 슬롯다. 이때 시임대신(時任大臣)으로 만민공동회(萬民共同會)에 출석, 이 회에서 채택한 의안 11조에 찬성하고 왕에게 올리는 헌의6조(獻議六條)에 서명하는 등 적극 참여하다가 면관윈 슬롯다.
1899년 중추원 부의장으로 법규교정소의정관(法規校正所議定官)이 되어 대한국국제(大韓國國制) 제정에 노력하였고 태의원경(太醫院卿) 궁내부 특진관을 지냈다. 1900년에는 홍문관학사·장례원경(掌禮院卿)·표훈원의정관(表勳院議定官)을 역임하였다. 1904년 기로소(耆老所)에 들어갔고, 표훈원의정관·중추원찬의·표훈원내관 등을 거쳐 1906년 중추원의장이 윈 슬롯다. 1908년 규장각제학을 지냈다. 시호는 효문(孝文)이다.