언더우드가 한국에서 행한 주된 활동은 교육선교였다. 그는 교육 자체가 선교라고 인식하고 있었다. 교육은 기독교를 믿지 않는 사람이라 할지라도 혜택을 받아야 한다고 생각했다. 그는 지원자를 가리지 않고 받아들여 학생으로 삼았다. 하지만 다수의 동료 선교사들은 기독교 복음을 전하는 것만을 선교라고 보고 교육은 간접적인 활동이라고 인식했다. 그래서 기독교인이 경영하는 학교에는 기독 신자만 입학할 수 있다고 주장하고 그렇게 실행했다.
교육이 선교다
언더우드는 애초에 교사 자격으로 입국했고 실제로 제중원에서 물리와 화학을 가르치며 활동을 시작했다. 입국 2개월 후부터는 그의 집에서 학생들을 가르치기 시작했다. 공개적으로 전도하러 나갈 수 없는 상황에서 조용히 학생들을 가르치면서 소임을 다했다. 1886년 5월부터는 정부의 허가를 받고 정식학교를 세워 가르쳤다. 최초의 학생들은 천민인 고아 2명이었다.
이 학교는 언더우드학당 예수교학당 구세학당 민노아학당 경신학당 등으로 이름이 바뀌었다. 이렇게 이름이 여러 번 바뀐 것은 우여곡절이 심했음을 알려준다. 이 학교는 1890년대 말에 동료 선교사들의 몰이해와 반대로 3년간 폐쇄되기도 했다. 그 기간에는 새문안교회에서 영신학당을 세워 교육선교 활동을 지속했다. 1910년부터 1912년까지는 경신학교의 6대 교장이 되어 직접 학교 경영에 나서기도 했다.
조선 정부는 1888년 언더우드에게 육영공원을 맡아 운영해달라고 요청했다. 하지만 그곳에서 기독교 교육은 불가능하다고 판단하고 사양했다. 이 무렵부터 그는 대학 설립을 계획하고 있었다(이에 대해서는 별도로 후술하려고 한다). 1895년 봄에는 왕비의 명으로 양반 자제를 위한 학교 설립을 요청받았다. 그는 양반층을 전도할 수 있는 좋은 기회로 여기고 수락했다. 궁궐 부근의 학교 부지와 3만 달러의 건축비가 마련됐으며, 연 2만∼3만 달러의 운영비도 책정됐다. 그러나 애석하게도 일본인의 만행으로 왕비가 처참하게 시해되면서 이 계획은 허사가 되고 말았다.
언더우드는 초등교육에 우선적으로 힘썼다. 크리스천 교사가 학생을 가르치는 것이 전도에 가장 효율적이라고 보았기 때문이었다. 그가 쏟은 교육에 대한 열정은 20세기 접어들면서 호응이 나타나기 시작했다. 1902년에는 장로교선교회에 속한 63개 학교에 845명의 남학생과 148명의 여학생이 있었으나 1909년에는 589개 학교에 1만916명의 남학생과 2511명의 여학생으로 늘어났다.
에비슨과 함께 세브란스 세우다
교육에 관한 그의 관심은 초중등교육에서 고등교육으로 이어졌다. 먼저 1893년부터 동료 선교사인 에비슨(O R Avison)의 노력에 힘입어 제중원이 선교부가 경영하는 병원이 되면서 그 기능이 정상화되었다. 에비슨은 토론토대 의과대 교수였고 토론토 시장의 주치의였다. 그는 안정된 사회적 지위에도 불구하고 언더우드의 한국 선교 요청에 부응해 내한했다.
그 후 두 사람은 상부상조하며 나란히 한국 교육계와 의료계의 선구자가 되었다. 에비슨은 1900년 미국 뉴욕에서 열린 세계선교대회에서 선교지에 여러 개의 작은 병원을 두는 것보다 하나의 큰 병원을 운영하는 것이 효율적이란 내용의 연설을 했다.
이에 호응한 스탠더드석유회사의 세브란스(L H Severance)가 거액을 기부, 1904년 병원을 신축하고 나아가 세브란스 의학교도 세우게 되었다. 이는 한국 최초의 고등교육기관이었다. 이때 동료 선교사들은 거액의 기부금은 직접적 복음 선교 활동에 써야 한다며 대형병원 설립에 반대했다. 그러나 언더우드는 힘써 에비슨을 지원했다. 언더우드는 그의 집도 아예 병원 근처로 옮겼다.
언더우드는 신학교육에도 관심을 기울였다. 그는 1890년대 이미 서울에서 신학반을 개설해 한국인 지도자들을 가르쳐왔다. 1901년부터는 평양에서 마펫 선교사 등이 주도해 장로회신학교를 개교했는데 언더우드는 교수로 참여했다. 열악한 교통 상황 속에서도 평양까지 가서 하루 7∼8시간씩 집중적으로 강의했다. 이 신학교는 1년에 3개월씩 농번기를 피해 개강해 5년 만에 졸업하는 학제로 운영됐다. 그리하여 1907년 7명의 제1회 장로회신학교 졸업생이 배출됐다. 길선주 한석진 양전백 서경조 이기풍 방기창 송린서는 그해 9월, 한국인 최초의 장로교 목사가 됐다.
한편 성경학교의 설립을 주창하던 언더우드는 1912년 피어슨성경학원이 설립되자 학교부지 마련과 건축을 위해 선교본부와 협의하며 많은 노력을 기울였다. 언더우드는 그곳에서도 가르쳤고 한때 교장으로 일했다. 이 학교는 감리교와 연합으로 운영됐다.
언더우드는 1904년 ‘조선교육협회’를 창설하고 회장이 되었다. 협회는 한국 교육 발전을 위해 교과서를 편찬하는 것을 목적으로 했다. 나아가 당시 시류 속에서 갑자기 늘어난 교회 경영의 학교들을 통솔하고 서로 연결하여 효율적인 성과를 거두려는 목적을 갖고 있었다.
신학문을 가르치기 위해 각종 술어를 만들고 용어도 통일했다. 이런 일이 크게 미비했기 때문에 여러 위원회를 조직해 해결하도록 했다. 이런 목적으로 그는 자신의 집을 사무실로 활용했는데 마치 한국 정부의 교육부와 같았다. 언더우드는 이외에도 왕립아시아학회 한국지부가 창설되자 그곳 회원으로도 활약했다.