일제강점기 신설리에서 일어난 활동 가운데 주목할 만한 것은 1923년 10월부터 1926년 초까지 있었던 고학당苦學堂의 설립이다. 고학당은 1923년 이준열李駿烈의 계획에서 시작했다. 이준열은 1889년 충남 아산군에서 출생한 사람으로 1911년 상경하여 경성제일고등보통학교와 경성공업전문학교를 졸업했다. 그리고 경성공업전문학교를 다닐 무렵인 1919년 3 · 1운동에 적극적으로 참가했던 인물이었다.
3 · 1운동 이후 경성공업전문학교 동창생인 최의창崔毅昌과 함께 대중 교육사업을 구상하던 이준열은 대구에서 대한광복회 회장이었던 박상진의 아들인 박응수로부터 사업자금을 얻게 되었다. 생각지 못한 돈을 얻게 된 이준열은 곧바로 상경하여 『조선일보』 사장인 남궁억을 만났다. 남궁억과 논의한 끝에 이준열은 어렵게 공부하는 학생들을 위한 교육기관인 고학당 설립 계획을 세웠다. 이준열은 고학당 설립 취지에 대해 “학생이 공부하기 힘든 때이니, 전부 경비로 삼아 학교를 설립하고, 고학생을 수학하고 생활하게 하는 것”이라 밝혔다.
그러나 고학당의 개교과정은 순탄치 않았다. 종로경찰서는 고학당 설립 자금의 일부가 대한광복회 회장 박상진의 운동자금이었다는 것을 포착하고 이것을 문제 삼았다. 곧바로 고학당 설립 자금 일체를 압수하고 설립 계획을 세웠던 이준열을 조사했다. 설립 자금 일체를 빼앗긴 이준열은 자신의 가옥을 처분해 학교 설립 경비를 마련했고 한일은행 소유의 건물을 임대해 교사로 삼았다. 이준열의 희생으로 간신히 고학당은 1923년 5월 2일 개교할 수 있었다.