He was elected mayor of Hartford in 1878 in a race against Morgan Bulkeley, who would succeed Sumner as mayor and later become governor of Connecticut.
Han valdes till borgmästare i Hartford 1878 i ett val mot Morgan Bulkeley, som kom att efterträda Sumner som borgmästare och senare blev guvernör i Connecticut.