До сих пор нет определенного ответа на вопрос о происхождении слова "Пенза". Одни предполагают, что название реки Пензы, от которого получила название крепость, а затем крепость-город, - татарское. Об этом свидетельствует хотя бы тот факт, что главный приток Пензы - река Ардым, а "Ардым" - слово татарского происхождения. Нельзя не учитывать также того обстоятельства, что еще в 14 веке севернее Пензы образовалось татарское ханство со столицей Мохлис. До завоевания Иваном IV Казани большая часть территории нынешней Пензенской области входила в состав Казанского ханства. Владычеством татар объясняются названия многих поселений и рек: Иембыр (г. Белинский), Тарханы (с. Лермонтово), Кучук (с. Кучки), Арбеково, Беково, Усть-Уза, Уза, Рамзай, Инза, Усть-Инза и т.д. Однако имеется и другое мнение. "Пенза" - слово мордовского языка.

Во второй половине 17 века Пенза была небольшой по размерам. Кремль представлял собой довольно правильный квадрат, разместившийся над обрывом реки Пензы, на месте, где шумел вековой лес и где в настоящее время находится сквер имени М. Ю. Лермонтова. Описание пензенской крепости (города), составленное стольником, князем Степаном Путятиным в 1703 году, дает сведения о ее первоначальном облике: " . деревянный сосновый, рубленый в одну стену, четвероугольный, стены ветхи, в трех местах огнили и обвалились, и окровля обвалилась тоже. По стенам и наугольных 8 башен, в том числе 2 проезжие, 2 тайника с колодези пообваливались. Мерой городовой стены с одну сторону 113 сажен, з другую сторону 103 сажени, с третью сторону 106 сажен, с четвертую сторону 109 сажен. Вышина городовой стены и с облани 2 сажени с полуаршином". Столетние дубовые деревья были срублены, а из их толстых стволов по высокому земляному валу, окружавшему кремль, сооружены бревенчатые стены. До сих пор сохранились остатки земляного вала. Вал был окаймлен рвом. Дозорные башни для часовых были сооружены по обыкновению того времени в клетку с шатровыми крышами и разными приспособлениями для обороны. На башнях дежурили вооруженные люди. Они зорко следили за тем, чтобы кочевники не появились из-за Узинского стана (со стороны села Усть-Уза, находящегося в 35 км от Пензы и Ахун), пробираясь обычно по Сурской (Ногайской) долине. Внутри крепости были построены деревянная церковь, рядом с которой находилось кладбище, воеводский дом, приказная изба, помещения для церковного притча и гарнизона, сторожки для "воротников" (часовых у ворот) и очередного караула, склады для провианта и военных припасов. Западной стороной крепость примыкала к лесу, расположенному на вершине высокой горы. К югу от крепостной стены почти до нынешней Тамбовской улицы (раннее называлась Тамбовская застава) шли слободы пеших казаков, носившие названия Верхняя Пешая, Средняя Пешая и Нижняя Пешая. Эти слободы были защищены валом. В слободах пеших казаков насчитывалось 110 дворов. У юго- восточного угла крепости по крутому скату к реке располагалась Пушкарская слобода с 86 дворами конных казаков. По северному склону горы разместился "Большой посад". Он состоял из нескольких улиц, где жили дьяки, подъячие, ремесленники и торговцы, а также "переведенцы на вечное жилье за денежное и другое воровское дело". На севере посад и слоьоды примыкали к стене, начинавшейся от земляного вала, который доходил до русской так называемой Пензятской слободы (ныне село Бессоновка).

Через Пензу в 16-17 в.в. проходили оживленные гужевые тракты. Главным являлся Большой Московский тракт, проезжая дорога которого имела до 30 колей. Этот стариннейший тракт соединял прикаспийские степи с Москвой и шел через Пензу, Саранск, Темников, Кадом, Касимов. Большой Московский тракт или Большая Московская дорога называлась также Посольской дорогой, потому что по ней проезжали послы из Москвы через Пензу, Астрахань в Ногайскую орду. Поэтому Большая Московская дорога существовала еще до возникновения Пензы как города. До наших дней сохранилось название улицы Большая Дорога. На Московской улице, там, где проходит железнодорожный вал, была Московская застава, через которую шли гужевые обозы с солью и другими товарами по нынешней широкой улице Большая Дорога.