南谯的名字源于战国时期的一个诸侯国——谯国，位于今天的安徽省阜阳市太和县一带。

南谯在三国时期是蜀汉的一个重要州郡，也是关中地区的屏障。

因为在汉朝时期南谯属于扶风郡，所以得名南谯。