远古人类的足迹，随着时代推移而遍及今日的南京。东郊汤山出土了距今约30万～50万年的“南京猿人”完整的头骨化石；溧水县神仙洞发现了距今l万年以前的“溧水人”遗址。
距今6000多年前，南京鼓楼岗西北侧的北阴阳营和玄武湖畔、长江岸边开始出现新石器时代的原始村落，聚居着南京的初民。3000多年前，沿江河地带，已经相当密集地分布着青铜时代的居民聚落，以秦淮河中游的湖熟镇一带较为集中，称为“湖熟文化” 。
公元前472年，越王勾践灭吴后，在今中华门西南侧建城，开创了南京的城垣史。公元前333年，楚威王大败越国，于石头山筑城置金陵邑，金陵之称亦因此而得名。秦汉时期，南京地区随经济发展而建县渐多。汉末三国鼎立之初，公元229年，孙权在武昌称帝，9月即迁都于此，称作建业，为南京建都之始。公元317年，晋琅琊王司马睿建立东晋政权，以建康(今南京)为国都，这是南京城市发展史上的第一个高峰时期。此后，南朝宋、齐、梁、陈相继定都建康，史称“六代豪华”，南京由此有“六朝古都”的美称。公元937年，南京成为南唐的首都，称为江宁府，这是南京城市发展史上的第二个高峰期。1368年，朱元璋在应天府称帝，建立明朝，以“应天”为“南京”，第一次成为一统天下的全国首都。由此，南京城市发展进入又一高峰期，南京都城为当时世界第一大城。1853年，太平天国定都于此，改名天京。1912年元旦，中华民国成立，孙中山在南京就任中华民国临时大总统。1927年，国民政府定南京为首都。
“金陵自古帝王州”，从中古到近现代，继孙吴之后，东晋、宋、齐、梁、陈、南唐、明朝、太平天国以及中华民国先后定都南京，共455年，史称“十代故都”，留下了丰富的文化文化遗产。
1949年4月23日南京解放，成为中央人民政府直辖市。1952年9月，南京为江苏省省辖市。1953年1月1日，江苏省人民政府成立，南京为江苏省省会。1994年2月，经国务院同意，中央机构编制委员会明确南京的行政级别为副省级。