作为北京的乡土树种，国槐最早出现在北京西郊山区，如房山、怀柔、密云等地区。清朝开始在城区内人工种植。

　　现今的国槐与北京城大约有千余年的历史渊源。在北京北海公园画舫斋古柯亭院内，有一棵“唐槐”，树高15米，干周长达5.3米，唐代种植，至今已1300多年，是北京城区树龄最大的古槐。为纪念这棵唐槐，清乾隆皇帝下旨盖了古柯亭，有《御制古槐诗》为证，诗中云：“庭宇老槐下，因之名古柯。若寻嘉树传，当赋角弓歌。”四九城内，许多老胡同里也可以看到百姓们用栅栏围住的唐槐。现今的国槐是唐槐的变种之一。

　　在京郊，很多村庄也分布着古槐，万寿寺门前的元代“万寿槐”、香山门前小桥南的金代“香山槐”、卧佛寺西和樱桃沟交接处的古柯院的“明槐”、京西戒台寺山门里的“辽槐”、延庆县八达岭林场门前小桥旁的“元槐”、怀柔柏崖厂村口河畔(雁栖湖上游)的“柏崖厂汉槐”(北京的“古槐之最”)、密云燕落村的“槐抱榆”、通州区皇木厂的“元槐”、房山紫草务乡张庄村的“唐槐”、大石窝村的“明槐”、弘恩寺的明代“紫藤寄槐”、上方山上的“槐树王”等，都是北京地区的名槐。

　　在香山脚下，曹雪芹故居门前东边的古槐就是著名的“歪脖槐”，因此香山一带有“门前古槐歪脖树，小桥流水野芹麻”的小曲。故居北边还有一棵龙王槐。另外，故宫中的紫禁十八槐、龙爪槐，也是著名的古槐代表。

　　自元代建大都城起，国槐就一直是北京行道树中的佼佼者，到了明清两代北京的行道树基本上都为国槐，现在北京二环路以内的正义路、东交民巷、西交民巷、南池子、北池子、南长街、北长街等保存最古老的行道树多为1935年至1938年期间栽植的。

　　上世纪80年代中期，北京城里开始大规模种植国槐，很多北京市民都曾参与这个种植行动中去，因此看到国槐，就更有一番亲切之感。