Năm 1883, thực dân Pháp chiếm hoàn toàn Hà Nội và Công sứ Hà Nội là Bonnal lên kế hoạch kiến thiết khu vực xung quanh Hồ Gươm, đặc biệt là phía đông để xây công sở phục vụ cho việc thống trị lâu dài của thực dân Pháp.
Con đường quan trọng từ khu vực Đồn Thủy chạy qua Tràng Tiền (bao gồm cả Hàng Khay ngày nay) - Tràng Thi ra Cửa Nam vào Thành được cải tạo mở rộng, nhất là Tràng Tiền. Hai bên đường dần mọc lên những ngôi nhà xây thay cho nhà lá. Cuối năm 1885, Tràng Tiền là phố đầu tiên được lát vỉa hè và cũng là phố đầu tiên trồng hàng phượng hai bên mở đầu cho việc trồng cây trên hè phố sau đó.
Hai hàng phượng trồng trên hè phố Tràng Tiền lớn nhanh và hoa nở rực vào mùa hè tạo cảm giác thích thú cho nhiều người Việt Nam thì người Pháp sống ở phố này bắt đầu sinh sự. Họ kêu lên tòa đốc lý là cành và thân cây đã che lấp cửa hàng khiến họ không buôn bán được, họ cũng la lối những con ve sầu bám trên cây phượng kêu rầm rĩ vào mùa hè làm họ không thể ngủ được. Rồi họ cho rằng phượng là nơi trú ngụ của muỗi, nguyên nhân gây ra bệnh sốt rét cho người Châu Âu, thế là chính quyền thành phố ra lệnh chặt 2 hàng phượng.
Vậy trước đó Hà Nội có cây xanh trên phố không? Thời kỳ này diện tích Hà Nội rất nhỏ, các phố buôn bán chật chội, cửa hàng chen chúc nhau, không có vỉa hè, không có rãnh thoát nước nên lầy lội vào mùa mưa. Không những vậy, nhiều hồ ao còn nằm lẫn trong khu dân cư và cây cối do dân trồng chỉ có ở những chỗ đất rộng, xa phố buôn bán. Nhiều cây nhất là các thôn Cựu Lâu, Phúc Tô... ở phía tây Hồ Gươm với những cây bản địa quen thuộc như: đa, bàng, phượng, mít... Cây cao tuổi nhất được cho là cây đa (nay vẫn còn nằm trong khuôn viên của Báo Nhân Dân). Khi Tiến sỹ Vũ Tông Phan lập Trường Hồ Đình năm 1835 thì cây đa này đã vững chắc, nghĩa là nó đã được trồng trước đó. Kiến trúc sư Tạ Mỹ Duật lúc còn sống đã xếp cây đa này vào loại "số 1 Đông Dương". Một cây đa khác cũng có tuổi đời không thua kém cây đa "số 1 Đông Dương" là cây đa ở đền Ngọc Sơn. Trận bão năm 1977 đã làm cây đa này bật rễ. Ngay sau đó người ta đã dùng tời kéo thân nó đứng dậy rồi chống cột và cho đến hôm nay, cây đa vẫn sống và tỏa bóng. Con đường quanh Hồ Gươm khánh thành vào đầu năm 1893 đã lấy mất sân đền Bà Kiệu nhưng người ta vẫn để lại cây đa. Một cây đa nữa cũng vào hàng cao niên là cây đa ở 87 phố Hàng Gai. Nhà nghiên cứu Nguyễn Vinh Phúc cho rằng đó là cây đa Cô Quyền vì cạnh cây đa có quán nước của một người đàn bà tên Quyền. Trong cuốn "Nhớ gì ghi nấy" nhà văn Nguyễn Công Hoan thì nói đó là cây đa Cu Quyền vì Quyền chuyên làm thuê, tối ngủ dưới gốc cây. Còn nhà nghiên cứu Nguyễn Văn Uẩn lại gọi là cây đa Cửa Quyền bởi cây đa này gần Phủ Doãn (chỗ dân nghỉ ngơi khi vào cửa quan). Đối diện với siêu thị Intimex có một cây muỗm, khi người ta làm đường quanh hồ, Công sứ Bonnal đã cho giữ lại cây này.
Khi Hà Nội trở thành nhượng địa của nước Pháp năm 1888 thì kế hoạch mở rộng và xây dựng thành phố theo kiểu Châu Âu được triển khai nhanh hơn. Để đáp ứng đủ giống cây xanh trồng trên phố, trong năm 1888, một số nhà thực vật người Pháp đã thành lập vườn Bách thảo để trồng cây và nuôi chim thú ngay sát làng Ngọc Hà. Trong bản đồ người Pháp vẽ năm 1890 ghi là Jardin d'essal (Vườn thí nghiệm thực vật). Khi mới hình thành, vườn có diện tích 33ha, đất đai không bằng phẳng, có gò núi do dồn đất lên cao, có ao hồ. Nhiều cây cối như: tre, chuối, các cây leo được chặt phá để mở lối đi lại. Vườn được chia làm 2 khu: Khu cao làm vườn Bách Thảo, khu thấp làm vườn ươm (sau tách riêng thành vườn ươm Laforge ở đầu phố Thụy Khuê). Laforge ươm các giống cây nhập từ Châu Phi, Châu Mỹ và Châu Âu. Khi cây ở đây lớn lên tỏa bóng mát thì một số học sinh Trường Bưởi (Chu Văn An hiện nay) nhà ở xa, xe đạp không có, buổi trưa thường vào đây ngồi dưới bóng cây ôn bài. Còn những năm 1960, Bách thảo là nơi học về các loài thảo mộc của sinh viên trường dược.
Năm 1902, Hà Nội trở thành trung tâm của Đông Dương thì người ta càng chú ý đến bộ mặt đô thị. Ở khu vực phố cổ, chính quyền ra quyết định cải tạo đường, làm vỉa hè nhưng vì chiều ngang quá hẹp nên không thể trồng cây. Khu phố mới (hay còn gọi là khu phố Pháp) ở phía nam Hồ Gươm hình thành vào đầu thế kỷ XX, chính quyền cho đánh các cây đã ươm ở Laforge ra trồng trên hè các phố, công thự. Để có bóng mát quanh năm và công nhân vệ sinh không vất vả vì lá rụng hết trong một thời gian ngắn, các nhà thực vật đã chọn những giống cây mà lá rụng rải rác và chỉ là lá già. Cùng với tiêu chí đó, họ cũng trồng mỗi phố một loài cây để tạo ra kiến trúc phong cảnh, phố Phan Đình Phùng chủ yếu là sấu, Lý Thường Kiệt chủ yếu là cơm nguội và quả này có sức hút với trẻ em vì nó dùng để nhồi vào súng phốc bắn rất đau. Tuy nhiên do cơm nguội hay bị sâu ruỗng trong thân nên phố này nay người ta trồng thay bằng phượng. Đoạn đầu phố Lò Đúc là cây sao đen, những năm 1960, cứ chiều đến hàng nghìn con cò đỗ trên ngọn cây và chúng ỉa làm hè phố trắng phân cò nên nhiều người gọi Lò Đúc là "bang cò ỉa". Trên phố Nguyễn Du thì trồng hoa sữa... Riêng với xà cừ, do rễ giống cây này ăn ngang và không chịu được nước nên họ chỉ trồng ở khu vực đất cao.
Cùng với trồng cây trên phố, chính quyền cũng cho trồng các loài cây có thân thẳng như cọ Châu Phi hay các cây có hoa sặc sỡ ở vườn hoa 2 bên Nhà hát Lớn, trước Ngân hàng Đông Dương, vườn hoa Canh nông... Đặc biệt quanh khu vực Hồ Gươm, ngoài các cây nhập còn có rất nhiều giống cây bản địa như: Sưa, lộc vừng, phượng... Phía đông Hồ Gươm từng có 2 cây gạo, một trước đền Ngọc Sơn và một ở mép hồ trước tượng đài Lý Công Uẩn bây giờ. Đặc điểm sinh học của cây gạo là vào mùa xuân, lá rụng hết và đến tháng 3, trên cành khẳng khiu hoa bắt đầu nở đỏ ối, vào những ngày có sương mỏng, hoa gạo đỏ mờ bên hồ giống như bức tranh lụa. Tuy nhiên cây gạo không có tác dụng che mát và cành giòn nên rất nguy hiểm trong mùa mưa bão. Vậy tại sao người ta vẫn trồng? Trong cuốn sách của một giáo viên người Pháp từng dạy ở Trường Trung học bảo hộ viết rằng: "Tôi ngạc nhiên tại sao quanh Hồ Gươm lại có 2 cây gạo, vì theo tôi hiểu biết thì giống cây này thường được trồng ở đầu làng hay cánh đồng tại các tỉnh đồng bằng Bắc Kỳ với ý nghĩa là nơi trú ngụ cho ma quỷ để nó tránh quấy nhiễu dân làng". Trong dân gian Việt Nam có câu "Thần cây đa, ma cây gạo", có lẽ chính quyền muốn trồng 2 cây gạo để ma quỷ khỏi quấy nhiễu tòa đốc lý? (nay là UBND thành phố).
Năm 1969, vì quanh Hồ Gươm chưa kè nên trận bão lớn năm này làm nhiều cây ven hồ bị đổ. Năm 1997, một trận bão lớn tràn qua Hà Nội làm đổ tới gần 5.000 cây lớn nhỏ các loại. Theo thống kê, khu vực nội thành Hà Nội (lúc chưa hợp nhất năm 2008) có khoảng 700 loài trong đó có 148 loài cây bóng mát, 62 loài cây cỏ, 76 loài cây ăn quả và 217 loài cây cảnh với tổng số cây vào khoảng 30.000 cây to nhỏ. Thời bao cấp, trẻ con bị coi là hư hỏng nếu nhảy tàu điện và trèo cây (hái sấu và dính ve). Trong quá trình phát triển, các công trình dân sinh mọc lên trên khu vực nội đô và người ta đã chặt phá khá nhiều cây to. Khi khánh thành tòa nhà Vincom (cuối phố Bà Triệu) năm 2003, người ta đã xin được giấy phép đốn hàng chục cây xà cừ 60, 70 năm tuổi. Không ít nhà mặt phố đã giết cây chắn trước cửa hàng của họ bằng cách đổ dầu nhờn hay bóc lớp vỏ dưới gốc cây. Có những giống cây quý hiếm như cây chuông đỏ duy nhất của Hà Nội (ở phố Hàng Trống) cũng bị chặt hạ.
Hà Nội từng đứng đầu cả nước khi tính diện tích cây xanh tính theo đầu người là 9,5 m2/người .Tuy nhiên vị trí đó nay không do Hà Nội nắm giữ và tại các khu đô thị mới, người ta trồng cây cốt cho có mà không hề có tính toán đến kiến trúc phong cảnh.