C'est à Bordeaux qu'Haussmann avait apprécié ce polytechnicien qu'il fit venir à Paris en 1854 pour lui confier le service des Promenades : ainsi Alphand fut-il l'aménageur des bois de Boulogne et de Vincennes, des parcs Monceau et Montsouris, des allées de l'Observatoire et Richard-Lenoir, et le créateur d'une série de squares.

Les Parisiens admirèrent en particulier le travail réalisé au bois de Boulogne. L'aménagement de ce dernier avait été entrepris, avant l'arrivée d'Haussmann, par le paysagiste Varé qui avait voulu y créer une rivière artificielle, à l'imitation de la "Serpentine" de Hyde Park, que Napoléon III avait admirée. Mais il avait mal calculé son nivellement et sa rivière eût été à sec à l'amont et transformée en lac à l'aval. Alphand la remplaça par deux lacs de niveaux différents, séparés par une cascade, donnant naissance à des ruisseaux qui sillonnent le Bois. A travers les futaies, il perça des allées sinueuses.

Un programme similaire fut appliqué au bois de Vincennes tandis qu'aux Buttes-Chaumont Alphand réussissait à créer un parc pittoresque à l'emplacement d'une ancienne carrière à plâtre devenue décharge publique. Mais ce qui frappa le plus les Parisiens de l'époque fut de voir les nouvelles artères et les quais se border d'arbres, jusque-là inconnus sur la voie publique.

24 squares furent disséminés dans Paris, qui offrirent, selon la volonté de l'Empereur, des lieux de promenade et de la verdure aux classes laborieuses qui en étaient jusque-là, ne sortant pas de la ville, totalement privés. Ceux qui ont souligné, à juste titre, qu'Haussmann et Alphand avaient détruit plus d'espaces verts qu'ils n'en avaient créés oublient de préciser qu'à des parcs privés et fermés se sont substitués des jardins ouverts à tous et inaliénables.

Bientôt chargé, en outre, de la voierie, Alphand exécuta un certain nombre de percements (boulevard Voltaire) et prit une grande part aux travaux de préparation de l'Exposition de 1867, en particulier en nivelant la colline du Trocadéro, dont les terres furent employées pour constituer le parc du Champ-de- Mars.

En 1870, le gouvernement de la Défense nationale nomma colonel ce haut fonctionnaire de l'Empire et le chargea des fortifications de Paris et des forts avancés. La carrière administrative d'Alphand se poursuivit ensuite, et il finit par réunir entre ses mains tous les services de la Ville comportant des travaux divers, y compris le service des Eaux à la mort de Belgrand en 1878. Cette même année voyant revenir une Exposition universelle, il travailla à sa préparation et aménagea les jardins du nouveau Trocadéro. Il conclut brillamment sa carrière en dirigeant l'Exposition de 1889. Aux dires d'Haussmann (1890), Alphand, grand officier de la Légion d'honneur, était devenu le véritable préfet de la Seine. Les deux hommes moururent la même année et, dès 1898, la mémoire d'Alphand fut célébrée par l'érection, en bordure de l'avenue Foch, du monument de Dalou. Haussmann devra attendre quatre-vingts ans la même consécration.