De l’extérieur, l’église de Milly donne l’illusion d’un édifice homogène, notamment grâce au traitement des maçonneries en jointement<ref>Rapport de Frédéric Didier </ref>. La façade de l’église est ouverte d’une porte entourée d’un cadre de pierre de taille en saillie, dont le seuil est surbaissé par rapport au niveau de la place<ref>Ibidem</ref>. Ce petit portail est directement surmonté d’un oculus, tandis que les vestiges d’une petite baie romane murée sont visibles en haut du pignon (elle devait à l’origine éclairer la nef, alors probablement charpentée). L’ouest de la nef est flanqué au sud par un escalier extérieur d’accès au clocher, surmonté d’une petite baie carrée. Une corniche à petits modillons nus court au-dessus de cet ensemble.la La travée sous clocher est flanquée de deux gros contreforts de chaque côté, et percée au sud d’une petite fenêtre rectangulaire. Le clocher de plan carré comporte un seul niveau de baies géminées sur colonnettes, délimité par un cordon de pierre saillant. Ce beffroi est semblable à celui de l’[https://wiki-macon-sud-bourgogne.fr/index.php?title=Eglise_Saint-Paul_%C3%A0_Bussi%C3%A8res église de Bussières]. Le clocher est surmonté d’une flèche de pierre porté portée par une charpente, (la flèche est similaire à celle de [[Chevagny-les-Chevrières]]).

En entrant par la porte principale, la petite travée romane donne l’impression d’un porche d’entrée de taille modeste. Elle est désormais plafonnée, ce qui masque l’ancien accès au clocher et coupe en partie l’arc menant à la travée suivante, légèrement plus imposante. Celle-ci supporte le clocher et est voûtée d’un berceau brisé supporté par quatre arcs brisés massifs. Ces derniers retombent sur de gros piédroits en saillie<ref>Ibidem</ref>, sur lesquels figurent les vestiges d’une litre funéraire. Le bloc oriental n’a quant à lui pas de plafond, mais une voûte de plâtre en berceau, scandée par trois poutres de bois. La travée supplémentaire de la nef est plafonnée au niveau des élargissements latéraux, qui accueillent chacun une chapelle (dédiés dédiées à sainte Philomène et à Notre-Dame de Bonsecours). Le chœur est délimité par une basse clôture en bois et abrite deux autels massifs, dont le plus ancien contre le mur du fond est surmonté d’un tabernacle remarquable du XVIIe siècle. De chaque côté du chœur se trouve une niche abritant une statue (respectivement saint Jacques et saint Roch), à l’endroit où se trouvait trouvaient les baies anciennes désormais murées. Le chœur communique au sud avec la sacristie.