Gilly dépendit autrefois des seigneurs de Rolle et plus tard de ceux de Vincy. L'église, dédiée à Saint Jean-Baptiste, apparaît en 1299 et fut fondée par les Sallenove, alors sires de Rolle. En 1925, la commune a repris pour ses armoiries le champ palé d'argent et de gueules des Sallenove. Elle a complété ses armes par un chevron et trois coquilles.

La chronique locale, en 1943, nous apprend que la place devant l'auberge a été aménagée sur l'emplacement occupé, jusqu'il y a un demi-siècle, par l'ancienne église, qui n'était séparée de la pinte que par un passage assez étroit. Cette église était si vieille que la Municipalité avait dû interdire la célébration des cultes. L'église qui a remplacé le vieux temple du centre du village a été édifiée en 1883, au milieu des vignes, sur un terre-plein dominant un paysage s'étendant du Fort-de-l'Ecluse au Moléson. On aperçoit de loin aux alentours le clocher blanc de Gilly, couvert d'ardoises et surmonté d'un coq éclatant.