Demis Roussos werd geboren in Alexandrië (Egypte), zijn ouders waren Giorgos en Olga. Giorgos Roussos was ingenieur en klassieke gitarist, zijn moeder Olga was een beroemde zangeres. Tijdens zijn jeugd studeerde Roussos muziek en was lid van de Byzantijnse kerk koor van Alexandrië. Tijdens de Suez-crisis verloren zijn ouders alles en verhuisde het gezin naar Griekenland. Hij nam deel aan verschillende muziekgroepen, te beginnen met de Idols op de leeftijd van 17 jaar, daar ontmoette hij Vangelis Papathanasiou, later vormden ze samen de groep Aphrodite’s Child.