De dannede deres første band the kids allerede i 1965, da de var hhv. 15 og 11 år gamle, og allerede samme år spillede gruppen som opvarmningsband til the kinks ved en koncert i kb hallen.
Brødrene deltog begge i musicalen hair i cirkusbygningen i marts 1971, og senere var de på turné med forestillingen rundt i danmark, sverige og norge.
Brødrene olsen udsendte deres første album i 1972 og har siden udgivet 12 album. De har haft store hits i singlerne "angelina" (1972), "julie" (1977), "san francisco" (1978), "dans dans dans" (1979), "marie, marie" (1982), "neon madonna" (1985).
Nogle af disse har deltaget i det danske melodi grand prix, hvor enten duoen eller jørgen olsen alene har deltaget i alt 7 gange. Det bedste resultat opnåede duoen, da de vandt både det danske og det internationale melodi grand prix i stockholm 2000 med "fly on the wings of love" - på dansk: "smuk som et stjerneskud".