En 1974, c'est son premier enregistrement sur un magnétophone deux pistes "Trig El Lici", qui sort en 45 tours et passe inlassablement sur les radios. Le public accroche tout de suite. Cheb (le jeune) Khaled comme on le nomme à Oran, ne touche pas un sou de ce succès. Pour gagner sa vie, il est amené à faire divers métiers, garçon de café, cordonnier, etc..
C'est à la fin des années 70 que le raï se développe en tant que musique urbaine par laquelle les jeunes oranais se sentent attirés. Logiquement, Khaled s'inscrit dans la génération des "chebs" qui accompagnent ce mouvement musical et culturel. Entre le désespoir du blues et une formidable envie de faire la fête, les paroles du raï permettent à Khaled d'exprimer son anticonformisme et son désir de dépasser les tabous ; mais aussi plus prosaïquement, de faire l'apologie de l'amour et de l'alcool.
Dès 76, dans les cabarets oranais, il remplace dans le groupe qui l'accompagne, les violons par des guitares électriques. Le synthétiseur et la boîte à rythmes arrivent en 82. Cet alliage entre la tradition et le modernisme fonctionne à merveille et fait de lui le porte-parole de la jeunesse locale. A dix-sept ans, il a déjà enregistré cinq disques ou plutôt, des cassettes audio. Il devient une star en Algérie, à tel point que la jeunesse dorée, issue de la bourgeoisie FLN, dite "Tchi tchi" adopte sa musique et ses textes qui sont à l'opposé de la morale ambiante.