Eu vi em um vídeo a um tempo que era do cara fazendo um trabalho em uma imagem qualquer, daí ele aplicou um efeito que em um pedaço da parte esse efeito não ficou tão bem quanto deveria então ele queria aplicar o efeito apenas naquela parte ... daí ele utilizou o pincel pintou aquela parte onde ele iria repetir o efeito e fez uma especie de seleção onde estava pintado, daí ele deixou aquela parte que estava pintado em uma seleção e então fez o efeito e o efeito saiu apenas naquela parte onde ele avia passado o pincel.
Então queria saber qual é as teclas de atalho pra fazer esse tipo de seleção quando eu pinto aí aperto algo pra aquela pintura virar seleção '-'

Você pode estar selecionando a parte do efeito que não gostou com a pen tool , apos preencher o efeito que queira tirar da imagem , clique com o direito do mouse e escolha a opção selecionar seleção e de ok , e aperte delete , ou se quiser pode estar usando a borracha em forma de pincel para apagar a parte do efeito que não gostou !

Pelo que você disse, ele parece ter usado o Clipping Mask.

Pra fazer o Clipping Mask, você cria uma nova camada e pinta a parte que você quer o tal efeito com algum Brush do seu gosto. Depois de você ter pintado com o brush, numa camada acima coloca a imagem do efeito, na camada do efeito clique com o botão direito do mouse e selecione Create Clipping Mask (ou Máscara de Corte se seu PS for em Português), feito isso, a sua imagem de efeito vai ficar apenas na área em que tiver o Brush. Caso queira ver direitinho como se faz, encontrei esse tutorial.

Ambas respostas estão Corretas!

Dúvida respondida

Caso precise reabrir o tópico, me envie uma MP solicitando.