Depois de se formar em História e istração e chegar a trabalhar como motorista, Larry David começou a apresentar seus shows de comédia stand-up em casas noturnas de Nova York em 1974. No ano de 1979, foi contratado para roteirizar e atuar no humorístico Fridays (1980–1982), que acabou copiava a fórmula de esquetes e apresentações musicais do já bem sucessedido Saturday Night Live (1975 - ). Em 1982, David foi contratado pelo próprio Saturday Night Live para trabalhar como roteirista e lá permaneceu por um ano até pedir demissão. 

David fez sua primeira aparição no cinema em Segundas Intenções (1983), e teve outros pequenos papeis em Can She Bake a Cherry Pie? (1983), A Era do Rádio (1987) e Contos de Nova York (1989).

Em 1988, David recebeu um convite do amigo Jerry Seinfeld para que os dois desenvolvessem um piloto de um programa humorístico chamado "The Seinfeld Chronicles", que logo se tornou a série Seinfeld (1989 - 1998), um dos programas humorísticos de maior sucesso da história da televisão estadunidense. De acordo com Larry, o personagem George Costanza (interpretado por Jason Alexander) foi inspirado nele mesmo, contendo em sua personalidade neurótica.

Depois da última temporada de Seinfield, em 1998, David dirigiu e roteirizou o filme Os Sortudos (1998), que foi mal recebido por crítica e público. Porém, pouco tempo depois, David voltaria a ser prestigiado por seu trabalho, desta vez como criador, roteirista e estrela da série Curb Your Enthusiasm (2000 - ), em que interpreta uma versão de si mesmo.