Horowitz começou sua carreira como engenheiro na Silicon Graphics em 1990. Em 1995, Horowitz juntou-se a Marc Andreessen na Netscape como gerente de produto. De 1997 a 1998, Horowitz foi vice-presidente da Linha de Produtos de Diretório e Segurança da Netscape. Após a aquisição da Netscape pela AOL em 1998, Horowitz foi Vice-Presidente da Divisão de Comércio Eletrônico da AOL.
Em setembro de 1999, Horowitz cofundou a Loudcloud com Andreessen, Tim Howes, e In Sik Rhee. Loudcloud ofereceu serviços de infra-estrutura e hospedagem de aplicativos para clientes empresariais e de Internet, tais como Ford Motor Company, Nike, Inc., Gannett Company, News Corporation, Exército dos Estados Unidos e outras grandes organizações. Horowitz levou Loudcloud ao público em 9 de março de 2001.
Em junho de 2002, Horowitz começou uma transformação de Loudcloud em Opsware, uma empresa de software empresarial. Ele deu o primeiro passo ao vender o negócio principal de serviços gerenciados de Loudcloud para a Electronic Data Systems por $63,5 milhões em dinheiro. Esta transação transferiu 100% da receita de Loudcloud para a EDS enquanto a empresa era negociada publicamente na NASDAQ. Começando com a EDS como seu primeiro cliente de software corporativo, a Horowitz aumentou o Opsware para centenas de clientes corporativos, mais de US$ 100 milhões em receita anual, e 550 funcionários. Em julho de 2007, Horowitz vendeu a Opsware à Hewlett-Packard por US$ 1,6 bilhões em dinheiro.
Horowitz foi presidente e CEO da Loudcloud e da Opsware por toda a história da empresa. Ao longo do caminho, ações da Opsware IPO’ed a $6, afundaram a $0,35 por ação em seu nadir e foram negociadas a $14,25 por ação no momento de sua venda à HP.
Seguindo a venda da Opsware à Hewlett-Packard, Horowitz passou um ano na Hewlett-Packard como Vice-Presidente e Gerente Geral da HP Software com responsabilidade por 3.000 funcionários e $2.8 bilhões em receita anual.
Andreessen HorowitzEdit
Em 6 de julho de 2009, Horowitz e Andreessen lançaram Andreessen Horowitz, para investir e aconselhar tanto as empresas em fase inicial quanto as empresas em crescimento mais estabelecido em alta tecnologia. Andreessen Horowitz começou com uma capitalização inicial de $300 milhões e em três anos tinha $2,7 bilhões sob gestão em três fundos.