Bank został założony w 1869 roku przez niemieckiego imigranta żydowskiego pochodzenia [[Marcus Goldman|Marcusa Goldmana]]. W 1882 do firmy dołączył jego zięć, również żydowskiego pochodzenia, [[Samuel Sachs]], co spowodowało zmianę nazwy na Goldman Sachs. Spółka wyrobiła sobie markę dzięki pionierskiemu wykorzystaniu [[Papiery komercyjne przedsiębiorstw|papierów komercyjnych]] dla przedsiębiorstw i w 1896 akcje banku zostały dopuszczone do obrotu na [[New York Stock Exchange|Nowojorskiej Giełdzie Papierów Wartościowych]]. Na początku [[XX wiek]]u był liczącym się graczem w przeprowadzaniu [[oferta publiczna|ofert publicznych]].