De opening van het Noordzeekanaal in 1876 betekende een flinke impuls voor de Amsterdamse scheepvaart en daarmee voor de Amsterdamse economie. Steeds meer en steeds grotere schepen deden Amsterdam aan.
De grotere schepen konden afmeren aan de Oostelijke Handelskade (1883) en aan kades op het Java/KNSM-eiland (1900), waar allerlei pakhuizen verrezen. Ten westen van de oude binnenstad ontstond ook een nieuw havengebied, met onder meer de Houthaven (1876), de Minervahaven (1880), de Petroleumhaven (1889) en de graansilo (1897) aan de Westerdoksdijk.
Toch legde de Amsterdamse haven het in de loop van de twintigste eeuw af tegen de Rotterdamse. Rotterdam bleek sterker in de overslag van bulkgoederen. Het Merwedekanaal (1892, later Amsterdam-Rijnkanaal) bood onvoldoende verbindingen met het achterland om de slag met Rotterdam te kunnen winnen.
In de binnenstad bleven allerlei kleinschaliger havenactiviteiten bestaan, bijvoorbeeld voor de vele binnenlandse veerverbindingen. Ook waren in de binnenstad de kantoren van de rederijen gevestigd. Een aantal gebruikte vanaf 1916 het Scheepvaarthuis als gezamenlijk hoofdkantoor.
Na de Tweede Wereldoorlog verloor het Oostelijk Havengebied snel aan betekenis aan het Westelijk Havengebied. Dat was al na de Eerste Wereldoorlog flink gegroeid, met achtereenvolgens de Coenhaven (1925-1935) en de Vlothaven (1931).