A San Franciscói öbölben fekvő Alcatraz-t 1775-ben spanyol hajósok fedezték fel az öböllel együtt. A felfedező Juan Manuel de Ayala “La Isla de los Alcatraces”, Pelikánok szigetének nevezte el.

1846-ban itt épült a nyugati part első világítótornya a Lighthouse Rock, mely az 1906-os földrengésben súlyosan megrongálódott. 1909-ben lebontották és délebbre egy magasabb, 25,6(84ft,tengerszint felett 215ft) m magas tornyot építettek fel, mely mai napig is áll és eredeti funkcióját látja el.

1850-ben az amerikai hadsereg megvásárolta a szigetet, ahol katonai bázist hozott létre. A kaliforniai aranyláz- mely San Francisco hirtelen és gyors növekedését eredményezte- késztette a hadsereget az erőd megépítésére.

Kezdetben kétszáz katona állomásozott a szigeten, melyet úgy alakítottak ki, hogy a nyugati partvidék és az akkori idők legjobban biztosított erődítménye legyen. Ennek érdekében egy citadellát is építettek, és az erőd területén 100 ágyút helyeztek el védelmi célból.

Az Alcatraz-Lime Point-Fort Point egy háromszög alakú védelmi rendszert alkotva az öböl bejárata mellett San Francisco védelmét is ellátta.

Az idők folyamán az Alcatraz védelmi szerepének szükségessége egyre csökkent (a szigeten soha nem került sor ütközetre) börtön szerepe azonban nőtt. A kaliforniai hadvezetés felismerte, hogy a szigetről elzártsága és a San Francisco-öböl jeges, kiszámíthatatlan, örvénylő vize szinte lehetetlenné teszi a szökést, így tökéletesen alkalmas egy börtön számára, hadifoglyok elkülönítésére. Így 1909-ben a hadsereg lebontotta a citadellát, de meghagyta az alagsort, ahol egy katonai börtönt alakítottak ki. 

1909-1911-ig katonai fegyencek felépítették az új börtön épületét, ami az USA Csendes óceáni katonai Büntetőtábora lett.
1912-es elkészültekor a világ legnagyobb vasbetonból készült épülete volt, mely konyhával, ebédlővel, kórházzal, adminisztrációs helyiségekkel és nem utolsó sorban négy blokkban 350 cellával rendelkezett.  Saját erőműve volt az energiaellátás és a fűtés biztosítására.

A katonai börtön 1934. január 1-től a legmagasabb biztonsági szintű szövetségi börtönként szolgált. Az Igazságügyi Minisztérium alá tartozó Börtönhivatal (Bureau of Prisons - BOP) átvette az intézmény kezelését és szövetségi büntetés-végrehajtási intézetté alakult. A 32 legproblémásabb katonai fogoly az újonnan alakult börtön első rabjaiként a szigeten maradt.

A kormány a törvénytisztelő polgároknak bizonyítani akarta, hogy az egyre nagyobb méreteket öltő bűnözési hullámot megállítja, ezért létrehozták az USA legbiztonságosabb szövetségi börtönét. Úgy tartották, hogy ebből a börtönből illetve a szigetről lehetetlen elmenekülni. Nem csak a különleges biztonsági intézkedések, hanem a börtönt körülvevő meredek sziklák, és a jeges víz is kivitelezhetetlenné tették az esetleges szökést.

Az Alcatraz legendáját az itt fogva tartott híres/hírhedt bűnözőknek köszönheti: Al Capone (a Capone-bűnszervezet kb. ezer tagja főleg szeszcsempészettel, szerencsejátékkal és prostitúcióal "kereste" kenyerét), akire soha egyetlen gyilkosságot sem tudtak rábizonyítani, de adócsalás miatt végül 1931-ben sikerült börtönbe záratni. Az „alcatrazi madárember” Robert „Birdman” Stoud  az alaszkai gyilkos (1942-ben kezdte 17 éves Alcatrazi tartózkodását, ebből 6 évet a „D” blokkban töltött), Arthur „Doc” Baker, George „Machine Gun” Kelly (1934. szeptember 4-től 1951-ig volt a sziget foglya), James “Whitey” Bulger, és Alvin Karpis aki a leghosszabb időt (26 év)töltötte fogolyként a szigeten.

Átlagosan 8 évet raboskodtak az elítéltek az Alcatrazban, a börtönsziget fennállása alatt az 1 545 rabból mindössze két embert helyeztek szabadlábra.

Minden rabnak csak az ételhez, ruházkodáshoz és orvosi ellátáshoz volt joga. Voltak kiváltságok, amiket ki lehetett érdemelni: munka, levelezés, látogatás, könyvtárhasználat, zenehallgatás, festészet stb. A szabályok megsértőit a lehető legszigorúbban büntették. A szigeten különös kegyetlenség uralkodott. A legkisebb engedetlenségért is megverték, megkínozták az elítélteket, volt hogy bele is haltak sérüléseikbe.

Az erődítmény falai között a legfélelmetesebb, legveszélyesebb nehézfiúk magánzárkákban töltötték napjaikat. Az Alcatraz a börtönök leg-je volt, soha senkit nem helyeztek el itt közvetlenül az ítélet után, főleg egy  másik börtönből való szökési kísérlet következményeként vagy kirívó magaviselet esetén kerültek ide.

A rabok elmondása szerint azért számos pozitív vonása is volt a Sziklának, az őrök tisztelettel bántak velük (akik azt kiérdemelték) és az étel a legjobb volt az egész büntetés-végrehajtási intézeteket tekintve.

Egyszerre átlagosan 265-270 elítéltet tartottak fogva, a börtönsziget teljes kapacitását (336 fő) soha nem használták ki. Az Alcatrazon több mint 1500 elítélt töltött több-kevesebb időt. 29 éves működése alatt 14 szökési kísérlet jegyeztek föl, melyekben összesen 36-an vettek részt: közülük 23-at elfogtak, 6-ot lelőttek, 2 pedig vízbe fulladt, 5 rab sorsa ismeretlen, valószínűleg ők is vízbe fulladtak.

A statisztika szerint a szökési kísérleteken kívül további 28 rab nem élve hagyta el a Sziklát: 8 embert gyilkoltak meg társai, 5 öngyilkosságot követett el, 15 természetes okból hunyt el Alcatraz falain belül. A szigeten kivégzéseket nem hajtottak végre, a halálraítélteket a San Quentin Állami Fegyházba szállították, ahol gázkamrában hajtották végre az ítéletet.

A legötletesebb szökési kísérlet Frank Morris nevéhez fűződik, akit 1960-ban azért szállítottak ide, mert több börtönből is megszökött korábban. Az ő történetét mutatta be a "Szökés az Alcatrazból" című film, Clint Eastwood főszereplésével. A hírhedt hely több forgatókönyvírót/filmrendezőt is megihletett, de mind közül talán a leghíresebb A Szikla című mozifilm Sean Connery, Nicolas Cage és Ed Harris főszereplésével.

Az Alcatraz fénykorában a szigeten éltek a foglyokon kívül a börtönőrök és családjaik, közel 300 civil.

Az Alcatrazt 1963-ban Robert Kennedy igazságügy-miniszter záratta be a magas fenntartási és üzemeltetési költségek miatt. A létesítmény annyira elavult, hogy a várható felújítási költségek helyett gazdaságosabb volt egy újabb, modernebb börtönt építeni helyette.

1969-ben egy sziú indián csoport elfoglalta egy régi rezervátumi szerződésre hivatkozva, 1971-ben űzték ki őket a szigetről.

A fő épületben ma múzeum működik, ahol az audio guide (hangos tárlatvezetés) segítségével ismerhetjük meg börtön történetét. Különlegesség, hogy a narrátori szöveget egykori börtönőröktől, illetve maguktól a raboktól hallhatjuk, így még valóságosabb, érdekesebb képet kapunk a börtönsziget napjairól.
 
Az Alcatraz a múltja ellenére jelenleg Amerika egyik legjelentősebb turisztikai célpontja, évente közel 1,5 millióan látogatnak el erre a legendás helyre, ahol az egykori hírhedt erődítmény és börtön titkait szeretnék megfejteni.

Messziről úgy tűnhet, mint egy kopár, élettelen szikla, ahol a múlt emlékei kísértenek.
Ám az Alcatraz tele van élettel, számos ritka növényfajnak ad otthont (agávé, fukszia, eukaliptusz stb.), kiváló fészkelési lehetőséget biztosít sok madárfajnak. Több ezer tengeri madár (kormorán, sirály, alka stb.) él a szigeten működő madárrezervátumban.

Alcatraz szigete ma a Golden Gate Nemzeti Park része, 1986 óta nemzeti emlékhely.
Sziklás felszíne és kinézete miatt idővel ráragadt a „The Rock”, „a Szikla” elnevezés.