Несмотря на возражения родителей, Виктория вышла замуж за Готти в апреле 1960 года, и год спустя у них появился первый ребенок - Анжела.
В это же время Готти был принят в ряды гангстеров в качестве «солдата» в преступную «семью» Гамбино. Здесь он и встретился с Сальваторе Гравано по кличке «Сэмми-Бык».
Тридцать лет Джон Готти тянул за собой «Сэмми-Быка». У них были схожие судьбы, однако Сэмми не стремился к громкой славе. Его вполне устраивала роль заместителя босса. Сэмми так слепо верил своему шефу, что позднее признался на суде: «Джон Готти был моим хозяином» а я его собакой. Когда он говорил «фас», «кусай».
Однако в конце концов все поменялось: собака укусила хозяина.
Пока Готти рос от ранга к рангу, Король гангстеров Альберт Анастазия терял популярность. Он окружил себя не слишком преданными людьми, каждый из которых видел себя высшим руководителем клана. Когда глава гангстерского синдиката решил изменить ход событий, было уже поздно: убийца был сам застрелен головорезами Карло Гамбино.
После того как Анастазию прикончили в парикмахерской на Манхэттене, боссом клана становится Гамбино. Он потребовал подчинения от «солдат», которые раньше работали на Анастазию.
Оценив перспективы, Готти поклялся в преданности сицилийцу, который теперь стал могущественным «крестным отцом».
Вскоре Готти уволился со швейной фабрики и нанялся в транспортную фирму. Эта работа давала возможность бывать на складах и таким образом «готовить почву» для будущих захватов. По ночам он и Сэмми слонялись по барам и ресторанам, добывая информацию о прибыльных грузах для перевозки. Полученные сведения передавались капо - Кармино Фатико.
Капо в мафиозной структуре командовал группой «солдат» в 250 человек.
Они давали клятву верности «семье», под защитой которой действовали.
В это время Готти получил кличку «Чарли-Фургон», так как в его обязанности входило похищение грузовиков для специальных заданий.
А еще Готти вместе с Сэмми контролировал владельцев гаражей, где угнанные автомобили разбирались, а затем снова собирались из разных частей и перепродавались.