Первый раз Караччиола участвовал в гонках в 1922 году на мотоцикле NSU. Этот опыт наделил Караччиолу умением тонко чувствовать порог сцепления колес с дорогой. Благодаря чему в дальнейшем Караччиоле не будет равных по езде в дождь. Еще одно прозвище гонщика – Regenmeister, «Мастер дождя».
Настоящая слава пришла к Караччиоле после того как в 1934 году его пригласили в только что созданную заводскую команду Mercedes-Benz для участия в мировом Гран-При – аналоге нынешней Формулы-1. Трижды Караччиола становился чемпионом мира в этой дисциплине. Также трижды он побеждал в европейском чемпионате по подъему на холм. Всего, по воспоминаниям друга Караччиолы, русского барона Эдуарда Фальц-Фейна, он одержал победу в сотне гонок!
Потомок основателей знаменитого природного парка Аскания-Нова барон Фальц-Фейн гостил у Караччиолы на его вилле Scania в Лугано в период Второй мировой войны. Благодаря барону стали известны подробности о Караччиоле-человеке. В частности, после смерти первой жены Шарлотты, Караччиола «отбил» подружку у своего приятеля, известного французского гонщика Луи Широна. Луи три года ухаживал за своей Эллис, но не сделал главного – предложения.
Последней гонкой Караччиолы стал Гран-При Берна в 1952 году. Знаменитого пилота начало подводить здоровье. В 1930-е годы болиды Гран-При заправляли смесью из метанола, бензола, эфира, нитробензола и других ядовитых веществ. Причем гонщик оставался в машине, а его голову накрывали полотенцем, чтобы случайно не забрызгать топливом. Вероятно, Караччиола вдохнул слишком много вредных паров, поскольку к концу жизни у него начала отказывать печень.
Караччиола умер 28 сентября 1959 года. На церемонии прощания в Штутгарте работники завода Daimler-Benz выстроились в форме символического скрипичного ключа.
Все произошло так внезапно, что на похороны великого гонщика опоздали новые друзья Караччиолы, Ален Делон и Роми Шнайдер. Великий гонщик умел дружить.