Nicht nur die angestrebte Kaiserkrönung veranlasste König Otto III. zu einem baldigen Italienzug, sondern auch ein Hilferuf von Papst Johannes XV., der vom römischen Stadtpräfekten Crescentius und seiner Partei bedrängt wurde und Rom verlassen musste. Im März 996 brach Otto von Regensburg aus zu seinem ersten Italienzug auf. In Verona übernahm er die Patenschaft eines Sohnes des venezianischen Dogen Pietro II. Orseolo, Ottone Orseolo, der später von 1009 bis 1026 ebenfalls Doge werden sollte. Damit führte er das traditionell gute Verhältnis der Ottonen zu den Dogen fort.
In Pavia traf eine römische Gesandtschaft mit Otto zusammen, um mit ihm über die Nachfolge des inzwischen verstorbenen Papstes Johannes XV. zu verhandeln. Noch in Ravenna nominierte er seinen Verwandten und Hofkaplan Brun von Kärnten zum Papstnachfolger und ließ ihn von Erzbischof Willigis von Mainz und Bischof Hildebold nach Rom begleiten, wo er als erster "Deutscher" zum Papst erhoben wurde und den Namen Gregor V. annahm. Bereits einen Tag nach seiner Ankunft vor Rom wurde Otto von Senat und Adel der Stadt feierlich eingeholt und am 21. Mai 996, dem Feste Christi Himmelfahrt, von "seinem" Papst zum Kaiser gekrönt.
Mit dieser Entscheidung überschritt Otto III. den Handlungsrahmen seines Großvaters Otto I., indem er sich nicht mehr mit der Zustimmung zu einer Papstwahl begnügte, sondern sie gezielt in Richtung auf einen eigenen Kandidaten lenkte. Durch diese Personalentscheidung hatte der Papst allerdings keinen Rückhalt mehr in Rom und er war umso dringender auf die Hilfe des Kaisers angewiesen.
Schon seit Otto I. hatte es stetige Konflikte zwischen kaisertreuen Päpsten und Kandidaten stadtrömischer Adelsgruppen gegeben. Das führende römische Adelsgeschlecht der Crescentier verdankte den früheren romtreuen Päpsten seinen Aufstieg. Er beruhte auf der Abtretung päpstlicher Rechte und der damit verbundenen Einkünfte in der Sabina.
An die mehrtägigen Krönungsfeierlichkeiten schloss sich eine Synode an, bei der sich die enge Zusammenarbeit zwischen Kaiser und Papst im gemeinsamen Vorsitz der Synode und in der Ausstellung von Urkunden zeigte. Die Krönungssynode brachte Otto III. auch mit zwei bedeutenden Personen in Kontakt, die sein weiteres Leben stark beeinflussen sollten. Zum einen mit Gerbert von Aurillac, dem Erzbischof von Reims, der bereits in dieser Zeit so engen Kontakt zum Kaiser hatte, dass er in seinem Auftrag mehrere Briefe formulierte, zum anderen mit Adalbert von Prag, einem Vertreter der erstarkten asketisch-eremitischen Frömmigkeitsbewegung.
Die Wege Ottos und Gerberts von Aurillac trennten sich zwar vorerst, doch erhielt Gerbert wenige Monate später die kaiserliche Aufforderung, in des Herrschers Dienst zu treten: Als Lehrer sollte er Otto III. helfen, an Stelle der sächsischen rusticitas (Rohheit) eine griechische subtilitas (Feinheit) zu erlangen.
Der römische Stadtpräfekt Crescentius wurde von Otto III. zum Exil verurteilt, jedoch auf Fürsprache Papst Gregors V. begnadigt. Damit befleißigte sich Otto III. der clementia (Milde), die zentraler Bestandteil der ottonischen Herrschaftsausübung war.
Nach der Kaiserkrönung zog Otto Anfang Juni 996 ins Reich zurück. Er hielt sich vom Dezember 996 bis April 997 am Niederrhein und vor allem in Aachen auf. Konkrete Entscheidungen in dieser Zeit, wie die Abhaltung von Hoftagen, sind nicht bekannt.