- Pope Sylvester II and the Devil in an illustration of c. 1460
In den Zeiten ab etwa 1100 entwickelten sich Geschichten, Silvester II. hätte sich mit Magie beschäftigt und sei mit dem Teufel im Bunde gewesen. Der Legende nach studierte Gerbert während seines Aufenthalts in al-Andalus in Córdoba und Sevilla. Papst Silvester soll auch in der Neujahrsnacht vor der ersten Jahrtausendwende zitternd die Messe gefeiert haben, da er mit dem Weltuntergang während der Wandlung gerechnet habe.
Italienaufenthalt 997-999
In der Zeit des mehrjährigen Italienaufenthaltes versuchten Kaiser und Papst den kirchlichen Bereich zu reformieren. Entfremdetes Kirchengut sollte wieder der Verfügungsgewalt der geistlichen Institutionen zugeführt werden. Diesem Ziel diente auch ihr Vorgehen gegen einen Verwandten des Crescentius, einen Grafen der Sabina namens Benedikt, den sie persönlich mit einer Heeresmacht zwangen, dem Kloster Farfa geraubtes Gut zurückzugeben.
Wohl auf dem Aventin ließ Otto eine kaiserliche Pfalz errichten. Auch in mehreren Personalentscheidungen wurde der Kaiser während seines Italienaufenthaltes aus Rom tätig und besetzte wichtige Bischofssitze mit engen Vertrauten.
Nach dem Tod des Halberstädter Bischofs Hildeward im November 996, der einer der Drahtzieher der Aufhebung des Bistums Merseburg war, nahmen Otto III. und Papst Gregor V. im Jahr 997 das Verfahren zur Erneuerung des Bistums Merseburg wieder auf und begründeten dieses Vorgehen auf der römischen Synode zum Jahreswechsel 998/99 damit, dass bei der Auflösung des Bistums im Jahr 981 gegen das Kirchenrecht verstoßen worden sei. Das Bistum sei sine concilio (ohne Beschluss) aufgelöst worden. Doch erst Ottos Nachfolger Heinrich II. ließ das Bistum Merseburg 1004 wieder einrichten.
Anfang 999 fand Otto Zeit für eine weitere Bußwallfahrt nach Benevent auf den Monte Gargano, die ihm vom Einsiedler Romuald als Sühne für sein Vergehen gegen Crescentius und Johannes Philagathos auferlegt worden sein soll. Auf dem Weg dorthin erfuhr Otto, dass Gregor V. in Rom nach kurzer Krankheit gestorben war. In dieser Zeit suchte er auch Nilus von Rossano als büßender Pilger auf.
Nach seiner Rückkehr erhob er mit seinem Vertrauten Gerbert von Aurillac als Silvester II. erneut einen Nichtrömer zum Papst. Auch in anderen Personalentscheidungen wurde der Kaiser erneut von Rom aus tätig und besetzte wichtige Bischofssitze mit engen Vertrauten. So erhob er seinen Kaplan Leo zum Bischof von Vercelli und übergab ihm damit ein problematisches Bistum, da dessen Vorgänger Petrus von Vercelli vom Markgrafen Arduin von Ivrea ermordet worden war. Arduin wurde 999 vor einer römischen Synode zur Kirchenbuße verurteilt. Dem Grafen wurde auferlegt, dass er die Waffen ablegen und keine zwei Nächte am selben Ort verbringen dürfe, wenn es seine Gesundheit erlaube. Als Alternative zu dieser Bußleistung stellte man ihm den Eintritt in den Mönchsstand frei. Ob der Markgraf die Auflagen der Kirchenbuße erfüllt hat, ist unbekannt. Auch nach dem Tod des Bischofs Everger von Köln bestimmte Otto mit seinem Kanzler Heribert eine Person seines Vertrauens auf diesem wichtigen Bischofssitz.