Ο Τολστόι είναι γιος του Αντρέι Βασιλιέβιτς Τολστόι. Υπηρέτησε το 1682 στο δικαστήριο ως επιμελητής. 15 Μαΐου του τρέχοντος έτους, την ημέρα της εξέγερσης του Στρόλτσι, ενεργούσε ενεργά μαζί με τους Μιλοσλάβσκους και έθεσε τοξότες, φωνάζοντας ότι «οι Νάρυκινς στραγγάλισαν τον Τσαρέβιτς Ιβάν».
Η πτώση της πριγκίπισσας Σοφίας έκανε τον Τολστόι να αλλάξει απότομα το μέτωπο και να πάει στην πλευρά του Τσάρου Πέτρου, αλλά ο τελευταίος είχε μια πολύ συγκρατημένη στάση απέναντι στον Τολστόι. η δυσπιστία του βασιλιά δεν κλονίστηκε από τα στρατιωτικά προσόντα του Τολστόι στη 2η εκστρατεία Azov. Το 1697, ο τσάρος έστειλε «εθελοντές» στο δόγμα στο εξωτερικό και ο Τολστόι, ήδη στα ώριμα χρόνια του, προσφέρθηκε να πάει εκεί για να σπουδάσει θαλάσσιες υποθέσεις. Δύο χρόνια που πέρασαν στην Ιταλία έφεραν τον Τολστόι πιο κοντά στον πολιτισμό της Δυτικής Ευρώπης. Στο τέλος του 1701, ο Τολστόι διορίστηκε απεσταλμένος στην Κωνσταντινούπολη, σε μια σημαντική, αλλά δύσκολη θέση, η οποία επίσης απομάκρυνε τον Τολστόι από το δικαστήριο. Επιστρέφοντας στη Ρωσία το 1714, ο Τολστόι βρήκε τον παντοδύναμο Menshikov και διορίστηκε γερουσιαστής. Το 1715 – 1719, ο Τολστόι πραγματοποίησε διάφορες διπλωματικές αποστολές σε δανικές, αγγλικές και πρωσικές υποθέσεις.
Το 1717, ο Τολστόι κατέστησε τον τσάρο μια σημαντική υπηρεσία, η οποία ενίσχυσε για πάντα τη θέση του: στάλθηκε στη Νάπολη, όπου ο Tsarevich Aleksey και η ερωμένη του Euphrosyne, Tolstoy, κρύβονταν εκείνη την εποχή, με τη βοήθεια του τελευταίου, παρακάμπτοντας με προσοχή τον Τσαρέβιτς και τον έπεισε να επιστρέψει με εκφοβισμό και ψευδείς υποσχέσεις. στη Ρωσία. Για την ενεργό συμμετοχή του στην έρευνα και τη δίκη του Τσάρεβιτς Τολστόι απονεμήθηκε περιουσία και τοποθετήθηκε στον επικεφαλής του μυστικού γραφείου, το οποίο εκείνη την εποχή είχε ιδιαίτερη δουλειά λόγω φήμων και αναταραχών που προκλήθηκαν από τη μοίρα του Τσαρέβιτς Αλεξέι μεταξύ των ανθρώπων.
Από τότε, ο Τολστόι έγινε ένα από τα πιο κοντινά και πιο αξιόπιστα πρόσωπα του κυρίαρχου. Το ημερολόγιο των ταξιδιών του Τολστόι στο εξωτερικό έχει διατηρηθεί το 1697 – 1699, ένα τυπικό παράδειγμα των εντυπώσεων που έκαναν οι άνθρωποι του Μεγάλου Πέτρου από τη γνωριμία τους στη Δυτική Ευρώπη. Επιπλέον, το 1706, ο Τολστόι συνέταξε μια λεπτομερή περιγραφή της Μαύρης Θάλασσας.