В архиве графа Хвостова сохранилась «Записка о самом себе или о произведениях моих в литературе». Ее можно датировать II пол. 1820-х гг. Оценивая влияния литературы, граф утверждает: «Словесность — есть самое удобное средство к разлитию в обществе понятий, может поколебать в слабых сердцах истинные начала веры, совести и рассудка». Престарелый поэт задается вопросом: «Какая цель нашей поэзии? Какие правила ее? И есть ли в оной критика?» И сам же дает ответ: «Большая часть наших поэтов по шутливому изречению моему в одном послании: „Все пишем, как хотим, шутя над Аполлоном“». Рассуждая о языке, Хвостов подчеркивает: «Не заводя спора о том, что язык книжный по времени ощущает перемены, я спрашиваю: совершенно ли переменился в наши времена язык Ломоносова? Не тем же ли языком изображают свои мысли все наши писатели? Какая нужда разделять времена нашей поэзии на разные эпохи,  отделять язык русский от языка славянского? Не для того ли, чтобы яснее представить для каждого состояния и лица, на первом, как всякому понятном языке, свои заблуждения и найти соучастников». Хвостов выступает за сохранение основ, заложенных в языке: «В наше время и после могут быть писатели и лучше холмогорского поэта, т. е. иметь больше дарования, но язык, кроме перемен, из разговорного взятых, останется тот же». Не отступая от традиций классицизма в литературе, Хвостов ощущает происходящие в словесности изменения, приветствуя появление одаренных поэтов. Касаясь критики, граф негодует по поводу того, что «злонамеренные люди завоевали у нас критику и сделали из оной или гнусную сатиру или панегирик». Записка интересна как неизвестное ранее мнение о словесности пушкинской эпохи, и как характеристика литературной позиции ее автора.