Роман «Бездна» («La-bas», 1891; в рус. пер. «Там, внизу» — 1907) начинается филиппикой писателя Дюрталя (герой наделен автобиографическими чертами), обращенной к Э. Золя: «…я ставлю натурализму в вину не его тяжелый и грубый стиль, но низменность его идей. (…) Когда надо объяснить зарождение страсти, исследовать рану, вылечить самую доброкачественную язву — он все сводит к склонностям и инстинктам. Половое влечение и припадки безумий — вот единственные предрасполагающие моменты. (…) Он хочет душевные страдания, как грыжу, лечить бандажем, — и только»; вслед за тем Дюрталь заявляет: «…надо сохранить документальную правдивость, точность деталей, нервный и красочный язык реализма, но в то же время углубиться в жизнь души и не пытаться объяснить тайну болезнями чувств. Если бы это было возможно, роман должен бы сам собой распадаться на две крепко спаянные или — верней — сплавленные части, как в жизни сливаются душа и тело, и заниматься их взаимодействием, их столкновениями, их соглашением. Одним словом, надо идти по пути, так отчетливо намеченному Золя, но при этом проложить параллельно ему иной, воздушный путь, достичь внепространственного и вневременного, создать, словом, спиритуалистический натурализм. Но никто сейчас этим не занят. К подобной концепции близок разве один Достоевский. Да и этот проникновенный русский — скорее христианский социалист, чем великий реалист».
Общее литературное прошлое и близкий тип художественного сознания Сологуба и Гюисманса предопределили их «избирательное сродство» и путь в литературе. Свою задачу Сологуб видел не в преодолении традиции, а в снятии ограничений, которые его принципиально не устраивали в реалистическом искусстве и «экспериментальном методе»: «Не случайно возникло декадентство вслед за крайностями натуралистического) романа, и было оно не реакцией, а лишь естественным следствием этого направления. Психологич(еские) ошибки натур(алистического) ром(ана) теперь ясны для всех, и всякое новое лит(ературное) поколение должно было их отбросить. Но развитием истин(ных) принц(ипов) натур(ализма) явилось декадентство»; «Реал(изм) и дек(адентство) — плоды духа созревшего и искусившего в опыте жизни. Поэтому как классицизм и романтизм отличаются непосредственною силою образа, так реал(изм) и дек(адентство) сильны познанием истинных законов психологич (еского) действия и почти научною точностью своих приемов».
В статье «Не постыдно ли быть декадентом» Сологуб постулировал: «Декадентство, уже ясное в своей идее, еще не раскрыло себя с совершенною полнотою. Оно еще не достигло расцвета. До сих пор оно представляет только ряд психологических (иногда психопатологических) опытов. Но для меня несомненно, что это презираемое, осмеиваемое и даже уже преждевременно отпетое декадентство есть наилучшее, — быть может единственное, — орудие сознательного символизма. Обращаясь к внутреннему сознанию человека, употребляя слова лишь в качестве психологических реактивов, так называемое декадентство одно только дает возможность словесными формами указать на непознаваемое, пробуждать в душе таинственные и глубокие волнения (…) Будущее же в литературе принадлежит тому гению, который не убоится уничижительной клички декадента и с побеждающей художественной силой сочетает символическое мировоззрение с декадентскими формами». Пафос этого по-своему «программного» высказывания совпадает с размышлениями автора «Бездны» о путях преодоления натурализма и будущем литературы.
Вполне очевидно, что в 1890-е годы в сознании Сологуба такие явления, как декадентство и натурализм, еще не имели четких границ, декадентство соединялось с натурализмом как его естественное продолжение и развитие — по направлению усложнения художественной и научной задачи (исследование жизни подсознания); символизму отводилась роль способа или средства обозначения непознаваемого («тайны»), а будущий гений, таким образом, виделся им как натуралист («золаист») с мировоззрением символиста. Этим эстетическим представлениям в полной мере отвечала ранняя проза писателя — «Тяжелые сны» и рассказы 1890-х годов, собранные в книги «Тени. Рассказы и стихи» (СПб., 1896) и «Жало смерти» (М., 1904), непосредственно связанные с творческой историей романа «Мелкий бес».
«Метод — бесконечное варьирование тем и мотивов», — провозгласил Сологуб и никогда не отступал от этого принципа в своем многообразном творчестве. Каждому из его романов сопутствовали сочинения в стихах и в прозе, в которых он формулировал те или иные художественные идеи и искал способы их выражения. «Мелкому бесу» предшествовали и параллельно создавались многочисленные поэтические тексты, в которых сложился образ лирического героя (Логина — Передонова — Сологуба), и рассказы: «Тени» (1894; позднейшее заглавие: «Свет и тени»), «Красота» (1898), «Баранчик» (1899). В каждом из этих произведений содержатся элементы художественной аналогии с текстом романа — в образной системе, структуре, стилистических приемах или же на уровне интерпретации темы. В менее очевидной форме эти аналогии обнаруживаются также в рассказах «Червяк» (1894), «Утешение» (1899), «Жало смерти» (1902), «Милый Паж» (1902).
Рассказ «Красота» (вариант «рутиловской» сюжетной линии романа) апеллирует к эстетизму и эллинизму Оскара Уайльда и одновременно к воспринятому символистами от Достоевского и Вл. Соловьева представлению о Красоте — глубинной сущности мира, его абсолютной ценности и преображающей силе бытия («Красота — вот цель жизни», — восклицает героиня рассказа). Впервые у Сологуба эта тема прозвучала в стихотворении «Где ты делась, несказанная…» (1887) и в «Тяжелых снах» (в главе тридцать шестой). В рассказе «Красота» и в романе «Мелкий бес» она претерпевает изменения — окрашивается глубоким авторским скепсисом.