前衛小説の歴史は、単線的な進化の物語ではない。それは、時代ごとの社会状況、思想、そしてテクノロジーの変化に応答し、時には過去の運動を再発見・再解釈しながら、複雑に枝分かれしてきた、闘争と実験の軌跡である。本章では、その誕生前から現代に至るまでの主要な流れを概観する。
20世紀の前衛文学が花開く土壌は、19世紀後半にすでに準備されていた。写実主義（リアリズム）が文学の主流であった時代から、その客観性や外面的な描写に飽き足らない作家たちが、内面世界や言語そのものへと関心を移し始めていた。
フランスの象徴主義の詩人たち、ステファヌ・マラルメやアルチュール・ランボーは、言語の音楽性や暗示的な力を追求し、言葉が現実を直接的に指示するという考えから離脱した。彼らの試みは、小説の言語もまた、単なる物語の伝達手段ではなく、それ自体が目的となりうることを示唆した。
また、ロシア文学では、フョードル・ドストエフスキーが、登場人物たちがそれぞれ独立した思想をぶつけ合う「ポリフォニー（多声性）」の小説空間を創造し、単一の権威的な視点を解体した。ニコライ・ゴーゴリの『鼻』や『外套』に見られるグロテスクで不条理な世界観は、カフカをはじめとする後の多くの前衛作家にインスピレーションを与えた。
19世紀末から20世紀初頭にかけて、ヨーロッパ社会は、産業革命の進展、都市化、フロイトの精神分析やアインシュタインの相対性理論といった新たな知のパラダイムの登場により、大きな変革の時代を迎えていた。こうした中で、従来のリアリズム文学が依拠してきた、安定した自己や、客観的で連続的な時間といった前提が、大きく揺らぎ始める。
この時代に生まれたモダニズム文学は、こうした世界の断片化、内面世界の複雑化を、文学の形式そのものによって表現しようと試みた。客観的な外的世界よりも、主観的な内的世界こそが真実であるという新たなリアリティ観が提示された。
フランツ・カフカの描く悪夢的な官僚機構や、ウィリアム・フォークナーが創造したアメリカ南部の架空の土地「ヨクナパトーファ郡」の年代記もまた、断片化した現代の世界像を神話的なスケールで再構築しようとするモダニズムの試みであった。
第一次世界大戦という未曾有の破壊と殺戮は、ヨーロッパの知識人や芸術家に、西欧文明が築き上げてきた理性や論理、そして芸術そのものへの根源的な不信を植え付けた。こうした虚無感を背景に、スイスのチューリヒで生まれたのが、ダダイズムである。
ダダは、あらゆる既成の価値や秩序を否定し、偶然性や無意味さを称揚した。トリスタン・ツァラが提唱した、新聞記事を切り刻んで袋に入れ、ランダムに取り出して詩を作る「カットアップ」の手法は、作者の意図や理性を排除し、言語の偶然の出会いから新たな意味を生み出そうとする、ラディカルな試みであった。
ダダの精神を引き継ぎ、フランスのアンドレ・ブルトンを中心に理論化されたのが、シュルレアリスム（超現実主義）である。フロイトの精神分析に大きな影響を受けたシュルレアリストたちは、理性の支配から解放された、夢や無意識の世界にこそ、真の現実（シュル・レアリテ）が存在すると考えた。ブルトンが『シュルレアリスム宣言』（1924年）で提唱した「自動記述（オートマティスム）」は、理性の検閲なしに、無意識から湧き出る言葉を高速で書き記す手法であり、文学に新たな創造の源泉をもたらした。
第二次世界大戦後、前衛の試みは、さらに多様な形で世界中に広がっていく。フランスでは、サルトルやカミュといった実存主義文学が、人間の不条理な状況と自由の問題を問い直した。それに続くヌーヴォー・ロマン（新しい小説）の作家たち、例えばアラン・ロブ＝グリエやナタリー・サロートは、伝統的な小説のプロットや登場人物の心理描写を「時代遅れ」として退け、客観的な物の描写や、時間と空間の実験的な構成を通じて、新たな小説のあり方を模索した。
一方、アメリカでは、ビート・ジェネレーションの作家たちが、既成の社会規範に反抗し、ジャズの即興演奏のような、自由で自発的な文体を追求した。ウィリアム・S・バロウズは、ダダのカットアップの手法をさらに発展させ、社会の権力構造や言語による支配を暴き出そうと試みた。
また、ラテンアメリカでは、ホルヘ・ルイス・ボルヘスが、幻想的な設定と哲学的な思索を融合させた、迷宮のような短編を創造し、後のポストモダン文学に決定的な影響を与えた。ガブリエル・ガルシア＝マルケスに代表されるマジックリアリズムは、現実と幻想を融合させ、植民地主義の記憶が刻まれたラテンアメリカの神話的な風土を描き出した。
1960年代後半から、前衛文学の様相は再び大きく変化する。モダニズムが、断片化した世界の背後に、芸術家による新たな秩序や深層的な意味を見出そうとしたのに対し、ポストモダニズムの文学は、そうした「深さ」への信頼そのものを失い、世界の表面を戯れることを選んだ。
メタフィクション（小説が、それ自体が小説であることについて語る手法）が、この時代の顕著な特徴となる。イタロ・カルヴィーノの『冬の夜ひとりの旅人が』は、読者が物語の続きを求めて様々な小説の世界を彷徨うという構造で、「読む」という行為そのものを小説化した。トマス・ピンチョンやジョン・バースといった作家たちは、歴史や科学の壮大な物語をパロディ的に引用・再構成し、確定的な真実など存在しないという世界観を提示した。
日本においては、海外の動向と呼応しつつも、独自の文脈から前衛的な文学が展開された。夢野久作の『ドグラ・マグラ』のような、狂気と論理が入り混じる迷宮的な作品は、その特異な例である。
1920年代の新感覚派の登場は、前衛的な文学の本格的な始まりと見なされる。横光利一や川端康成らは、ヨーロッパのモダニズム文学に影響を受け、従来の自然主義的な描写を脱し、映画的な手法や、感覚的なイメージを重視した新しい文体を模索した。
戦後になると、安部公房が、シュルレアリスムと実存主義を融合させ、都市におけるアイデンティティの喪失というテーマを国際的なレベルで描き出した。また、大江健三郎は、フランス文学からの影響を受けつつ、神話的な想像力と、知的で重層的な文体によって、戦後日本の社会と個人の問題を深く掘り下げた。
1980年代以降は、ポストモダン思想の流行と共に、村上春樹が、都市的な感性と、神話的なモチーフを融合させた独自の作風で、国内外の読者を魅了した。さらに、中上健次の「路地」をめぐる物語や、笙野頼子、阿部和重といった「J文学」の作家たちも、それぞれ独自の方法で言語と物語の実験を続けている。