2002年の日韓Wカップが終了すると、岡野俊一郎がサッカー協会会長職を退き、川淵三郎が後任の会長となった。新会長のもとには技術委員会から次期監督候補のリストが届くが、川淵はそれを無視する。
川淵が独断で選んだトルシエ監督の後任は、鹿島アントラーズのテクニカル・ディレクターを務めていたジーコ（本名、アルトゥール・アントゥネス・コインブラ）だった。
ジーコの日本代表監督就任はサポーターの歓迎を受けたが、一方で全く監督経験のない彼の手腕に不安の声も聞こえた。その新監督の力量を測る最初の試合が、10月にジャマイカを招いて行なわれた親善試合。
ジーコはこの試合に中田英寿、中村俊輔、小野伸二、稲本潤一の4人を先発起用。トルシエ時代には決して実現することのなかった、「黄金の中盤」である。
だがジャマイカとの試合は1-1の引き分け。攻撃的な選手で固めたこの中盤は、あまり機能したとは言えなかった。しかしジーコは安易なメンバー替えを嫌い、連携が自然に出来あがるのを待つ。そして選手たちの自主性を重んじ、彼らにあまり細かい指示を与えることもなかった。
8月には五輪代表チームが結成され、U-21の選手たちが集められる。そして翌9月には韓国で開かれたアジア大会のサッカー競技に参加。監督はトルシエジャパンのコーチだった山本昌邦が務め、中心となる選手には大久保嘉人、茂庭照幸、駒野友一、阿部勇樹、石川直宏、田中達也らがいた。
アジア大会のサッカー競技にはA代表やU-23のチームが混在する中、U-21で編成された日本チームは健闘。予選リーグを無敗で突破すると、決勝Tも勝ち進んで決勝に進出。決勝ではアリ・ダエイを擁するA代表のイランに1-2と敗れてしまうが、五輪アジア予選に向けて大きな収穫を得る。
03年6月にはフランスでコンフェデレーションズカップが開催され、日本はアジアチャンピオンとして参加。日本代表の顔ぶれはトルシエ時代とほとんど変わりなかったが、唯一アテネ五輪世代の大久保が新しく加わった。
日本は初戦で格下のニュージーランドを3-0で下し、2戦目はメンバー落ちのフランスと対戦。主力不在のフランスと互角の戦いを演じるが、前半終了間際にPKを与えて先制を許してしまう。だが後半の59分、中村が鮮やかなFKを決めて1-1の同点。しかしその直後フランスに勝ち越し点を決められ、1-2の敗戦となった。
試合終了後ジーコはPKの判定に意義を唱え、FIFAの審判割り当てについても非難を行なった。そんなジーコの審判批判は、06年のW杯まで何度も繰り返されることになる。3試合目のコロンビア戦では、宮本恒靖のパスミスから1点を失い敗戦。予選リーグで大会を去ることになった。ここまでの試合内容は決して芳しいものではなく、日本の問題点は少なくなかった。
12月には日本で第1回E-1東アジア選手権が開催。この大会の優勝は、最終戦となる日本vs韓国戦で決まることになった。試合は開始早々の18分、ファールとシミュレーションにより続けて警告を受けた大久保が退場処分。
結局試合は0-0の引き分けに終わり、得失点差で東アジア王者のタイトルは韓国に輝く。戦犯とされた大久保はA代表デビューから先発で起用されながら、未だ無得点と期待を裏切る成績。ラフプレーばかりが目立つ内容には批判が集まった。
04年2月には、ドイツW杯に向けたアジア第1次予選が開始。この頃すでに数人の主力選手が海外挑戦を果たしており、ジーコ監督はコンディションの善し悪しにかかわらず海外組を重用した。
海外組と国内組でコンディションにばらつきのある代表チームは、格下相手にも苦戦を強いられることになる。孤高を貫く中田英と他の選手の間で険悪な空気も漂い出すが、チーム内の不協和音にジーコは関わろうとしなかった。
そんな中、代表合宿中に宿舎を抜けだし、キャバレーで騒いだ選手たちの行ないが週刊誌によって明らかになる。これをチームに対する裏切り行為と受け取ったジーコ監督は激怒し、当該の7選手を一時代表から外した。特に問題視された大久保は、その後ジーコジャパンでほとんど起用されなくなってしまう。
鈴木啓太、松井大輔、高松大樹らも加わった五輪代表は、2次予選を順当に勝ち抜き最終予選へ進む。当初最終予選は03年の秋に開かれる予定だったが、イラク戦争とSARS騒動の影響で04年の3月に延期となっていた。
日本はこの延期のおかげで、10月に日本国籍を得た田中マルクス闘莉王や、Wユース選手権を終えた徳永悠平、今野泰幸、平山相太らの重要な選手がチームに参加した。
最終予選は12チームが3グループに別れ、各組1位が五輪出場権を得るという形式。日本のグループ組み合わせはバーレーン、レバノン、UAEとなり、対戦は各チーム2試合ずつ。前半はUEA、後半は日本で試合を行なうという2ラウンド制で行なわれた。
日本は初戦でバーレーンと0-0で引き分けるが、続くレバノン戦は4-0と快勝する。だが次のUAE戦を前に、予想外のアクシデントに見舞われる。試合前日の午後、原因不明の腹痛や下痢を訴える選手が続出。メンバーの半数が試合当日の朝まで点滴を受けるという、最悪の状態に追い込まれてしまう。
だが試合が始まると、選手たちは気力を振り絞って奮闘。UAEの猛攻に耐えた84分、田中達也がドリブルからシュートを放つと、そのこぼれ球を高松がゴールへ放り込む。その3分後にも田中達が自らシュートを決め、2-0と勝利を収めたのだった。
9日後チームは日本に戻り、第2ラウンドを戦う。だが充分に回復していない選手たちは、ホームの試合で気が緩んでしまったのか、バーレーンに0-1の敗戦。この時点で、日本、バーレーン、UAEが勝ち点で並ぶが、日本は得失点差で首位をキープする。続くレバノン戦には、A代表を離れたばかりの大久保が先発した。
試合開始14分、ドリブルを仕掛けた大久保が倒されると、日本はセットプレーのチャンスを獲得。そのFKを阿部が決めて先制点を奪うが、67分に同点とされてしまう。その2分後、大久保が再び鋭い動きを見せ、ヘディングによる勝ち越し点。2-1と勝利して勝ち点3を得た日本は、五輪出場決定に有利な立場となった。
最終となるUAE戦、日本は落ち着いた試合運びを見せ、大久保も2得点を挙げるなど活躍。山本監督は一人の交代枠も使うことなく、3-0と余裕のゲーム運びで試合を終わらせた。こうして日本は、3大会連続の五輪出場を決めた。
4月から6月にかけ、ジーコジャパンは欧州遠征を行なった。この遠征で日本はハンガリー、チェコ、イングランドなどの強豪と互角にわたり合う。特にチェコ戦では、久保竜彦がスーパーシュートを決めて1-0の勝利。この遠征での内容が良かったため、ジーコに向けられていた批判は一時的に収まった。
7月には中国でアジアカップが開催。この頃中国では反日感情が湧き上がっており、日本代表に激しいブーイングが浴びせられる、またこの大会には、欧州組の中田英と小野が不参加。高原と稲本も病気や骨折で欠場となっていた。しかしこのハンディは、チームのまとまりを生むことになった。
初戦はオーマンを相手に苦戦するも、中村がテクニカルなタッチからシュートを決め1-0と辛勝する。続くタイを4-1で打ち破って決勝T進出を決めると、最終節のイラン戦は0-0の引き分け。グループ首位突破を決めた。だが日本は初戦から高温多湿な重慶での試合が続き、疲労は蓄積していた。
決勝T1回戦の相手はヨルダン。ヨルダンが果敢に攻めてきたのに対し、日本は疲れからか動きが鈍く、1点を先制されてしまう。日本は体勢を立て直して1-1と追いついたものの、試合は膠着状態。延長の120分を終わっても勝負はつかなかった。
PK戦の先攻は日本。一人目の中村がボールを蹴ろうとした瞬間、足元の芝がめくれてシュートはゴールの上を越えていった。続くヨルダンの1人目がPKを決めた後、日本の2人目は三都主。三都主はボール周りの芝を踏み固めるが、やはり中村と同じく軸足を滑らせ、シュートを吹かしてしまう。
その直後、キャプテンの宮本が主審に抗議し、使用ゴールを反対サイドに替えることが認められる。しかしヨルダンの優位は動かず、2人が失敗した日本は1-3と追い込まれた。
しかしそのヨルダンの前に立ち塞がったのが、日本の守護神である川口能活。川口がヨルダン4人目のシュートを指先で防ぐと、5人目にもプレッシャーを与えてゴール枠を外させた。
これでPK戦はサドンデスに突入。日本の6人目、中澤佑二はシュートを阻止されるものの、川口も神業のような反応でヨルダンの6人目を止める。
すると日本7人目の宮本が相手キーパの逆を突き、日本が初めてリード。ヨルダンの7人目のキッカーはゴール左隅を狙うも、ボールはポストに跳ね返された。日本は川口の活躍で「重慶の奇跡」と呼ばれる劇的勝利を飾り、次の試合に進むことになった。
準決勝のバーレーン戦も苦しい試合展開。日本はわずか開始6分で先制を許し、40分には遠藤保仁が不可解な警告を受けて退場処分。1人少なくなった日本だが、それでも後半に反撃を開始。2点を叩き出して逆転する。だがそのあとバーレーンの逆襲を受け、立て続けに失点を喫して2－3とリードされてしまう。
その後も日本は劣勢を強いられるが、ロスタイム直前の90分。相手のミスから玉田圭司がボールを奪い、そこからゴール前にパスが繋がる。パスを受けた三都主がゴールへ低いクロスを送ると、中澤が飛び込み同点弾。試合は延長戦へともつれ込んだ。
その延長の93分、玉田が競り勝ちボールを奪う。そしてそのままゴールに向かってドリブルすると、キーパの脇を抜くシュートをネットへ突き刺す。こうして4-3と激戦を制した日本は、2大会連続の決勝進出となった。
決勝の相手は開催国の中国。試合は北京のスタジアムに6万5千の集め行なわれた。もちろん会場は中国を応援する観客で一杯になり、日本チームには罵声が向けられる。だがその事が日本チームを結束させ、中国チームには過大なプレッシャーを負わせることになった。
前半こそ1-1と互角の勝負だったが、後半日本勝ち越し点を決め2-1とリードする。そのあと日本は落ち着いた試合運びで中国を寄せ付けず、90分にも追加点を挙げて3-1の勝利。詰めかけた中国の観衆を静かにさせるような快勝だった。苦闘続きの大会だったが、逆境を跳ね返した日本がアジアカップ2連覇を果たした。
