ΤΟ ΦΘΙΝΟΠΩΡΟ του 1994 θα συγκροτηθεί η ομάδα των τεσσάρων με τη Βάσω Παπανδρέου, τον Κώστα Σημίτη, τον Θόδωρο Πάγκαλο και τον Παρασκευά Αυγερινό και η εσωκομματική σύγκρουση γίνεται όλο και πιο σκληρή. Πολλά στελέχη βάλλουν πλέον ευθέως κατά του Ανδρέα Παπανδρέου. Στην Πανελλαδική Συνδιάσκεψη στο Περιστέρι στις 6 Ιουλίου 1995 ο Ανδρέας στέλνει ένα καθαρό μήνυμα στον Κώστα Σημίτη. «Δεν μπορεί κάποιος να μετέχει στην κυβέρνηση και ταυτόχρονα να την υποσκάπτει». Ο Κώστας Σημίτης σηκώνει το γάντι. «Οι υπουργοί δεν είναι υπάλληλοι. Είμαι συνιδρυτής του ΠΑΣΟΚ».

ΣΕ ΔΥΟ ΜΗΝΕΣ ο Ανδρέας Παπανδρέου θα τον αποδοκιμάσει από το βήμα της Διεθνούς Εκθεσης Θεσσαλονίκης και θα τον οδηγήσει σε παραίτηση. Στις επόμενες συνεδριάσεις της ΚΕ θα καταστήσει σαφές ότι δεν είναι εύκολος αντίπαλος. «Οσοι αναζητούν έναν Ανδρέα Παπανδρέου πρωθυπουργό και πρόεδρο του ΠΑΣΟΚ υπό περιορισμό, επιτροπεία και κηδεμονία να τον αναζητήσουν αλλού. Εγώ δεν προσφέρομαι».

Σε μία από αυτές τις συνεδριάσεις η Βάσω Παπανδρέου τον προκαλεί διασχίζοντας την αίθουσα για να του δώσει ένα σημείωμα με το οποίο ζητάει τον λόγο. Και ο Δημήτρης Τσοβόλας αποχωρεί για να ιδρύσει δικό του κόμμα. Αλλά ο Ανδρέας Παπανδρέου αντιστέκεται. Στις 13 Νοεμβρίου 1995 συγκαλεί την ΚΟ. Η αντοχή του είναι περιορισμένη και η συνεδρίαση διακόπτεται για να συνεχιστεί μία εβδομάδα αργότερα. Δεν θα προλάβει. Στις 20 Νοεμβρίου εισάγεται στο Ωνάσειο.

Υστέρα από πολύμηνη περιπετειώδη νοσηλεία θα υποβάλει την παραίτησή του από την πρωθυπουργία στις 16 Ιανουαρίου του 1996, ενώ ο πόλεμος για τη διαδοχή του μαίνεται.

Η Κοινοβουλευτική Ομάδα θα συνέλθει για να αναδείξει τον διάδοχό του το πρωί της 18ης Ιανουαρίου 1996. Ολοι πιστεύουν ότι το παιχνίδι θα κριθεί ανάμεσα στον Κώστα Σημίτη και τον Γεράσιμο Αρσένη.

Το αποτέλεσμα της πρώτης ψηφοφορίας ήταν απρόβλεπτο. Υπέρ του Κώστα Σημίτη ψήφισαν μόνο 53 βουλευτές. Ο Ακης Τσοχατζόπουλος κάνει την έκπληξη με 53 ψήφους επίσης και ο Γεράσιμος Αρσένης με 50 έμεινε έξω από την κούρσα. Στη δεύτερη ψηφοφορία ο Κώστας Σημίτης πήρε 86 ψήφους έναντι 75 του Ακη Τσοχατζόπουλου και πέντε ψηφοδέλτια ήταν λευκά. Εξι άνθρωποι όλοι κι όλοι έκριναν ποιος θα είναι πρωθυπουργός. Ο Κώστας Σημίτης στην πραγματικότητα οφείλει την εκλογή του σε μια ομάδα 4-5 βουλευτών που επηρέαζε ο Γιώργος Παπανδρέου.

Αλλά τίποτα δεν έχει κριθεί και η τελική αναμέτρηση παραπέμπεται στο τέταρτο συνέδριο, στις 27 Ιουνίου του 1996. Θα ήταν αναμέτρηση μέχρις εσχάτων ανάμεσα στον Ανδρέα Παπανδρέου, που παρέμεινε πρόεδρος, και τον Κώστα Σημίτη, που ήταν ήδη πρωθυπουργός. Αλλά τα ξημερώματα της 23ης Ιουνίου ο Ανδρέας άφησε στην Εκάλη την τελευταία πνοή του.

Την επομένη της κηδείας του έγινε η επίσημη έναρξη του συνεδρίου. Ο Κώστας Σημίτης ανέβηκε στο βήμα και έθεσε ωμά ένα δίλημμα: «Αν δεν εκλεγώ πρόεδρος, θα παραιτηθώ και από πρωθυπουργός». Υστέρα από μια τετραήμερη αναμέτρηση, την Κυριακή 30 Ιουνίου 1996, εξελέγη και πρόεδρος του ΠΑΣΟΚ με 54%. Για τη νέα ΚΕ πρώτος εξελέγη ο Γιώργος Παπανδρέου. Στήριξε τον Κώστα Σημίτη και αντιτάχθηκε στη διαρχία «πρωθυπουργός ο Σημίτης – πρόεδρος ο Ακης» που προωθούσαν τα περισσότερα στελέχη του ΠΑΣΟΚ.

Το πέμπτο συνέδριο, τον Μάιο του 1999, οργανώθηκε σε περίοδο που ο Κώστας Σημίτης είναι ισχυρός, αλλά ο Ακης Τσοχατζόπουλος αντέχει. Εκλέγεται πρώτος στην ΚΕ και καλλιεργεί ελπίδες για τη ρεβάνς του 1996. Η ευκαιρία που περίμενε δόθηκε τον Οκτώβριο του 2001, στο – έκτακτο – έκτο συνέδριο που συγκάλεσε ο Κώστας Σημίτης για να ζητήσει ψήφο εμπιστοσύνης από τη βάση, την οποία πήρε τελικά. Είχε προηγηθεί μία από τις πιο κρίσιμες συνεδριάσεις του Εκτελεστικού Γραφείου στην ιστορία του ΠΑΣΟΚ. Στις 21 Ιουνίου 2001 ο Κώστας Σημίτης άλλαξε μόλις την τελευταία στγμή την απόφασή του να παραιτηθεί από πρωθυπουργός κρίνοντας ότι δεν τον αφήνουν να κυβερνήσει.

Είχαν προηγηθεί οι θυελλώδεις εσωκομματικές αντιδράσεις για την απόπειρα του Τάσου Γιαννίτση να μεταρρυθμίσει το ασφαλιστικό σύστημα.