Na klupi našeg najboljeg tima, Toplak je sedeo na osam utakmica, ali je najveći uspeh ostvario kao selektor olimpijske reprezentacije, sa kojom je najpre osvojio četvrto mesto na Igrama u Moskvi 1980, a potom i bronzanu medalju u Los Anđelesu 1984. godine.
Taj fenomenalan olimpijski tim koji je igrama i rezultatima privlačio pažnju celokupne sportske javnosti, činili su Dragan Stojković, Bora Cvetković, Mirsad Baljić, Milko Đurovski, Vlado Čapljić, Mitar Mrkela, Srećko Katanec, Ljuba Radanović, Admir Smajić i mnogi drugi asovi koji su kasnije napravili velike karijere i u A reprezentaciji.
Luda družina iz Istočne Evrope, kako su je zvali mediji u SAD, prošetala se kroz grupnu fazu i pobedama protiv Kameruna, Kanade i Iraka izborila plasman u četvrtfinale gde je deklasirala Zapadnu Nemačku sa 5:2 i nanela joj jedan od najtežih poraza u njenoj istoriji.
U polufinalu, umor i povrede bili su veći protivnik po izabranike Ivana Toplaka od reprezentacije Francuske, koja je posle velike borbe i tek u produžecima slavila pobedu od 4:2 i otišla u finale.
U meču za treće mesto, Plavi su napravili preokret protiv Italije, slavili sa 2:1 i osvojili bronzano odličje za jugoslovenski olimpijski tim. U tandemu sa Ivicom Osimom, Toplak je predvodio Jugoslaviju i na tri utakmice tokom 1986. godine, posle čega se preselio u Indoneziju u kojoj je radio od 1991. do 1993. godine.
Tokom uspešne igračke karijere nastupao za mariborski Branik, ljubljansku Olimpiju i Crvenu zvezdu.
Ivan Toplak je zabeležio i jedan nastup za najbolju selekciju Jugoslavije, 28. novembra 1956. godine protiv Engleske, ali je kao član mlade reprezentacije naše zemlje na 10 odigranih mečeva postigao čak 12 golova.