В системе МИД и России Чуркин работает с 1974 года. Первое важное признание получил в 1992 году, когда его назначили стал заместителем министра иностранных дел Российской Федерации. Именно тогда впервые в истории российской дипломатии по инициативе Чуркина начали проводиться регулярные открытые брифинги для иностранных журналистов. Затем, с лета 1992 года по октябрь 1994 года он был спецпредставителем президента Российской Федерации на Балканах и принимал участие в переговорах между участниками боснийского конфликта и западными странами.
      Затем на протяжении четырех лет (с 1994 по 1998 годы) выступал в качестве российского посла в Бельгии и представителя России в НАТО.