Козак родился 7 ноября 1958 года в Кировоградской области Украины.
В 1976-1978 годах проходил военную службу в рядах Советской Армии. Образование высшее. Окончил юридический факультет Ленинградского государственного университета имени А.А.Жданова в 1985 году. После окончания университета до 1989 года работал прокурором, старшим прокурором Ленинградской прокуратуры.
В 1989-1990 годах - начальник юридического отдела концерна "Монолит-Кировстрой", ассоциации Морских торговых портов СССР.
С 1990 по 1999 год занимал ряд ответственных постов в Ленгорисполкоме и администрации Санкт-Петербурга: заместитель начальника юридического управления Ленгорисполкома; начальник юридического управления Ленинградского /Санкт-Петербургского/ городского совета народных депутатов; председатель юридического комитета канцелярии Санкт-Петербурга.
В 1998-1999 годах - вице-губернатор Санкт-Петербурга. С января по август 1999 года - занимался адвокатской практикой.
В 1999 - 2000 годах - руководитель аппарата правительства Российской Федерации - министр Российской Федерации. С июня 2000 года работает заместителем руководителя администрации президента Российской Федерации.
С октября 2003 года - первый заместитель руководителя администрации президента Российской Федерации.
9 марта 2004 года назначен руководителем аппарата правительства Российской Федерации - министром Российской Федерации.
В том же году перешел на работу Предстаителем Президента в Южном Федеральном округе.
Помимо Дмитрия Козака новое назначение возможно получит глава РЖД Владимир Якунин. В кулуарах ходят разговоры о его назначении руководителем Минтранса. Отметим, что до последнего времени этот пост занимал Игорь Левитин.