The paper is focused into the area of experimental research of planar waveguide structures. Dark mode spectroscopy technique, which is based on excitation of guided modes, is presented here in detail. The physical aspects of the method are shortly described with a special focus on coupling prism theory. The main attention of our contribution is devoted to the application of new mathematical optimization methods related to guided modes and the determination of refractive indices and thicknesses of thin films. Keywords: planar waveguide structure, prism coupling, dark mode spectroscopy, non-linear optimization. and Příspěvek je zaměřen do oblasti experimentálního studia tenkovrstvých planárních vlnovodných struktur. Je zde prezentována metoda tmavé módové spektroskopie, která je založena na vybuzení spektra vedených módů ve zkoumané vrstvě. V krátkosti jsou podány základní fyzikální aspekty této metody se zaměřením na teorii hranolové vazby. Detailní pozornost je věnována vlastnímu vyhodnocení naměřených módových spekter a použití matematických optimalizačních metod při určení indexu lomu a tloušťky zkoumaných vlnovodných vrstev.