Az alkaloidok nagy orvosi, biológiai jelentősége ellenére, nagyon kevés információ áll rendelkezésre a fényelnyelést követő reakcióikról és fotofizikai sajátságaikról. Ez különösen meglepő, hiszen több alkaloidról ismert, hogy fény hatására bomlik és fototoxikus. E farmakológiailag aktív vegyületcsalád sikeres, biztonságos alkalmazásához alapvető fontosságú a fotokémiai átalakulásaik feltárása, és annak megértése, hogy fény hatására milyen kedvezőtlen folyamatokat indítanak az élő szervezetben. Vizsgálataimhoz modellvegyületként egy rákellenes hatású, természetes izokinolin-vázas alkaloidot, a berberint (9,10-dimetoxi-5,6-dihidro-[1,3]dioxolo[4,5-g]izokino[3,2-a]izokinolinilium-klorid) válasz-tottam, mert kimutatására fontos lenne kidolgozni egy érzékeny analitikai módszert, ugyanis vízben elhanyagolható mértékben fluoreszkál. A szupramolekuláris komplexképződést széleskörűen alkalmazzák különböző analitikai eljárások, optikai szenzorok kifejlesztésére, valamint a hidrofób vegyületek, gyógyszerek oldékonyságának a növelésére. A világszerte tapasztalható széleskörű érdeklődés és intenzív kutatómunka ellenére az önszerveződő rendszereket jórészt alapállapotban vizsgálták, kevésbé ismertek a fény hatására lejátszódó átalakulásaik. Munkám során különös figyelmet kívánok fordítani a berberin (B+) szupramolekuláris komplexeiben, aggregátumokban lejátszódó fotoindukált folyamatok megismerésére. Az asszociáció megváltoztatja a gerjesztett állapotok energiáját, ami jelentős változást okozhat az energiavesztési folyamatok sebességében. Szupramolekuláris komplex képzés akadályozhatja a bimolekuláris reakciókat, ezáltal védelmet nyújt a fotokémiai átalakulások ellen. Feltártam a makrociklus gyűrűméretének hatását a berberin4-szulfonáto-kalix[n]arén komplexek sajátságaira. Vizsgálataimat kiterjesztettem, egy viszonylag új, hét glikoluril egységből felépülő makrociklusba, a kukurbit[7]urilba ékelődött B+ vizsgálatára is. A rákellenes és számos egyéb kedvező biológiai hatást mutató B+ iontranszport gátló, kálium-ioncsatorna blokkoló sajátságokkal is rendelkezik, és csökkenti a kloridion kiválasztást. Ezért tanulmányoztam a berberin kation és különféle anionok kölcsönhatását is. Munkámat kiterjesztettem természetes felületaktív anyagok, epesavak aggregációjának tanulmányozására is. Annak ellenére, hogy e vegyületek alapvető szerepet játszanak az élő szervezetben apoláros anyagok vízoldhatóságának növelésében és szállításában, nem ismert olyan fluoreszcenciás jelzőanyag, amely különböző jellegű epesav aggregátumokhoz egyaránt képes kapcsolódni. Olyan fluoreszcenciás jelzőanyagot kerestem, amely detektálni tudja az epesav-aggregátumok szerkezetének és nagyságának változását.

Despite the large biological and pharmaceutical importance of alkaloids, very few systematic studies are available in the literature on their light initiated processes. This is particularly surprising because some of them are phototoxic, and it would be desirable to know the photostability and photochemical reactions of this class of compounds before their utilization. The topical application of alkaloids to the skin or eyes raises the possibility that light absorption by these substances may induce adverse reactions in living organism. My dissertation focuses on the fluorescence properties of a clinically important natural isoquinoline alkaloid, berberine (B+), which is a promising drug for the treatment of Alzheimer’s disease, exhibits anticancer, antiviral, antibacterial activity, reduces fever and lowers cholesterol level. It would be important to develop a sensitive analytical method for the quantitative determination of B+, because it has a negligible fluorescence in water. Despite of the biological importance of B+ very few information is available in the literature about its photophysical properties. Supramolecular complex formation of macrocyclic compounds is widely utilized in nanotechnology to develop molecular-scale devices, sensors, and fluorescent probes and to increase the solubility of hydrophobic compounds. Despite the widespread interest in self-organized systems, they have been studied mainly in the ground state, and less attention has been devoted to their excited state.
The main goal of the dissertation has been to unveil the most important factors, which should be taken into account when B+ is used as a fluorescent probe. Since spontaneous assembly into aggregates of well-defined structure can induce new energy dissipation pathways or modify the kinetics of the existing excited state relaxation processes, I also intend to reveal how the fluorescence properties of B+ changes upon encapsulation in macromolecules and bile salt aggregates. The change of the fluorescent behavior upon binding to a receptor serves as a basis for biological assays and other highly sensitive analytical procedures. Moreover, supramolecular complex formation may hinder bimolecular reactions. Hereby, the encapsulated compound is protected against photochemical transformation. Therefore, I studied how complex formation with sulfonatocalixarenes (SCXn) of different cavity size and cucurbit[7]uril (CB7) affect the fluorescent behavior of B+ cation. This alkaloid inhibits intestinal ion transport, reduces Clsecretion and can serve as a K+ channel-blocking agent in cells. For this reason, we examined the effect of anions on the fluorescence properties of B+. The medium polarity dependence of the fluorescence characteristics of B+ can be exploited to examine the aggregation of a simple bile salt, sodium cholate (NaC). Despite the fact that the bile salts are the most important natural surfactants, which are responsible for the solubilization of lipids, cholesterol, bilirubin, lecithin, and fat-soluble vitamins in living organisms, no probe has been reported in the literature, which can be encapsulated into both types of bile salt aggregates. Since B+ contains both hydrophilic positively charged and hydrophobic aromatic moieties, we anticipated that B+ might be incorporated in both primary and secondary NaC agglomerates.