@kopevi2
Ty problémy ale přeci vůbec nemusí souviset s Waylandem nebo desktopovým prostředím.
Pokud ve Wayland DE pustíte nějakou X11 desktopovou aplikaci, typicky se normálně vykreslí přes XWayland.
Navíc si to můžete jednoduše vyzkoušet, abyste oboje vyloučil.. nevím, co máte za distribuci doma, co vám nechodí.. ale mělo by stačit buď v SDDM spustit Plasmu v X11 režimu (pokud už nemáte nějaké distro, kde to vůbec není), nebo třeba přidat jednoduchý X11 WM.. např. icewm, otevřít si tam Xterm a spustit. Pokud to nezabere, tak to tím není, a můžu odinstalovat všechny zbytky po X11, co se tam přidaly (uložil bych si log z APT, abych viděl co se tam přesně na pokus přidalo).
Ale já bych to na to moc netipoval.. může to být cokoliv jiného, jiné Java JRE.. nějaké chybějící bindingy, adresáře, syst. proměnné.
Pokud selže instalátor a spouštíte to jen rovnou přes nějaký JAR soubor, tak je dost pravděpodobné, že vám bude oproti celé instalaci něco dalšího chybět.
Osobně bych začal od toho instalátoru, spustil ho z terminálu, díval se do logů nebo nějakého stderr výstupu, co mu chybí.. zkouknul v práci (na tom funkčním setupu), jestli třeba nepoužívá své privátní JRE (což občas u některých aplikací bývá), místo systémového.
Případně postupně porovnal mezi sebou ta obě prostředí, včetně třeba těch zmíněných systémových proměnných (v bashi zadat env).
Takže nemám nějaké obecné magické řešení, ale zkusil bych prostě postupně dohledávat, proč to neběží. Poměrně často tohle nastává, pokud jde třeba o nějakou komerční aplikaci, která je výrobcem podporovaná jen na pár distribucích a verzích (typicky RHEL, Ubuntu LTS) a může pak předpokládat určité verze knihoven, jsou tam hardcodované nějaké cesty atp. Takže když to člověk chce rozjet jinde, tak to třeba jde, ale musí se s tím trochu potrápit.