Gramatiky v IT

[m.]

Gramatiky v IT? To je taková ta věc, která se učí na VŠ, kde následně se vyprodukuje student, co neovládá ani GIT?

No jak sam vidite, jsou lide, kterym ani znalosti k uspechu nepomohou. To ale neznamena, ze schopni lide ty znalosti nedokazi pouzit k zajimavym vecem. Vite co? Prestanme se bavit o tech neshopnych. Nejsou nijak zajimavi.

[Reklama]

[Mirek Prýmek]

Vite co? Prestanme se bavit o tech neshopnych. Nejsou nijak zajimavi.

To zní rozumně! Víte někdo o nějakém konkrétním příkladu něčeho fakt zajímavého, o nějakém konkrétním praktickém problému, který někdo elegantně vyřešil pomocí nějaké gramatiky?

Že se s nimi pracuje v překladačích, to asi všichni víme a většinu z nás to asi nechává celkem chladnými, protože překladač nikdy navážno dělat nebudem. Existují nějaké jiné příklady z praxe? Třeba jánevím nějaké zpracování signálů elegantně vyřešené pomocí nějaké gramatiky? Něco, čím by se i normální smrtelník mohl inspirovat a říct si "Ha! Tohle taky musím někde použít!"?

[zboj]

Vite co? Prestanme se bavit o tech neshopnych. Nejsou nijak zajimavi.

To zní rozumně! Víte někdo o nějakém konkrétním příkladu něčeho fakt zajímavého, o nějakém konkrétním praktickém problému, který někdo elegantně vyřešil pomocí nějaké gramatiky?

Že se s nimi pracuje v překladačích, to asi všichni víme a většinu z nás to asi nechává celkem chladnými, protože překladač nikdy navážno dělat nebudem. Existují nějaké jiné příklady z praxe? Třeba jánevím nějaké zpracování signálů elegantně vyřešené pomocí nějaké gramatiky? Něco, čím by se i normální smrtelník mohl inspirovat a říct si "Ha! Tohle taky musím někde použít!"?

Co takhle staré dobré NLP?

[Mirek Prýmek]

Co takhle staré dobré NLP?

To je jednak pořád v podstatě z oblasti překladačů a navíc, nejsou nejnovější pokroky v NLP spíš tažené "soft" metodami jako jsou ty různé deep learningy apod.? Nebo je to jenom mediálně zajímavější, tak se o tom laik spíš dozví a ve skutečnosti je progress spíš v té oblasti "formálního" NLP (jako třeba překlad přes TIL, co se dělá v Brně, apod.)?

Mě by spíš docela zajímaly nějaké neotřelé aplikace gramatik - nějaké jánevím, třeba generativní vytváření 3D scén ve hrách pomocí nějakých vychytaných pokročilých L-systémů nebo tak něco, co by bylo fakt zajímavý, poučný, inspirativní...

[zboj]

Co takhle staré dobré NLP?

To je jednak pořád v podstatě z oblasti překladačů a navíc, nejsou nejnovější pokroky v NLP spíš tažené "soft" metodami jako jsou ty různé deep learningy apod.? Nebo je to jenom mediálně zajímavější, tak se o tom laik spíš dozví a ve skutečnosti je progress spíš v té oblasti "formálního" NLP (jako třeba překlad přes TIL, co se dělá v Brně, apod.)?

Mě by spíš docela zajímaly nějaké neotřelé aplikace gramatik - nějaké jánevím, třeba generativní vytváření 3D scén ve hrách pomocí nějakých vychytaných pokročilých L-systémů nebo tak něco, co by bylo fakt zajímavý, poučný, inspirativní...

Pokrok jde pomalými kroky, ale neřekl bych, že to je z oblasti překladačů, protože tam není fáze generování (krom MT), ale spíše konverze do nějaké logické formy (typicky nějaký fragment FOL promíchaný s λ-kalkulem nebo logika vyššího řádu sémanticky omezená na předchozí). Přitom v této doméně je zajímavá ne ta Chomského gramatika jako taková, ale právě ta logika kolem.

A pokud jde o přepisovací systémy, tak v NLP se používá Knuth-Bendixův algoritmus (nebo nějaká jeho obdoba) právě pro řešení těch logických formulí (prostě word problem nad jazykovými termy). Právě ta souhra gramatik a omezujících podmínek je zajímavá, zvlášť když člověk nechá bokem angličtinu a zkusí třeba jen češtinu (opravdu zajímavé to je při analýze jazyků jako adygejština nebo kečuánština nebo grónština, protože tam je jedno slovo klidně celá věta, takže syntaktický strom je jen jeden vrchol a celý význam je v té omáčce kolem). A to nezmiňuju aktuální větné členění 

[Reklama]

[Ivan Nový]

Význam gramatik vzroste s rozvojem právě těch měkkých metod deep learningu.

Gramatiky se budou používat ke generování trénovacích dat. Postupným zařazováním pravidel umožňují automaticky generovat vzory s různými aspekty cílového jazyka. Proces učení může pak být dynamický a evoluční.

Gramatiky umožní, že v situaci, kdy ztratíte kontrolu nad procesem učení stroje, získáte kontrolu nad tím, co se stroj bude učit.

[Mirek Prýmek]

A pokud jde o přepisovací systémy

Ani ne, spíš mi šlo o nějaký aha moment - něco, nad čím bych si řekl "no ti jsou ale vykutálení, že tohle udělali pomocí gramatiky, to by mě nenapadlo!" Překlad adygejštiny není myslím úplně příklad problému, který by tady moc lidí trápil

Gramatiky se budou používat ke generování trénovacích dat.

Budou, budou... To mi připomnělo:

v budoucnosti se bude umění s technikou tak nějak harmonicky doplňovat – lyrickoepické verše pomohou při chemizaci likvidační praxe – periodická soustava prvků pomůže rozvoji impresionismu – na každém technickém výrobku bude zvláštní ploška, vyhrazená pro účinný estetický vjem – komíny atomových elektráren budou pomalovány našimi nejlepšími krajináři – dvacet tisíc mil pod mořem budou čítárny přístupné všem – diferenciální rovnice se budou psát ve verších – na střechách cyklotronů budou divadla malých forem – a v nich se budou recitovat diferenciální rovnice – tak nějak lidsky, ne?

Navíc, není to trochu zvláštní nápad, učit stroj rozpoznávat něco, co umím strojem generovat? Nemáme dostatek korpusů? (Nic o tom nevím, možná jsem úplně mimo, ale tohle mě teda nijak neohromilo )

[zboj]

A pokud jde o přepisovací systémy

Ani ne, spíš mi šlo o nějaký aha moment - něco, nad čím bych si řekl "no ti jsou ale vykutálení, že tohle udělali pomocí gramatiky, to by mě nenapadlo!" Překlad adygejštiny není myslím úplně příklad problému, který by tady moc lidí trápil

Gramatiky se budou používat ke generování trénovacích dat.

Budou, budou... To mi připomnělo:

v budoucnosti se bude umění s technikou tak nějak harmonicky doplňovat – lyrickoepické verše pomohou při chemizaci likvidační praxe – periodická soustava prvků pomůže rozvoji impresionismu – na každém technickém výrobku bude zvláštní ploška, vyhrazená pro účinný estetický vjem – komíny atomových elektráren budou pomalovány našimi nejlepšími krajináři – dvacet tisíc mil pod mořem budou čítárny přístupné všem – diferenciální rovnice se budou psát ve verších – na střechách cyklotronů budou divadla malých forem – a v nich se budou recitovat diferenciální rovnice – tak nějak lidsky, ne?

Navíc, není to trochu zvláštní nápad, učit stroj rozpoznávat něco, co umím strojem generovat? Nemáme dostatek korpusů? (Nic o tom nevím, možná jsem úplně mimo, ale tohle mě teda nijak neohromilo )

Gramatiky jsou z definice (a principu věci) o jazycích. Od bagru taky nebudu čekat aha moment na scéně v opeře. Dostatečné aha je myslím obsažené třeba v monadických parserech, ale to už zase klouže k matematice.

[Mirek Prýmek]

Gramatiky jsou z definice (a principu věci) o jazycích. Od bagru taky nebudu čekat aha moment na scéně v opeře.

Tak třeba to generování 3D objektů moc o jazycích není, že jo... a výsledky má pěkný. Co třeba generovat pomocí něčeho podobnýho levely v hrách? Nejenom grafiku, ale i questy? (gramatika mi zaručí, že mají nějakou "hratelnou" strukturu)

[Ivan Nový]

@zboj

Gramatiky nejsou jen o jazycích, ale mohou sloužit k popisu diskrétních závislostí. Viz zde http://www.stat.ucla.edu/~sczhu/papers/Reprint_Grammar.pdf

[zboj]

@zboj

Gramatiky nejsou jen o jazycích, ale mohou sloužit k popisu diskrétních závislostí. Viz zde http://www.stat.ucla.edu/~sczhu/papers/Reprint_Grammar.pdf

To je hezké, ale už stochastické. Jinak ano, gramatiky typu 0 slouží ke všemu, co zvládne Turingův stroj.

[Ivan Nový]

Gramatiky jsou z definice (a principu věci) o jazycích. Od bagru taky nebudu čekat aha moment na scéně v opeře.

Tak třeba to generování 3D objektů moc o jazycích není, že jo... a výsledky má pěkný. Co třeba generovat pomocí něčeho podobnýho levely v hrách? Nejenom grafiku, ale i questy? (gramatika mi zaručí, že mají nějakou "hratelnou" strukturu)

Nejenom hratelnou, ale i dynamickou, když budete on-line sledovat reakce hráčů a podle nich hodnotit použitá pravidla, může být průběh hry generován na základě reakce hráčů. Gramatika se může za běhu hry měnit, hra se bude učit.

[Mirek Prýmek]

Nejenom hratelnou, ale i dynamickou, když budete on-line sledovat reakce hráčů a podle nich hodnotit použitá pravidla, může být průběh hry generován na základě reakce hráčů. Gramatika se může za běhu hry měnit, hra se bude učit.

No mě by právě spíš zajímalo, jestli někdo ví o skutečně existujících aplikacích, kde to opravdu funguje. Fantazírovat můžem o lecčems a moc v tom nevidím smysl

[zboj]

Gramatiky jsou z definice (a principu věci) o jazycích. Od bagru taky nebudu čekat aha moment na scéně v opeře.

Tak třeba to generování 3D objektů moc o jazycích není, že jo... a výsledky má pěkný. Co třeba generovat pomocí něčeho podobnýho levely v hrách? Nejenom grafiku, ale i questy? (gramatika mi zaručí, že mají nějakou "hratelnou" strukturu)

Když se bavíme o generování, tak stojí za zmínku, že jakákoliv struktura rysů ve spojení s gramatikou s omezujícími podmínkami jde převést na BG. Tady si pak dovedu představit generování třeba krajin podle lidsky čitelného zadání.

[Ivan Nový]

Nejenom hratelnou, ale i dynamickou, když budete on-line sledovat reakce hráčů a podle nich hodnotit použitá pravidla, může být průběh hry generován na základě reakce hráčů. Gramatika se může za běhu hry měnit, hra se bude učit.

No mě by právě spíš zajímalo, jestli někdo ví o skutečně existujících aplikacích, kde to opravdu funguje. Fantazírovat můžem o lecčems a moc v tom nevidím smysl

"Arabské jaro" vyvolané strojově organizovanými manipulacemi na Twitteru.