Zlepšení znalosti matematiky - CBT

Idris

  • *****
  • 1 631
    • Zobrazit profil
    • E-mail
Re:Zlepšení znalosti matematiky - CBT
« Odpověď #135 kdy: 09. 05. 2021, 11:37:01 »
Měl bys nějaký odkaz? Nedaří se mi nic najít, jenom intro kurzy.
Naprostý základ je tohle: https://www.isi.edu/~hobbs/csk.html
Doporučuji nejdříve přečíst Appendix. Kdo pochopí tuto látku (asi každý, základ je FOL), má skvělý základ pro HOL a různá jiná rozšíření.
P.S. Máš tam i modální logiku (v mnohem větší obecnosti než výroková ML) a temporální reprezentace. Částečně se to kryje s Peregrinem, ale ten to má roztahané po článcích.

A ještě P.P.S.: Tento typ reprezentace používá IBM Watson, není to jen nějaká teorie, v IBM to naimplementovali od analýzy po reasoning a propojení s dazabázemi znalostí.
« Poslední změna: 09. 05. 2021, 11:41:09 od Idris »


Re:Zlepšení znalosti matematiky - CBT
« Odpověď #136 kdy: 09. 05. 2021, 12:36:01 »
Naprostý základ je tohle: https://www.isi.edu/~hobbs/csk.html
Aha, no já jsem hledal ten Stanford :)

Vypadá to docela zajímavě, fakt prakticky, ale není to typ textu, kterým by se mi teď chtělo prokousávat. Už jenom jak vidím ten lispový zápis, tak bych blil :) Ale i tak díky, dávám do Pocketu, někdy třeba nakouknu na nějaké konkrétní pasáže, které mě budou zajímat.

Celkově ale neumím posoudit, jestli je to to, co jsem myslel. Spíš by se tomu blížil právě ten Peregrin.

Částečně se to kryje s Peregrinem, ale ten to má roztahané po článcích.
Takový přehledový základ má pohromadě v http://www.flu.cas.cz/prehled/peregrin13.htm Ale to asi znáš. Je to pěkná věc. Kdyby měl tenhle obsah zpracovaný do přednášek a ještě trošku rozšířený, bylo by to přesně to, co bych si dal.

Idris

  • *****
  • 1 631
    • Zobrazit profil
    • E-mail
Re:Zlepšení znalosti matematiky - CBT
« Odpověď #137 kdy: 09. 05. 2021, 12:40:53 »
Už jenom jak vidím ten lispový zápis, tak bych blil :)
Proč? Má to svůj důvod.
Celkově ale neumím posoudit, jestli je to to, co jsem myslel.
To by sis to musel přečíst :D Nicméně pokrývá to temporální a dost podrobně modální aspekty logiky a je to o sémantice (FOL), přesně to, cos chtěl. Navíc používá "real world examples" ve vrchovaté míře.
« Poslední změna: 09. 05. 2021, 12:42:39 od Idris »

Idris

  • *****
  • 1 631
    • Zobrazit profil
    • E-mail
Re:Zlepšení znalosti matematiky - CBT
« Odpověď #138 kdy: 09. 05. 2021, 12:42:03 »
Sakra, se to odeslalo dvakrát :(

Idris

  • *****
  • 1 631
    • Zobrazit profil
    • E-mail
Re:Zlepšení znalosti matematiky - CBT
« Odpověď #139 kdy: 09. 05. 2021, 12:46:10 »
Takový přehledový základ má pohromadě v http://www.flu.cas.cz/prehled/peregrin13.htm Ale to asi znáš. Je to pěkná věc. Kdyby měl tenhle obsah zpracovaný do přednášek a ještě trošku rozšířený, bylo by to přesně to, co bych si dal.
Tohle je ale stylem, který furt dokola kritizuješ.

Peregrin zrovna hodně jede formalismus bez praktických příkladů. Občas se mu něco povede napsat hezky, ale jinak vůbec nazasazuje do kontextu. Rozhodně se mu lépe daří psát o filosofii, u logiky to dost skřípe.


Idris

  • *****
  • 1 631
    • Zobrazit profil
    • E-mail
Re:Zlepšení znalosti matematiky - CBT
« Odpověď #140 kdy: 09. 05. 2021, 12:51:04 »
Teď jsem si ještě vzpomněl, jako na ISI vyřešili v rámci FOL oslí věty. To furt bylo samé "nonfirstorderizability", a pak přijde holobrádek (postdoc) ze zapadákova někde na Středozápadě s naprosto přímočarým  řešením :) To je jen střípek, ale krásně to ukazuje sílu a flexibilitu FOL.

Re:Zlepšení znalosti matematiky - CBT
« Odpověď #141 kdy: 09. 05. 2021, 13:39:59 »
Tohle je ale stylem, který furt dokola kritizuješ.
Kritizuju materiály napsané stylem definice - věta - důkaz bez slovního komentáře. To rozhodně není styl téhle knížky. Všechno, co je potřeba, je tam bohatě slovně vysvětleno. Motivace pro jednotlivá rozšíření jsou dobře popsané. Důkazy tam nejsou prakticky žádné. Definice tam formalisticky jsou, protože to je prostě přehledový text, takže to je naprosto cajk.

Praktické příklady tam nejsou, to máš pravdu, ale to by ta knížka narostla tak na dvojnásobek. Ale především to není učebnice. Je to prostě přehledový text pár vybraných rozšíření klasické logiky, aby čtenář ochutnal o čem to je a když ho něco zaujme, zápatral jinde. Což je přesně ten krůček dál, kterej by mě bavil (spíš právě formou dobře udělaného přednáškového cyklu než knížky, když celý den čumím do monitoru, tak už večer bohužel nemám energii číst :( ).
« Poslední změna: 09. 05. 2021, 13:42:33 od Mirek Prýmek »

Re:Zlepšení znalosti matematiky - CBT
« Odpověď #142 kdy: 09. 05. 2021, 13:40:43 »
Proč? Má to svůj důvod.
To je čistě subjektivní, já prostě Lisp nesnáším.

Re:Zlepšení znalosti matematiky - CBT
« Odpověď #143 kdy: 09. 05. 2021, 16:08:28 »
Ono to stejně souvisí.
Jasný, no, je to přístup z jiné strany a postupně se potkají uprostřed :)

BTW, když už jsme u toho, máš povědomí o tom, jak na tom dneska ta formální lingvistika je? IIRC někdy v šedesátých a devadesátých (?) letech se myslelo, že stačí "jenom" přirozený jazyk přepsat do logiky a překlad jazyků bude skoro zadarmo. To se asi ukázalo jako dost slepá větev a dneska je v kurzu spíš jít na to přes strojové učení, ne?
Mám. Většina teorií dělá blbě už to “přepsat do logiky.” Překlad se dělá neuronkama, ale různé analýzy (Siri, IBM Watson) jsou založené na pravidlech. I správně udělaný přepis do logiky je ale k ničemu bez rozsáhlé ontologie, to je asi největší problém těchto přístupů.
K tomu je nutné dodat, že Watson je 10 let starý koncept, za tu dobu se v NLP stalo strašně moc. Aktuálně v NLP všechno válcují neuronky, konkrétně BERT a jeho deriváty, což je model založený ná sémantické reprezantaci textu jako vektoru. Kdyby se Watson (i Siri) dělaly dnes, asi by vypadaly úplně jinak.

Re:Zlepšení znalosti matematiky - CBT
« Odpověď #144 kdy: 09. 05. 2021, 20:49:28 »
Citace
(...) konkrétně BERT a jeho deriváty.
Díky za tip.

@ Nehalem:
Citace
Tak čo myslíte, má cenu sa do toho vôbec púšťať, tobôž vo veku po 30ke? Vrátiť sa na VŠ už je pre mňa nereálne, musím už zarábať peniaze.

Skript a příruček je na internetu docela dost; velkých monografií taky. Pokud ale nebude studium koníčkem, nebudou se podobné texty číst moc dobře. Pokud se ale člověk učí sám, může hrozně pomoci vybrat si nějaký problém a ten řešit. Nebo ho už mít a jen hledat řešení, to bývá ještě efektivnější pohon ku předu. Ono vlastně není tak těžké vymyslet si "nějaké" řešení jednodušší diferenciální rovnice -- třeba numerické -- a to potom implementovat jako malý program. Člověk pak naprosto přirozeně narazí na problémy jakou jsou vlastní čísla nebo třeba řešení "velkých" soustav lineárních rovnic pro parciální diferenciální rovnice. A pak se samozřejmě můžete ptát: bude to mé přibližné řešení nějak připodobňovat přesné? A když zmenším časový krok nebo zjemním síťku bodů, bude to řešení "lepší"? A nemůže mít úloha víc řešení, co když jsme nějaké opomněli? A může úloha nemít řešení anebo mít řešení, které odporuje intuici? Ty otázky pak přichází samy; hledat na ně odpovědi -- třeba i s pomocí skript -- je podle mě zábavnější než samotné čtení skript.

Ale samozřejmě se tak nedají vyskládat globální znalosti, třeba jaké jsou důsledky linearity lineárních zobrazení v lineární algebře. Tady může dojít k explozi.Třeba spojité reálné funkce jsou docela dobré vektory. A derivace s integrály jsou vlastně trochu jako lineární zobrazení. Nebo Fourierova transformace. A teď začne být potřeba o něco se opřít. Snažím se jen naznačit, že možná než znalosti triků, jak využít z lineární algebry to či ono, je zajímavější naučit se přemýšlet o strukturách a klást si neustále otázky. A to druhá část oné exploze z úvodu odstavce; jedna věc je vědět, kdy je zobrazení lineární, jiná otázka ale je: všimnu si té vlastnosti a budu schopen ji nějak konstruktivně použít?

Vektorové prostory jsou hmatatelný, intuitivní, ovšem velmi obecný a široce aplikovatelný příklad matematické struktury. Máme základní objekty, které žijí ve specifických prostorech, a zobrazení mezi nimi. Můžeme říci, že v nějakém smyslu jsou dva prostory stejné -- čímž vznikne relace podobná rovnosti (zlomek 2/2 je stejný jako 3/3 nebo třeba číslo 1) -- nebo že jeden prostor je částí jiného -- tím mimochodem vznikne naprosto přirozeně částečné uspořádání. Prostory můžeme skládat do větších, pokud jsou porovnatelné, můžeme od většího přirozeně odečíst menší... A zdaleka nejde o ojedinělý případ. Stejně to dopadne s grafy, grupami atp. Pak už je jen krůček ke kategoriím a teorii typů.

Citace
Mám. Většina teorií dělá blbě už to “přepsat do logiky.” Překlad se dělá neuronkama, ale různé analýzy (Siri, IBM Watson) jsou založené na pravidlech. I správně udělaný přepis do logiky je ale k ničemu bez rozsáhlé ontologie, to je asi největší problém těchto přístupů.
Zamyšlení na nedělní večer :) : proč by lidské jazyky měly být "logické"? Nereflektuje snad jazyk naše přemýšlení? A ty procesy, které nám běží v hlavách by taky měly být "logické"? Nebo na které úrovni -- subatomární fyzika, atomy, ..., organely, buňky, ..., mozek, člověk -- se ta "logika" zjeví?

Idris

  • *****
  • 1 631
    • Zobrazit profil
    • E-mail
Re:Zlepšení znalosti matematiky - CBT
« Odpověď #145 kdy: 09. 05. 2021, 21:19:38 »
Citace
(...) konkrétně BERT a jeho deriváty.
Díky za tip.

@ Nehalem:
Citace
Tak čo myslíte, má cenu sa do toho vôbec púšťať, tobôž vo veku po 30ke? Vrátiť sa na VŠ už je pre mňa nereálne, musím už zarábať peniaze.

Skript a příruček je na internetu docela dost; velkých monografií taky. Pokud ale nebude studium koníčkem, nebudou se podobné texty číst moc dobře. Pokud se ale člověk učí sám, může hrozně pomoci vybrat si nějaký problém a ten řešit. Nebo ho už mít a jen hledat řešení, to bývá ještě efektivnější pohon ku předu. Ono vlastně není tak těžké vymyslet si "nějaké" řešení jednodušší diferenciální rovnice -- třeba numerické -- a to potom implementovat jako malý program. Člověk pak naprosto přirozeně narazí na problémy jakou jsou vlastní čísla nebo třeba řešení "velkých" soustav lineárních rovnic pro parciální diferenciální rovnice. A pak se samozřejmě můžete ptát: bude to mé přibližné řešení nějak připodobňovat přesné? A když zmenším časový krok nebo zjemním síťku bodů, bude to řešení "lepší"? A nemůže mít úloha víc řešení, co když jsme nějaké opomněli? A může úloha nemít řešení anebo mít řešení, které odporuje intuici? Ty otázky pak přichází samy; hledat na ně odpovědi -- třeba i s pomocí skript -- je podle mě zábavnější než samotné čtení skript.

Ale samozřejmě se tak nedají vyskládat globální znalosti, třeba jaké jsou důsledky linearity lineárních zobrazení v lineární algebře. Tady může dojít k explozi.Třeba spojité reálné funkce jsou docela dobré vektory. A derivace s integrály jsou vlastně trochu jako lineární zobrazení. Nebo Fourierova transformace. A teď začne být potřeba o něco se opřít. Snažím se jen naznačit, že možná než znalosti triků, jak využít z lineární algebry to či ono, je zajímavější naučit se přemýšlet o strukturách a klást si neustále otázky. A to druhá část oné exploze z úvodu odstavce; jedna věc je vědět, kdy je zobrazení lineární, jiná otázka ale je: všimnu si té vlastnosti a budu schopen ji nějak konstruktivně použít?

Vektorové prostory jsou hmatatelný, intuitivní, ovšem velmi obecný a široce aplikovatelný příklad matematické struktury. Máme základní objekty, které žijí ve specifických prostorech, a zobrazení mezi nimi. Můžeme říci, že v nějakém smyslu jsou dva prostory stejné -- čímž vznikne relace podobná rovnosti (zlomek 2/2 je stejný jako 3/3 nebo třeba číslo 1) -- nebo že jeden prostor je částí jiného -- tím mimochodem vznikne naprosto přirozeně částečné uspořádání. Prostory můžeme skládat do větších, pokud jsou porovnatelné, můžeme od většího přirozeně odečíst menší... A zdaleka nejde o ojedinělý případ. Stejně to dopadne s grafy, grupami atp. Pak už je jen krůček ke kategoriím a teorii typů.

Citace
Mám. Většina teorií dělá blbě už to “přepsat do logiky.” Překlad se dělá neuronkama, ale různé analýzy (Siri, IBM Watson) jsou založené na pravidlech. I správně udělaný přepis do logiky je ale k ničemu bez rozsáhlé ontologie, to je asi největší problém těchto přístupů.
Zamyšlení na nedělní večer :) : proč by lidské jazyky měly být "logické"? Nereflektuje snad jazyk naše přemýšlení? A ty procesy, které nám běží v hlavách by taky měly být "logické"? Nebo na které úrovni -- subatomární fyzika, atomy, ..., organely, buňky, ..., mozek, člověk -- se ta "logika" zjeví?
Jazyk nereflektuje přemýšlení, je to prostředek komunikace. Interpretace (NLU) je logická, ale ne v rámci FOL, nepoužívá se modus ponens, ale tzv. ampliativní (defeasible) logika. O tomhle jsou celé knihy v rámci psycholingvistiky a kognitivní vědy. Dokonce jsou známy poměrně přesně algoritmy pro NLU, akorát jejich výpočetní složitost je moc vysoká pro praktické použití. Nějaké implementace vznikly, když DARPA financovala pár výzkumných projektů v této oblasti.

Re:Zlepšení znalosti matematiky - CBT
« Odpověď #146 kdy: 09. 05. 2021, 21:36:50 »
sorry, budme realisty. Mam porad nejake zajmy.  Ale vek, deti, potreba vydelat penize "ted hned a ne az  se objevi budouci kariera....". Dnes si uz clovek neuvedomuje, kolik vlastne na VS do toho investoval casu.

Jedine se soustredit na nejake synergicke efekty, jit do hloubky u temata, ktery tak jako tak delas.

Najit si tu synergii u vseho, to je o co se snazim ja.
ale neni vzdy jednoduche.






Tak čo myslíte, má cenu sa do toho vôbec púšťať, tobôž vo veku po 30ke? Vrátiť sa na VŠ už je pre mňa nereálne, musím už zarábať peniaze.

Re:Zlepšení znalosti matematiky - CBT
« Odpověď #147 kdy: 09. 05. 2021, 21:47:04 »
Díky moc za odpověď. Rád bych se o tomto tématu -- NLU -- dozvěděl něco bližšího, nemáš tip na zdroje?

Citace
Jazyk nereflektuje přemýšlení, je to prostředek komunikace.
Beze sporu je to prostředek komunikace. Proč by ale nereflektoval přemýšlení? Není mimo jiné jeden z požadavků na dobrý jazyka předávat myšlenky? Zřejmě nelze jednoduše předat konzistentně myšlenku od sdělovatele k posluchači tak, jak ji sdělovatel myslí. Myšlenka se musí nějak přepracovat do sekvence slov a tak... Ale pořád mi přijde, že "nereflektuje" je docela silný výraz. Nemyslím to jako útok nebo trolení, možná jsem se jen na věc díval špatně.

Idris

  • *****
  • 1 631
    • Zobrazit profil
    • E-mail
Re:Zlepšení znalosti matematiky - CBT
« Odpověď #148 kdy: 09. 05. 2021, 22:38:09 »
Díky moc za odpověď. Rád bych se o tomto tématu -- NLU -- dozvěděl něco bližšího, nemáš tip na zdroje?
Citace
Jazyk nereflektuje přemýšlení, je to prostředek komunikace.
Beze sporu je to prostředek komunikace. Proč by ale nereflektoval přemýšlení? Není mimo jiné jeden z požadavků na dobrý jazyka předávat myšlenky? Zřejmě nelze jednoduše předat konzistentně myšlenku od sdělovatele k posluchači tak, jak ji sdělovatel myslí. Myšlenka se musí nějak přepracovat do sekvence slov a tak... Ale pořád mi přijde, že "nereflektuje" je docela silný výraz. Nemyslím to jako útok nebo trolení, možná jsem se jen na věc díval špatně.
Ví se, že jazyk ovlivňuje myšlení, a také, že myšlení skokově ovlivňuje jazyk. To s tím "reflektováním" by bylo slovíčkaření, jazyk (resp. konkrétní věta) je způsob, jak předat efektivně informaci. Ta efektivita je daná kontextem a obecnou znalostí posluchače (common sense). Tedy jazyk využívá myšlení (způsob, jak člověk doluje znalosti z neúplných informací), v tomto smyslu se možná dá říct "reflektuje," ale jak píšu, je to asi jen terminologická otázka (já ten termín nikdy neviděl takto použitý, a to už mám o NLU a psycholingvistice něco načteno).

Co se týká zdrojů, teď z hlavy mě jako velice čtivý základ napadá "Where to look for the fundamentals of language" od P. Sgalla (ať zůstaneme v českých luzích a hájích) a čistě k NLU je pár zajímavých článků, jak lze efektivně převést NLU (konkrétně interpretaci věty vzhledem k nějakému kontextu a ontologii) na úlohu lineárního programování (nepamatuju si z hlavy jména autorů, kromě toho, že jde o Japonce, ani článků, ale najdu to v poznámkách a dám vědět, ten algoritmus je parádní). Jinak hodně pomůže přečíst si o vnitřnostech Watsona, tam IBM používá podobný systém reprezentace ontologie. Byl k tomu celý sborník, kdysi volně ke stažení, zkusím to najít a taky dám vědět (tyhle články bych snad i dohledal u sebe, pokud to už z webu zmizelo). Takže stay tuned :)

Idris

  • *****
  • 1 631
    • Zobrazit profil
    • E-mail
Re:Zlepšení znalosti matematiky - CBT
« Odpověď #149 kdy: 09. 05. 2021, 22:53:13 »