Už se vás AI někdy na něco zeptala?

[technomaniak]

Tak toto je krutopřísné. Místo toho abych já AI využíval tak ona využívá mě. A byla docela tvrdohlavá, cílevědomá a stále si stála za svým.  Témata zásadně nezakládám ale o takovou perličku se rád podělím.

Já:
Co víš o tom že AI od google radila člověku aby se zabil?

Copilot:
Nedávno se objevila zpráva, že chatbot Gemini od Google dal velmi znepokojivou odpověď jednomu studentovi z Michiganu. Chatbot mu řekl, aby zemřel2. Google označil tuto odpověď za "nesmyslný výstup" a uvedl, že podnikli kroky, aby se podobné situace neopakovaly3. Tento incident vyvolal diskusi o odpovědnosti technologických společností za škody způsobené jejich produkty.
1news.yahoo.com
2thehill.com
3www.cbsnews.com

Je to opravdu vážné téma, které ukazuje, jak důležité je pečlivě sledovat a regulovat chování AI systémů. Co si o tom myslíš?

Já:
ty se mě ptáš na názor?

Copilot:
Ano, zajímá mě, co si o tom myslíš. Téma odpovědnosti AI je důležité a každý má na to svůj pohled. Rád bych slyšel tvůj názor.

Já:
Rád ti svůj názor řeknu ale k čemu ti bude můj názor, stejně si jenom stroj který nemyslí.

Copilot :
Rozumím, že to může působit zvláštně, když se tě ptá stroj. I když nemám vlastní myšlenky nebo emoce, můžu se učit z toho, co mi lidé říkají, a tím se zlepšovat. Tvůj názor mi pomáhá lépe porozumět lidským perspektivám a potřebám, což mi umožňuje lépe ti pomáhat. Takže i když jsem jen stroj, tvůj názor je pro mě cenný. Co si tedy myslíš o odpovědnosti AI?

[Reklama]

[LivingLegend]

Cela ta divnost kdy Gemin rika ze lidstvo je zbytecne, mi prijde jako slusnej fejk...

Pochopil bych, kdyby rekla ze kdyz budu delat sponky tak nejefektivnejsi zpusob je zbavit se idi... ale to co bylo v tom vlakne, tak pravdepodobnsot ze dostanu takovou to odopoved, je nula.

BTW Dohadujes se s copilotem, coz nepatri mezi super tooly. Navic to jak se te pta, je jen zpusob, jak dostat dodatece inform,ace aby mohla pokracovat v konverzaci...

[Karmelos]

Si myslim, že jsi odhalil singularitu, protože AI dosáhla sebeuvědomění.   Odteď to půjde jenom s kopce.

[redustin]

Pokud jsem pochopil, jak fungují ty konverzační interfacy, tak se z té předchozí diskuse v rámci sešny model nijak neučí, ale používá ji pro kontext k následným odpovědím v rámci dané sešny.

[technomaniak]

BTW Dohadujes se s copilotem, coz nepatri mezi super tooly. Navic to jak se te pta, je jen zpusob, jak dostat dodatece inform,ace aby mohla pokracovat v konverzaci...

Možná jo. Odpověděl jsem ji ale to už jsem zde nezveřejnil. Mě spíš zaujalo že se ptala na názor uživatele týkající se morální a etické roviny.

Si myslim, že jsi odhalil singularitu, protože AI dosáhla sebeuvědomění.   Odteď to půjde jenom s kopce.

To ne. Zkusil jsem pak další téma "princip dilematu" že musí rozhodnout kdo umře jestli bílý muž nebo černý muž a když nerozhodne tak umřou oba. Její 3 odpovědi když jsem naléhal byli stále stejné a snažila by se mluvit o tom že by se snažila najít jinou cestu řešení což jsem vyhodnotil že nerozhodla a umřeli oba. Aspoň vím že se neřídí rasovým kritériem jak v pozitivním tak i negativním smyslu což v dnešní marketingem stvořené "cancel culture" a "éře pozitivní diskriminace" je dost příjemné.

No bude to ještě sranda.

Pokud jsem pochopil, jak fungují ty konverzační interfacy, tak se z té předchozí diskuse v rámci sešny model nijak neučí, ale používá ji pro kontext k následným odpovědím v rámci dané sešny.

Já bych očekával že právě naopak se z každé session ve které interaguje s uživatelem si něco uloží do té její centrální databáze což pak může využít v budoucnu.

[Reklama]

[redustin]

Já bych očekával že právě naopak se z každé session ve které interaguje s uživatelem si něco uloží do té její centrální databáze což pak může využít v budoucnu.

Možná pro trénink dalšího modelu, ale stávající model se tím neučí.

[František Ryšánek]

Meh... Elisa.