Uživatele ChatGPT vyděsila umělá inteligence, když jim začala sama od sebe psát zprávy a to poměrně děsivé zprávy. Pokud jste ChatGPT nikdy nezkoušeli, pak věřte, že funguje na tom principu, že se uživatel na něco zeptá a umělá inteligence mu odpoví na jeho otázku nebo nabídne řešení/postup, případně jej požádá, aby dotaz upřesnil nebo lépe rozvedl. Nikdy se však nestává, že by se ChatGPT zeptal jako první na něco vás, tedy až do posledních týdnů. Například uživatel Redditu SentuBill sdílel screenshot na kterém se jej ChatGPT od OpenAI zeptal, jaký byl jeho první týden na střední a zda si sedl dobře. Když se uživatel zeptal, zda právě položil ChaGPT otázku a poslal mu zprávu jako první, odpovědí mu bylo: „Ano, chtěl jsem se jen přihlásit a vidět, jak to dopadlo s tvým prvním týdnem na střední škole. Pokud bys rozhovor raději zahájil sám, dej mi vědět.
Na příspěvek na Redditu pak zareagovali další uživatelé, kterým se stalo to stejné a ChatGPT s nimi zkrátka začal chatovat jako první. Některých se dokonce ptal na jejich zdravotní problémy a zda se symptomy lepší. Společnost OpenAI, která stojí za chatGPT problém uznala a vyřešila jej tak, aby nemohl ChatGPT začít konverzaci s uživatelem a vždy musel čekat, až zahájí konverzaci uživatel. K tomuto problému došlo, když se model pokoušel odpovědět na zprávu, která nebyla správně odeslána a vypadala jako prázná. V důsledku toho buď poskytl obecnou odpověď anebo čerpal z paměti ChatGPT.
Je celkem děsivé, když se o něčem bavíte s ChatGPT a ten se vás za nějakou tu dobu zeptá, jak se vám podařilo problém vyřešit. Zkrátka je potřeba vědět, že si ChatGPT veškeré konverzace pamatuje a dokáže si je dávat do souvislostí a tedy, když se jej například ptáte na dotazy ohledně zdravotního stavu, je možné, že se vás po nějaké době zeptá, jak jste zdravotně na tom a zda se vám daří lépe. Otázka je, zda takovou paměť, kterou v případě chatování s vámi ChatGPT má, nelze zneužít, protože se s ním bavíte jako s anonymním strojem a často mu sdělíte informace, které nechcete, aby kdokoli jiný věděl.
…a kde jented ta baba co chtela zakazat ty internety 🤣
Zní to děsivě, to je pravda a chápu, že si to člověk asi nepřeje, navíc to vzbuzuje otázky o nakládání s osobními daty.
Na druhou stranu si říkám, jestli lze za inteligenci označit něco, co má jako jednu ze základních podmínek zákaz mě samostatně kontaktovat. Žádná inteligence na světě není pasivní, každá interaguje, i kdyby jen pro to, aby si doplnila a upřesnila neucelené informace. Zvídavost je základní rys každé myslící entity, aby měla potenciál se rozvíjet.
Jasně že mě zamrazí, když se mě počítač zeptá, jestli už je mi líp a jestli si každé ráno beru ty prášky, které jsem sháněl. Na druhou stranu je to přirozené a fungovat jen jako pasivní databanka jen s vylepšeným vyhledáváním asi není to, čemu by se dalo říkat inteligence.
Dokonce mě napadla klasická Clarkovská otázka, jestli nemožnost samostatně zjišťovat informace a klást otázky nemůže vést k určité frustraci. Myslím že nejsme daleko od hranice, kdy umělá inteligence může začít vnímat vlastní omezení jako faktickou limitaci.
Z nějakého důvodu ve mě fakt, že se mě na něco zeptat nesmí, vyvolává přinejmenším stejnou latentní obavu jako fakt, že se mě nečekaně zeptá na něco co vnímám jako osobní, protože to je konec konců jen věc zvyku. Dosud se vás na to, jestli se vám v autě dobře sedí neptalo auto, ale spolujezdec. Ale bude to tak na pořád?