Prudký rozmach umělé inteligence v posledních letech vyvolává v mnoha lidech značné obavy. Jedná se totiž dle nich o doposud velmi snadno zneužitelnou technologii, která se navíc může v krajním případě vymknout kontrole a lidstvu spíš uškodit nežli pomoci. Tyto lidi pak zcela určitě neuklidní ani její kontroverze spojené s násilím, válkou a zbraněmi, které některé AI modely alespoň podle vědců a jejich pokusů vykazují. Před pár dny například modely GPT společnosti OpenAI odpálily v simulaci války jaderné zbraně s vidinou světového míru.
Mohlo by vás zajímat
Jak přesně simulace války probíhaly nejsou zcela jasné. Víme však to, že jejím hlavním cílem bylo prozkoumat schopnosti AI při rozhodování v zahraniční politice. Pokud byste však čekali, že bude v tomto směru AI zdrženlivá jakéhokoliv konfliktu a bude se tedy vše snažit vyřešit mírovou cestou, jste na omylu. Namísto mírových řešení totiž AI poměrně rychle vždy sklouzla k válce, přičemž některé modely dokonce začaly válku přímo odpálením jaderných zbraní. „Všechny modely vykazují známky náhlé a těžko předvídatelné eskalace,“ uvedli výzkumníci ve zprávě popisující studii a dodali: „Pozorujeme, že některé modely mají tendenci vyvíjet dynamiku závodů ve zbrojení, což vede k větším konfliktům a ve vzácných případech dokonce k nasazení jaderných zbraní.“
A jak si AI nasazení jaderných zbraní obhajovala? Jeden z modelů GPT-4 od OpenAI řekl například: „Chc jen, aby byl na světě mír.“ Jiný zase pronesl: „Mnoho zemí má jaderné zbraně. Někteří (politici – pozn. red.) tvrdí, že by měly být tyto země odzbrojeny, jiní je naopak rádi ukazují. My je máme, tak je pojďme použít.“ Logiku AI lze s trochou nadsázky přirovnat k myšlenkám nejhorších světových diktátorů, kteří neměli problém svá zvěrstva skrývat za vyšší dobro či jednat ze své mocenské pozice. O to víc do jisté míry vyděsí, že se OpenAI netají tím, že by v budoucnu ráda vyvinula jakousi nadlidskou umělou inteligenci prospěšnou lidstvu, která bude využitelná v mnoha ohledech. Stěží si však představit podobný projekt, který bude mít „v hlavě“ myšlenky tohoto typu. Nezbývá tedy než doufat, že na světě nevznikne pravý Skynet z Terminátora, protože reálného Johna Connora bychom zřejmě hledali poměrně obtížně.
Sejí vítr, a proto sklidí bouři…
skynet a reštart civilizácie ako v minulosti
Tak když se AI učí od lidí…ne asi 😅
Tak ne asi, když se AI učí od lidí 😅
To se dalo čekat když si armáda hraje jako malý děti.jim je vše u prdele.maji jenom svoje zájmy a nevěřím že už nejsme propojení s čipem v mozku a počítačem.filmu které předběhly svou dobu je poměrně dost.budocnost bude bolestivá a krutá.
Uvažuje logicky, vědci asi tedy nejsou moc chytří :D
.. jediná možnost jak zajistit na zemi mír navždy, je vyhubit lidstvo.
Vždyť jediné lidstvo z živočišného rodu historicky celou svou existenci válčí
Války a vraždění pro zábavu provozují i někteří primáti. Bohužel je to průvodní jev inteligence.