Ano, i my víme, jak tento titulek zní, ovšem bohužel je pravdivý. Společnost Meta, která vlastní Facebook, Instagram nebo například WhatsApp, uvedla, že vytvořila nový systém umělé inteligence, který dokáže generovat řeč v šesti různých jazycích a to na takové úrovni, že je nerozeznatelná od řeči skutečného člověka. Řeč může být generována v různých stylech, přízvucích a dokonce emocích. Ovšem Meta také dodává, že ze strachu z možných rizik tuto umělou inteligenci neuvede na trh.
Generátor řeči od společnosti Meta nese název Voicebox a lze jej nastavit tak, aby vytvářel různé výstupy v různých stylech. Aktuálně nástroj dokáže mluvit v šesti jazycích a podporuje řadu funkcí jako je například odstranění šumu. Meta tvrdí, že Voicebox je narozdíl od předcohzích systémů generujících řeč mnohem dál a to zejména díky systému Flow Matching, který umožňuje systému učit se řeči normálníh lidí a trénovat tak na rozmanitých datech.
Fotogalerie
Meta však také uvádí, že rizika, která sebou může tento systém nést jsou tak vysoká, že jej raději neuvede, aby nedošlo ke zneužití. Mluvčí Meta sice neuvedla konkrétní možnosti zneužití, ale věc okomentovala následovně: „Stejně jako u jiných výkonných AI uznáváme, že i tato technologie přináší potenciální možnosti zneužití.“
Problém je však celkem jednoznačný, AI totiž dokáže vygenerovat hlas konkrétních osob bez jejich souhlasu a může tak pomoci při vytváření falšených videí, například při zpravodajství. Díky podobným systémům totiž není problém natočit video, ve které například prezident libovolné země vyhlásí válku jiné zemi a nikdo nebude schopen poznat rozdíl v tom, zda se tato situace skutečně stala nebo zda je video vytvořené AI.
„Existuje mnoho vzrušujících možností použití generativních řečových modelů, ale kvůli potenciálním rizikům v tuto chvíli nezveřejníme model nebo kód Voiceboxu. Přesto věříme, že je důležité být v komunitě umělé inteligence otevřeni a sdílet výzkům, abychom pokročili v oblastech AI. Je však důležité najít správnou rovnováhu mezo otevřeností a odpovědností,“ uvedli zástupci společnosti Meta. Ukázky Voiceboxu si můžete poslechnout přímo zde.
To je dobrá zpráva hlavně pro banky, které zavedli autentizace podle hlasu. Zdálo se mi to jako blbost, když s tím přišla tuším Česká spořitelna. Pozdravíte a oni vás podle hlasu poznají. Pochybuju, že si ten systém s takovým generátorem hlasu poradí.