Geoffrey Hinton, známý jako „kmotr umělé inteligence“, odstoupil ze společnosti Google a zároveň vyjádřil obavy z toho, jak může umělá inteligence přispět k šíření dezinformací, potenciálně narušit pracovní trhy a nejistotu ohledně existenční hrozby, kterou představuje vytvoření skutečné digitální inteligence.
Hinton, známý tím, že v roce 2012 na Torontské univerzitě vyvinul se svými studenty neuronovou síť, se rozhodl opustit společnost Google, aby mohl svobodně diskutovat o nebezpečích spojených s používáním a budoucím vývojem umělé inteligence.
Jak uvádí server The Guardian, Hinton vyjádřil lítost nad svým přínosem pro tento obor. Před deseti lety byl najat společností Google, aby pomáhal při vývoji technologie umělé inteligence, a připravil tak půdu pro současné systémy, jako je ChatGPT.
Podle deníku New York Times se Hinton až do loňského roku domníval, že Google s technologií umělé inteligence nakládá zodpovědně. Jeho chápání současné situace se však změnilo, když Microsoft začlenil chatbota do svého vyhledávače Bing a Google se začal obávat rizika, které to představuje pro jeho vyhledávací byznys.
Hinton označil některá nebezpečí spojená s chatboty s umělou inteligencí za „docela děsivá“. Varoval, že tito boti mohou překonat lidskou inteligenci a zároveň mohou být zneužiti ke škodlivým účelům. Schopnost chatbotů automaticky generovat velké objemy textu by mohla usnadnit vytváření vysoce účinných spambotů a zároveň poskytnout možnosti manipulace s veřejným míněním.
„Dospěl jsem k závěru, že druh inteligence, kterou vyvíjíme, se velmi liší od inteligence, kterou máme. Je to, jako kdybyste měli 10 000 lidí a kdykoli by se jeden člověk něco dozvěděl, všichni by to automaticky věděli. A tak tito chatboti mohou vědět mnohem více než kterýkoli člověk,“ vysvětlil Hinton.
Vytěsňování pracovních míst
Hintonovy obavy se shodují s obavami dalších významných osobností v oblasti výzkumu umělé inteligence. Například Elon Musk nedávno vyjádřil nesouhlas se spoluzakladatelem společnosti Google Larrym Pagem a obvinil ho, že nebere bezpečnost umělé inteligence dostatečně vážně. Musk tehdy zdůraznil, že je naléhavě nutné zabývat se bezpečností umělé inteligence dříve, než se bude pokračovat ve vývoji „digitální superinteligence“.
Valérie Pisano, generální ředitelka Mila (Quebecký institut umělé inteligence), kritizovala přezíravý přístup k bezpečnosti systémů AI. Uvedla, že takový přístup by nebyl přijatelný v žádném jiném odvětví, a zároveň zdůraznila potřebu odpovědných postupů namísto spoléhání se na úpravy metodou pokus-omyl v průběhu interakce UI se společností.
Podle Hintonové mají lidé již nyní problém rozeznat pravdu v záplavě fotografií, videí a textů generovaných umělou inteligencí, které zaplavují internet.
Dále také vyjádřil obavy z toho, že umělá inteligence postupně nahradí pracovní místa tradičně vykonávaná asistenty, osobními asistenty a dalšími profesemi zahrnujícími opakující se úkoly, což může v budoucnu vést k širšímu vytěsňování pracovních míst.
Výzkumník v oblasti umělé inteligence Geoffrey Hinton: Stručný životopis
Geoffrey Hinton je významnou osobností v oblasti umělé inteligence a strojového učení. Je všeobecně považován za jednoho z průkopníků neuronových sítí a hlubokého učení. Hinton se narodil 6. prosince 1947 ve Spojeném království a je počítačovým vědcem a kognitivním psychologem.
V roce 2012 získal široké uznání za svou práci v oblasti hlubokého učení, když se stal spoluautorem článku, který prokázal účinnost hlubokých neuronových sítí v úlohách rozpoznávání obrazu. Tento průlomový objev měl na obor transformační dopad a položil základy revoluce v hlubokém učení.
Během své kariéry Hinton učinil řadu zásadních příspěvků k umělé inteligenci a neuronovým sítím, včetně vývoje algoritmu zpětného šíření, který je klíčovou technikou používanou k trénování hlubokých neuronových sítí. Jeho práce ovlivnila různé oblasti strojového učení, například počítačové vidění, zpracování přirozeného jazyka a rozpoznávání řeči.
Hinton zastával akademické funkce na několika institucích, včetně Torontské univerzity, kde je zasloužilým profesorem. Poměrně dlouhou dobu byl také spojen se společností Google.
Dodnes zůstává vlivnou osobností v komunitě AI a je uznáván jako jeden z klíčových architektů moderního prostředí AI.
Zdroj: Wikipedia, theguardian.com, redakce
Přihlaste se, komentujte články a ukládejte si ty nejzajímavější k pozdějšímu přečtení.
Přihlásit se přes náš web
Ještě nemáte účet? Staňte se členem.