Geoffrey Hinton se půl století staral o technologii, která je základem chatbotů, jako je ChatGPT. Nyní se obává, že způsobí vážné škody. Dr. Hinton dal proto výpověď ve společnosti Google, kde pracoval více než deset let a stal se jedním z nejuznávanějších hlasů v oboru, aby mohl svobodně hovořit o rizicích umělé inteligence. Část jeho osobnosti, jak řekl, nyní lituje své životní práce.
Cesta Dr. Hintona od průkopníka umělé inteligence k hlasateli zkázy představuje podle deníku The New York Times pozoruhodný okamžik pro technologický průmysl v jeho možná nejdůležitějším zlomovém bodě za poslední desetiletí. Představitelé průmyslu se domnívají, že nové systémy AI by mohly být stejně důležité jako zavedení webového prohlížeče na počátku 90. let a mohly by vést k průlomu v různých oblastech od výzkumu léčiv až po vzdělávání.
Mnoho zasvěcených pracovníků v oboru se však obává, že vypouštějí něco nebezpečného. Generativní umělá inteligence už nyní může být nástrojem dezinformací. Brzy by mohla představovat riziko pro pracovní místa. Podle největších obav technologů by někdy v budoucnu mohla ohrozit i lidstvo. „Je těžké si představit, jak zabráníte zlým aktérům, aby ji používali ke špatným věcem,“ řekl Hinton.
Poté, co sanfranciský start-up OpenAI v březnu vydal novou verzi ChatGPT, podepsalo více než 1 000 technologických lídrů a výzkumníků otevřený dopis, v němž vyzývají k pozastavení vývoje nových systémů, protože technologie AI představují „hluboké riziko pro společnost a lidstvo“. O několik dní později vydalo 19 současných a bývalých vedoucích představitelů Asociace pro rozvoj umělé inteligence (čtyřicetileté akademické společnosti) svůj vlastní dopis, v němž varovali před riziky AI. Mezi členy této skupiny byl i Eric Horvitz, hlavní vědecký ředitel společnosti Microsoft, která nasadila technologii OpenAI v celé řadě produktů včetně vyhledávače Bing.
Hinton, často označovaný za kmotra AI, žádný z těchto dopisů nepodepsal a uvedl, že nechce veřejně kritizovat Google ani jiné společnosti, dokud neskončí ve své práci. Minulý měsíc oznámil, že podává výpověď, a ve čtvrtek telefonicky hovořil se Sundarem Pichaiem, šéfem mateřské společnosti Google Alphabet. O podrobnostech rozhovoru odmítl veřejně hovořit.
V osmdesátých letech působil Dr. Hinton jako profesor informatiky na Carnegie Mellon University, ale z univerzity odešel do Kanady, protože se prý zdráhal přijmout finanční prostředky od Pentagonu. V té době byla většina výzkumu umělé inteligence ve Spojených státech financována ministerstvem obrany. Hinton je hluboce proti používání umělé inteligence na bojišti – tomu, co nazývá „robotickými vojáky“.
Když loni společnosti Google a OpenAI vytvořily systémy využívající mnohem větší množství dat, jeho názor se změnil. Stále věřil, že systémy jsou v některých ohledech horší než lidský mozek, ale v jiných podle něj zastínily lidskou inteligenci. „Možná, že to, co se děje v těchto systémech,“ řekl, „je ve skutečnosti mnohem lepší než to, co se děje v mozku.“
Až do loňského roku se podle něj Google choval jako řádný hospodář této technologie a dával pozor, aby nevypustil něco, co by mohlo způsobit škodu. Ale nyní, když Microsoft rozšířil svůj vyhledávač Bing o chatbota – což je konkurence pro hlavní činnost Googlu –, se Google předhání v nasazení stejného druhu technologie. Podle doktora Hintona se tito technologičtí giganti utkali v soutěži, kterou nejspíš nebude možné zastavit. Jeho bezprostřední obavou je, že internet bude zaplaven falešnými fotografiemi, videi a texty a běžný člověk už nebude schopen poznat, co je pravda.
Obává se také, že technologie umělé inteligence časem rozvrátí trh práce. Dnes chatboti, jako je ChatGPT, spíše doplňují lidské pracovníky, ale mohli by nahradit právní zástupce, osobní asistenty, překladatele a další, kteří zpracovávají rutinní úkoly.
Také se obává, že budoucí verze této technologie představují hrozbu pro lidstvo, protože se často učí neočekávanému chování z obrovského množství dat, která analyzují. To se podle něj stane problémem, až jednotlivci a společnosti umožní systémům umělé inteligence nejen generovat vlastní počítačový kód, ale také tento kód skutečně samy spustit. A obává se dne, kdy se skutečně autonomní zbraně – tito zabijáčtí roboti – stanou realitou.
AI může nahradit 300 milionů zaměstnanců
Budoucnost umělé inteligence (AI) je evidentně růžová, zato u lidí se blýská na horší časy. Dokládá to razantní rozhodnutí americké technologické společnosti IBM, která ukončila nábor na pozice, jež mohou být nahrazeny AI. Podle odhadů ředitele firmy Arvinda Krishny bude moci umělá inteligence nahradit až třetinu ze 26 000 pracovních míst ve firmě, které nejsou v přímém kontaktu se zákazníkem. Podle nedávné zprávy americké investiční banky Goldman Sachs by umělá inteligence mohla nahradit až 300 milionů pracovních míst po celém světě. Umělá inteligence by mohla vést k tvorbě nových pracovních míst a zvýšení produktivity v různých odvětvích.
„Myšlenka, že by tyto věci mohly být skutečně chytřejší než lidé… Pár lidí tomu již věřilo,“ řekl. „Ale většina si myslela, že je to daleko od skutečnosti. I já jsem si myslel, že je to hodně mimo. Myslel jsem si, že je to vzdálené 30 až 50 let nebo ještě déle. To už si samozřejmě nemyslím.“
