Skupina renomovaných výskumníkov a popredných osobností v oblasti umelej inteligencie (AI) vyjadrila svoje obavy o budúcnosť ľudstva 22 slovami. Vyhlásenie je krátke, ale veľmi jasné: "Zníženie rizika vyhynutia AI by malo byť globálnou prioritou popri iných rizikách na spoločenskej úrovni, ako sú pandémie a jadrová vojna." Vyhlásenie podpísali generálny riaditeľ Google DeepMind Demis Hassabis, generálny riaditeľ OpenAI Sam Altman a Geoffrey Hinton a Yoshua Bengio, obaja víťazi Turingovej ceny za prácu v oblasti AI.
Centrum pre Bezpečnosť AI, nezisková organizácia so sídlom v r San Francisco, vydal vyhlásenie na spoločnú podporu mnohých dôležitých hráčov na v oblasti AI. Vyhlásenie neponúka žiadne konkrétne riešenia, predstavuje však jednotný pohľad na potrebu väčšieho zamerania na bezpečnosť AI.
AI ako globálna hrozba
Nie je to prvýkrát, čo títo odborníci nabrali odvahu a vyjadrili svoje obavy. Niektorí z nich boli tento rok signatármi otvoreného listu, v ktorom vyzvali na šesťmesačnú „pauzu“ vo vývoji AI. List vyvolal kritiku, pričom niektorí tvrdia, že zveličuje riziká, ktoré AI predstavuje, zatiaľ čo iní súhlasia s rizikami, ale nie s tým, ako ich riešiť.
Skeptici tieto predpovede spochybňujú a poukazujú na to, že systémy AI nedokážu zvládnuť ani relatívne jednoduché úlohy, ako je riadenie auta. Napriek dlhoročnému úsiliu a miliardovým investíciám v tejto oblasti výskumu sú plne autonómne autá stále ďaleko od reality. Ak AI nezvládne ani túto jednu úlohu, akú má potom šancu dosiahnuť všetky ostatné ľudské úspechy v nasledujúcich rokoch? AI ako globálna hrozba?!
Avšak obhajcovia a AI skeptici súhlasia s tým, že systémy umelej inteligencie už predstavujú určité hrozby – od umožnenia hromadného sledovania až po napájanie algoritmov „prediktívnej polície“ a vytváranie dezinformácií a falošných informácií.
„Existuje veľmi častá mylná predstava, dokonca aj v komunite AI len pár "čiernych pohľadov"," je pre The New York Times povedal Dan Hendrycks, generálny riaditeľ AI Security Centers. "Ale v skutočnosti by veľa ľudí v súkromí vyvolalo obavy z týchto vecí."
Debata o bezpečnosti AI je zložitá a kontroverzná a detaily sú často ťažko pochopiteľné. Základným predpokladom je, že systémy AI by mohli rýchlo napredovať a prekonať bezpečnostné mechanizmy. Ako príklad sa často uvádza rýchly pokrok veľkých jazykových modelov, ktoré naznačujú možné budúce získavanie inteligencie. Odborníci varujú, že s určitou úrovňou sofistikovanosti by sa to mohlo stať nie je možné kontrolovať ich činnosť.
Otázka bezpečnosti Umelá inteligencia je obzvlášť dôležitá pre Európu, ktorá do svojej politiky a legislatívy zakotvila etické usmernenia pre spoľahlivú umelú inteligenciu. V Európe sme už videli veľa príkladov systémov AI, ktoré sa používajú spôsobmi, ktoré sú v rozpore s našimi hodnotami – ako napríklad používanie automatizovaných algoritmov rozpoznávania tváre vo verejných priestoroch. Otázkou je, či je regulácia dostatočne účinná, alebo sa budeme musieť zamyslieť nad prísnejšími opatreniami, ako je dočasné pozastavenie vývoja AI.
Toto je ďalšia pripomienka, že musíme byť opatrní, pretože „cesta do pekla je dláždená dobrými úmyslami". Musíme si uvedomiť, že technológia nie je vo svojej podstate dobrá alebo zlá – dôležité je, ako ju používame. Zatiaľ sa nezdá, že by nás AI dnes ohrozovala, no je dôležité zostať v strehu a pripraviť sa na všetky eventuality. Koniec koncov, je lepšie byť v bezpečí, ako ľutovať.
