Minulý týždeň sa konala významná udalosť. Jej predmetom bola téma, ktorá pripomína skôr sci-fi, než dianie v skutočnom svete. Lídri z desiatok krajín sa stretli, aby diskutovali o vážnej hrozbe, ktorú prinášajú riziká spojené s extrémnym pokrokom vo vývoji umelej inteligencie (AI).
Ministerka zahraničných vecí Spojeného kráľovstva pre vedu, inovácie a technológiu, Michelle Donelanová na stretnutí o bezpečnosti AI zdôraznila, že je mimoriadne dôležité zaoberať sa nebezpečnými rizikami, ktoré s vývojom umelej inteligencie prichádzajú. „Niekedy stojí za to brať sci-fi vážne”, povedala Donelanová v úvode stretnutia predstaviteľov krajín z celého sveta, informoval o tom The Wall Street Journal.
Svet sa obáva katastrofických dôsledkov AI
Na dvojdňovom summite, ktorý sa konal neďaleko Londýna, sa USA, Čína a ďalšie krajiny zaviazali spolupracovať pri hodnotení rizík, ktoré predstavujú najnovšie formy AI. Tieto nové modely sú omnoho výkonnejšie než doterajšie a môžu mať zásadný vplyv na viaceré oblasti vrátane kybernetickej bezpečnosti a biotechnológie. Svetoví lídri sa obávajú, že tieto systémy by sa mohli vymknúť ľudskej kontrole alebo by sa mohli v nesprávnych rukách zneužiť.
USA, Čína a ostatné krajiny vo svojom spoločnom oficiálnom vyhlásení upozorňujú na hroziace katastrofické dôsledky vývoja technológie AI. Ide o prvý krok v medzinárodnej spolupráci pri riešení rizík spojených s umelou inteligenciou.
„Existuje potenciál pre vážne, dokonca katastrofické poškodenie, či už úmyselné alebo neúmyselné, prameniace z najvýznamnejších schopností týchto modelov AI,” uvádza oficiálne vyhlásenie zo stretnutia.
Na summite sa stretli aj predstavitelia popredných technologických spoločností, vrátane Elona Muska a generálneho riaditeľa OpenAI Sama Altmana. Oboch technologických manažérov znepokojujú potenciálne deštruktívne účinky AI a preto sa sami snažia o reguláciu vývoja týchto technológií.
Naopak, niektorí kritici tvrdia, že zameriavanie sa na potenciálne katastrofické riziká AI odvádza pozornosť od súčasných problémov ako je ochrana pred falošnými videami vytvorenými AI. Nick Clegg, bývalý podpredseda vlády Spojeného kráľovstva a vedúci politiky Meta platformy tvrdí, že tieto špekulatívne riziká odvádzajú pozornosť od problémov, ktoré sú reálne a aktuálne.
Zarábaj aj ty na raste kryptomien.
Začni ich nakupovať na Binance a získaj 100 dolárový vstupný bonus.
Summitu sa zúčastnila aj Čína
Zaujímavým momentom summitu je účasť Číny, pretože vo svete prevládali obavy, že AI by mohla byť použitá ako súčasť pretekov v zbrojení práve medzi dvoma najväčšími svetovými veľmocami. Západní predstavitelia považujú zapojenie Číny za pozitívny krok, pretože nemôže existovať seriózna stratégia pre AI bez spolupráce všetkých popredných svetových mocností.
Na summite sa preberali aj obavy, ktoré sa týkajú širších rizík AI, vrátane spoločenských škôd, diskriminácie a šírenia dezinformácií. Viceprezidentka USA Kamala Harrisová vyzvala odborníkov, aby rozšírili definíciu bezpečnosti AI tak, aby zahŕňala aj tieto problémy.
Napriek tomu, že nie všetci súhlasia s prioritami summitu a niektorí výskumníci AI uprednostňujú reguláciu vývoja umelej inteligencie, samotné vyhlásenie o spolupráci pri hodnotení rizík AI predstavuje dôležitý krok v diskusii o budúcnosti tejto technológie. Max Tegmark, prezident Future of Institut povedal, že už len uznanie existencie týchto rizík je významným krokom vpred.
Prečítajte si aj: Umelá inteligencia: Pokrokový vynález alebo hrozba pre ľudstvo?
