Vôľa prežiť môže dostať umelú inteligenciu (AI) na novú, nebezpečnú úroveň

0

Vedci sa už dlho snažia vytvoriť super-inteligentné roboty, ktoré by mali svoje vlastné pocity. Podľa najnovších objavov je to možné, avšak existuje príliš veľa prekážok a neznámych, ktoré stoja v ceste za úspechom tejto vízie.

Existuje spôsob, ako dať robotom schopnosť cítiť

Neurovedci Kingson Man a Antonio Damasio hovoria, že existuje možnosť, aby roboty dostali možnosť cítiť a vnímať pocity, emócie a podobne. Jednoducho stačí postaviť robota so schopnosťou vnímať nebezpečenstvo pre jeho vlastnú existenciu. Potom by si musel vyvinúť pocity, ktoré by zaistili správanie potrebné na zabezpečenie jeho vlastného prežitia.

Dnešným robotom chýbajú pocity,“ píšu Man a Damasio v novom dokumente v Nature Machine Intelligence.

Man a Damasio navrhujú stratégiu na zavádzanie strojov s umelou inteligenciou (AI) pomocou umelého ekvivalentu emócií a pocitov. Tento návrh vo svojom jadre vyžaduje stroje určené na dodržiavanie biologického princípu homeostázy. Táto myšlienka hovorí, že život sa musí regulovať tak, aby zostal v úzkom rozmedzí vhodných podmienok. Tým myslíme napríklad udržiavanie teplotnej a chemickej rovnováhy v rámci limitov životaschopnosti. Takéto pocity by robota s umelou inteligenciou nielen motivovali k seba-záchrannému správaniu, ako tomu veria Man a Damasio.

Typické dnešné inteligentné stroje sú navrhnuté tak, aby vykonávali konkrétnu úlohu, na ktorú sú zostrojené ako napríklad diagnostikovanie chorôb, riadenie vozidla alebo hranie hier. Avšak inteligencia v jednom špecifickom odbore nie je to isté ako všeobecná ľudská inteligencia, ktorú využívame na zvládnutie najrôznejších situácií. Vedci už dlho hľadajú tajný recept na to, aby roboty mohli mať práve takúto formu všeobecnej inteligencie.

Recept na vôľu prežiť

Pocity vyplývajú z potreby prežiť. Keď ľudia udržiavajú robota v životaschopnom stave – všetky drôty sú pripojené, je správne množstvo elektrického prúdu, pohodlná teplota – robot sa nemusí starať o svoje vlastné „zdravie““. Takže nepotrebuje pocity a emócie. V nevyhnutnom prípade proste len signalizuje, že potrebuje opravu.

Problém je však v tom, že ak chce robot vnímať takéto hrozby sám, musí porozumieť svojmu vnútornému stavu. Kľúčom k tomuto výsledku môžu byť dve ingrediencie. Prvou je tzv mäkká robotika (soft robotics) a hlboké učenie (deep learning). Pokrok v mäkkej robotike by mohol poskytnúť suroviny pre stroje s pocitmi. Na druhej strane, hlboké vzdelávanie si vyžaduje viac vrstiev neurónovej siete. Vzory v jednej vrstve vystavenej externému vstupu sa prenášajú na ďalšiu vrstvu a potom na ďalšiu. Hlboké učenie môže tieto vzorce rozdeliť do kategórií, identifikovať objekty alebo určiť, či CT sken odhalí príznaky rakoviny alebo inej choroby.

Dve hlavné pravidlá

V prípade úspešného vytvorenia takéhoto robota navrhujú Man a Damasio svoje vlastné pravidlá pre robotov: 1. Cítiť sa dobre. 2. Cítiť empatiu.

„Za predpokladu, že robot, ktorý už je schopný skutočne cítiť, bude povinne spájať jeho pocity a pocity ostatných, povedie to k etickému a spoločenskému správaniu,“ tvrdia neurovedci.

Otázkou však je, či sa takýto robot bude striktne držať týchto pravidiel alebo sa vymkne kontrole, pričom sa môže stať veľmi nebezpečným…

Čo čítať ďalej?

Únik ropy pri Brazílii môže spôsobiť obrovskú ekologickú katastrofu

Zdroj:
sciencenews.org

Leave a Reply

avatar
  Subscribe  
Notify of