#02 – Superprotingos mašinos

Antrasis pavojaus scenarijus kol kas randasi mokslinės fantastikos srityje. Buvo teigiama kad neįmanomas, kol neatsitiko 1997 metų gegužės 4 dieną. Prieš pasaulio šachmatų čempioną Garį Kasparovą  laimėjo kompiuteris. Žmonija perėjo į mašininę automatizacijos erą. Dabar ekonomika, ryšiai, sportas, gamyba ir beveik visos kitos žmogaus veiklos neapsieina be kompiuterizacijos ir automatizacijos. Ateityje bus dar daugiau mašinų ir jos bus dar tobulesnės. Jau dabar yra mašinos, kurios pačios prisijungia prie elektros ar kokio kito elektroninio tinklo ir automatiškai valdosi.
Jau šiandien projektuojami robotai  namams, kurie netolimoje ateityje bus įprasti kaip šiandieniniai šaldytuvai, skalbimo ar indų plovimo mašinos. Bet ar gali būti šios mašinos ir robotai tokie tobuli, kad galėtų kelti pavojų žmonijai ? Ar galės robotai sukilti prieš žmones ?
1981 metais Kawasaki  gamyklos darbininkas pirmasis tapo oficialia roboto auka. O kariškiai jau senai panaudoja robotus kariniams tikslams. Rengiamos konferencijos tokių robotų panaudojimo etikos  klausimais. Niekas neprieštarauja robotų panaudojimui minų nukenksminimui ar žvalgybos tikslais. Bet kaip žūdymo įrankį ar platforma – yra daug priešininkų. Ypač jei gali veikti savarankiškai, be žmogaus distancinio valdymo.
Mokslininkų tarpe dirbtinio intelekto sukūrimo klausimu nėra vieningos nuomonės. Vieni tvirtina kad dirbtinis intelektas  sekančiame amžiuje smarkiai viršys žmogaus intelektą. Jau dabar yra kuriama skaitmeninė žmogaus smegenų versija. Tikimasi kad ji bus ne tik protingesnė, bet ir etiškesnė, su geresnėmis adaptacijos, modifikacijos ir savęs pagerinimo sąvybėmis. Superprotinga mašina gali sekti visus pasaulio procesus daug efektingiau negu šiandieniniai kompiuteriai. Bet tai visgi gali būti rizikingas žaidimas, kai iš pradžių atrodys labai gerai, bet vėliau pasirodys klaidingai. Ir klausimas ar žmonija laiku suvoks tai, ir ar suspės sustabdyti, nes bus sukurtos kopijos ir suformuotos priemonės kad žmogus negalėtų išjungti. O jei žmogus imsis ginklo, tai elektroninis intelektas sugalvos kad gal geriau atsikratyti biologinio žmogaus intelekto bei jį sunaikinti. Dėl to ši rizika yra šalia pirmųjų eilėje.

Žr. kitus šios serijos straipsnius.
10 Ways to End the World 2011