#02 – Superprotingos mašinos
Antrasis pavojaus scenarijus kol kas randasi mokslinės fantastikos srityje. Buvo teigiama kad neįmanomas, kol neatsitiko 1997 metų gegužės 4 dieną. Prieš pasaulio šachmatų čempioną Garį Kasparovą laimėjo kompiuteris. Žmonija perėjo į mašininę automatizacijos erą. Dabar ekonomika, ryšiai, sportas, gamyba ir beveik visos kitos žmogaus veiklos neapsieina be kompiuterizacijos ir automatizacijos. Ateityje bus dar daugiau mašinų ir jos bus dar tobulesnės. Jau dabar yra mašinos, kurios pačios prisijungia prie elektros ar kokio kito elektroninio tinklo ir automatiškai valdosi.
Jau šiandien projektuojami robotai namams, kurie netolimoje ateityje bus įprasti kaip šiandieniniai šaldytuvai, skalbimo ar indų plovimo mašinos. Bet ar gali būti šios mašinos ir robotai tokie tobuli, kad galėtų kelti pavojų žmonijai ? Ar galės robotai sukilti prieš žmones ?
1981 metais Kawasaki gamyklos darbininkas pirmasis tapo oficialia roboto auka. O kariškiai jau senai panaudoja robotus kariniams tikslams. Rengiamos konferencijos tokių robotų panaudojimo etikos klausimais. Niekas neprieštarauja robotų panaudojimui minų nukenksminimui ar žvalgybos tikslais. Bet kaip žūdymo įrankį ar platforma – yra daug priešininkų. Ypač jei gali veikti savarankiškai, be žmogaus distancinio valdymo.
Mokslininkų tarpe dirbtinio intelekto sukūrimo klausimu nėra vieningos nuomonės. Vieni tvirtina kad dirbtinis intelektas sekančiame amžiuje smarkiai viršys žmogaus intelektą. Jau dabar yra kuriama skaitmeninė žmogaus smegenų versija. Tikimasi kad ji bus ne tik protingesnė, bet ir etiškesnė, su geresnėmis adaptacijos, modifikacijos ir savęs pagerinimo sąvybėmis. Superprotinga mašina gali sekti visus pasaulio procesus daug efektingiau negu šiandieniniai kompiuteriai. Bet tai visgi gali būti rizikingas žaidimas, kai iš pradžių atrodys labai gerai, bet vėliau pasirodys klaidingai. Ir klausimas ar žmonija laiku suvoks tai, ir ar suspės sustabdyti, nes bus sukurtos kopijos ir suformuotos priemonės kad žmogus negalėtų išjungti. O jei žmogus imsis ginklo, tai elektroninis intelektas sugalvos kad gal geriau atsikratyti biologinio žmogaus intelekto bei jį sunaikinti. Dėl to ši rizika yra šalia pirmųjų eilėje.
Žr. kitus šios serijos straipsnius.
10 Ways to End the World 2011