Hinton: Tíz százalék esély, hogy az AI elpusztítja az emberiséget

Geoffrey Hinton: tíz százalék esélyt adok arra, hogy az emberiség elpusztul

A gépek tíz éven belül túlszárnyalják az emberi értelmet – véli a mesterséges intelligencia úttörője, Geoffrey Hinton. A neurális hálózatok kutatásáért fizikai Nobel-díjjal kitüntetett informatikus szerint csak abban bízhatunk, hogy a szuperintelligencia jobban törődik majd velünk, mint saját magával.

Hinton úgy fogalmazott: ha szerencséje van, megéli egy olyan szuperintelligens AI létrejöttét, amely szinte mindenben okosabb az embereknél, és ez szerinte tíz éven belül megtörténik. Reményét fejezte ki, hogy sikerül úgy megalkotni, hogy jobban törődjön az emberiséggel, mint saját magával. Erre addig van esély, amíg a gép nem saját magát fejleszti – utána elveszítjük a kontrollt.

Arra a kérdésre, hogy a mai eredmények láttán inkább büszkeséget vagy aggodalmat érez-e, azt válaszolta: büszke az eredményeire, de bárcsak korábban gondolkodott volna el a kockázatokon. Ma azért szánja minden idejét a veszélyek ismertetésére, mert tudományosan a fejlődéshez már nem tud hozzájárulni. Ha tudta volna, milyen tempóban jutnak el idáig, évtizedekkel korábban elkezdte volna ezt a munkát.

A szakember nem ért egyet azokkal a tudósokkal, akik az AI-fejlesztések azonnali leállítását követelik. Szerinte nem kell leállni, mert az AI nagyon sok hasznos feladatra képes, a fejlesztési energiákat és tőkét viszont a biztonsági problémák megoldására kellene összpontosítani. Ezzel lassul ugyan, de nem áll le a fejlesztés, miközben nőnek a túlélési esélyek.

Arra a kérdésre, hogy megoldhatók-e egyáltalán ezek a problémák, azt felelte: ezt sajnos nem tudja biztosan, mert még nem végezték el az ehhez szükséges kutatásokat. Elképzelhetőnek tartja, hogy nincs mód a biztonsági problémák megoldására, az AI-illesztés megvalósítására, és ha így lesz, akkor az intelligencia egy fejlettebb formája átveszi az irányítást. Ezért az egyetlen valódi esély, hogy megpróbálják fejleszteni, és közben kezelni a kockázatokat.

Hinton szerint a legtöbb nyugati ország népessége öregszik, nincs elég munkavállalójuk, bevándorlást pedig már nem akarnak. Az AI megoldhatja ezt a problémát azzal, hogy mindenkit sokkal termelékenyebbé tesz, de ha ennek reményében úgy fejlesztik, hogy közben nem kezelik a kockázatokat, akkor nagyon rosszak a kilátások.

A politikai döntéshozók hozzáállásáról szólva különösen kritikus Donald Trump amerikai elnökkel szemben, akinek az AI-hoz való viszonyát maximálisan veszélyesnek nevezte. Néhány politikus szerinte már érti, mi forog kockán, de ők még nagyon kevesen vannak. Példaként hozta fel, hogy senki sem mondja azt, hogy a gyógyszercégek szabadon dobhatnak piacra bármilyen készítményt, és elegendő szabályozást jelent, ha utólag beperlik őket. Az AI-ra viszont Trump és Jensen Huang is azt mondja, hogy a szokásos jogi eljáráson túl nem szükséges külön szabályozás. Hinton ezt őrültségnek nevezte, és úgy véli, az AI-t legalább úgy kellene szabályozni, mint a gyógyszereket.